gnakalehacker/mandia-nzassa
◇ modèleMandia N’zassa 21M : modèle français–baoulé de 20,86 M paramètres, poids et code publics. Version de recherche v0.1 ; dialogues encore peu fiables.
license: Apache 2.0
Mandia N’zassa 21M — français → baoulé
Version de recherche v0.1 — 20 860 416 paramètres, poids propres Mandia. Ancien nom : MandiaCompact. Le renommage conserve le projet, ses expériences et ses versions antérieures.
N’zassa évoque un tissu assemblé à partir de plusieurs morceaux : une image de notre architecture hybride et du lien entre les langues. Sens documenté par la Compagnie N’Zassa Danse.
Code, tokenizer, données préparées et rapports sur GitHub
Télécharger les poids et les manifestes — version v0.1
Modèle publié
La référence est le checkpoint de l’étape 10, sélectionné sur validation à l’étape 100. Elle reste expérimentale : réponses génériques, changements de sujet et répétitions sont encore présents. Le modèle ne maîtrise pas encore la traduction générale ni les conversations nouvelles. Aucune validation indépendante par des locuteurs baoulé.
La Release fournit également les trois variantes de l’étape 11 pour reproduire la comparaison : CE, contraste de source et contraste avec pénalité des répétitions (UL). Elles sont identifiées comme expériences ; elles ne remplacent pas la référence.
Architecture
Encodeur bidirectionnel de 2 blocs GQA ; décodeur de 6 blocs, dont 4 convolutions causales et 2 GQA, avec cross-attention au français dans chaque bloc. Dimension 384, 6 têtes de requête, 2 têtes K/V, FFN 1536, RMSNorm, RoPE, SwiGLU, vocabulaire ByteBPE de 4096 tokens, embeddings et sortie partagés. Plafond de 512 tokens, segmentation des entrées longues sans perte silencieuse des mots.
Le modèle descend de nos poids initialisés aléatoirement ; aucun poids préentraîné externe n’a été intégré. Les composants sont connus : cette publication ne revendique ni nouveauté architecturale démontrée, ni état de l’art, ni supériorité universelle d’efficacité. Les anciens débits mesurés sur la variante 13M ne s’appliquent pas à cette variante 21M.
Résultats de l’étape 11
Trois continuations de 300 mises à jour, même architecture, mêmes lots et passages auxiliaires, une graine. Le contraste gagne la validation ; aucun candidat n’est adopté comme amélioration générale après les tests.
| Mesure | Référence | CE | Contraste | Contraste + UL |
|---|---|---|---|---|
| chrF++, 30 traductions nouvelles | 11,14 | 11,32 | 11,35 | 13,29 |
| chrF++, 6 répliques nouvelles | 10,80 | 8,31 | 7,52 | 7,82 |
| Répétitions de mots4, 9 vues longues de régression | 21,9% | 17,6% | 25,3% | 7,2% |
| Correspondances exactes sur 40 cibles déjà connues | 26/40 | 25/40 | 25/40 | 22/40 |
La baisse des boucles avec UL ne s’accompagne pas d’un progrès des dialogues. Les 39 nouveaux exemples viennent de quatre documents SMOL réservés : 30 traductions, 6 répliques de deux scénarios écrits/générés et 3 questions pratiques construites. Français adapté par l’assistant, réponses baoulé copiées des traductions publiées ; ce ne sont pas des conversations spontanées enregistrées. Les 9 vues longues réutilisent deux documents déjà observés. Aucune correspondance exacte sur les 39 exemples pour les quatre modèles ; exactitude textuelle et chrF++ ne remplacent pas une évaluation linguistique.
Le diagnostic élargi de dépendance au français porte sur 28 paires de traduction et 6 de dialogue. Il n’établit pas de gain probant de compréhension. Rapports, sorties et protocoles complets.
Fichiers et utilisation
Les poids de référence et les trois variantes font chacun 83 483 096 octets. Leurs empreintes SHA-256 et celles du tokenizer figurent dans les manifestes. Le script public vérifie les fichiers et a été exécuté dans Colab avec le vrai checkpoint 21M ; ce test valide le paquet, pas la qualité du baoulé.
python -m pip install -r requirements.txt
python inference.py --weights /chemin/mandia-nzassa-21m-reference.pt --mode translate --text "Les enfants vont à l’école."
Voir la fiche technique. Les exports d’inférence sont publics ; les checkpoints complets AdamW/RNG et les sauvegardes de travail restent privés dans Drive. Les versions 13M historiques restent accessibles dans les Releases précédentes.
Données et licences
mtBCI-1.0, Google SMOL/GATITOS, transcriptions WAXAL et exemples Wiktionary/Kaikki ; provenance, filtrage et partitions documentés dans le dépôt. Les QA bibliques réutilisent les passages déjà préparés : la Bible intégrale et les audios n’ont pas été importés. L’assistant a rédigé des entrées françaises, pas de nouvelles réponses baoulé présentées comme vérifiées.
Apache-2.0 pour le code propre Mandia ; les corpus conservent leurs licences et attributions, notamment CC-BY-4.0 et CC-BY-SA-4.0. Détails des sources et conditions.
Démonstration
Texte uniquement. Pas de reconnaissance ou de synthèse vocale, ni de Space public pour l’instant. Aucun backend N’zassa n’est connecté au playground de cette fiche : une simulation ou une réponse d’un autre service n’est pas une sortie de notre modèle. Le test réel utilise les poids publiés et le script du dépôt.