Cohere dévoile Tiny Aya, un modèle d'IA multilingue compact pour un déploiement local

En résumé

Tiny Aya de Cohere présente un système d’IA multilingue compact qui offre des performances de traduction et de génération de haute qualité dans plus de 70 langues, tout en restant suffisamment efficace pour fonctionner localement sur du matériel grand public.

La société d’IA Cohere a lancé Tiny Aya, un modèle multilingue compact conçu pour fournir une traduction, une compréhension linguistique et des performances génératives de haute qualité, tout en étant suffisamment petit pour fonctionner sur des appareils grand public. Selon l’entreprise, Tiny Aya vise à étendre l’IA multilingue au-delà des langues dominantes sur le web en combinant une architecture efficace avec une recherche axée sur la diversité linguistique. Comme indiqué dans le document, le modèle « couvre plus de 70 langues*, y compris de nombreuses langues moins ressourcees à travers le monde », et est conçu pour fonctionner localement sans dépendre d’une infrastructure cloud à grande échelle.

La sortie comprend TinyAya‑Base, un modèle préentraîné de 3,35 milliards de paramètres, et TinyAya‑Global, une version ajustée par instruction optimisée pour des performances cohérentes dans 67 langues. Cohere présente également des variantes régionales spécialisées qui renforcent les capacités au sein de communautés linguistiques spécifiques tout en maintenant une couverture multilingue étendue. La société note que ces modèles sont soutenus par un nouveau jeu de données de fine‑tuning multilingue et des benchmarks destinés à standardiser l’évaluation et à encourager la recherche. Un extrait souligne que Tiny Aya « offre des performances solides et équilibrées dans 67 langues supportées », le positionnant comme une option pratique pour les développeurs travaillant dans des environnements linguistiques divers.

Cohere insiste sur le fait que Tiny Aya est conçu pour maintenir la stabilité entre les langues sous‑représentées en ligne, contrecarrant le déséquilibre de performance typique observé dans les systèmes multilingues. Le rapport technique accompagnant la sortie décrit des méthodes telles qu’un meilleur tokenization, une naturalisation des données synthétiques, et des stratégies de fusion ciblées, que l’entreprise affirme aider à préserver la nuance linguistique tout en permettant un entraînement efficace. Le document indique que la post‑formation a été réalisée « sur un seul cluster de GPU H100 64 », soulignant l’accent mis sur l’efficacité plutôt que sur la puissance de calcul à grande échelle.

Tiny Aya renforce l’IA multilingue avec des performances cohérentes, une tokenisation efficace et des modèles régionaux spécialisés

Les évaluations de performance montrent que Tiny Aya rivalise ou dépasse les modèles multilingues existants de taille similaire, notamment en traduction, génération ouverte et raisonnement mathématique pour les langues moins ressourcees. Cohere met en avant la cohérence du comportement du modèle dans différents contextes linguistiques, le décrivant comme un système conçu pour une utilisation dans le monde réel plutôt que pour une optimisation étroite des benchmarks. La conception du tokenizer réduit la fragmentation entre les scripts, diminuant le nombre de tokens par phrase et améliorant l’efficacité de l’inférence sur le matériel local. Le document indique que Tiny Aya « atteint la tokenisation la plus efficace dans la majorité des langues évaluées », soutenant son objectif d’accessibilité.

La famille de modèles comprend des variantes régionales—TinyAya‑Earth, TinyAya‑Fire, et TinyAya‑Water—chacune optimisée pour différents groupes linguistiques tout en conservant une applicabilité mondiale. Cohere positionne ces modèles comme des bases pour un développement communautaire, encourageant les chercheurs à les adapter pour les langues émergentes, de nouveaux domaines et des cadres d’évaluation localisés. Comme le conclut le document, l’entreprise envisage « un écosystème dynamique de nombreux modèles, façonné par de nombreuses voix », plutôt qu’un seul système multilingue dominant.