Aleph Alpha lance Kolibri, modèle MoE bilingue 78 milliards de paramètres sous licence Apache 2.0

Aleph Alpha a annoncé le 3 octobre 2026 la mise à disposition publique de l’ensemble des poids de son nouveau modèle Kolibri sous licence Apache 2.0, coïncidant avec la journée de la Réunification allemande, symbole de son engagement pour la souveraineté européenne en IA.

Kolibri est un transformeur à mélange d’experts (MoE) fonctionnant nativement en anglais et en allemand. Son architecture regroupe 78,1 milliards de paramètres au total, mais seulement environ 3,46 milliards sont activés pour chaque token, ce qui réduit le coût de calcul tout en conservant la capacité du modèle.

Spécifications techniques

Le modèle propose une fenêtre de contexte native d’environ 262 000 tokens, bien au‑delà de la plupart des grands modèles actuels. Pour des cas d’usage spécifiques, Aleph Alpha autorise une extension maximale à 1 048 576 tokens, tout en recommandant des contextes plus courts en production afin d’éviter des pics de latence.

Malgré l’efficacité du MoE, l’ensemble complet des poids doit rester stocké. MarkTechPost estime que le besoin de stockage s’élève à environ 78 Go lorsqu’il est quantifié en FP8. Cette taille tient sur un accélérateur de classe Nvidia H200 ou peut être répartie sur plusieurs dispositifs de 80 Go, selon la configuration d’exécution.

Données d’entraînement et méthodologie

Aleph Alpha indique que Kolibri a été entraîné sur approximativement 20 trillions de tokens sélectionnés parmi un pool de plus de 200 trillions de tokens bruts. Parmi les données sélectionnées, 21,3 % étaient en allemand et seulement 6 % provenaient de matériaux traduits, reflétant un fort accent sur les langues natives.

Le pipeline d’entraînement a été conçu pour la résilience. Les checkpoints étaient traités automatiquement, les évaluations s’effectuaient environ chaque heure, et le système poursuivait l’entraînement malgré les pannes matérielles ou réseau, sans intervention manuelle, selon les déclarations de l’entreprise.

Performances revendiquées et position réglementaire

Aleph Alpha cite de bons résultats sur des benchmarks propriétaires et publics, y compris des comparaisons avec des modèles utilisant un plus grand nombre de paramètres actifs par token. L’entreprise précise toutefois que ces évaluations sont auto‑rapportées et nécessitent encore une validation indépendante.

Kolibri a été conçu et entraîné en Allemagne et en Finlande en tenant compte du AI Act européen, du Code de bonnes pratiques pour l’IA à usage général, du RGPD et des considérations de droit d’auteur. Bien que la licence ouverte supprime les barrières d’accès, Aleph Alpha souligne que la licence ne garantit pas la conformité légale de chaque déploiement en aval.

• Applications publiques comme la fiscalité et les services aux citoyens
• Automatisation industrielle et maintenance prédictive
• Conception automobile, simulation et vérification de conformité
• Vérification de la conception de puces semi‑conductrices
• Ingénierie des systèmes aérospatiaux et analyses de sécurité

L’entreprise positionne Kolibri comme une solution souveraine pour des charges de travail réglementées et critiques. En proposant un déploiement sur site, Aleph Alpha vise à offrir aux organisations un contrôle total de leur pile IA, une promesse qui trouve un écho dans les politiques européennes de souveraineté des données.

Pour les organisations francophones, la capacité bilingue de Kolibri ouvre un accès direct aux données allemandes sans passer par des pipelines de traduction coûteux et latents. La large fenêtre de contexte native permet de traiter des documents volumineux, contrats ou bases de code en une seule passe, simplifiant ainsi les revues de conformité et les audits techniques. De plus, le modèle à poids ouverts autorise les entreprises à affiner ou auditer l’architecture en interne, alignant le comportement de l’IA avec leurs cadres de gouvernance tout en évitant la dépendance aux fournisseurs de cloud externes.

Perspectives et adoption

Les analystes prévoient que Kolibri pourra être intégré rapidement dans les infrastructures publiques et privées européennes, notamment dans les secteurs de la finance, de l’énergie et de la défense, où la maîtrise des données et la conformité réglementaire sont primordiales. Les premiers pilotes annoncés en Allemagne et en France devraient démontrer la valeur ajoutée du modèle dans des scénarios de traitement de documents juridiques massifs.

À Berlin, les responsables du ministère de l’Intérieur ont indiqué que le modèle serait testé dès le second semestre 2027 pour améliorer l’analyse automatisée des dossiers de sécurité, confirmant ainsi l’engagement de la capitale à soutenir les technologies IA souveraines.