Aleph Alpha lanza Kolibri, modelo MoE bilingüe de 78 mil millones de parámetros

Aleph Alpha anunció el 3 de octubre de 2026 que había puesto a disposición del público el conjunto completo de pesos de su nuevo modelo Kolibri bajo la licencia Apache 2.0. La publicación coincidió con el día de la reunificación nacional de Alemania, subrayando el énfasis de la empresa en la soberanía europea en IA.

Kolibri es un transformador de mezcla de expertos (MoE) que funciona de forma nativa en inglés y alemán. La arquitectura contiene 78,1 mil millones de parámetros en total, pero solo alrededor de 3,46 mil millones se activan para cada token, un diseño que reduce el cómputo de inferencia sin sacrificar la capacidad del modelo.

Especificaciones técnicas

El modelo admite una ventana de contexto nativa de aproximadamente 262 000 tokens, un tamaño que supera con creces a la mayoría de los grandes modelos de lenguaje actuales. Para casos de uso especializados, Aleph Alpha permite una extensión máxima del contexto de 1 048 576 tokens, aunque la compañía recomienda mantener contextos más cortos en despliegues rutinarios para evitar picos de latencia.

A pesar de la eficiencia del MoE, el conjunto completo de pesos sigue siendo voluminoso. MarkTechPost estima que el requisito de almacenamiento es de unos 78 GB cuando se cuantiza a FP8. Este tamaño cabe en un único acelerador de clase Nvidia H200 o puede distribuirse entre varios dispositivos de 80 GB, según la configuración de ejecución.

Datos de entrenamiento y metodología

Aleph Alpha informa que Kolibri se entrenó con aproximadamente 20 trillones de tokens curados, seleccionados de un conjunto mayor de más de 200 trillones de tokens sin procesar. Del conjunto curado, el 21,3 % era alemán y solo el 6 % consistía en material traducido, lo que refleja un fuerte enfoque en el idioma nativo.

La canalización de entrenamiento se diseñó para ser resiliente. Los checkpoints se procesaban automáticamente, las evaluaciones se ejecutaban aproximadamente cada hora y el sistema continuaba el entrenamiento pese a fallos de hardware o de red sin intervención manual, según las declaraciones de la empresa.

Reclamaciones de rendimiento y postura regulatoria

Aleph Alpha cita resultados sólidos tanto en benchmarks propietarios como públicos, incluidas comparaciones con modelos que utilizan un mayor número de parámetros activos por token. La compañía señala, sin embargo, que estas evaluaciones son reportadas por el proveedor y aún requieren verificación independiente.

Kolibri se construyó y entrenó en Alemania y Finlandia teniendo en cuenta el AI Act de la UE, el Código de Buenas Prácticas de IA de propósito general, el GDPR y consideraciones de derechos de autor. Aunque la licencia abierta elimina barreras de acceso, Aleph Alpha enfatiza que la licencia por sí sola no garantiza el cumplimiento legal para cada implementación downstream.

• Aplicaciones del sector público como administración tributaria y servicios al ciudadano
• Automatización industrial y mantenimiento predictivo
• Diseño automotriz, simulación y verificación de cumplimiento
• Verificación de diseño de chips semiconductores
• Ingeniería de sistemas aeroespaciales y análisis de seguridad

La empresa posiciona a Kolibri como una solución soberana para cargas de trabajo reguladas y críticas. Al ofrecer despliegues on‑premise, Aleph Alpha pretende dar a las organizaciones control total sobre su pila de IA, una afirmación que resuena con las políticas europeas de soberanía de datos.

Para organizaciones hispanohablantes, la capacidad bilingüe de Kolibri abre una vía directa a datos en alemán sin la latencia y el coste de las cadenas de traducción. La amplia ventana de contexto nativa permite procesar documentos extensos, contratos o bases de código en una sola pasada, lo que puede agilizar revisiones de cumplimiento y auditorías técnicas. Además, el modelo de pesos abiertos permite a las empresas afinar o auditar la arquitectura internamente, alineando el comportamiento de la IA con sus marcos de gobernanza y evitando la dependencia de proveedores de nube externos.

Perspectivas de futuro

Aleph Alpha ya ha señalado que continuará ampliando la familia Kolibri con versiones que incorporen más idiomas europeos y extensiones de contexto superiores a un millón de tokens, siempre bajo licencias abiertas. La hoja de ruta contempla también la integración de herramientas de interpretación de decisiones y métricas de sesgo, con el objetivo de que el modelo no solo sea potente, sino también transparente y alineado con los requisitos regulatorios emergentes en la UE y más allá.