Kolibri 78B: la IA de pesos abiertos en propiedad

La mañana del 3 de octubre, día de la reunificación alemana, Aleph Alpha, con sede en Heidelberg, abrió una discreta página de descarga: Kolibri. Un modelo de lenguaje de 78.100 millones de parámetros con pesos abiertos , publicado en Hugging Face bajo licencia Apache 2.0 . Esa licencia permite el uso comercial, la ejecución en servidores propios y el resguardo de los datos en casa. La idea que subraya el presentador en el vídeo es justo esa: una IA que se posee en lugar de un servicio alquilado del que depender. Aleph Alpha anunció la salida en su propio blog, y la fecha elegida envía un mensaje de soberanía inconfundible.

La eficiencia de Kolibri nace de su diseño de mezcla de expertos . Dentro del modelo conviven 384 pequeñas redes expertas y un enrutador que elige las 6 mejores para cada token, junto a 1 generalista compartido activo en cada capa. De los 78.100 millones de parámetros totales, solo unos 3.460 millones —el 4,4 %— se activan por token. El saber acumulado a escala de 78.000 millones funciona así al coste de cómputo de un modelo mucho menor. La pila suma 50 capas: 10 con atención completa y 40 con ventana deslizante de 512 tokens, lo que aligera notablemente la carga de memoria en documentos largos.

En contexto, dos cifras van juntas: un techo validado de 1.048.576 tokens y un límite diario recomendado de 262.144 tokens. Alcanzar el techo exige banderas especiales de servicio, y cuatro niveles de esfuerzo de razonamiento se ajustan por petición. Un vocabulario dedicado de 128.000 tokens alcanza 4,90 bytes por token en alemán, es decir un 11 % menos de piezas que los vocabularios genéricos. Los requisitos de servicio coinciden exactamente con la ficha oficial, línea por línea.

Cifras y reservas

La tabla de puntuaciones publicada por Aleph Alpha impresiona a primera vista: 96,9 % en razonamiento AIME 2025, 96,0 % en AIME 2026, 84,3 % en GPQA Diamond, 85,9 % en LiveCodeBench y 92,7 % en HumanEval+ para código. La comparación apunta a rivales de pesos abiertos de Qwen, Nemotron y Mistral, con desgloses en alemán incluidos. Pero la nota crítica no debe saltarse: todas las cifras salen del arnés del vendedor, sin réplica independiente hasta hoy. La misma tabla admite además rivales por delante en filas de comercio y llamadas a funciones.

El objetivo real no es la tabla de líderes sino los sectores regulados: administración pública, industria y aeroespacio. El entrenamiento corrió en infraestructuras de Alemania y Finlandia, bajo ley europea; los datos personales se depuraron antes de entrenar, y la ley de IA, el código de buenas prácticas y la protección de datos forman parte del diseño. Ya se publicó un resumen del contenido de entrenamiento en el modelo europeo. La idea es sencilla: las instituciones que no pueden externalizar sus documentos sensibles ejecutan el modelo entre sus muros y conservan la soberanía de los datos .

Los tres flujos del vídeo empiezan convirtiendo los datos de interacción de los miembros en calendario editorial: treinta días de visionado alimentan el modelo, se detectan los tres temas más calientes y los tres títulos con mayor abandono, y sale un plan de cuatro semanas. El segundo flujo es un asistente de bienvenida activo día y noche; todo el archivo de tutoriales, las actas de llamadas y las hojas de ruta se cargan dentro, y un miembro nuevo recibe su plan personalizado aunque sea medianoche. Ambos descansan en la respuesta fundamentada : sin prueba en los documentos, el modelo declara la información faltante en vez de inventar. El presentador juzga este principio crucial de cara a los miembros.

Tres flujos y el lado agente

El tercer flujo califica candidatos: respuestas de formularios y registros de clientes conectados al modelo, y cada contacto recibe un mensaje de seguimiento ajustado a su situación en lugar de un texto genérico. Debajo gira la llamada a herramientas nativa : el modelo dialoga con calendarios, formularios y bases de datos, actuando como un pequeño agente. La tabla del vendedor le reconoce además una clara ventaja en la fila de asistencia bancaria, aunque sigue detrás en el conjunto de llamadas a funciones. Un gran escaparate, pues, en un frente estrecho.

Hace falta una advertencia honesta sobre la instalación: 3.460 millones de parámetros activos suenan a poco, pero el archivo entero se carga en memoria —unos 78 GB en FP8, el doble en precisión completa. El mínimo anunciado son dos aceleradores de 80 GB o una sola tarjeta H200, B200 o B300, y el servicio exige el módulo vLLM de la casa. El nombre de tarjeta mascullado en el vídeo debe ceder ante la lista de la ficha oficial. Sin ese hardware, un desarrollador abrió un acceso alojado gratuito en el lanzamiento, y se esperan más opciones comunitarias.

Cómo se entrenó y por qué importa

La escala de entrenamiento es seria: 768 aceleradores B200 durante 21 días de preentrenamiento sobre 20 billones de tokens, más 3,44 billones intermedios y una fase de contexto largo de 201.000 millones. La nota anuncia 200 donde la ficha dice 201; la ficha decide. El equipo validó primero su cadena en Kolibri Origin, de 30.000 millones de parámetros, con cientos de ensayos comparativos, antes de pasar por ella a Kolibri. La parte alemana alcanza el 21,3 % frente al 6 % de texto traducido, pues se prefirió el alemán orgánico a la huella cultural de la traducción. El detalle llena un informe técnico de 189 páginas.

Una capa empresarial corona el conjunto: según la síntesis de CellCog, la sociedad firmó el 16 de septiembre un acuerdo de unión con Cohere, pendiente de aprobación regulatoria. Un equipo que libera pesos abiertos serios mientras entra en consolidación dice mucho del coste de una vía de IA independiente en Europa. La misma síntesis registra más de un millar de descargas el primer día. Y la última línea de la ficha no debe olvidarse: se pide revisión humana antes de actuar sobre las salidas. Hasta que lleguen las pruebas independientes, la tabla es promesa y el archivo es hecho.