Un modelo de lenguaje africano de 1.500 millones de parámetros acaba de superar a rivales mucho más grandes. Se llama MORENA y lo entrenó desde cero la empresa Vambo AI. Cubre doce lenguas africanas —entre ellas suajili, zulú, yoruba, hausa y shona— más inglés, francés y código. En texto africano reservado para la prueba alcanzó 1,408 bits por byte, el mejor puntaje entre los 26 modelos medidos, según la empresa. Superó a Lugha-Llama-8B, cinco veces más grande. Un equipo pequeño le gana a los grandes en el terreno que ellos descuidan.
Casi todos los proyectos de lenguas africanas parten de un modelo ajeno, casi siempre de la familia Llama, y lo siguen entrenando con texto africano. Arrastran así un vocabulario pensado para el inglés y el código, que corta mal las palabras. Vambo AI tomó otro camino: fijó el tokenizador, la mezcla de datos y las doce lenguas antes de empezar. De acuerdo con el informe técnico que acompañó la publicación, ese orden explica la ganancia: su vocabulario usa 1,39 veces menos fichas que Gemma 3 y 1,53 veces menos que Llama 3.2 para el mismo texto.
Un modelo de lenguaje africano entrenado desde cero
El entrenamiento fue modesto. La línea que llegó al modelo publicado consumió 12.834 horas de GPU A100 en el supercomputador Leonardo, en Italia, y costó entre 25.000 y 40.000 dólares. El modelo base vio 251.700 millones de fichas; la etapa intermedia sumó 63.000 millones más. Vambo liberó además dos versiones más chicas, de 500 y 200 millones de parámetros, que lideran su categoría en once de las doce lenguas. La más pequeña decodifica 104 fichas por segundo en una sola GPU y corre sin conexión en un computador común. El peso está bajo licencia Apache 2.0, con uso comercial permitido.
Los resultados sostienen el anuncio. El modelo base quedó primero entre 26 sistemas. La versión de instrucciones bajó a 1,441 bits por byte: segunda frente a Lugha-Llama-8B en el promedio de las doce lenguas, pero por delante en las cinco que ambas comparten, con un quinto de los parámetros. En traducción, con tres ejemplos en el enunciado, alcanza 45,8 en la métrica chrF++, ocho puntos por encima de MADLAD-400-3B. Los modelos generales de 1.000 a 2.000 millones de parámetros suelen quedarse entre 9 y 14. La brecha no es de matiz.
Lo que el modelo todavía no hace
El propio informe pone los límites por delante. La versión de instrucciones acierta en 23% de los casos cuando debe ceñirse a un texto dado. Falla en 41% de los pedidos inofensivos, casi siempre por negarse. En preguntas con documentos acierta el 32,5%: apenas por encima del azar. El director de tecnología, Isheanesu Misi, lo dice sin rodeos: el modelo no está listo para funcionar como asistente general. Lee bien las fuentes, con 73% de anclaje, pero todavía razona mal qué se le pregunta.
Lo más útil del informe está en otra parte. Misi documenta cinco errores de medición que encontró antes de publicar y cómo cada uno cambió lo que creía saber. En un caso, un fallo de relleno por lotes hundía el puntaje de seguridad; corregido, el mismo modelo pasó de 34,8% a 92,5%. Su conclusión deja el trabajo a medias a propósito: todo número es un modelo juzgando a otro y ningún hablante nativo ha calificado aún una respuesta. Ese paso falta. La infraestructura existe; el juicio humano, todavía no. El próximo avance no vendrá de otro entrenamiento, sino de que hablantes de shona, zulú o yoruba digan si aceptarían esas respuestas.
Otras fuentes consultadas: TechRadar (23/09) · Glitch Front (18/09) · Vambo AI, equipo y sitio (2026). (Cifras aportadas por la propia empresa.)
