LO ESENCIAL EN 30 SEGUNDOS

  • ERNIE 5.5 Flash Base tiene 280.000 millones de parámetros, 14.000 millones activos por token, y se preentrenó desde cero con 33,5 billones de tokens, según su ficha.
  • Es un checkpoint base, sin mid-training ni post-entrenamiento; Baidu anuncia una versión post-entrenada, sin fecha.
  • La licencia propia es gratuita para uso no comercial y para uso comercial hasta 50 millones de dólares de ingresos anuales vinculados, y no cubre la UE, el Reino Unido ni Corea del Sur.

Baidu ha publicado los pesos de ERNIE 5.5 Flash Base, un gran modelo de lenguaje solo de texto basado en una arquitectura dispersa de mezcla de expertos (MoE). Su ficha en Hugging Face indica 280.000 millones de parámetros en total, de los que unos 14.000 millones se activan en cada token, y señala que el modelo se preentrenó desde cero con 33,5 billones de tokens. Baidu fecha el lanzamiento y la licencia el 5 de noviembre.

Un checkpoint en bruto, no un asistente

El enfoque es poco habitual en un gran laboratorio: se trata del estado del modelo al terminar el preentrenamiento, antes de cualquier mid-training o post-entrenamiento. En la práctica, completa texto en lugar de seguir instrucciones, y está pensado para equipos que quieran hacer su propio ajuste a instrucciones, adaptarlo a un dominio o experimentar con aprendizaje por refuerzo. Baidu afirma que llegará una versión post-entrenada, sin dar fecha.

Según la ficha, la red tiene 43 capas, 512 expertos enrutados, de los que se eligen diez por token, más un experto compartido, y un vocabulario de unos 201.000 tokens. Se entrenó con un contexto de 128.000 tokens, aunque la configuración publicada habilita un millón de tokens para ajuste e inferencia. Los pesos se ofrecen en FP8 y, en otro repositorio, en BF16, y Baidu aporta en GitHub un complemento para el motor de inferencia vLLM. OrcaRouter calcula que solo los pesos FP8 ocupan unos 280 GB de memoria de GPU.

Baidu compara el modelo con otros modelos base abiertos recientes de tamaño similar, entre ellos DeepSeek-V4-Flash-Base. Según la lectura de OrcaRouter, ERNIE queda primero en 24 de 30 filas. Son cifras facilitadas por Baidu que todavía no se han reproducido de forma independiente.

Una licencia con condiciones

Aunque se ha descrito como código abierto, el modelo se distribuye con un contrato propio, el "ERNIE 5.5 Flash Base Model License Agreement v1.0", y no con una licencia libre estándar. Los usos no comerciales, como investigación, docencia o evaluación, son gratuitos. El uso comercial también lo es mientras los ingresos anuales de los productos relacionados no superen 50 millones de dólares, siempre que se envíe un aviso único a Baidu y se muestre la mención "Powered by ERNIE". Por encima de ese umbral hace falta una autorización escrita aparte.

El territorio de la licencia abarca todo el mundo salvo la Unión Europea, el Reino Unido y Corea del Sur, por lo que las organizaciones de esas zonas no están autorizadas a usarlo ni a redistribuirlo. Es un cambio notable respecto a junio de 2025, cuando Baidu lanzó su familia ERNIE 4.5 bajo licencia Apache 2.0.