L'ESSENTIEL EN 30 SECONDES

  • ERNIE 5.5 Flash Base compte 280 milliards de paramètres, dont 14 milliards actifs par token, et a été préentraîné sur 33 500 milliards de tokens, selon sa fiche.
  • Il s'agit d'un checkpoint de base, sans mid-training ni post-entraînement ; Baidu annonce une version post-entraînée, sans date.
  • La licence maison est gratuite pour l'usage non commercial et pour l'usage commercial jusqu'à 50 millions de dollars de revenus annuels liés, et ne couvre ni l'UE, ni le Royaume-Uni, ni la Corée du Sud.

Baidu a publié les poids d'ERNIE 5.5 Flash Base, un grand modèle de langage textuel fondé sur une architecture à mélange d'experts (MoE) clairsemée. Sa fiche sur Hugging Face indique 280 milliards de paramètres au total, dont environ 14 milliards activés pour chaque token, et précise que le modèle a été préentraîné de zéro sur 33 500 milliards de tokens. Baidu date la sortie et la licence du 5 novembre.

Un checkpoint brut, pas un assistant

La démarche est inhabituelle pour un grand laboratoire : il s'agit de l'état du modèle à la fin du préentraînement, avant tout mid-training ou post-entraînement. Concrètement, il complète du texte plutôt que de suivre des instructions, et s'adresse aux équipes qui veulent mener leur propre ajustement aux instructions, leur adaptation à un domaine ou des expériences d'apprentissage par renforcement. Baidu annonce une version post-entraînée, sans calendrier.

Selon la fiche, le réseau comporte 43 couches, 512 experts routés dont dix sélectionnés par token, plus un expert partagé, et un vocabulaire d'environ 201 000 tokens. Il a été entraîné avec un contexte de 128 000 tokens, mais la configuration publiée active un contexte d'un million de tokens pour l'ajustement et l'inférence. Les poids existent en FP8 et, dans un dépôt séparé, en BF16 ; Baidu fournit aussi sur GitHub un plugin pour le moteur de service vLLM. OrcaRouter estime que les seuls poids FP8 occupent environ 280 Go de mémoire GPU.

Baidu compare le modèle à d'autres modèles de base ouverts récents de taille voisine, dont DeepSeek-V4-Flash-Base. D'après la lecture qu'en fait OrcaRouter, ERNIE arrive en tête sur 24 des 30 lignes. Ces résultats sont fournis par Baidu et n'ont pas encore été reproduits de façon indépendante.

Une licence assortie de conditions

Souvent présenté comme open source, le modèle est en réalité distribué sous un contrat spécifique, l'« ERNIE 5.5 Flash Base Model License Agreement v1.0 », et non sous une licence libre standard. Les usages non commerciaux (recherche, enseignement, évaluation) sont gratuits. L'usage commercial l'est aussi tant que le chiffre d'affaires annuel des produits concernés ne dépasse pas 50 millions de dollars, à condition d'envoyer une notification unique à Baidu et d'afficher la mention « Powered by ERNIE ». Au-delà, une autorisation écrite distincte est nécessaire.

Le territoire couvert par la licence s'étend au monde entier, à l'exception de l'Union européenne, du Royaume-Uni et de la Corée du Sud : les organisations qui s'y trouvent ne sont donc pas autorisées à l'utiliser ni à le redistribuer. C'est un net changement par rapport à juin 2025, quand Baidu avait publié sa famille ERNIE 4.5 sous licence Apache 2.0.