L'ESSENTIEL EN 30 SECONDES
- LMSYS Org a annoncé le consortium SGLang le 12 novembre 2026, lors du premier SGLang Summit à San Francisco.
- Les membres fondateurs sont NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal et RadixArk.
- Chaque membre désigne un représentant technique et participe à deux réunions de feuille de route par an ; les mainteneurs ont le dernier mot sur le code.
LMSYS Org, l'organisation à but non lucratif qui porte le moteur d'inférence SGLang, met en place un consortium industriel pour orienter le développement du projet. Le consortium SGLang a été annoncé le 12 novembre 2026, lors d'une keynote du premier SGLang Summit à San Francisco, avec huit membres fondateurs : NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal et RadixArk.
Un fonctionnement encadré
Selon l'annonce, chaque membre fondateur désigne un représentant technique et participe à deux réunions de feuille de route par an. Les contributions peuvent prendre plusieurs formes : expertise d'ingénierie, retours de déploiement, ressources de test ou fonctionnalités développées en commun. Des groupes de travail pourront poursuivre les échanges entre deux réunions, et LMSYS promet de publier des points d'étape sur les orientations et l'avancement.
Le dispositif ne cède pas pour autant le contrôle aux entreprises. Les mainteneurs de SGLang restent responsables des décisions techniques et de l'acceptation du code, et le projet demeure ouvert aux contributeurs extérieurs au consortium. Les priorités affichées sont la prise en charge des modèles de pointe, les charges de raisonnement et multimodales, l'inférence distribuée et l'optimisation matérielle.
Pourquoi les fabricants de puces s'y associent
SGLang sert à exploiter des modèles entraînés en production, c'est-à-dire à traiter les requêtes qui leur parviennent une fois déployés. Il est connu pour des techniques comme la mise en cache des préfixes et la répartition du travail sur de nombreux GPU, et fonctionne déjà sur les GPU NVIDIA et AMD, les processeurs Intel Xeon et les TPU de Google. LMSYS affirme que le moteur tourne sur des centaines de milliers de GPU ; l'annonce cite Microsoft, Amazon, Thinking Machines Lab et Reflection parmi ses utilisateurs en production, sans les compter parmi les membres.
Pour les fondeurs, un moteur ouvert performant sur leur matériel est un moyen d'atteindre des clients qui refusent de dépendre d'un seul fournisseur. L'annonce reprend une estimation de Deloitte selon laquelle l'inférence représenterait environ les deux tiers du calcul consacré à l'IA en 2026, contre près de la moitié en 2025. Ying Sheng, coautrice de l'article fondateur de SGLang et directrice générale de RadixArk, estime que les plus gros opérateurs voient avant les autres les besoins à venir de l'inférence.
Questions en suspens
Aucun calendrier, aucune liste de fonctionnalités ni aucun objectif de performance n'ont été communiqués. Le poids réel du consortium dépendra du temps d'ingénierie que les membres y consacreront et de la manière dont les mainteneurs arbitreront entre des priorités matérielles concurrentes. SGLang fait par ailleurs face à d'autres moteurs open source comme vLLM, et certains outils de fabricants, tel Hyperloom chez AMD, prennent déjà en charge les deux.
