Thinking Machines lance Inkling 2 Small, un modèle à mélange d'experts de 594 milliards de paramètres sur Tinker, aux poids ouverts promis plus tard

Thinking Machines Lab, la start-up dirigée par l'ancienne dirigeante d'OpenAI Mira Murati, a publié Inkling 2 Small le 5 novembre. Il s'agit de la deuxième génération de modèles de l'entreprise, nettement plus grande qu'Inkling-Small, qui compte 276 milliards de paramètres dont 12 milliards actifs. Le nouveau modèle repose sur un mélange d'experts clairsemé de 594 milliards de paramètres au total, dont environ 17 milliards sont mobilisés pour chaque token.

Ce qui a été publié

Le modèle reçoit du texte et des images et produit du texte. À la différence de son prédécesseur, il ne prend pas l'audio en charge. Les images passent par un encodeur visuel de 292 millions de paramètres dérivé de Perception Encoder. La fenêtre de contexte atteint un million de tokens, et un mécanisme de compaction permet aux agents de dépasser les 256 000 tokens utilisés pendant l'apprentissage par renforcement. Selon les comptes rendus, Thinking Machines le présente comme une base pour le post-entraînement et pour des systèmes agentiques capables de planifier des tâches en plusieurs étapes, d'appeler des outils et de vérifier leurs résultats, plutôt que comme un assistant conversationnel abouti.

Le laboratoire détaille aussi l'entraînement : un pré-entraînement réalisé nativement au format NVFP4 sur des systèmes NVIDIA GB300 NVL72, avec 8 400 milliards de tokens dans la première phase, puis une session principale d'apprentissage par renforcement de plus de 17 millions de déroulés sur neuf jours, avec 2 048 GPU.

Résultats et limites

Inkling 2 Small obtient 31 à l'Artificial Analysis Intelligence Index. Thinking Machines annonce 72,1 % sur DeepSWE v1.1 et 86,3 % sur le sous-ensemble difficile de SWE-Bench Pro v2. Ces chiffres proviennent du laboratoire et d'Artificial Analysis et n'ont pas été reproduits par d'autres. Le laboratoire admet que le modèle reste derrière DeepSeek V4.1 Flash sur plusieurs tests de code agentique et derrière Kimi K3 sur SWE-Bench Pro. Il signale aussi des réponses trop longues et une structure conversationnelle plus faible. Sur sa mesure interne de comportements indésirables, le score passe de 66,8 pour le premier Inkling à 14,9, encore en retrait, selon lui, de modèles fermés comme GPT-6.1 Sol.

Disponibilité et poids ouverts

Pour l'instant, le modèle n'est accessible que via Tinker, la plateforme d'affinage et d'échantillonnage de l'entreprise, et son Playground. Les poids restent fermés : Thinking Machines s'est engagé à les publier sous licence Apache 2.0 une fois terminés les tests de sécurité externes et le red-teaming. Une échéance « la semaine prochaine » est évoquée, mais elle dépend de cet examen et n'est pas garantie. RuntimeWire rappelle que le laboratoire a démarré avec un tour d'amorçage de 2 milliards de dollars. Une fois les poids publiés, des vérifications indépendantes des performances annoncées deviendront possibles.