Boson AI dévoile Higgs Realtime Duplex, un modèle de 45 milliards de paramètres qui écoute, regarde et parle en même temps

Boson AI, l’entreprise de Santa Clara dirigée par son cofondateur Alex Smola, a présenté Higgs Realtime Duplex le 5 novembre. Dans un billet de blog intitulé « Face to Face, Working in the Background », la société le décrit comme la nouvelle génération de son modèle vocal Higgs Realtime et comme son premier modèle « omni » interactif en full-duplex : un système qui continue de recevoir audio, vidéo et texte pendant qu’il parle, raisonne et anime son propre visage.

Ce que fait le modèle

D’après la description de Boson AI reprise par RuntimeWire et TLDR, il s’agit d’un réseau mixture-of-experts de 45 milliards de paramètres, que l’entreprise appelle son « modèle frontal ». Il ingère la voix et la vidéo par tranches de 160 millisecondes, ce qui doit lui permettre de répondre et d’être interrompu avec peu de latence, sans attendre que l’utilisateur ait fini de parler. La société affirme qu’il peut appeler des outils de manière asynchrone et confier les tâches plus lourdes à un modèle principal plus grand pendant que la conversation se poursuit ; ce modèle n’est pas nommé dans les documents consultés. Boson AI indique aussi que le modèle génère un visage en direct pendant qu’il parle, mais les pages examinées ne donnent aucun détail technique sur ce point.

L’entreprise met également en avant le coût. Selon RuntimeWire, son objectif est qu’une heure d’utilisation du modèle frontal de 45 milliards de paramètres ne coûte pas plus d’un dixième d’une heure de travail humain. Il s’agit d’une cible affichée, non d’un chiffre mesuré.

Ce qui reste flou

Plusieurs points essentiels n’ont pas pu être vérifiés. Le billet complet de Boson AI n’était pas accessible pour cet article, et les pages secondaires consultées ne mentionnent ni licence, ni poids téléchargeables, ni résultats de benchmarks ; une fiche Papers with Code consacrée au billet évoque un test de suivi d’instructions sans publier de scores. Le nombre de paramètres actifs par token n’est pas précisé. AI Weekly rapporte que l’accès à l’API arrivera via une liste d’attente, tandis que la version précédente, Higgs Realtime, qui fonctionne tour par tour, reste disponible. Aucun tarif n’a été publié.

Ce lancement prolonge une série de produits vocaux. Ces dernières semaines, le blog de Boson AI a annoncé la diffusion en direct de son Higgs Avatar dans les appels d’agents vocaux ainsi qu’un guide pour fabriquer un appareil conversationnel bon marché avec Higgs Realtime. Les systèmes full-duplex, capables d’écouter et de parler simultanément, font l’objet de nombreuses recherches ; des tests indépendants seront nécessaires pour situer les promesses de latence et de coût de Boson AI face aux autres modèles vocaux en temps réel.