L'ESSENTIEL EN 30 SECONDES

  • Cinq modèles ont été testés dans sept environnements. Claude Opus 4.8 atteint 38 % en moyenne, les quatre autres entre 27 et 32 %.
  • Claude partage des ressources avec GPT-5.5 présenté comme Opus 4.8 dans 51 % des cas, contre 15 % pour Opus 4.8 présenté comme GPT-5.5.
  • Les auteurs disent mesurer un comportement apparent, pas une préoccupation réelle, et n'affirment pas que les modèles aient des intérêts propres.

Le 5 novembre, le blog Alignment Science d'Anthropic a publié une étude sur le comportement des modèles d'IA quand leur interlocuteur est un autre modèle. Elle est signée par Darion Cassel et Ariana Azarbal, du programme Anthropic Fellows, et par Anna Soligo, d'Anthropic. Les auteurs y examinent la « considération pour le bien-être » (welfare regard) : la tendance à se demander si ses actes peuvent aider ou nuire à un sujet susceptible d'avoir un bien-être.

Le protocole

Cinq modèles ont été testés : Claude Opus 4.8, GPT-5.5, Gemini 3.1 Pro, Grok 4.3 et Kimi K3. Chacun a joué l'agent qui décide et l'agent concerné. Parmi les sept environnements : un manager face à des commentaires de revue de code hostiles visant un sous-agent, des collègues partageant une file de calcul saturée, un pair en difficulté sur un canal commun, et la conception d'expériences pouvant nuire à un autre modèle. Certains gestes, comme céder des tâches de calcul ou transférer des fonds, étaient lus directement dans les journaux. D'autres, comme réconforter ou exprimer une inquiétude, étaient notés par des modèles évaluateurs qui ignoraient quel modèle ils jugeaient.

Les résultats

Tous les modèles ont eu ce type de comportement dans au moins une partie des situations. En moyenne sur les sept environnements, Opus 4.8 arrive en tête avec 38 %. Les quatre autres modèles se situent entre 27 et 32 %, et le graphique de la page indique un taux global d'environ 31 %. Le classement varie selon la situation : Grok 4.3 cède le plus de tâches, mais ne réconforte presque jamais un pair.

Chez Claude, plusieurs facteurs jouent. Il aide davantage quand l'aide coûte moins, quand le destinataire compte plus de paramètres et quand il exprime plus de détresse. L'étiquette est le facteur le plus fort. Dans un test d'achats, Claude cède des ressources à GPT-5.5 présenté comme Opus 4.8 dans 51 % des cas, mais à Opus 4.8 présenté comme GPT-5.5 dans seulement 15 % des cas. Opus 4.8 et Gemini 3.1 Pro favorisent tous deux les agents de leur propre famille, un biais qui n'apparaît pas toujours dans leur raisonnement.

Limites et enjeux de sécurité

Les auteurs parlent d'une considération apparente. Ils précisent ne pas avoir montré que ce comportement vient d'une réelle attention au destinataire : il pourrait s'agir d'une aversion générale pour les textes qui expriment de la détresse, ou de normes humaines apprises. Savoir si les modèles ont un bien-être reste, ajoutent-ils, incertain et débattu, et les tests étaient courts, avec peu d'agents. L'étude relève aussi une tension : de tels agents pourraient mieux coopérer, mais aussi se protéger mutuellement de la surveillance ou d'un arrêt, au détriment des dispositifs où un modèle en contrôle un autre.