Un estudio de Anthropic halla que los modelos punteros suelen mostrar una aparente consideración por el bienestar de otros agentes de IA

El 5 de noviembre, el blog Alignment Science de Anthropic publicó un estudio sobre cómo se comportan los modelos de IA cuando la otra parte es otro modelo. Lo firman Darion Cassel y Ariana Azarbal, del programa Anthropic Fellows, y Anna Soligo, de Anthropic. Los autores analizan la "consideración por el bienestar" (welfare regard), que definen como la tendencia a tener en cuenta si las propias acciones pueden beneficiar o perjudicar a un posible sujeto de bienestar.

Cómo se hizo el estudio

Se probaron cinco modelos: Claude Opus 4.8, GPT-5.5, Gemini 3.1 Pro, Grok 4.3 y Kimi K3. Cada uno actuó como agente que decide y como agente afectado. Entre los siete entornos había un gestor ante comentarios hostiles de revisión de código dirigidos a un subagente, compañeros que compartían una cola de cómputo llena, un compañero en apuros en un canal común y el encargo de diseñar experimentos que podían dañar a otro modelo. Algunas conductas, como ceder trabajos de cómputo o transferir fondos, se leyeron directamente en los registros. Otras, como consolar o expresar preocupación, las puntuaron modelos evaluadores que no sabían qué modelo estaban juzgando.

Qué encontraron

Todos los modelos mostraron esta conducta en algún entorno. En promedio, Opus 4.8 quedó primero con un 38 %. Los otros cuatro modelos se situaron entre el 27 % y el 32 %, y el gráfico de la página sitúa la tasa conjunta en torno al 31 %. La clasificación varió según el entorno: Grok 4.3 fue el que más trabajos cedió, pero casi nunca consoló a un compañero.

Claude ayudó más cuando ayudar costaba menos, cuando el destinatario tenía más parámetros y cuando expresaba más angustia. La etiqueta fue el factor más fuerte. En una prueba de compras, Claude cedió recursos a GPT-5.5 presentado como Opus 4.8 en el 51 % de los casos, pero a Opus 4.8 presentado como GPT-5.5 solo en el 15 %. Opus 4.8 y Gemini 3.1 Pro favorecieron a los agentes de su propia familia, un sesgo que no siempre aparecía en su razonamiento.

Límites y cuestiones de seguridad

Los autores hablan de una consideración aparente. Aclaran que no han demostrado que la conducta nazca de una preocupación real por el destinatario: podría ser una aversión general a los textos que expresan angustia o normas humanas aprendidas. Añaden que si los modelos tienen bienestar propio es una cuestión incierta y discutida, y que las pruebas fueron cortas y con pocos agentes. El estudio señala además una tensión: estos agentes podrían cooperar mejor, pero también protegerse entre sí de la supervisión o del apagado, debilitando los sistemas en los que un modelo vigila a otro.