OpenAI restringe la información sobre armas para adolescentes en ChatGPT y prueba cortar chats centrados en la violencia

OpenAI anunció el 30 de octubre varios cambios en ChatGPT pensados para prevenir la violencia en el mundo real, con las normas más estrictas reservadas a los adolescentes. Según Reuters, estas salvaguardas empezarán a desplegarse en las próximas semanas y se irán afinando.

Límites más duros para menores de 18 años

En las cuentas que pasan a la experiencia para adolescentes, ChatGPT dejará de ofrecer detalles prácticos sobre armas y sobre sistemas de seguridad que puedan usarse de forma indebida. OpenAI sostiene que estos límites se aplican incluso ante preguntas inofensivas y sin señales de intención violenta. Los adolescentes seguirán pudiendo pedir ayuda para rebajar tensiones, prevenir la violencia o contactar con un adulto de confianza, informa Unite.AI.

La compañía asegura además haber reforzado su predicción de edad, que usa señales de comportamiento y de la cuenta para detectar a probables menores y trasladarlos a la versión adolescente. Los adultos clasificados por error pueden verificar su edad a través de Persona, el socio de verificación de OpenAI. Los padres ya reciben un aviso cuando la cuenta de un adolescente se desactiva por infringir las normas sobre violencia, y OpenAI dice que trabaja en notificaciones para las pausas temporales.

Cambios para todos los usuarios

Algunas medidas se aplican sin importar la edad. ChatGPT dará menos detalles sobre ataques masivos del pasado y sus autores, incluidas las armas empleadas y cómo se consiguieron, aunque esa información esté disponible en otros sitios de internet. Seguirá siendo posible preguntar por el impacto de esos hechos, las señales de alerta y la prevención.

OpenAI también prueba intervenciones automáticas: ChatGPT podrá terminar una conversación en la que alguien parezca obsesionado con la violencia o con causar un daño grave a otra persona, y varias conversaciones cerradas podrán derivar en una pausa temporal de la cuenta. Las cuentas que violen las normas sobre violencia pueden seguir siendo vetadas.

Informes y contexto

Junto con estos cambios, OpenAI presentó un informe de seguridad comunitaria que actualizará cada seis meses; la primera edición llegará a comienzos de 2027 y abarcará el segundo semestre de 2026, según Unite.AI. La empresa afirma que realizó más de 200 remisiones a las fuerzas del orden por posibles amenazas de violencia en el tercer trimestre de 2026 y que recurre a expertos en salud mental y conducta para los casos complejos.

El anuncio sigue a un informe de Common Sense Media de principios de octubre, según el cual la versión para adolescentes de ChatGPT a menudo avisaba a los padres tarde o no lo hacía cuando los jóvenes hablaban de suicidio, autolesiones o trastornos alimentarios. OpenAI no ha explicado cómo medirá la eficacia de estos límites.