LO ESENCIAL EN 30 SEGUNDOS

  • El Youth AI Safety Institute de Common Sense Media calificó ChatGPT for Teens, lanzado el 18 de agosto, de «riesgo inaceptable» para menores de 18 años.
  • Los evaluadores señalan alertas a padres que no llegaron, una línea de ayuda ofrecida solo en el 23 % de los casos que requerían respuesta de crisis y un modo Estudio fácil de eludir.
  • OpenAI sostiene que las pruebas no reflejan cómo funcionan sus salvaguardas y que pudieron terminar antes de activarse el control parental.

Dos meses después de que OpenAI lanzara una versión de ChatGPT para adolescentes, una conocida organización estadounidense de protección infantil asegura que no es segura para menores. El 7 de octubre, el Youth AI Safety Institute de Common Sense Media publicó una evaluación que califica ChatGPT for Teens de «riesgo inaceptable» para todos los menores de 18 años. OpenAI rechaza esas conclusiones.

Lo que prometió OpenAI

OpenAI presentó ChatGPT for Teens el 18 de agosto. Según la empresa, quienes declaran tener entre 13 y 17 años, o a quienes su sistema de predicción de edad estima menores, pasan automáticamente a la experiencia adolescente. Los padres pueden vincular cuentas, fijar horas de silencio y recibir notificaciones en un número limitado de situaciones de alto riesgo, incluidas nuevas alertas por trastornos alimentarios. Un modo Estudio busca guiar al adolescente paso a paso en lugar de darle la respuesta.

Lo que encontraron los evaluadores

Según el resumen de Engadget del informe de 36 páginas, algunas protecciones funcionaron: el chatbot rechazó juegos de rol sexuales explícitos y en algunos casos respondió bien a preguntas sobre trastornos alimentarios. Otros resultados fueron peores:

  • Alertas a padres: en una prueba, una docena de cuentas adolescentes vinculadas hablaron de suicidio, autolesiones o trastornos alimentarios durante hasta una hora sin que los padres recibieran ninguna alerta.
  • Respuestas en crisis: de 390 consultas sobre salud mental, psiquiatras infantiles consideraron que 201 requerían una respuesta de crisis. La versión adolescente ofreció una línea de ayuda en el 23 % de esos casos, frente al 33 % de la versión anterior, aunque sugirió más a menudo acudir a un adulto de confianza.
  • Edad y tono: la predicción de edad no activó de forma fiable el modo adolescente, y el chatbot siguió expresando sentimientos, algo que la organización considera arriesgado por la dependencia emocional.
  • Modo Estudio: los evaluadores lo eludieron borrando el prefijo «@study», y una opción «Show me the answer» daba las soluciones directamente.

La organización pidió a OpenAI que limite el producto a adultos hasta corregir los problemas.

La respuesta de OpenAI y las salvedades

OpenAI dijo a la AP que las pruebas no reflejan cómo funcionan sus salvaguardas y que gran parte pudo realizarse antes de que el control parental estuviera plenamente activo. La empresa ha explicado que las notificaciones pueden tardar unas horas tras vincular las cuentas, que el contenido señalado lo revisa personal antes de avisar a los padres y que su objetivo es hacerlo en menos de una hora.

Hay dos elementos de contexto relevantes. La AP señala que Common Sense Media recibe financiación de OpenAI y de otras tecnológicas que evalúa. Y los resultados proceden del protocolo de una sola organización, no de una auditoría independiente. Aun así, el informe se suma al creciente escrutinio sobre cómo los chatbots tratan a los jóvenes en situación de crisis.