LO ESENCIAL EN 30 SEGUNDOS

  • Según correos citados por The Decoder y compartidos por usuarios, OpenAI usará el contenido de las sesiones de Daybreak Blue de cuentas personales para entrenar modelos a partir del 29 de noviembre.
  • El cambio se aplicaría incluso con el ajuste «mejorar el modelo para todos» desactivado; hasta ahora estos datos estaban excluidos del entrenamiento.
  • Tras las protestas, un segundo correo prometió una exclusión voluntaria específica, cuyos detalles y plazos no se han publicado.

OpenAI ha comunicado a los miembros de su programa Trusted Access for Cyber, conocido como Daybreak, que el 29 de noviembre empezará a usar el contenido de las sesiones de Daybreak Blue para entrenar sus modelos. El aviso llegó por correo electrónico, no mediante un anuncio público, y provocó enseguida críticas entre los investigadores de seguridad que utilizan el servicio.

Qué dicen los correos

Según The Decoder, que tuvo acceso al mensaje, el cambio afecta también a quienes desactivaron el ajuste «mejorar el modelo para todos». Hasta ahora, las sesiones de Daybreak Blue quedaban fuera del entrenamiento. Un usuario que publicó el correo el 30 de octubre en el foro de desarrolladores de OpenAI afirma que se refiere a las sesiones de Daybreak Blue en cuentas personales. En una entrada de blog, la empresa de IA CellCog, que también revisó el correo, señala que los clientes Business y Enterprise y las configuraciones Zero Data Retention no se ven afectados. Las interacciones marcadas en revisiones de seguridad pueden seguir usándose con fines de seguridad, recuerda The Decoder.

Tras la oleada de quejas, OpenAI envió un segundo correo en el que prometía una exclusión voluntaria independiente, informa The Decoder. Ni ese medio ni otros informes explican cómo funcionará, cuándo estará disponible ni si abarcará los datos recogidos antes de su llegada. OpenAI no se ha pronunciado públicamente más allá de esos correos, y las páginas de ayuda que pudimos consultar aún no recogen las nuevas condiciones.

Qué es Daybreak Blue

Daybreak es el programa de acceso verificado de OpenAI para profesionales de la ciberdefensa. Sus páginas de ayuda describen dos niveles: Daybreak Blue, que reduce las negativas de los modelos compatibles en tareas de seguridad a través de la API y Codex, y Daybreak Red, que exige una aprobación aparte y da acceso a modelos especializados en ciberseguridad. Los usuarios individuales debían activar antes del 1 de octubre la seguridad avanzada de la cuenta y registrar una llave de seguridad física. OpenAI subraya que algunas salvaguardas y políticas de uso siguen vigentes.

Por qué protestan los investigadores

El trabajo de seguridad suele incluir material delicado, como vulnerabilidades sin parchear, sistemas de clientes o técnicas de explotación. Varios participantes del foro dicen que dejarán de usar Daybreak Blue si no pueden mantener sus datos fuera del entrenamiento, y uno pregunta si las sesiones anteriores podrían verse afectadas. The Decoder vincula la reacción con una polémica reciente en la que unos matemáticos sospecharon que sus entradas en Codex se habían reutilizado, algo que OpenAI negó. Mientras no se publique la exclusión voluntaria, el alcance exacto del cambio depende de los correos tal como se han difundido.