L'ESSENTIEL EN 30 SECONDES

  • D'après des e-mails rapportés par The Decoder et partagés par des utilisateurs, OpenAI utilisera le contenu des sessions Daybreak Blue des comptes personnels pour entraîner ses modèles à partir du 29 novembre.
  • Le changement s'appliquerait même lorsque le réglage « améliorer le modèle pour tous » est désactivé ; ces données étaient jusque-là exclues de l'entraînement.
  • Après une vague de critiques, un second e-mail a promis une option de refus distincte, dont ni les modalités ni le calendrier n'ont été publiés.

OpenAI a informé les membres de son programme Trusted Access for Cyber, baptisé Daybreak, qu'elle commencera le 29 novembre à utiliser le contenu des sessions Daybreak Blue pour entraîner ses modèles. L'information a été transmise par e-mail, sans annonce publique, et a rapidement suscité des critiques parmi les chercheurs en sécurité qui utilisent le service.

Ce que disent les e-mails

Selon The Decoder, qui a pu consulter le message, le changement concerne aussi les utilisateurs ayant désactivé le réglage « améliorer le modèle pour tous ». Jusqu'à présent, les sessions Daybreak Blue étaient tenues à l'écart de l'entraînement. Un utilisateur qui a publié l'e-mail le 30 octobre sur le forum des développeurs d'OpenAI indique qu'il vise les sessions Daybreak Blue des comptes personnels. Dans un billet de blog, l'entreprise d'IA CellCog, qui a elle aussi examiné l'e-mail, précise que les clients Business et Enterprise ainsi que les configurations Zero Data Retention ne sont pas concernés. Les échanges signalés lors d'examens de sécurité peuvent toujours servir à des fins de sécurité, rappelle The Decoder.

Après la vague de protestations, OpenAI a envoyé un second e-mail promettant une option de refus distincte, rapporte The Decoder. Ni ce média ni les autres comptes rendus n'expliquent comment elle fonctionnera, quand elle sera disponible, ni si elle couvrira les données recueillies avant sa mise en place. OpenAI ne s'est pas exprimée publiquement au-delà de ces e-mails, et les pages d'aide que nous avons pu consulter ne détaillent pas encore les nouvelles règles.

Ce qu'est Daybreak Blue

Daybreak est le programme d'accès contrôlé d'OpenAI destiné aux défenseurs en cybersécurité. Ses pages d'aide décrivent deux niveaux : Daybreak Blue, qui réduit les refus des modèles pris en charge pour les tâches de sécurité, via l'API et Codex, et Daybreak Red, soumis à une approbation séparée et donnant accès à des modèles spécialisés en cybersécurité. Les utilisateurs individuels devaient, avant le 1er octobre, adhérer à la sécurité avancée du compte et enregistrer une clé de sécurité physique. OpenAI souligne que certaines protections et règles d'usage restent en vigueur.

Pourquoi les chercheurs protestent

Le travail de sécurité implique souvent des éléments sensibles : vulnérabilités non corrigées, systèmes de clients ou techniques d'exploitation. Des participants au forum disent qu'ils cesseront d'utiliser Daybreak Blue s'ils ne peuvent pas exclure leurs données de l'entraînement, et l'un d'eux demande si les sessions passées pourraient être concernées. The Decoder rapproche cette réaction d'une récente controverse où des mathématiciens soupçonnaient la réutilisation de leurs saisies dans Codex, ce qu'OpenAI a démenti. Tant que l'option de refus n'est pas publiée, la portée exacte du changement repose sur les e-mails tels qu'ils ont été rapportés.