OpenAI s'associe à Hacktron, la société qui avait percé ses systèmes dans le cadre d'un bug bounty

OpenAI transforme une relation née de son programme de primes aux bogues en partenariat de sécurité en bonne et due forme. Le 6 novembre, l'entreprise a annoncé qu'elle travaillerait avec Hacktron, une jeune pousse qui conçoit des agents d'IA pour la revue de code, les tests d'intrusion et le red teaming, afin de traquer les faiblesses de ses propres systèmes, selon Unite.AI et DiarioBitcoin.

Ce que couvre le partenariat

Les travaux porteront sur les points où les applications, les systèmes d'identité et l'infrastructure d'OpenAI se connectent à des services extérieurs, une surface qui s'étend, selon l'entreprise, à mesure que les agents d'IA relient des services de façon inédite. Les failles isolées dans un produit donné entrent aussi dans le périmètre. Ingénieurs d'OpenAI et chercheurs de Hacktron choisiront ensemble les domaines prioritaires, et OpenAI dit vouloir s'appuyer sur ces enseignements pour renforcer ses défenses.

L'accord élargit également l'accès de Hacktron aux modèles de pointe via Daybreak Red, le niveau lancé par OpenAI le 10 août pour les équipes agréées qui mènent de la recherche de vulnérabilités, du développement d'exploits ou du red teaming. D'après la presse, la collaboration prévoit vérification, surveillance, permissions restreintes et supervision humaine. Les conditions financières n'ont pas été communiquées.

Les origines de la relation

OpenAI a découvert Hacktron grâce à son programme Security Bug Bounty et se dit impressionnée par la portée de ses trouvailles. Dans un compte rendu publié en septembre, Hacktron expliquait avoir combiné une exécution de code à distance dans le traitement des images du forum communautaire d'OpenAI, hébergé sur Discourse, avec un problème d'authentification unique chez OpenAI. Cela lui a donné accès aux comptes ChatGPT de plusieurs employés, avec un chemin possible vers Codex et une intégration GitHub.

Selon Hacktron, OpenAI a confirmé un correctif environ 14 heures après le signalement. OpenAI a versé une prime de 6 500 dollars le 1er septembre, en précisant qu'elle récompensait la faille côté OpenAI et non les tests visant le forum, exclus du périmètre. Hackread rapportait en septembre que l'équipe de trois personnes s'était aidée de Claude, d'Anthropic, notamment Claude Opus 5, pour mettre au point un exploit fonctionnel, et que l'ensemble avait pris moins de 72 heures.

Les zones d'ombre

La chronologie et les détails techniques proviennent surtout du récit de Hacktron et n'ont pas été vérifiés de façon indépendante. Hacktron reconnaît que ses recherches n'étaient pas entièrement autonomes et reposaient sur un encadrement humain expérimenté. Aucune des deux entreprises n'a précisé la durée du partenariat ni si ses résultats seront publiés.