L'ESSENTIEL EN 30 SECONDES

  • Politico a révélé le 28 octobre que l'Election Operations Center d'OpenAI, qui mobilise des centaines de personnes, fonctionnera de cette semaine jusqu'à la fin du dépouillement.
  • Dirigé par Josh Lawson, responsable des risques civiques et stratégiques, il suit la désinformation, les abus de ChatGPT et les comportements inattendus des modèles.
  • Il complète les garde-fous présentés en mai : résultats de l'AP dans ChatGPT, marquages SynthID et C2PA sur les images générées.

À l'approche des élections de mi-mandat américaines du 3 novembre, OpenAI a mis sur pied un centre d'opérations consacré au scrutin, a rapporté Politico le 28 octobre. Le média le décrit comme une « war room » qui rassemble des employés de plusieurs équipes, pour un effectif de plusieurs centaines de personnes. Le dispositif démarre cette semaine et restera actif jusqu'à ce que toutes les voix aient été comptées.

Le rôle de cette cellule

D'après Politico, le centre est piloté par Josh Lawson, responsable des risques civiques et stratégiques chez OpenAI, qui explique vouloir réunir les équipes pour réagir rapidement aux problèmes qui surgissent. Son périmètre couvre la désinformation et les autres tentatives de perturber le vote, les détournements de produits comme ChatGPT, les signalements de comportements inattendus des modèles, les violations présumées des conditions d'utilisation et l'actualité en temps réel. Il surveillera aussi deux intégrations partenaires : Democracy Works, qui fournit les informations sur l'inscription et les bureaux de vote, et l'Associated Press, qui transmet les résultats en direct.

La page d'OpenAI consacrée aux garde-fous électoraux ne mentionne pas ce centre : l'effectif et le détail de ses missions proviennent donc de l'article de Politico. D'autres plateformes, dont Meta, ont déjà monté des structures comparables lors de scrutins précédents.

Les mesures déjà annoncées

Dans un billet publié le 27 mai, OpenAI indiquait que ChatGPT afficherait le soir des élections les décomptes en direct de l'AP aux États-Unis et au Brésil, et s'appuierait sur Democracy Works pour les informations pratiques. Les images produites avec ChatGPT, Codex ou l'API doivent porter un filigrane SynthID et des métadonnées C2PA, et un outil public de vérification est en préversion. L'entreprise affirme que ses règles interdisent l'ingérence électorale, la démobilisation des électeurs et les messages de campagne à grande échelle pour ou contre des candidats, et que ses enquêteurs traquent les opérations d'influence clandestines. Elle évoquait aussi des réunions d'information avec les responsables électoraux des États et son soutien à deux propositions de loi sénatoriales sur les contenus trompeurs générés par IA.

Les incertitudes

Politico rappelle qu'OpenAI a signalé ce mois-ci des opérations dites de « façade » liées à la Russie et à l'Iran, qui utilisaient ses modèles. Le média cite également une étude du Brennan Center selon laquelle ChatGPT est le seul de six outils d'IA populaires à avoir nettement progressé face aux fausses informations électorales depuis mai. Reste à savoir si une surveillance de quelques semaines suffira face à des hypertrucages qui circulent surtout sur d'autres plateformes. OpenAI n'a pas indiqué s'il publierait un bilan de ce que le centre aura détecté.