L'ESSENTIEL EN 30 SECONDES

  • Des responsables du Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) ont récemment été invités à rendre compte officieusement à un service de la Maison-Blanche, selon deux anciens responsables interrogés par AP.
  • Le centre n'a plus de directeur permanent, a cessé de publier ses travaux et dispose d'environ 10 millions de dollars par an, soit près d'un huitième du budget de son homologue britannique, d'après AP.
  • La Maison-Blanche n'a pas répondu aux questions d'AP ; en octobre, Reuters relayait une information de The Information selon laquelle trois hauts responsables du CAISSI rejoindraient la Maison-Blanche.

Le personnel du principal organisme fédéral américain d'évaluation de l'IA a été invité à rendre compte de manière informelle à un service de la Maison-Blanche, selon deux anciens responsables gouvernementaux qui se sont confiés anonymement à l'Associated Press. Rattachée au département du Commerce, cette division s'appelle désormais Center for Advancing Innovation and Standards for Super Intelligence (CAISSI) ; elle portait encore récemment le nom de Center for AI Standards and Innovation. AP ne précise pas de quel service de la Maison-Blanche il s'agit.

Un centre en pleine instabilité

AP décrit une structure qui peine à garder ses dirigeants. Un directeur nommé en avril a été limogé au bout de quelques jours, et son successeur a démissionné après quelques mois. Depuis, c'est le responsable de l'institut dont dépend le centre qui assure l'intérim. Le centre a aussi cessé de publier ses recherches ; en août, le Congrès a demandé pourquoi il ne diffusait plus ses rapports sur la sûreté de certains systèmes d'IA. Son budget annuel est de 10 millions de dollars, environ un huitième de celui de son homologue britannique, selon AP.

Ces révélations font suite à un article de The Information, repris par Reuters en octobre, selon lequel trois hauts responsables du CAISSI, non nommés, devaient rejoindre la Maison-Blanche et rendre compte à Michael Kratsios, directeur de l'Office of Science and Technology Policy, et au directeur national de la cybersécurité, Sean Cairncross. Un responsable de la Maison-Blanche invoquait alors des problèmes de coordination avec le Commerce pour justifier ce rapprochement.

Des craintes pour l'indépendance

Les critiques cités par AP redoutent qu'un contrôle politique plus étroit n'oriente les conclusions sur des sujets sensibles comme la cybersécurité ou les armes biologiques, ou ne les adoucisse au profit de l'industrie. Amos Toh, du Brennan Center for Justice, estime que des décisions de cette ampleur devraient être justifiées publiquement. Logan Koepke, de l'organisation Upturn, se demande quel rôle resterait aux tests publics si les grandes entreprises s'appuient sur leurs propres évaluateurs ou sur des prestataires. Les partisans du changement jugent au contraire que la proximité avec le président pourrait accroître la visibilité du centre, voire son financement.

La réponse de l'administration

La Maison-Blanche n'a pas répondu aux questions précises d'AP sur le CAISSI. Dans un communiqué, elle a mis en avant la nouvelle « Super Intelligence Force » créée par le président et dirigée par le directeur du renseignement national, Jay Clayton, ainsi qu'un rapport sur les risques commandé à son conseil scientifique, le PCAST. AP relève que l'administration n'a toujours pas expliqué comment elle contrôlera les engagements volontaires de sûreté demandés aux entreprises d'IA en septembre.