AP: piden a responsables del centro estadounidense de evaluación de IA que informen de manera informal a la Casa Blanca

Al personal del principal organismo del Gobierno de Estados Unidos dedicado a evaluar la IA se le ha pedido que informe de manera informal a una oficina de la Casa Blanca, según dos exfuncionarios que hablaron con Associated Press bajo anonimato. La división, que depende del Departamento de Comercio, se llama ahora Center for Advancing Innovation and Standards for Super Intelligence (CAISSI); hasta hace poco era el Center for AI Standards and Innovation. AP no identificó la oficina de la Casa Blanca implicada.

Un centro en plena inestabilidad

AP describe una organización a la que le cuesta retener a sus líderes. Un director nombrado en abril fue destituido a los pocos días y su sucesor dimitió al cabo de unos meses. Desde entonces, el jefe del instituto del que depende el centro ejerce como director interino. El centro también dejó de publicar sus investigaciones, y en agosto el Congreso preguntó por qué ya no difundía informes sobre la seguridad de ciertos sistemas de IA. Su presupuesto anual es de 10 millones de dólares, alrededor de una octava parte del de su homólogo británico, según AP.

La información de AP llega después de que, en octubre, Reuters recogiera un artículo de The Information según el cual tres altos cargos del CAISSI, cuyos nombres no se dieron, se trasladarían a la Casa Blanca para responder ante Michael Kratsios, director de la Oficina de Política Científica y Tecnológica, y ante el director nacional de Ciberseguridad, Sean Cairncross. Un funcionario de la Casa Blanca alegó entonces problemas de coordinación con Comercio.

Dudas sobre su independencia

Los críticos citados por AP temen que un mayor control político condicione las conclusiones en ámbitos delicados como la ciberseguridad o las armas biológicas, o que las suavice en favor de la industria. Amos Toh, del Brennan Center for Justice, considera que decisiones de este calibre deberían explicarse en público. Logan Koepke, de la organización Upturn, se pregunta qué papel tendrían las pruebas públicas si las grandes empresas recurren a sus propios evaluadores o a terceros contratados. Quienes defienden el cambio sostienen que la cercanía al presidente podría dar más visibilidad al centro y quizá más fondos.

La respuesta del Gobierno

La Casa Blanca no contestó a las preguntas concretas de AP sobre el CAISSI. En un comunicado, aludió a la nueva «Super Intelligence Force» creada por el presidente y dirigida por el director de Inteligencia Nacional, Jay Clayton, y a un informe sobre riesgos encargado a su consejo asesor científico, el PCAST. AP señala que el Gobierno aún no ha explicado cómo supervisará los compromisos voluntarios de seguridad que pidió a las empresas de IA en septiembre.