LO ESENCIAL EN 30 SEGUNDOS

  • Politico informó el 28 de octubre de que el Election Operations Center de OpenAI, con cientos de personas, funcionará desde esta semana hasta que termine el recuento.
  • Lo dirige Josh Lawson, responsable de riesgo cívico y estratégico, y sigue la desinformación, los abusos de ChatGPT y los comportamientos inesperados de los modelos.
  • Se suma a las salvaguardas anunciadas en mayo, como los resultados de AP en ChatGPT y las marcas SynthID y C2PA en imágenes generadas.

A pocos días de las elecciones de medio mandato del 3 de noviembre en Estados Unidos, OpenAI ha puesto en marcha un centro de operaciones dedicado a los comicios, según publicó Politico el 28 de octubre. El medio lo describe como una «sala de guerra» que reúne a personal de varios equipos de la empresa, con una plantilla de cientos de personas. Empieza a funcionar esta semana y seguirá activo hasta que se hayan contado todos los votos.

Qué hará el centro

De acuerdo con Politico, al frente está Josh Lawson, responsable de riesgo cívico y estratégico de OpenAI, que lo presenta como una forma de coordinar a los equipos para responder con rapidez a los problemas que surjan. Su cometido abarca la desinformación y otros intentos de alterar la votación, el uso indebido de productos como ChatGPT, los avisos sobre comportamientos inesperados de los modelos, las posibles infracciones de las condiciones de uso y los acontecimientos en tiempo real. También vigilará dos integraciones con socios: Democracy Works, que aporta datos sobre inscripción y colegios electorales, y Associated Press, que facilita los resultados en directo.

La página de OpenAI sobre salvaguardas electorales no menciona el centro: la cifra de personal y su alcance proceden de Politico. Otras plataformas, como Meta, ya han montado estructuras similares en procesos electorales anteriores.

Las medidas ya anunciadas

En una entrada publicada el 27 de mayo, OpenAI explicó que ChatGPT mostraría la noche electoral los recuentos en directo de AP en Estados Unidos y Brasil, y que recurriría a Democracy Works para la información práctica sobre el voto. Las imágenes creadas con ChatGPT, Codex o la API llevarán marcas de agua SynthID y metadatos C2PA, y hay una herramienta pública de verificación en fase preliminar. La empresa asegura que sus normas prohíben la injerencia electoral, desmovilizar a los votantes y los mensajes de campaña masivos a favor o en contra de candidatos, y que su equipo de investigación rastrea operaciones de influencia encubiertas. También mencionó reuniones informativas con responsables electorales estatales y su apoyo a dos proyectos de ley del Senado sobre engaños con IA en elecciones.

Lo que sigue abierto

Politico recuerda que OpenAI informó este mismo mes de operaciones de «fachada» vinculadas a Rusia e Irán que usaban sus modelos. Cita además un estudio del Brennan Center según el cual ChatGPT fue la única de seis herramientas de IA populares que avanzó de forma notable frente a los bulos electorales desde mayo. Está por ver si una vigilancia de pocas semanas basta ante ultrafalsificaciones que circulan sobre todo en otras plataformas. OpenAI no ha dicho si publicará un balance de lo que detecte el centro.