León XIV dice a científicos de la IA que las máquinas son herramientas, no personas, y que ciertas decisiones deben seguir siendo humanas

El papa León XIV aprovechó una audiencia en el Vaticano el 30 de octubre para señalar dónde cree que deben estar los límites de la inteligencia artificial. Habló en la Sala del Consistorio del Palacio Apostólico ante científicos y expertos de varios países que participaban en "The Future of AI: A Dialogue between the Vatican and the Scientific World", un encuentro de un día organizado por la Pontificia Academia para la Vida y el Future of Life Institute, una organización sin ánimo de lucro centrada en los riesgos de las tecnologías avanzadas.

Herramientas, no personas

La idea central del discurso, que la Santa Sede publicó íntegro, fue que las máquinas son herramientas y no personas. El papa sostuvo que los sistemas de IA carecen de cuerpo, de experiencia vivida y de comprensión interior, y advirtió contra las propuestas de otorgarles derechos o personalidad jurídica. Hacerlo, dijo, oscurecería quién es responsable cuando algo falla y podría dejar a los perjudicados por la IA frente a una entidad sin rostro.

También afirmó que el rumbo de la IA no está predeterminado, sino que depende de decisiones humanas, por lo que las sociedades deben poder orientar, cambiar o rechazar determinados usos. A su juicio, un sistema fiable al servicio de las personas vale más que otro más potente cuyos efectos no pueden preverse ni controlarse.

Decisiones que no deben delegarse

Según Vatican News, el papa señaló que las decisiones que afectan a la vida, la libertad y el uso de la fuerza deben quedar bajo una supervisión humana efectiva, informada y responsable. Puso como ejemplos la inclusión de una persona en una lista de objetivos o en una base de datos de control fronterizo, donde los individuos corren el riesgo de quedar reducidos a un dato. Afirmó que la IA debe ser "desarmada" e instó a los Estados que se reunirán en Ginebra en noviembre a dar pasos concretos hacia la prohibición de las armas autónomas letales.

Instituciones antes que principios

Para León XIV, los principios éticos ya son ampliamente conocidos; lo que falta son instituciones capaces de aplicarlos. Pidió normas internacionales compartidas, supervisión independiente, responsabilidades claras y vías de reparación para quienes sufran daños, de modo que las decisiones basadas en IA puedan examinarse e impugnarse. También reclamó un reparto justo de los beneficios de la tecnología.

El discurso enlaza con pronunciamientos anteriores, como la encíclica Magnifica Humanitas, en la que se apoyó según EWTN News, y la intervención del papa Francisco ante el G7 en 2024. Se trata de una posición moral sin fuerza jurídica; está por ver si influye en las conversaciones de Ginebra sobre armas autónomas.