Léon XIV aux chercheurs en IA : les machines sont des outils, pas des personnes, et certaines décisions doivent rester humaines

Le pape Léon XIV a profité d'une audience au Vatican, le 30 octobre, pour préciser où devraient se situer selon lui les limites de l'intelligence artificielle. Il s'adressait, dans la salle du Consistoire du palais apostolique, à des scientifiques et experts venus de plusieurs pays pour « The Future of AI: A Dialogue between the Vatican and the Scientific World ». Cette rencontre d'une journée était coorganisée par l'Académie pontificale pour la vie et le Future of Life Institute, une organisation à but non lucratif qui alerte sur les risques des technologies avancées.

Des outils, pas des personnes

Le cœur du discours, publié intégralement par le Saint-Siège, tient en une formule : les machines sont des outils, et non des personnes. Le pape a fait valoir que les systèmes d'IA n'ont ni corps, ni expérience vécue, ni compréhension intérieure, et il a mis en garde contre les propositions visant à leur accorder des droits ou une personnalité juridique. Ce serait, selon lui, rendre floue la question de la responsabilité et laisser les victimes de l'IA face à une entité sans visage.

Il a aussi affirmé que l'avenir de l'IA n'est pas écrit d'avance : il dépend de choix humains, et les sociétés doivent pouvoir orienter, modifier ou refuser certains usages. Un système fiable au service des personnes vaut davantage, à ses yeux, qu'un système plus puissant dont on ne peut ni prévoir ni maîtriser les effets.

Des décisions à ne pas déléguer

D'après Vatican News, le pape a déclaré que les décisions touchant à la vie, à la liberté et au recours à la force doivent rester soumises à un contrôle humain effectif, éclairé et responsable. Il a cité l'inscription d'une personne sur une liste de cibles ou dans une base de données de contrôle aux frontières, où l'individu risque d'être réduit à une donnée. L'IA doit être « désarmée », a-t-il dit, en exhortant les États réunis à Genève en novembre à progresser concrètement vers une interdiction des armes létales autonomes.

Des institutions plutôt que des principes

Pour Léon XIV, les principes éthiques sont déjà largement connus ; ce qui manque, ce sont des institutions capables de les appliquer. Il a appelé à des normes internationales partagées, à un contrôle indépendant, à une responsabilité clairement établie et à des voies de recours pour les personnes lésées, afin que les décisions fondées sur l'IA puissent être examinées et contestées. Il a également demandé un partage équitable des bénéfices de la technologie.

Ce discours prolonge des prises de position antérieures, dont l'encyclique Magnifica Humanitas, à laquelle il s'est référé selon EWTN News, et l'intervention du pape François devant le G7 en 2024. Il s'agit d'une position morale sans valeur juridique ; son influence éventuelle sur les discussions de Genève reste à mesurer.