Le pape Léon XIV a appelé lundi à une réglementation stricte de l’intelligence artificielle et à ce que ses développeurs travaillent pour le bien commun plutôt que pour le profit, en publiant un manifeste complet sur la protection de l’humanité alors que l’intelligence artificielle affecte tout, du travail à la guerre.
La première encyclique de Léon, « Magnifica humanitas » (Grande Humanité), est très attendue depuis que le tout premier pape né aux États-Unis a annoncé quelques jours après son élection qu’il pensait que l’IA était le plus grand défi auquel l’humanité soit confrontée aujourd’hui.
Dans son texte, Leo dénonce la « culture du pouvoir » qui anime la concurrence en matière d’IA, notamment dans le développement de méthodes de guerre à distance de plus en plus sophistiquées. Il a déclaré qu’il était « inacceptable » de confier des décisions irréversibles et fatales aux systèmes d’IA, créant ainsi un nouveau conflit entre le pape américain et l’administration Trump, active dans la déréglementation du développement de l’IA.
« L’intelligence artificielle exige désormais d’être désarmée et libérée de la logique qui en fait un instrument de domination, d’exclusion et de mort », a déclaré le pape dans une présentation spéciale au Vatican de l’encyclique, l’un des textes les plus faisant autorité qu’un pape puisse publier.
Des experts de l’industrie technologique, du monde universitaire et de la moralité catholique ont déclaré que le document est susceptible de devenir une référence dans le débat autour de l’IA et un point de référence pour les décideurs politiques, les chercheurs et le grand public. Cela survient alors que les développements technologiques quasi quotidiens font craindre que l’IA ne remplace les emplois humains, voire l’intelligence humaine.
Taylor Black, responsable de l’IA chez Microsoft et directeur de l’Institut pour l’IA de l’Université catholique d’Amérique, a déclaré que le document forcerait les gens « en première ligne de ces outils » à se poser des questions telles que « Que signifie être humain ?
Le pape critique les sociétés d’IA lors de l’hébergement d’Anthropic
L’annonce du Vatican comprenait également des remarques du co-fondateur d’Anthropic, qui est actuellement engagé dans une bataille juridique avec l’administration Trump concernant l’accès à la technologie de l’IA. La décision du Vatican d’engager Anthropic fait partie d’un effort de dix ans visant à engager la Silicon Valley dans un dialogue sur les coûts humains de l’IA.
Pourtant, dans ses écrits, Leo a dénoncé à plusieurs reprises la concentration du pouvoir et des données entre les mains d’un petit nombre de personnes dans le secteur privé comme étant dangereuse, en particulier pour les enfants et les plus vulnérables, et a appelé à une réglementation externe de leur travail.
« Il ne suffit pas d’invoquer une éthique abstraite ; nous avons besoin de cadres juridiques solides, d’un contrôle indépendant, d’utilisateurs informés et de systèmes politiques qui n’abdiquent pas leurs responsabilités », écrit-il. « Une IA plus morale ne suffit pas si sa moralité est déterminée par un petit nombre de personnes. »
Leo a appelé les développeurs d’IA et les dirigeants politiques chargés de réglementer l’IA à ralentir et à réfléchir à leurs actions. Il les a exhortés à utiliser des directives éthiques et spirituelles pour faire le choix de travailler pour le bien de l’humanité plutôt que pour leur propre profit ou leur propre pouvoir.
Les concurrents de l’IA, OpenAI et Anthropic, sont les deuxième et troisième sociétés privées les plus valorisées aux États-Unis, valant chacune des centaines de milliards de dollars, soit plus que le PIB de nombreux pays. Les deux sociétés visent des introductions en bourse de près de mille milliards de dollars.
Le co-fondateur d’Anthropic, Christopher Olah, a accueilli favorablement les critiques et les préoccupations de Leo. Il a déclaré que de tels contrôles externes sont fondamentaux pour déterminer comment la technologie « fonctionnera » pour l’humanité, car l’enjeu est énorme avec « la possibilité réelle que l’IA remplace le travail humain à très grande échelle ».
« Les peuples du monde, les communautés religieuses, la société civile, les universitaires et les gouvernements ont besoin de plus et nous devons faire ce que le Pape a fait ici : prendre cela au sérieux, l’examiner attentivement et pousser les choses dans une meilleure direction », a déclaré Oler. « Nous avons besoin d’une voix morale qui ne puisse être influencée par des incitations. »
Les experts disent que le texte devient une référence
Dans un texte systématique, le pape, spécialisé en mathématiques, a retracé l’histoire de l’enseignement social dans l’Église catholique et a appliqué ses concepts fondamentaux de justice, de solidarité, de dignité du travail et de destination universelle des ressources à la révolution numérique.
« Je suis convaincu que ce sera un document déterminant de notre époque, un document profond et prophétique », a déclaré Paolo Carozza, professeur de droit à la faculté de droit de l’Université de Notre Dame et président du comité de surveillance Meta.
« Le pape Léon exprime une voix claire, complète et cohérente qui nous demande d’assumer la responsabilité de construire un monde dans lequel la technologie sert les humains plutôt que de les dégrader. »
Dans son chapitre le plus puissant, Leo a dénoncé la façon dont l’IA a contribué à favoriser la « normalisation de la guerre » en désensibilisant les gens à ses coûts. Bien qu’il n’ait mentionné aucun conflit spécifique, il a cité « un impérialisme rival entre les grandes puissances qui souhaitent maintenir l’hégémonie et d’autres grandes puissances qui souhaitent s’emparer de cette hégémonie ».
Il a appelé à la transparence et à la responsabilité de la part des développeurs d’IA afin que la chaîne de commandement chargée de la prise de décision concernant les attaques utilisant des armes d’IA soit toujours visible. Il a déclaré que la théorie de la « guerre juste » de l’Église catholique, qui établit des critères spécifiques pour justifier le recours à la force, est désormais « obsolète » compte tenu des progrès technologiques en matière de guerre.
Textes dans la tradition de justice sociale de l’Église
Léon a signé le document le 15 mai, jour du 135e anniversaire de la publication de Rerum Novarum (Sur le nouveau), le document éducatif le plus important de son héros et homonyme, le pape Léon XIII. Le document abordait les droits des travailleurs, les limites du capitalisme et les obligations de l’État et des employeurs envers les travailleurs au cours de la révolution industrielle.
C’est devenu une pierre angulaire de la pensée sociale catholique moderne, et le pape actuel, qui l’a cité au début de son pontificat à propos de la révolution de l’IA, estime que la révolution de l’IA pose les mêmes questions existentielles que la révolution industrielle posait il y a plus d’un siècle. Magnifica Humanitas est ainsi le dernier chapitre d’un siècle d’histoire papale au cours duquel les papes ont adapté Rerum Novarum aux enjeux sociaux de leur temps, en se concentrant souvent sur la dignité du travail pour l’épanouissement de l’humanité.
Le débat fait rage sur la question de savoir si l’IA sera un catalyseur qui enrichira l’humanité ou une toxine technologique qui émoussera l’intelligence humaine tout en effaçant des millions d’emplois bien rémunérés, évoquant à la fois une peur existentielle et des visions utopiques.
« La poursuite du bien commun ne peut pas justifier le choix de sacrifier systématiquement les emplois, car les humains sont une fin et non un moyen, et l’ordre économique doit rester subordonné à la dignité humaine et au bien commun », a écrit Leo.
Léon a exprimé son souci de préserver la dignité humaine au travail et a présenté les toutes premières excuses papales pour le rôle du Saint-Siège dans la légalisation de l’esclavage en donnant aux souverains européens des pouvoirs explicites pour conquérir et asservir les « infidèles ».
10 ans de dialogue avec la Silicon Valley
Les responsables du Vatican ont refusé de dire qui a contribué à l’encyclique de Léon. Mais les responsables du Vatican et de l’Église dialoguent depuis une décennie avec les entreprises technologiques de la Silicon Valley.
Certains y voient une approbation papale de la société d’IA, qui poursuit actuellement l’administration Trump après avoir ordonné à toutes les agences gouvernementales américaines de cesser d’utiliser la technologie d’Anthropic pour avoir refusé son utilisation sans restriction par l’armée américaine.
Brian Boyd, directeur de la foi américaine à l’Institut à but non lucratif Future of Life, a interprété la participation du co-fondateur d’Anthropic, Oller, comme une reconnaissance de l’excellence d’Anthropic dans le domaine, semblable à une audience papale avec un chef d’État, et non comme une approbation.
Anthropic est une « énorme entreprise qui a pris sur elle beaucoup de risques et de responsabilités », a déclaré Boyd, ajoutant que l’entreprise a « fait preuve d’une réelle bonne volonté, d’intégrité et d’un intérêt pour le dialogue ».
___
Winfield a rapporté de Middletown, Connecticut, et Fuamani a rapporté de Los Angeles. Les rédacteurs d’Associated Press Kelvin Chan à Londres et Colleen Barry à Milan ont contribué à ce rapport.
___
La couverture religieuse d’Associated Press reçoit un financement du Lilly Endowment Inc. et est soutenue par une collaboration entre The Associated Press et The Conversation US. AP est seul responsable de ce contenu.
