Le pape Léon XIV a publié lundi sa première encyclique, intitulée Magnifica Humanitas, sur « la sauvegarde de la personne humaine à l’heure de l’intelligence artificielle ». Et même si l’IA est le piège, les problèmes sur lesquels Leo se concentre sont plus anciens et plus répandus : les inégalités, la guerre, l’érosion de la démocratie et la concentration du pouvoir entre les mains de ceux qui ne se soucient pas nécessairement de savoir si l’humanité dans son ensemble reste magnifique.
Tout au long du document de 200 pages, que le pape a présenté aux côtés du cofondateur d’Anthropic, Chris Olah, Leo soutient que la technologie construite et gouvernée par une petite élite ne peut pas, par définition, servir le bien commun.
« Lorsqu’un tel pouvoir est concentré entre les mains de quelques-uns, il a tendance à devenir opaque et à échapper au contrôle public, augmentant ainsi le risque de formes de développement déformées qui donnent naissance à de nouvelles dépendances, exclusions, manipulations et inégalités », écrit-il.
« En fait, comme pour tout changement technologique majeur, l’IA tend à amplifier le pouvoir de ceux qui possèdent déjà des ressources économiques, une expertise et un accès aux données », poursuit l’encyclique, soulignant les inquiétudes selon lesquelles les élites peuvent utiliser leur pouvoir pour « façonner l’information et les modes de consommation, influencer les processus démocratiques et orienter la dynamique économique à leur propre avantage ».
L’encyclique intervient quelques jours après que le président Donald Trump a retardé la signature de son décret sur l’IA, qui aurait permis au gouvernement de superviser les nouveaux modèles avant leur lancement, apparemment à la demande de l’investisseur en capital-risque et ancien tsar de l’IA à la Maison Blanche, David Sacks.
Le pape Léon a appelé à ce que l’IA soit guidée par « des critères clairs et une surveillance efficace » fondée sur la participation des communautés qui seront affectées par elle. Plus concrètement, Leo a appelé à la fin de la course aux armements en matière d’IA « pour des algorithmes toujours plus puissants et des ensembles de données plus vastes » qui, selon les entreprises et les pays, « assureront une domination géopolitique ou commerciale ».
« Désarmer signifie discréditer l’hypothèse selon laquelle le pouvoir technique confère automatiquement le droit de gouverner », a-t-il écrit.
Encore une fois, ces dynamiques prédisent l’IA. Le Rerum Novarum du pape Léon XIII de 1891 traitait de la même concentration du pouvoir pendant la révolution industrielle, mais nous n’avons pas besoin de regarder aussi loin en arrière. L’acquisition de Twitter par Elon Musk et le déploiement de la plateforme pour aider à élire Trump ; les centaines de millions affluant des élites technologiques vers les super PAC pour bloquer la réglementation de l’IA – le genre de modèle qui a clairement inspiré le travail de Léon XIV.
Le pape arrive à la même conclusion à laquelle beaucoup sont arrivés : la puissance et les capacités surréalistes de l’IA d’aujourd’hui augmentent considérablement les enjeux.
Paolo Carozza, professeur à la faculté de droit de Notre Dame, membre de l’Académie pontificale des sciences sociales et président du Meta Oversight Board, a déclaré à TechCrunch que la désinformation et les deepfakes générés par l’IA « ont rongé notre capacité à reconnaître ce qui est vrai et ce qui ne l’est pas, et cela a de réelles conséquences sur la politique démocratique ». La pratique de l’industrie technologique consistant à « récolter et manipuler » les données humaines, a-t-il ajouté, pose « des défis fondamentaux à la liberté cognitive ».
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
