Le prince Harry et la duchesse Meghan, ainsi que d’éminents informaticiens, économistes, artistes, dirigeants chrétiens évangéliques et commentateurs conservateurs américains Steve Bannon et Glenn Beck, ont appelé à l’interdiction de la « superintelligence » de l’IA qui menace l’humanité.
La lettre, publiée mercredi par un groupe de personnalités politiques et géographiques diverses, s’adresse directement aux géants de la technologie comme Google, OpenAI et Meta Platforms, qui se font concurrence pour créer des formes d’intelligence artificielle conçues pour surpasser les humains dans de nombreuses tâches.
La lettre appelle à une interdiction à moins que plusieurs conditions ne soient remplies.
La déclaration de 30 mots se lit comme suit :
« Nous appelons à une interdiction du développement de la superintelligence, qui ne sera pas levée tant qu’il n’y aura pas un large consensus scientifique et une forte adhésion du public sur le fait que le développement de la superintelligence peut être réalisé de manière sûre et contrôlable. »
La lettre indique dans son préambule que les outils d’IA ont le potentiel d’apporter santé et prospérité, mais parallèlement à ces outils, « de nombreuses grandes sociétés d’IA ont pour objectif déclaré de construire une superintelligence au cours de la prochaine décennie qui surpasse largement les humains dans pratiquement toutes les tâches cognitives. risques. » Il existe également une possibilité d’extinction de l’humanité. »
Qui l’a signé et ce qu’ils en disent
Dans une note personnelle, le prince Harry a ajouté : « L’avenir de l’IA devrait servir l’humanité, et non la remplacer. Je crois que le véritable test du progrès n’est pas la vitesse à laquelle nous allons, mais la sagesse avec laquelle nous naviguons. Il n’y a pas de seconde chance. »
Aux côtés du duc de Sussex, son épouse, Meghan, duchesse de Sussex, a signé.
« Il ne s’agit pas d’une interdiction ou d’un moratoire au sens habituel du terme », a écrit un autre signataire, Stuart Russell, pionnier de l’IA et professeur d’informatique à l’Université de Californie à Berkeley. « Il s’agit simplement d’une proposition visant à exiger des garanties appropriées pour une technologie qui, selon ses développeurs, a le potentiel sérieux d’anéantir l’humanité. Est-ce trop demander ? »
Les pionniers de l’IA Joshua Bengio et Jeffrey Hinton, qui ont remporté conjointement le Turing Award, la plus haute distinction en informatique, ont également signé. Hinton a également remporté le prix Nobel de physique l’année dernière. Les deux hommes ont attiré l’attention sur les dangers de la technologie qu’ils ont contribué à développer.
Mais la liste comprend des noms surprenants, dont M. Bannon et M. Beck, et les organisateurs de la lettre de l’institut à but non lucratif Future of Life cherchent à faire appel au mouvement « Make America Great Again » du président Donald Trump, alors même que son personnel à la Maison Blanche cherche à réduire les restrictions sur le développement de l’IA aux États-Unis.
Le cofondateur d’Apple, Steve Wozniak, figure également sur la liste. Le milliardaire britannique Richard Branson. Mike Mullen, ancien président des chefs d’état-major interarmées des États-Unis, a servi sous les administrations républicaine et démocrate ; Susan Rice, une experte démocrate en politique étrangère qui a été conseillère à la sécurité nationale du président Barack Obama.
L’ancienne présidente irlandaise Mary Robinson et plusieurs parlementaires britanniques et européens ont signé, ainsi que les acteurs Stephen Fry et Joseph Gordon-Levitt, ainsi que le musicien William, qui intègre l’IA dans sa production musicale.
« Oui, nous voulons des outils d’IA spécifiques qui peuvent aider à traiter les maladies, à renforcer la sécurité nationale, et bien plus encore », a écrit Gordon-Levitt, dont l’épouse Tasha McCauley a siégé au conseil d’administration d’OpenAI avant le bouleversement qui a conduit au limogeage temporaire du PDG Sam Altman en 2023. « Mais l’IA doit-elle également imiter les humains, soigner nos enfants, nous transformer tous en accros louches et gagner des milliards de dollars pour ses services ? » Publicité? La plupart des gens ne veulent pas ça. »
Les inquiétudes concernant la superintelligence de l’IA alimentent-elles également le battage médiatique sur l’IA ?
La lettre est susceptible de déclencher un débat en cours au sein de la communauté des chercheurs en IA sur le potentiel d’une IA surhumaine, la voie technologique pour y parvenir et à quel point elle pourrait être dangereuse.
« Jusqu’à présent, c’était surtout une bataille entre nerds et nerds », explique Max Tegmark, directeur du Future of Life Institute et professeur au Massachusetts Institute of Technology. « Je pense que ce que nous constatons réellement ici, c’est à quel point la critique est devenue dominante. »
Pour compliquer le débat plus large, les mêmes entreprises qui luttent pour ce que l’on appelle la superintelligence ou l’intelligence artificielle générale (IAG) gonflent parfois les capacités de leurs produits, augmentant ainsi leur valeur marchande et contribuant aux inquiétudes concernant une bulle de l’IA. OpenAI a récemment été ridiculisé par des mathématiciens et des scientifiques en IA lorsque des chercheurs ont affirmé que ChatGPT résolvait un problème mathématique non résolu, alors qu’il ne faisait en réalité que trouver et résumer ce qui était déjà en ligne.
« Il y a beaucoup de battage médiatique auquel nous devons faire attention en tant qu’investisseurs, mais il n’en demeure pas moins que lorsque l’on fait un zoom arrière, les progrès de l’IA au cours des quatre dernières années ont été beaucoup plus rapides que prévu », a déclaré Tegmark.
Le groupe de Tegmark a également été impliqué dans une lettre de mars 2023, encore aux premiers jours du boom commercial de l’IA, demandant aux géants de la technologie d’arrêter temporairement le développement de modèles d’IA plus puissants. Aucune des grandes sociétés d’IA n’a répondu à cet appel. Et Elon Musk, le signataire le plus éminent de la lettre de 2023, fondait simultanément discrètement sa propre startup d’IA pour rivaliser avec les entreprises qui souhaitaient une pause de six mois.
Lorsqu’on lui a demandé s’il avait de nouveau contacté Musk, Tegmark a répondu qu’il avait écrit des lettres aux PDG de toutes les grandes sociétés américaines d’IA, mais qu’il ne s’attendait pas à ce qu’ils signent.
« Franchement, je me sens très mal pour eux parce qu’ils sont coincés au bas de cette course et ressentent une pression irrésistible pour continuer et ne pas se laisser dépasser par les autres », a déclaré Tegmark. « C’est pourquoi je pense qu’il est si important de déstigmatiser la course à la superintelligence, au point où le gouvernement américain intervient. »
