La bibliothèque de Princeton de Robert Wright attire des visiteurs du monde entier. Le journaliste et auteur chevronné, qui a déjà travaillé dans des médias tels que The New Republic, Time et The Atlantic, et a publié cinq livres, dont un sixième en juin, tient son tribunal devant une étagère pleine à craquer depuis des décennies.
Écrivain libéré par la révolution des blogs, il a fondé la plateforme d’interviews vidéo Bloggingheads.tv des années avant que les podcasts ne deviennent la nouvelle télévision de jour, et a tracé sa propre voie pendant des décennies. L’éditeur était un fervent observateur il y a plusieurs décennies lorsque de jeunes spécialistes des arts libéraux, d’Ezra Klein à Ta-Nehisi Coates en passant par Megan McArdle, se sont joints à nous pour parler à Bob via Skype. C’était donc un peu surréaliste de voir cette étagère familière et d’entendre cette voix familière qui correspondait à Fortune. Quand je lui ai dit la même chose, il a répondu avec son habituelle autodérision : « Eh bien, votre navire est arrivé. »
Au cours des cinq dernières années, Wright a basé son bulletin d’information très lu, NonZero, et son podcast, sur son livre du même nom vieux de 26 ans, qui soutient que l’histoire humaine est façonnée principalement par des dynamiques non à somme nulle, des rencontres dans lesquelles la victoire de l’un ne signifie pas nécessairement la défaite de l’autre. Autrement dit, la situation n’est généralement pas nulle. Il s’inspire des écrits de Wright sur le bouddhisme au fil des ans, qu’il considère comme une idée plutôt que comme une religion.
C’est pourquoi il a déclaré à Fortune dans une récente interview que la situation actuelle était si alarmante. Selon Wright, la situation ne concerne pas seulement l’intelligence artificielle, mais le concept d’« illumination » qui s’est perdu dans les années 2020.
« Cela va être un tremblement de terre à tous les niveaux : économique, culturel, politique, personnel, familial et psychologique », a déclaré Wright. « C’est ma prédiction. Et nous ferions mieux de nous y préparer. »
Moment tardif « Ah, c’est parti »
En 1983, Wright était un jeune journaliste en mission auprès de Jeffrey Hinton, des années avant que l’informaticien ne soit surnommé le « parrain de l’IA » et des années avant que Hinton ne démissionne de Google DeepMind, exprimant ses regrets quant à sa création. Comme l’explique Wright dans son prochain livre, The God Test: Artificial Intelligence and Our Coming Cosmic Reckoning, il a complètement raté la signification de ce qu’on lui a dit à propos de ce concept appelé « réseaux de neurones ».
« Je n’ai pas fait ça. Je n’ai même pas failli prendre une photo », a déclaré Wright. Il ne savait pas à l’époque que ce bricolage informatique conduirait à ce qui est aujourd’hui considéré comme un tournant, non seulement économique mais aussi civilisationnel. Il m’a dit que le grand test qui nous attend maintenant est de savoir si nous sommes qualifiés pour jouer à Dieu. Je ne sais pas si nous avons pu prouver cette capacité.
Wright a réalisé le véritable pouvoir de l’IA non pas en 1983, mais en 2023, lorsqu’il a commencé à expérimenter ChatGPT-4 alors qu’il était sous contrat pour un livre complètement différent sur l’empathie cognitive. Une expérience lui a rappelé Hinton. Il a présenté à GPT-4 des scénarios élaborés et superposés sur les étudiants et les professeurs et leur a demandé ce que ressentiraient les étudiants à la fin. La réponse du modèle en un seul mot est « schadenfreude ».
« Je me suis dit : ‘Oh mon Dieu' », se souvient Wright. « Vous comprenez vraiment la nature humaine et pouvez vous mettre dans la perspective d’un autre humain. »
L’expérience a ramené Wright à une conférence donnée par Hinton en 2018 sur le fonctionnement réel des modèles de langage à grande échelle. Les réseaux neuronaux mis au point par Hinton «sont comme une ingénierie inverse de l’esprit humain», a déclaré Wright, avertissant qu’il n’a jamais entendu de nombreux chercheurs en IA les décrire en ces termes. Cela inclut certaines fonctions cognitives que la sélection naturelle a développées au fil des millions d’années, a-t-il ajouté avec surprise.
« C’était ma grande idée fausse en 1983 », a-t-il ajouté. « Nous pensions que pour être bons en langage, nous devions intégrer dans les machines une compréhension humaine des liens entre les mots et leurs significations. » Mais ce n’était pas nécessaire. « C’est le genre de citation qui dit simplement ‘Je comprends’ que pour prédire avec succès comment une phrase se terminera, ou quoi que ce soit d’autre, vous avez besoin d’un moyen d’exprimer le sens des mots. » Et il a donné un exemple convaincant. Cela l’a aidé à clarifier un vague rapport d’IRM sur son propre cancer.
docteur et machine
M. Wright n’a actuellement plus de cancer, m’a-t-il dit. Son cancer de la gorge s’est propagé à ses ganglions lymphatiques, mais il a été traité avec succès et n’a pas eu de récidive depuis l’opération chirurgicale de 2025.
À un moment donné, il a déclaré à Fortune qu’il avait répété une histoire qu’il avait racontée sur NonZero en juillet 2025 et qu’il l’avait saisie dans divers chatbots alors qu’il essayait d’interpréter un rapport médical déroutant. Ils ont dit que quelque chose méritait d’être étudié.
Il a appliqué davantage de pression et a signalé des passages étranges. Claude d’Antropic a détecté ce que les radiologues ont manqué. « Claude a dit : ‘Eh bien, le radiologue allait mettre le mot ‘non’ au début de cette phrase, ce qui signifie ‘aucune anomalie n’a été trouvée’.
L’IA a trouvé une erreur grammaticale importante, une erreur humaine, qui pourrait brouiller notre compréhension de sa guérison.
« On dit que l’IA hallucine et fait des erreurs », a déclaré Wright. « Les humains font des erreurs. Cet humain a fait une erreur, et il est médecin, d’accord, et il parle de choses assez importantes. » La question, comme l’a dit Wright, n’est pas de savoir si l’IA « prendra nos emplois, sera nos amants et fera tout le reste », mais plutôt si l’IA sera « d’une certaine manière globalement meilleure que les personnes qui remplissaient ces rôles ». La réponse est si évidente que Light va de soi.
« Il n’est pas nécessaire qu’il soit parfait pour remplacer les humains, d’autant plus que ce sera beaucoup moins cher et plus rapide », a déclaré Wright.
Les opinions de Wright sur l’IA sont similaires à sa position sur le bouddhisme. Plutôt que d’être religieux, il s’agit d’une variante laïque et occidentalisée basée sur la recherche journalistique et la réflexion sur les principes premiers. Son livre de 2017, Why Buddhism Is True, décrit son engagement dans le bouddhisme comme un long voyage personnel antérieur au livre lui-même, enraciné dans ses premières recherches en psychologie évolutionniste. L’objectif explicite de Wright n’est pas d’attirer les lecteurs vers le bouddhisme en tant que religion, mais de soutenir que ses idées psychologiques fondamentales, en particulier celles concernant la souffrance et la perception, sont validées par la biologie évolutionniste et la science moderne.
« Idéologie du suicide »
Si le sismisme de Wright est largement conforme à celui de personnalités telles que le PDG d’Anthropic, Dario Amodei, et Mustafa Suleiman de Microsoft, qui ont tous deux mis en garde contre des perturbations dramatiques à court terme, son écart le plus marqué par rapport à l’establishment de l’IA de la Silicon Valley concerne la géopolitique.
En particulier, M. Amodei a présenté l’IA comme une compétition pour la survie avec la Chine et a fait valoir que la domination américaine est essentielle pour garantir le développement sûr de la technologie. Wright a qualifié cela d’« idéologie suicidaire ».
« M. Dalio nous considère comme étant engagés dans une course existentielle à l’IA avec la Chine. Personnellement, je pense que cette réflexion va nous conduire à un très, très, très mauvais résultat », a déclaré Wright.
Il pensait que M. Amodei était « plus honnête que la plupart des gens », mais a fait valoir que l’ensemble du cadre était dangereusement défectueux. Pour Wright, fidèle à ses convictions non nulles, la seule façon de gérer l’IA en toute sécurité passe par la coordination mondiale et non par la concurrence. Selon lui, la logique d’une course aux armements exclut le type même de gouvernance coopérative qui pourrait empêcher une catastrophe.
C’est une manière très peu bouddhiste d’aborder les questions existentielles, a-t-il admis avec un sourire ironique. En d’autres termes, chaque pays s’accroche à son propre point de vue, convaincu de sa justesse et aveugle à tout autre point de vue.
Il a déclaré que ses frustrations à l’égard d’Anthropic se sont accrues plus récemment après que la société a reconnu publiquement que l’auto-amélioration récursive (où les systèmes d’IA s’améliorent de manière autonome) pourrait être à l’horizon. L’entreprise a indiqué la nécessité d’une coordination mondiale mais n’a pas fourni de plans spécifiques.
« Attendez une minute, Dario. Vous prédisez ce moment précis depuis des années et vous n’avez pas de plan ? » » a demandé Wright, énumérant quelques adjectifs assez colorés. « Vous n’avez pas dépensé 100 $ pour savoir ce dont vous avez besoin ? »
Il a noté qu’Anthropic devrait bientôt être introduit en bourse pour une valorisation proche de 1 000 milliards de dollars. « N’est-ce pas parce que les incitations financières vont dans une direction différente ?
Antropic a refusé de commenter.
Le test de Dieu, pas une prophétie de malheur
Malgré sa méfiance, M. Wright résiste à être qualifié de pur destructeur, et son autodérision et sa bonne humeur sont évidentes tout au long de la conversation.
Le titre « Le procès de Dieu » est en partie une métaphore biblique et, dans tout l’Ancien Testament, le salut est offert sous certaines conditions, a-t-il déclaré. Mettez-vous en forme ou faites face aux conséquences. Le choix est réaliste.
« Nous sommes confrontés à une sorte de moment culminant intéressant dans toute notre histoire évolutive », a déclaré Wright. « Nous créons des formes d’intelligence entièrement nouvelles qui n’ont jamais été vues auparavant, sur de nouveaux substrats qui ne sont pas basés sur le carbone. Et si nous voulons provoquer du bien plutôt que du mal, nous ferions mieux de reconnaître rapidement que nous allons trop vite et de manière imprudente. Et nous devons nous rassembler en tant que communauté mondiale unie. »
Il a souligné deux développements récents comme autant de raisons d’espérer. L’un est la reprise du dialogue entre les États-Unis et la Chine sur la sécurité de l’IA, et l’autre est le revirement de l’administration Trump sur la politique de révision des modèles d’IA puissants, une position qu’elle avait auparavant ridiculisée sous l’administration Biden. « Le changement peut se produire », a déclaré Wright. « J’espère juste que le développement se poursuivra sans que de nombreuses personnes ne soient tuées. »
La seule façon de réussir le test de Dieu, a-t-il ajouté, est de modéliser ce qu’il appelle « l’illumination ». Il ne l’entend pas dans le sens occidental du Voltaire du XVIIIe siècle, des sarongs et des perruques, mais il précise clairement que c’est plus proche d’un concept bouddhiste. «Cela équivaut vraiment à une conscience et une pensée claires», a-t-il déclaré. « Il s’agit de transcender toutes sortes de préjugés cognitifs et perceptuels qui nous sont inhérents et qui font obstacle à une vision du monde équilibrée. C’est comme voir le monde sous un angle différent du vôtre. »
Wright a offert une « vue depuis Mars » sur l’état de l’humanité et à quoi elle devrait ressembler, ce qu’il a admis être difficile à entendre sans penser à Elon Musk. SpaceX de Musk a été la première entreprise avec pour mission claire de faire de la vision de David Bowie de vivre sur Mars une réalité.
« Elon Musk me semble donc à l’opposé de l’illumination », a déclaré Wright. « Il est alarmant que l’homme le plus riche du monde ne puisse échapper à son propre point de vue. »
Il a ajouté que le salut pour les temps non éclairés dans lesquels Wright voit le monde vivre viendra de « de nombreuses personnes, y compris des personnes influentes, capables de mieux voir le monde en dehors de leur propre perspective. »
L’éditeur a demandé à Wright s’il plaidait pour un avenir semblable à celui de Star Trek, une confédération de planètes qui gérerait pacifiquement les problèmes et résoudrait les conflits sous un système de gouvernement unique. Il a souligné que Star Trek ne peut être vu en dehors du contexte de sa première dans les années 1960, soit 20 ans seulement après la catastrophe de la Seconde Guerre mondiale. « C’est comme ça. Les catastrophes conduisent à une réflexion dramatique et ambitieuse sur le réalignement du commandement… Dans ce cas, j’espère qu’il ne faudra pas une véritable catastrophe pour prendre au sérieux la coordination internationale. »
Il a dit qu’il recherchait un autre classique de la science-fiction sur le débat sur l’IA, Le jour où la Terre s’arrêta. Comme Star Trek, il s’agissait d’un drame sur la dissuasion nucléaire, mais il incluait des extraterrestres venus sur Terre avec un message : « Travaillez ensemble, formez une communauté internationale et contrôlez les choses. »
D’une certaine manière, dit-il, l’IA « n’est peut-être pas aussi dramatique, mais elle envoie un message similaire ». Il est revenu à une métaphore biblique pleine d’exemples où le salut est possible, en disant : « Mais vous devez vous ressaisir, vous devez devenir une meilleure personne… Vous devez améliorer votre jeu moralement et mentalement dans un sens, sinon de mauvaises choses arriveront, de très mauvaises choses arriveront. Mais si vous faites la bonne chose, de très bonnes choses peuvent arriver. »
