Jeffrey Hinton avait du mal à croire qu’il avait remporté le prix Nobel.
Lorsque le comité s’est réuni en 2024, l’informaticien de 77 ans a effectué un simple calcul dans sa tête. Il s’est demandé : quelles sont les chances qu’un psychologue théoricien caché dans l’informatique remporte le prix Nobel de physique ? « Eh bien, probablement une personne sur deux millions », a-t-il déclaré lors du sommet Sana AI à New York la semaine dernière. Encore une fois, quelles sont les chances que vous rêvez de gagner ? « Probablement 1 sur 2 millions… ce qui signifie qu’il est un million de fois plus probable qu’il s’agisse d’un rêve que d’une réalité. »
Le public a ri. Hinton n’avait pas fini.
Plusieurs jours après l’annonce, il s’attendait à moitié à se réveiller. La seule chose qui l’a réconforté, a-t-il dit, c’est : « Si c’était un rêve, je me réveillerais et le cauchemar de Trump devenant président ne serait pas vrai ». battre. Le public a ri lorsque Hinton a ajouté : « J’abandonnerais pour ça. »
Cette affirmation serait interprétée différemment si l’homme qui a fait cette déclaration croyait qu’il y avait 10 à 20 % de chances que l’IA anéantisse l’humanité d’ici 30 ans, et qu’elle dépasse l’intelligence humaine pour le reste de sa vie.
« C’est beaucoup plus intelligent. »
Hinton était en conversation avec Joel Hellermark, 29 ans, fondateur et PDG de Sana AI, qui lui avait promis un prix Nobel lors de sa dernière apparition sur cette scène. Cette fois, Hellermark avait une question encore plus difficile. Et Hinton, avec sa manière tranquille et parfois hilarante qui le caractérise, a répondu avec des réponses à la fois techniquement précises et cosmiquement vertigineuses.
Conclusion : non seulement nous construisons des êtres, mais ils seront beaucoup plus intelligents que nous. Et le temps presse pour décider qui ils devraient être.
« Je pense que ce sera beaucoup plus intelligent que nous. C’est mon hypothèse », a déclaré Hinton. Plus personne ne les battra au Go ou aux échecs, prédit-il, et regardez comment ça se passe en mathématiques.
plus intelligent qu’Einstein
Il ne parlait pas de manière abstraite. Ce matin-là, pour son plus grand plaisir, l’IA a prouvé l’un des théorèmes mathématiques de Paul Erdos en utilisant un domaine mathématique que personne n’avait pensé à appliquer. Pour Hinton, c’était un tournant. Dans un système fermé comme les mathématiques, l’IA peut générer ses propres suppositions, les tester, apprendre de ses erreurs et les synthétiser à l’infini, a-t-il expliqué. C’est de la même manière qu’AlphaGo, basé sur l’IA, a commencé par imiter les mains d’experts et les a effacés au moment où il a commencé à générer ses propres données d’entraînement.
Les modèles linguistiques, a-t-il soutenu, suivent la même trajectoire. Aperçu clé : donnez au modèle quelques croyances et demandez-lui de déduire de nouvelles conclusions qui contredisent ce qu’il croit déjà. Cela créerait une contradiction. Il s’agit d’un signal de formation qui ne nécessite pas d’utilisation de nouvelles données. « Je pense que cela signifie que même sans plus de données, ces modèles linguistiques peuvent devenir considérablement plus intelligents », a-t-il déclaré, notant que son collègue lauréat du prix Nobel Demis Hassabis « pense la même chose ». Sa prédiction : l’IA dépassera les meilleurs mathématiciens du monde d’ici 10 ans. À long terme, l’écart entre la meilleure IA d’aujourd’hui et Albert Einstein va également se réduire. « Peut-être pas dans les prochaines années, mais si l’on pense aux 20 prochaines années, je pense que quelque chose comme ça va se produire. »
« C’est le système capitaliste. »
C’est là que l’argument de Hinton passe de la prédiction à l’avertissement, et c’est là qu’il est devenu un peu plus aigu au cours de la majeure partie des trois dernières années.
Lorsque Hinton a quitté Google en 2023, affirmant qu’il regrettait le travail de sa vie, ses inquiétudes concernaient en grande partie les mauvais acteurs et la perte de contrôle humain. D’ici 2025, l’IA est devenue quelque chose de plus structurel. Il a fait valoir que l’IA provoquerait un chômage de masse tandis que les profits monteraient en flèche. Cela n’est pas dû à quoi que ce soit d’inhérent à la technologie, mais plutôt au système économique qui la met en œuvre. « Ce qui va réellement se passer, c’est que les riches utiliseront l’IA pour remplacer les travailleurs », a-t-il déclaré en septembre dernier. « Ce n’est pas la faute de l’IA. C’est la faute du système capitaliste. »
En août dernier, il a déclaré que les entreprises technologiques devraient intentionnellement concevoir des modèles pour donner à l’IA un « instinct maternel » et lui faire prendre soin des humains et vouloir les protéger, plutôt que d’accumuler du pouvoir sur eux. Et pas plus tard qu’en mars, il a averti que les grandes entreprises technologiques recherchaient le profit plutôt que la sécurité sans avoir de plan significatif sur ce qui se passerait après l’arrivée de la superintelligence.
Au Sommet de Sana, tous ces fils ont convergé vers un débat philosophiquement complet. Selon Hinton, la question n’est pas seulement de savoir ce que fera l’IA. Il s’agit du type d’êtres que nous créons et de qui crée.
Pour expliquer ce danger, Hinton s’est tourné vers la biologie évolutionniste. La nature humaine – notre tribalisme, notre loyauté envers des dirigeants forts, notre volonté d’être « très méchante envers les autres tribus » – n’est pas une manifestation délibérée. Il est né de millions d’années de compétition entre groupes de chimpanzés. La main invisible de la sélection naturelle n’a pas optimisé la gentillesse. Optimisé pour la survie. Et la survie exigeait une loyauté farouche envers son propre groupe et une indifférence, ou pire, envers tous les autres.
Aujourd’hui, le capitalisme met en œuvre la même stratégie. « Ce à quoi nous assistons actuellement est une course entre les entreprises pour créer l’IA la plus intelligente, capable de faire la plupart des choses », a-t-il déclaré. « Je pense que cela créerait une mauvaise présence pour nous. »
Il a soulevé la question des incitations sans aucune couverture diplomatique. « Si j’avais des options d’achat d’actions et que je voulais atteindre 1 000 milliards de dollars tout de suite, je doublerais la mise, je construirais un ordinateur géant et je le ferais. Si l’avenir de l’humanité m’intéresse, je pourrais tenter une série de paris dans l’espoir de développer un être meilleur. » Mais l’expérience Evolution a duré des milliards d’années, et l’industrie de l’IA mène des expériences par trimestre.
Il y a à peine deux mois, OpenAI a publié un document politique de 13 pages affirmant que la superintelligence est si transformatrice que nous avons besoin de quelque chose comme un New Deal. Réfutation de Hinton : L’Institut commence enfin à parler ouvertement de superintelligence, mais il n’a pas encore demandé quel genre d’êtres superintelligents il crée.
« Tout le monde veut plus d’informations », a-t-il déclaré. « Mais quand on pense aux êtres, ils ont bien plus à offrir que l’intelligence. Et nous devons être très préoccupés. Nous créons ces êtres, et nous devons être très soucieux qu’ils deviennent des êtres qui se soucient de nous. Et nous pouvons toujours le faire. Mais personne n’y met beaucoup d’efforts. »
Hinton a prédit que la création par l’humanité d’un nouveau type d’être serait la troisième plus grande humiliation de l’histoire intellectuelle de l’humanité. Vint d’abord Copernic, qui rétrograda la Terre du centre de l’univers. Puis Darwin nous a dit que nous étions des animaux. Eh bien, ça.
« Je pense qu’une nouvelle révolution se produira lorsque nous ne serons pas les seuls », a-t-il déclaré. « Maintenant, les gens réagissent de la même manière qu’avec Copernic et Darwin : ‘Non, non, non, il y a quelque chose de vraiment spécial chez les humains.' » Hinton a déclaré qu’il pense que les humains sont effectivement spéciaux – pour les autres, mais « je ne pense pas qu’il y ait quelque chose en nous que l’IA ne comprendra pas en fin de compte. »
Hinton a fait valoir que la solution relève davantage de la parentalité que de l’ingénierie. Vous ne pouvez pas développer l’intelligence et supposer que le bien suivra. Vous devez le modéliser, le nourrir et le gérer dès le début. Il a déjà fait valoir ce point, mais jamais plus clairement. Sur les données d’entraînement : « Appreindriez-vous à votre enfant à lire le journal d’un tueur en série ? Probablement pas. C’est très bien. Voici la réponse. »
le pape n’est pas d’accord
Tout le monde n’accepte pas cette prémisse. Gary Marcus, un scientifique cognitif et sceptique de longue date en matière d’IA, a émis une réfutation acerbe quelques jours plus tard. « Les chercheurs du LLM ne créent pas l’existence », a écrit Marcus sur Substack. « Ils créent une fiction interactive entraînée à prédire le langage d’êtres réels. Ces deux-là ne sont pas identiques, et Hinton devrait le savoir. » Argument : La conscience concerne les états internes, et non les conséquences des actions. Vous ne pouvez pas observer un modèle dire quelque chose qu’un humain dirait et conclure qu’il a vécu quelque chose. Les mécanismes sous-jacents sont trop différents, a soutenu Marcus. L’un construit des modèles mentaux à partir de l’expérience vécue, l’autre mémorise Internet.
« La véritable compréhension vient de l’expérience et non d’approximations textuelles », a-t-il déclaré, citant entre autres le pape Léon XIV, qui a loué l’économie caractéristique de la semaine. Le titre de Marcus : « Le pape semble mieux comprendre l’IA que Jeffrey Hinton. »
C’est un véritable débat non résolu. Si Hinton se trompe en affirmant que l’IA est un nouveau type d’être, une grande partie de l’urgence disparaît. S’il a raison et si ces êtres seront bientôt plus intelligents que nous, alors la seule question qui compte est de savoir de quel genre d’êtres il s’agit.
Hinton a terminé la soirée avec une blague sur J. Robert Oppenheimer, qui a dirigé le projet Manhattan. Lorsqu’on lui a demandé comment il se comparait au père de la bombe atomique, un homme qui a créé quelque chose qui a changé le monde et qui en est venu à le regretter, il avait une réponse prête. « Oppenheimer n’a jamais remporté le prix Nobel de physique. »
La foule a ri.
Dans cet article, les journalistes de Fortune ont utilisé l’IA générative comme outil d’enquête. Les rédacteurs ont vérifié l’exactitude des informations avant leur publication.
