TORONTO (AP) – Jeffrey Hinton, 77 ans, a un nouvel appel dans la vie. Comme les prophètes modernes, les lauréats du prix Nobel ont mis en garde contre les dangers de l’intelligence artificielle non réglementée incontrôlée.
Fréquemment appelé «parrain de l’IA», Hinton est connu pour son travail pionnier sur l’apprentissage en profondeur et les réseaux de neurones qui aident à poser les fondements de la technologie de l’IA, qui sont souvent utilisés aujourd’hui. Se sentant « un peu responsable », il a commencé à parler publiquement de ses préoccupations en 2023 après avoir quitté son emploi chez Google.
Il y a aussi les intérêts derrière cela, car la technologie et les dollars d’investissement ont propulsé l’IA ces dernières années.
« C’est vraiment comme Dieu », a déclaré Hinton.
Hinton est l’un des nombre d’ingénieurs éminents qui parlent de l’IA en utilisant une langue autrefois réservée à Dieu. Le PDG d’Openai, Sam Altman, appelle la technologie de son entreprise « l’intelligence magique du ciel », mais Peter Thiel, co-fondateur de Paypal et Palantir, soutient même que l’IA peut aider à attirer l’Antéchrist.
L’IA apporte-t-elle des reproches et un salut?
Il existe de nombreux sceptiques qui doutent de la technologie, comme Dylan Baker, un ancien employé de Google et ingénieur de recherche de premier plan au Distributed IA Institute, qui étudie les effets nocifs de l’IA.
« Je pense que souvent ils travaillent à partir des pensées fantastiques magiques qui sont informées par beaucoup de science-fiction. » Ils sont vraiment détachés de la réalité. «
Les chatbots comme Chatgpt sont devenus populaires dans le Times récemment, mais certains cercles de la Silicon Valley prophétisent la puissance de l’IA depuis des décennies.
« Nous essayons de réveiller les gens », a déclaré Hinton. « Pour que le public comprenne les risques, tout comme les politiciens font pression sur les politiciens de faire quelque chose. »
Des chercheurs comme Hinton mettent en garde contre les menaces existentielles que l’IA croit poser à l’humanité, mais de l’autre côté du spectre sont les PDG et les théoriciens qui soutiennent qu’ils approchent une sorte d’apocalypse technique qui marque une nouvelle ère d’évolution humaine.
Dans un essai de l’année dernière, intitulé « De jolies machines de bénédiction: comment l’IA peut changer le monde pour le mieux », le PDG de l’humanité Dario Amodei développe sa vision pour l’avenir, « si tout va bien avec l’IA ».
Les entrepreneurs de l’IA prédisent «la défaite de la plupart des maladies, la croissance de la liberté biologique et cognitive, des milliards de personnes de la pauvreté partagent de nouvelles technologies et une renaissance de la démocratie libérale et des droits de l’homme».
Amodei choisit l’expression «IA forte», tandis que d’autres utilisent des termes tels que la «singularité» et les «informations générales artificielles (AGI)». Bien que les partisans de ces concepts ne soient souvent pas d’accord avec la façon de les définir, ils se réfèrent largement à des points futurs hypothétiques où l’IA peut l’emporter sur l’intelligence au niveau de l’homme et provoquer des changements rapides et irréversibles dans la société.
L’informatique et auteur Ray Kurzweil prédit que depuis les années 1990, les humains fusionnent un jour avec la technologie, un concept appelé transhumanisme.
« Nous n’allons pas vous dire ce qui vient de notre cerveau et ce qui vient de l’IA. Tout est ancré en nous-mêmes, et cela va nous rendre plus intelligents », a déclaré Kurzweil.
Dans son dernier livre, The Singularity Is Career: lors de la fusion avec l’IA, Kurzweil double ses prédictions précédentes. Il pense qu’en 2045, nous avons « augmenté notre propre intelligence d’un million de fois ».
« Oui », a-t-il finalement admis lorsqu’il lui a demandé s’il pensait que Ai était sa religion. Cela informe son sens de l’objectif.
« Mes réflexions sur l’avenir et l’avenir de la technologie, et la rapidité avec laquelle cela arrive, affectera mon attitude envers d’être ici, ce que je fais et comment je peux influencer les autres », a-t-il déclaré.
La vision de l’apocalypse bouillonne
Malgré l’invocation explicite du langage de l’apocalypse de Thiel, la vision positive de l’avenir de l’IA est plus « apocalyptique » au sens historique du mot.
« Dans le monde antique, les choses eschatologiques ne sont pas négatives », explique Domenigostini, professeur à l’Université de Naples, Ran Oriental, qui étudie la littérature apocalyptique ancienne. « Cela a complètement changé la sémantique de ce mot. »
Le terme « apocalypsis » vient du mot grec « apocalypsis » signifiant « apocalypsis ». Bien que souvent associée à la fin du monde, l’apocalypse des juifs anciens et des idées chrétiennes était une source d’encouragement en période de difficultés et de persécution.
« Dieu promet un nouveau monde », a déclaré le professeur Robert Gerach, qui étudie la religion et la technologie au Knox College. « Pour occuper ce nouveau monde, nous devons avoir un nouveau corps glorieux qui battra le mal que nous vivons tous. »
Jelachi a d’abord remarqué le langage apocalyptique utilisé pour décrire les possibilités de l’IA au début des années 2000. Kurzweil et d’autres théoriciens l’ont finalement exhorté à écrire son livre de 2010, « apocalyptique ai: visions du ciel du ciel et de la réalité virtuelle ».
La langue lui a rappelé le début du christianisme. « Seulement, nous allons y faire glisser Dieu … peut-être que votre choix de droit de la science spatiale pour le faire, et nous aurons le même genre d’avenir glorieux », a-t-il déclaré.
Gerashi soutient que ce type de langue n’a pas beaucoup changé depuis qu’il a commencé à l’étudier. Ce qui le surprend, c’est à quel point il est populaire.
« Il y a toujours eu quelque chose qui était autrefois très étrange », a-t-il déclaré.
La Silicon Valley a-t-elle finalement trouvé ce Dieu?
Un facteur dans la croissance des cultes de l’IA est la rentabilité.
« Il y a vingt ans, ce fantasme, qu’il soit vrai ou non, n’a pas réellement généré beaucoup d’argent », a déclaré Gerasi. Mais maintenant, « Sam Altman a l’incitation financière à dire qu’Agi tourne le coin. »
Cependant, Gerashi, qui affirme que Chatgpt n’est « pas à distance ou vaguement plausible », estime que ce phénomène peut évoluer davantage.
Historiquement, il est également bien connu qu’il n’y a pas de religion dans le monde de la technologie. Alors que sa réputation laïque a précédé cela, un épisode de la série satirique de comédie HBO « Silicon Valley » tourne autour de « sortir » de ses collègues en tant que chrétien.
Plutôt que de considérer le monde technologique sceptique du culte comme ironique, Gerashi pense que c’est causal.
« Notre peuple est profond, profond et intrinsèquement religieux », dit-il, ajoutant que la technologie impressionnante derrière l’IA pourrait plaire aux gens de la Silicon Valley qui ont déjà « mis de côté leur approche habituelle de la transcendance et du sens ».
Il n’y a pas de religion sans sceptiques
Tous les PDG de la Silicon Valley ne se sont pas convertis.
« Lorsque les gens de l’industrie de la technologie parlent de construire cette vraie IA, c’est comme s’ils pensaient qu’ils créent Dieu ou quelque chose », a déclaré le méta-PDG Mark Zuckerberg sur un podcast l’année dernière qu’il a promu sa propre entreprise à l’aventure vers l’IA.
Les théories transhumanistes comme Kurzweil sont plus largement utilisées, mais ne sont pas encore n’importe où dans la Silicon Valley.
« Le cas scientifique pour cela n’est pas plus fort que dans une vie après la mort religieuse », soutient Max Tegmark, physicien et chercheur à l’apprentissage automatique au Massachusetts Institute of Technology.
Comme Hinton, Tegmark parle ouvertement des risques potentiels de l’IA non réglementée. En 2023, en tant que président du Future of Life Institute, Tegmark a dirigé une lettre ouverte appelant à de puissants laboratoires AI à « mettre rapidement en pause » leur formation système.
La lettre a attiré plus de 33 000 signatures, dont Elon Musk et le co-fondateur d’Apple, Steve Wozniak. Tegmark croit que la lettre a été un succès car elle a aidé à « la conversation grand public » sur la sécurité de l’IA, mais il pense que son travail n’est pas terminé.
Tegmark estime que les réglementations et les garanties permettent à l’IA d’être utilisée comme un outil pour guérir les maladies et augmenter la productivité humaine. Mais il soutient qu’il est essentiel de séparer de la course « très bordé » que certaines entreprises organisent.
« Il y a beaucoup d’histoires sur la façon dont, à la fois dans les textes religieux et, par exemple, dans la mythologie grecque antique, comment quand les humains commencent à jouer des dieux, cela se termine mal », a-t-il déclaré. « Et j’ai l’impression d’avoir beaucoup d’arrogance de hub à San Francisco en ce moment. »
___
Les rapports religieux d’Associated Press seront soutenus par la collaboration avec l’Associated Press et la conversation, ainsi que le financement de Lilly Endowment Inc. L’AP est responsable de ce contenu uniquement.
