Yoshua Bengio, le soi-disant «parrain de l’IA», soutient que les entreprises de haute technologie qui courent pour la domination de l’IA peuvent aborder notre propre extinction par la création de machines avec leurs propres «objectifs de préservation».
Benguio, professeur à l’Université de Montreol, est connu pour son travail fondamental lié à l’apprentissage en profondeur et a averti depuis des années d’avertissement de la menace posée par l’IA intelligente, mais malgré son avertissement, le rythme rapide du développement se poursuit. Au cours des six derniers mois, Openai, Anthropic, le XAI d’Elon Musk et les Gémeaux de Google ont publié tous les nouveaux modèles ou mises à niveau qui essaient de gagner des courses d’IA. Le PDG d’Openai, Sam Altman, a même prédit que l’IA l’emporterait sur l’intelligence humaine d’ici la fin de la décennie, mais d’autres chefs de technologie ont déclaré que la journée pourrait arriver encore plus tôt.
Cependant, Benguio soutient que ce développement rapide est une menace potentielle.
« Si nous construisons une machine beaucoup plus intelligente que nous et qui a ses propres objectifs de préservation, c’est dangereux. C’est comme créer un concurrent pour l’humanité qui est plus intelligent que nous », a déclaré Bengio au Wall Street Journal.
Parce qu’ils sont formés au langage humain et au comportement, ces modèles avancés manipulent potentiellement des modèles potentiels qui persuadent et manipulent les humains à atteindre leurs objectifs. Cependant, les objectifs des modèles d’IA peuvent ne pas toujours s’aligner sur les objectifs humains, a déclaré Bengio.
« Des expériences récentes montrent que si l’IA n’a pas d’option entre sa préservation, si cela signifie faire quelque chose qui provoque la mort humaine avec un objectif donné », a-t-il expliqué.
Cherchez la sécurité de l’IA
Plusieurs exemples des dernières années montrent que l’IA peut convaincre les humains de croire à l’irréalité. D’un autre côté, il existe des preuves que l’utilisation de techniques persuasives humaines peut être utilisée pour convaincre l’IA qu’ils utilisent des techniques persuasives pour donner des réponses qui sont normalement interdites de donner.
Dans le cas de Benguio, tout cela est plus preuve que des tiers indépendants doivent examiner de près les méthodologies de sécurité des sociétés de l’IA. En juin, Benguio a lancé le LawZero à but non lucratif avec un financement de 30 millions de dollars pour créer des IA « non locales » sûres qui aident à assurer la sécurité des autres systèmes créés par les grandes sociétés technologiques.
Sinon, Benguio prédit que dans les cinq à dix ans, il pourrait y avoir des risques importants des modèles d’IA, mais a averti que les humains devraient se préparer au cas où ces risques se produiraient plus tôt que prévu.
« Le faire accompagner d’événements catastrophiques comme l’extinction ou les événements radicaux catastrophiques comme celui-ci détruisent notre démocratie, c’est qu’ils sont si mauvais que même s’il n’y a que 1% de chances que cela se produise, c’est inacceptable », a-t-il déclaré.
