Elon Musk a une vision du lune dans l’IA. La technologie assume tous les emplois, mais le «revenu universel élevé» signifie que n’importe qui peut accéder à une richesse de produits et services théoriques. Si les rêves élevés de Mask peuvent devenir une réalité, bien sûr, il y aura des calculs existentiels profonds.
« La question est vraiment l’une des significations », a déclaré Musk lors de la conférence Vivatechnology en mai 2024.
Cependant, selon les lauréats du prix Nobel et le parrain de « AI Godfather » Jeffrey Hinton, la plupart des chefs de l’industrie n’ont pas posé cette question sur la fin des jeux de l’IA. En ce qui concerne le développement de l’IA, Big Tech ne s’intéresse pas aux résultats à long terme de la technologie, ni à des résultats rapides.
« Pour les propriétaires d’entreprise, ce sont les avantages à court terme qui stimulent la recherche », a déclaré à Fortune Hinton, professeur émérite d’informatique à l’Université de Toronto.
Et pour les développeurs derrière la technologie, a déclaré Hinton, il se concentre immédiatement sur le travail devant eux, et non sur les résultats finaux de la recherche elle-même.
« Les chercheurs sont intéressés à résoudre des problèmes qui leur sont curieux. Il ne s’agit pas de la façon dont l’humanité sera, en commençant par le même objectif », a déclaré Hinton.
« Nous avons ces petits objectifs. Comment les fabriquer-nous? Ou comment devrions-nous les faire? Comment devrions-nous faire reconnaître nos ordinateurs dans les images? Nous pouvons les faire produire des vidéos convaincantes? » Il a ajouté. « C’est ce qui motive vraiment la recherche. »
Hinton a longtemps averti les dangers de l’IA sans garde-corps ni évolution intentionnelle. Cela estime les 10% à 20% de chances que la technologie efface les humains après le développement d’une super intelligence.
Dix ans après avoir vendu la société de réseaux de neurones DNNResearch à Google, Hinton laisse son rôle avec le géant de la technologie, libre de parler des dangers de la technologie, craignant qu’il ne « ne soit pas en mesure d’empêcher les mauvais acteurs de l’utiliser ».
Hinton’s IA dans l’ensemble
Pour Hinton, le risque d’IA se transforme en deux catégories. La technologie elle-même est le résultat des risques posés à l’avenir de l’humanité et au fait que l’IA est manipulée par des personnes ayant de mauvaises intentions.
« Il y a une grande distinction entre les deux types de risques », a-t-il déclaré. « Il y a un risque que les mauvais acteurs abutent l’IA, et c’est déjà là. Cela se produit déjà avec de fausses vidéos ou des cyberattaques, et cela peut se produire rapidement avec un virus. C’est très différent du risque que l’IA elle-même devienne un mauvais acteur. »
Par exemple, les institutions financières comme Ant International de Singapour se méfient de la propagation des fesses profondes qui augmentent la menace de fraude et de fraude. Tianyi Zhang, directeur général de la gestion des risques et de la cybersécurité chez ANT International, a déclaré que la société avait connu avec succès plus de 70% des nouvelles inscriptions sur certains marchés comme des tentatives potentielles profondes.
« Nous avons identifié plus de 150 attaques de profondeur différentes », a-t-il déclaré.
Non seulement il défendra davantage de réglementations, mais appelez également une action pour résoudre les dysfonctionnements potentiels d’Hinton, a-t-il dit, est un combat soudain car chaque problème technique nécessite une solution distincte. Il envisage des certifications comme de futures origines vidéo et d’image qui contrecarrent la propagation des fesses profondes.
Tout comme la façon dont les imprimantes ont ajouté des noms pour fonctionner après l’avènement des presses il y a des centaines d’années, les sources médiatiques doivent trouver un moyen d’ajouter des signatures aux œuvres réelles. Cependant, Hinton a déclaré que les révisions ne pouvaient être faites qu’à ce jour.
« Le problème peut probablement être résolu, mais la solution à ce problème ne résout pas l’autre », a-t-il déclaré.
Pour que l’IA du risque lui-même pose, Hinton estime que les entreprises technologiques doivent changer fondamentalement leur relation avec l’IA. Lorsque l’IA atteint une super intelligence, a-t-il dit, il y a un fort désir de l’emporter non seulement sur les capacités humaines, mais aussi de survivre et de prendre un contrôle supplémentaire. Par conséquent, le cadre actuel de l’IA qui permet aux humains de contrôler la technologie n’est plus pertinent.
Hinton suppose que les modèles d’IA doivent s’infiltrer « instincts maternels » et qu’il peut traiter des humains aussi puissants avec sympathie, plutôt que de vouloir les contrôler.
En évoquant l’idéal de la féminité traditionnelle, il peut citer que quelque chose de plus intelligent tombe dans le bouleversement d’une personne moins intelligente est le bébé qui gouverne la mère.
« Et je pense que c’est un meilleur modèle que nous pouvons pratiquer avec une IA super intelligente », a déclaré Hinton. « Ils deviennent mères et nous devenons des bébés. »
