La course mondiale à la domination de l’intelligence artificielle est à son paroxysme, mais l’un des plus grands informaticiens du monde a averti que les grandes technologies parient de manière imprudente avec l’avenir de l’humanité.
Les voix les plus fortes dans le domaine de l’IA se répartissent souvent en deux camps. D’un côté, il y a ceux qui vantent cette technologie comme révolutionnaire ; d’un autre côté, certains appellent à la retenue ou au confinement avant que l’IA ne devienne une menace incontrôlable. Stuart Russell, chercheur pionnier en IA à l’Université de Californie à Berkeley, fait partie intégrante de ce dernier groupe. L’une de ses principales préoccupations est que les gouvernements et les régulateurs ont du mal à suivre le déploiement rapide de cette technologie, laissant le secteur privé coincé dans une course jusqu’au dernier, risquant le genre de concurrence dangereuse sans précédent depuis le plus fort de la guerre froide.
« Je pense que c’est un manquement total à leur devoir de la part des gouvernements que de permettre à des entités privées de jouer à la roulette russe avec tous les êtres humains de la planète », a déclaré Russell à l’AFP lors du AI Impact Summit à New Delhi, en Inde.
Russell a déclaré que les PDG des entreprises technologiques sont engagés dans une « course aux armements » pour développer le prochain meilleur modèle d’IA, mais que l’objectif maintenu par l’industrie mènera finalement à des avancées majeures dans la recherche sur les médicaments et la productivité, dont beaucoup ignorent ou ignorent les risques. Dans le pire des cas, il estime que la vitesse effrénée de l’innovation non réglementée pourrait conduire à l’extinction de l’humanité.
Russell doit connaître les risques existentiels qui sous-tendent le déploiement rapide de l’IA. L’informaticien d’origine britannique étudie l’IA depuis plus de 40 ans et a publié l’un des manuels les plus faisant autorité dans le domaine en 1995. En 2016, il a fondé un centre de recherche à Berkeley axé sur la sécurité de l’IA qui préconise des systèmes d’IA dont « l’utilité est prouvée » pour l’humanité.
À New Delhi, Russell a expliqué que les entreprises et les gouvernements semblent manquer la cible de leurs objectifs. La critique de Russell se concentrait sur le développement rapide d’un système qui pourrait finalement submerger ses créateurs et laisser la civilisation humaine comme un « dommage collatéral dans le processus ».
Les dirigeants des grandes entreprises d’IA sont conscients de cette menace existentielle, mais ils se retrouvent également piégés quelles que soient les forces du marché. « Je pense que les PDG de chacune des grandes sociétés d’IA veulent être désarmés », a déclaré Russell. Mais ils ne peuvent pas le faire « unilatéralement ». En effet, leur position peut être rapidement reprise par des concurrents et rapidement évincée par les investisseurs.
nouvelle guerre froide
Pendant la guerre froide, les discussions sur les crises existentielles et la possibilité d’une extinction humaine ont été mises de côté par la peur d’une prolifération nucléaire galopante. À cette époque, les grandes puissances stockaient des armes de peur que leurs rivaux ne les dépassent. Mais les sceptiques comme Stuart Russell appliquent de plus en plus le même cadre à l’ère de l’intelligence artificielle. La concurrence entre les États-Unis et la Chine est souvent décrite comme une « course aux armements » en matière d’IA, avec le secret, l’urgence et les enjeux élevés qui ont caractérisé la guerre nucléaire entre Washington et Moscou dans la seconde moitié du XXe siècle.
Le président russe Vladimir Poutine a résumé succinctement les enjeux majeurs il y a près de dix ans. « Celui qui deviendra le leader dans ce domaine deviendra le dirigeant du monde », a-t-il déclaré dans un discours prononcé en 2017.
La course aux armements actuelle ne peut pas être mesurée en ogives nucléaires, mais son ampleur peut être mesurée par la quantité stupéfiante de capitaux déployés. Les pays et les entreprises dépensent actuellement des centaines de milliards de dollars dans des centres de données à forte consommation énergétique pour former et exécuter l’IA, et les analystes s’attendent à ce que les dépenses en capital dans l’IA dépassent 600 milliards de dollars cette année rien qu’aux États-Unis.
Mais les mesures réglementaires n’ont pas encore freiné l’agressivité des entreprises, a déclaré Russell. « Il serait vraiment utile que les gouvernements comprennent cette question. C’est pourquoi je suis ici », a-t-il déclaré en faisant référence au sommet indien.
La Chine et l’UE font partie des pays en développement en matière d’IA qui ont adopté une position plus stricte en matière de réglementation de la technologie de l’IA. Ailleurs, la réalité est plus indifférente. En Inde, le gouvernement a opté pour une approche de déréglementation significative. Pendant ce temps, aux États-Unis, l’administration Trump défend des idéaux favorables au marché pour l’IA et cherche à supprimer la plupart des réglementations au niveau des États pour donner plus de liberté aux entreprises.
