Une nouvelle lettre ouverte signée par un certain nombre de scientifiques de l’IA, de célébrités, de décideurs politiques et de chefs religieux appelle à l’interdiction du développement de la « superintelligence » – une hypothétique technologie d’IA qui pourrait dépasser l’intelligence de tous les humains – jusqu’à ce que cette technologie soit fiable et contrôlable.
Parmi les signataires les plus éminents de la lettre figurent Jeffrey Hinton, pionnier de l’IA et lauréat du prix Nobel, d’autres sommités de l’IA telles que Joshua Bengio et Stuart Russell, et des chefs d’entreprise tels que le co-fondateur de Virgin, Richard Branson, et le co-fondateur d’Apple, Steve Wozniak. Des célébrités ont également signé, notamment l’acteur Joseph Gordon-Levitt, qui a récemment exprimé ses inquiétudes concernant le produit d’IA de Meta, will.i.am, ainsi que le prince Harry et Meghan, le duc et la duchesse de Sussex. Une liste diversifiée de personnalités politiques et de sécurité nationale figure également sur la liste de plus de 1 000 signataires, dont l’allié et stratège de Trump Steve Bannon et Mike Mullen, qui a été président des chefs d’état-major interarmées sous les présidents George W. Bush et Barack Obama.
Un nouveau sondage mené en même temps qu’une lettre ouverte écrite et distribuée par l’Institut à but non lucratif Future of Life a révélé que le public était généralement d’accord avec les appels à un moratoire sur le développement de technologies d’IA surpuissantes.
Un sondage américain a révélé que seulement 5 % des adultes soutiennent le statu quo du développement non réglementé de l’IA avancée, tandis que 64 % conviennent que la superintelligence ne devrait pas être développée tant qu’elle n’a pas été prouvée sûre et contrôlable. Le sondage révèle que 73 % souhaitent une réglementation plus stricte de l’IA avancée.
« 95 % des Américains ne veulent pas d’une course à la superintelligence, et les experts veulent l’interdire », a déclaré le président de Future of Life, Max Tegmark, dans un communiqué.
La superintelligence est définie au sens large comme un type d’intelligence artificielle capable de surpasser l’humanité dans son ensemble dans la plupart des tâches cognitives. Il n’existe actuellement aucun consensus sur le moment où la superintelligence deviendra une réalité, et les délais suggérés par les experts restent spéculatifs. Des prédictions plus audacieuses affirment que la superintelligence pourrait être atteinte d’ici la fin des années 2020, tandis que des opinions plus conservatrices la retardent davantage ou remettent en question la capacité même de la technologie actuelle à y parvenir.
Plusieurs grands laboratoires d’IA recherchent activement ce niveau d’IA avancée, notamment Meta, Google DeepMind et OpenAI. La lettre demande à ces grands laboratoires d’IA de cesser de rechercher ces capacités jusqu’à ce qu’il y ait « un large consensus scientifique et une forte adhésion du public sur le fait qu’elles peuvent être mises en œuvre de manière sûre et contrôlable ».
« Les systèmes d’IA Frontier ont le potentiel de surpasser la plupart des individus dans la plupart des tâches cognitives en quelques années seulement », a déclaré dans un communiqué Yoshua Bengio, informaticien lauréat du prix Turing, qui avec Hinton est considéré comme l’un des « parrains » de l’IA. « Pour progresser en toute sécurité vers la superintelligence, nous devons déterminer scientifiquement comment concevoir des systèmes d’IA qui sont fondamentalement incapables de nuire aux personnes, même par un mauvais calibrage ou une utilisation malveillante. Nous devons également garantir que le public a une voix plus forte dans les décisions qui façonnent notre avenir collectif », a-t-il déclaré.
Les signataires soutiennent que la recherche du superintelligence présente de sérieux risques de déplacement économique et de privation de droits, et constitue une menace pour la sécurité nationale et les libertés civiles. La lettre accuse les entreprises technologiques de poursuivre cette technologie potentiellement dangereuse sans garde-fous, sans surveillance ni sans le consentement du large public.
« Pour tirer le meilleur parti de ce que l’IA a à offrir à l’humanité, nous n’avons pas vraiment besoin d’atteindre l’objectif inconnu et très dangereux de la superintelligence. C’est un domaine trop vaste. Par définition, cela inaugurerait des pouvoirs que nous ne pouvons ni comprendre ni contrôler », a déclaré l’acteur Stephen Fry dans un communiqué.
