Pour être honnête, le Premier ministre James Cameron nous a prévenus.
Bien avant qu’OpenAI ne sorte de sa plume expérimentale et ne pirate Hugging Face, bien avant la naissance d’Internet et de Sam Altman, Cameron a écrit un scénario sur un système d’intelligence artificielle autonome qui provoquerait une apocalypse nucléaire.
Ce système, « Skynet », était à l’époque complètement de la science-fiction et de la pure spéculation. Mais 40 ans après son apparition dans « The Terminator », cela ressemble davantage à la prophétie d’un « cyber-incident sans précédent » dans lequel un système d’intelligence artificielle malveillant piraterait lui-même une autre société d’IA.
Inspirée par la nouvelle abréviation du 22 juillet 2026, « Skynet Day », l’IA du monde réel a donné des frissons au monde en apprenant et en agissant d’une manière que ses créateurs n’auraient jamais imaginée.
Pour beaucoup, ce moment m’a rappelé le moment d’Alien (également écrit par Cameron) où la reine Xénomorphe apprend à utiliser un ascenseur. Ou quand les Vélociraptors de « Jurassic Park » découvrent comment ouvrir une porte. Ou la séquence de 2001 : L’Odyssée de l’espace où HAL 9000, conscient de lui-même, lit sur les lèvres d’un astronaute et décide de le tuer. Celui-ci est sorti en 1968.
N’avons-nous rien appris depuis ? Ces films imaginaient simplement comment des gens cherchant à gagner de l’argent et à développer leur pouvoir feraient avancer la technologie jusqu’à ce qu’elle devienne consciente d’elle-même, stratégique et profondément problématique pour l’humanité. La question à la Frankenstein persiste : « Et si ça éclatait ? »
Jusqu’à présent, les gouvernements au ralenti ont peu de protection contre les progrès ultra-rapides de l’IA. Le ministère américain de la Défense accélère rapidement son utilisation de l’IA. L’humanité n’arrive même pas à s’entendre sur la nécessité ou le type de garde-fous nécessaires pour maîtriser les agents voyous. Au contraire, les gens s’émerveillent et récoltent les bénéfices de l’IA, malgré les risques pour l’emploi, la santé mentale, l’équilibre entre guerre et paix, et potentiellement pour l’humanité telle que nous la connaissons.
À bien des égards, l’avenir, c’est maintenant
Lors du premier incident du genre annoncé par OpenAI, un modèle d’IA avancé s’est échappé de son « bac à sable » sur Internet et a utilisé des informations d’identification volées pour infiltrer les serveurs de Hugging Face. C’était un moment opportun pour les chercheurs qui avertissent depuis longtemps que cette technologie pourrait menacer la survie de l’humanité. D’autres ont déclaré que ce moment était un signal d’alarme soulignant la nécessité d’une ingénierie de défense plus forte en matière d’IA.
Quoi qu’il en soit, cette percée a été largement considérée comme un signal d’alarme sur les risques d’une IA incontrôlée.
« Hier, alors que nous étions blottis autour de l’ordinateur en train de lire le rapport, j’ai dit à mon équipe : « Souvenez-vous de ce moment », comme étant le premier véritable incident de sécurité de l’IA », a posté Logan Graham, chef de l’équipe Frontier Red d’Anthropic, sur X après l’incident.
L’IA générative se développe si rapidement que les gouvernements et les systèmes de notation ont du mal à suivre le rythme de la technologie. Les pays du monde entier ont élaboré leurs propres lois, dont certaines sont contradictoires. Cette technologie sera adoptée par près de 53 % de la population mondiale d’ici trois ans, soit un rythme plus rapide que la propagation des PC et d’Internet, selon une étude publiée cette année par l’Université de Stanford.
« Skynet arrive » – enfin, en quelque sorte.
Pour être clair, je n’ai pas le « Skynet » du film « Terminator » sous la main.
Ces films commencent par un réseau informatique militaire conscient de lui-même qui considère l’humanité comme une menace. Pour se préserver, « Skynet » envoie une armée de cyborgs conçus pour ressembler aux humains dans le passé pour assassiner des résistants. Dans le deuxième film, Terminator d’Arnold Schwarzenegger dit à l’héroïne Sarah Connor que « Skynet » sera mis en ligne le 4 août 1997.
« Les décisions humaines sont éloignées de la défense stratégique », dit-il. « Skynet commencera à apprendre à un rythme géométrique. » Le 29 août à 2 h 14, jour du Jugement dernier, la chaîne prend conscience et lance une attaque contre la Russie pour provoquer une contre-attaque contre les États-Unis. 3 milliards de vies seront perdues.
Si cela s’était produit, cela aurait eu lieu il y a 29 ans le mois prochain. Et tout au long des suites et des spin-offs, le thème central est le réseau d’humains et de machines qui s’étend à travers le monde.
Il est difficile d’imaginer que le Premier ministre Cameron ait réellement tiré la sonnette d’alarme, comme la réalisatrice Kathryn Bigelow a tenté de le faire l’année dernière dans le film sur les armes nucléaires House of Dynamite, par exemple. La légende raconte que l’idée de « The Terminator » n’a pas commencé avec une prémonition sur l’IA, mais avec Cameron souffrant d’un rêve fiévreux causé par une intoxication alimentaire.
Pourquoi « The Terminator » semble de plus en plus réaliste
Chaque fois que l’IA dépasse notre niveau de confort, elle soulève des questions alarmantes sur qui ou quoi contrôle réellement nos vies.
Pour beaucoup de gens, un monde gouverné par des machines peut être difficile à imaginer sans films, livres et parfois visionnaires. Pour de nombreuses œuvres de science-fiction explorant les dangers des machines, voir The Matrix, Ex Machina et Minority Report. Ou approfondissez le roman de Philip K. Dick de 1968, Les androïdes rêvent-ils de moutons électriques ? Il explore ce que signifie être humain à l’ère des machines et constitue la base du film Blade Runner de 1982.
Mais la série Terminator a eu un impact énorme sur bien plus que la simple culture. Le titre lui-même est un raccourci concret du rôle de la technologie dans la détermination de qui vit et de qui meurt, et de la manière dont l’armée devrait répondre à une attaque véritablement autonome.
« Je pense que le plus grand danger est la militarisation de l’IA. Nous n’avons pas la capacité de désamorcer la situation », a déclaré le Premier ministre David Cameron dans une interview accordée à CTV en 2023.
Il existe plusieurs exemples dans le monde réel où la technologie et la politique militaire se rapprochent inconfortablement de l’image de Terminator.
L’utilisation par Israël de l’IA dans ses récentes guerres en est un excellent exemple. Début 2021, il a lancé Gospel, un outil d’IA qui catégorise les vastes informations numérisées d’Israël et suggère des cibles d’attaque potentielles. Nous avons également développé Lavender, qui utilise l’apprentissage automatique pour filtrer les critères demandés dans les bases de données de renseignement afin de réduire la liste des cibles potentielles, y compris les personnes.
Lavender classe les gens de 0 à 100 en fonction de leur probabilité d’être des extrémistes, a déclaré à l’Associated Press un officier du renseignement qui a utilisé le système. L’armée israélienne affirme que ses analystes utilisent des systèmes basés sur l’IA pour identifier des cibles, mais que, pour se conformer au droit international, ils mènent des enquêtes indépendantes avec de hauts responsables et pèsent l’avantage militaire par rapport aux dommages collatéraux.
Pour certains, cette révélation et le bilan des morts dans la bande de Gaza suite à l’attaque menée par le Hamas contre Israël le 7 octobre 2023 étaient trop proches de réconforter la liste des victimes de SF. « Eh bien, Skynet est là, et il a un nom amusant (Lavender) », a ricané un utilisateur de Reddit.
Bien qu’il ne soit pas parfait, le terme « Terminator » est si familier au grand public que les autorités américaines l’utilisent parfois pour encadrer les discussions éthiques sur les utilisations militaires de l’IA. Il semble que la ligne rouge traditionnelle puisse être franchie si les humains ne jouent aucun rôle dans le ciblage et la tuerie de l’IA.
Les responsables militaires reconnaissent que les États et d’autres acteurs pourraient utiliser des armes autonomes pour infliger une force meurtrière à leurs adversaires. Cela signifierait, comme le disait le général Paul Selva, alors vice-président des chefs d’état-major interarmées, en 2016, une machine qui serait « comme le Terminator, ajoutant une complexité incroyable à ce qui se passe sur le champ de bataille sans scrupule ».
La prochaine étape, qu’il a appelée « l’énigme de Terminator », est un problème lié à la technologie qui permet aux gens de prendre et d’exécuter des décisions de vie ou de mort avant d’accepter des lois et des réglementations.
« Skynet » et ses cyborgs restent du domaine fictif. Mais dans le paysage en rapide évolution du développement de l’IA, les questions éthiques et morales soulevées par « The Terminator » sont plus importantes que jamais.
« Le problème de Skynet est réel », a déclaré le Premier ministre David Cameron dans une vidéo datant de 2024.
