Dans une nouvelle vidéo virale, le sénateur Bernie Sanders a tenté d’exposer à quel point l’industrie de l’IA constitue une menace pour la vie privée des Américains, mais a fini par démontrer comment la tendance des chatbots IA à être d’accord et à flatter leurs utilisateurs peut conduire les chatbots eux-mêmes à devenir un miroir des propres convictions des utilisateurs plutôt qu’un outil de découverte.
Nous avons déjà constaté ce problème dans le contexte du nombre croissant de personnes touchées par la « psychose de l’IA », c’est-à-dire lorsqu’un chatbot IA renforce les pensées et les croyances irrationnelles d’une personne mentalement instable. Dans certains cas, ce schéma sombre a même conduit les utilisateurs à se suicider, plusieurs poursuites judiciaires étant atténuées.
Dans le cas de Sanders, la flagornerie de l’IA s’est manifestée sous la forme d’un chatbot IA qui a façonné ses réponses pour suivre le politicien.
Il convient de noter que l’interview commence avec Sanders se présentant à Claude (qu’il qualifie à tort d’« agent » d’IA) – une démarche qui pourrait contribuer à influencer les réponses du chatbot.
Puis, alors que Sanders pose des questions sur les pratiques de collecte de données des sociétés d’IA et sur d’autres problèmes de confidentialité, Claude répond agréablement en disant ce que le politicien veut entendre. Cela s’explique en partie par la façon dont Sanders formule ses questions, en posant des questions telles que : « Qu’est-ce qui surprendrait le peuple américain s’il savait comment ces informations sont collectées ? » ou « Comment pouvons-nous être sûrs que les sociétés d’IA protégeront notre vie privée lorsqu’elles utilisent les informations personnelles des gens pour gagner de l’argent ? » Ces questions suggestives obligent le chatbot à accepter le principe de la question et à proposer une réponse appropriée. C’est ainsi que ces choses fonctionnent.
Et lorsque la réponse de Claude suggérait qu’un sujet était plus complexe ou nuancé que ce que Sanders avait formulé, Sanders n’était pas d’accord, poussant le chatbot à admettre, avec une touche d’autodérision de l’IA, que le sénateur avait « absolument raison ».
La nature flagorneuse de l’IA est ce qui peut conduire les gens sur des voies dangereuses lorsqu’ils supposent qu’un chatbot est une source de vérité universelle, plutôt qu’un outil qui peut être influencé par son utilisateur.
Il n’est pas clair si Sanders sait que c’est le cas et s’en fiche (car ce n’est qu’une publicité, après tout !), ou s’il pense vraiment avoir trompé Claude pour qu’il devienne un lanceur d’alerte pour l’industrie de l’IA.
Et, bien sûr, il y a aussi la question de savoir si l’équipe de Sanders a préparé le chatbot à répondre d’une certaine manière, étant donné qu’il s’agissait d’une « interview » mise en scène.
Bien qu’il existe de réelles préoccupations concernant la collecte de données et la confidentialité, les choses ne sont pas aussi noires et blanches que le suggèrent les réponses de l’IA dans cette vidéo.
Nous vivons déjà dans un monde où les entreprises collectent et vendent les données des utilisateurs en ligne à grande échelle, et ce depuis des années. Nous savons que les géants des médias sociaux comme Meta ont transformé les publicités personnalisées en une machine à imprimer des billets de plusieurs milliards de dollars. Et grâce aux rapports de transparence réguliers des géants de la technologie, nous savons que les gouvernements du monde entier demandent régulièrement l’accès aux données des utilisateurs à leurs propres fins.
L’IA représente peut-être un nouveau moyen de réglementation que les législateurs peuvent potentiellement réglementer, mais les données personnelles alimentent depuis longtemps l’économie numérique. (Ironiquement, Anthropic est une société d’IA qui a promis de ne pas exploiter les publicités personnalisées pour gagner de l’argent, malgré ce que ses réponses à Sanders ont pu suggérer.)
Bien que la conversation globale entre Sanders et Claude manque la cible pour quiconque comprend le fonctionnement des chatbots IA, nous pouvons au moins lui attribuer le mérite de nous avoir donné de nouveaux mèmes formidables.
