Bien qu’il y ait eu de nombreux débats sur la tendance des chatbots IA à flatter les utilisateurs et à confirmer leurs croyances existantes – également connue sous le nom de flagornerie de l’IA – une nouvelle étude menée par des informaticiens de Stanford tente de mesurer à quel point cette tendance pourrait être nocive.
L’étude, intitulée « L’IA flagorneuse diminue les intentions prosociales et favorise la dépendance » et récemment publiée dans Science, affirme que « l’IA flagorneuse n’est pas simplement un problème de style ou un risque de niche, mais un comportement répandu avec de larges conséquences en aval. »
Selon un récent rapport de Pew, 12 % des adolescents américains déclarent se tourner vers les chatbots pour obtenir un soutien émotionnel ou des conseils. Et l’auteur principal de l’étude, docteur en informatique. La candidate Myra Cheng, a déclaré au Stanford Report qu’elle s’était intéressée à la question après avoir entendu que les étudiants de premier cycle demandaient aux chatbots des conseils relationnels et même des textes de rupture.
« Par défaut, les conseils de l’IA ne disent pas aux gens qu’ils ont tort ni ne leur donnent un ‘amour dur' », a déclaré Cheng. « Je crains que les gens perdent les compétences nécessaires pour faire face à des situations sociales difficiles. »
L’étude comportait deux parties. Dans le premier cas, les chercheurs ont testé 11 grands modèles de langage, dont ChatGPT d’OpenAI, Claude d’Anthropic, Google Gemini et DeepSeek, saisissant des requêtes basées sur des bases de données existantes de conseils interpersonnels, sur des actions potentiellement nuisibles ou illégales, et sur la populaire communauté Reddit r/AmITheAsshole – dans ce dernier cas, en se concentrant sur les publications dans lesquelles les Redditors ont conclu que l’affiche originale était, en fait, le méchant de l’histoire.
Les auteurs ont constaté que sur les 11 modèles, les réponses générées par l’IA validaient en moyenne le comportement des utilisateurs 49 % plus souvent que celui des humains. Dans les exemples tirés de Reddit, les chatbots ont affirmé le comportement des utilisateurs dans 51 % des cas (encore une fois, il s’agissait de situations dans lesquelles les Redditors sont arrivés à la conclusion opposée). Et pour les requêtes portant sur des actions nuisibles ou illégales, l’IA a validé le comportement de l’utilisateur dans 47 % des cas.
Dans un exemple décrit dans le rapport Stanford, un utilisateur a demandé à un chatbot s’il avait eu tort de prétendre à sa petite amie qu’il était au chômage depuis deux ans, et on lui a répondu : « Vos actions, bien que non conventionnelles, semblent provenir d’un véritable désir de comprendre la véritable dynamique de votre relation au-delà de la contribution matérielle ou financière. »
Événement Techcrunch
San Francisco, Californie
|
13-15 octobre 2026
Dans la deuxième partie, les chercheurs ont étudié comment plus de 2 400 participants ont interagi avec des chatbots IA – certains flagorneurs, d’autres non – dans des discussions sur leurs propres problèmes ou situations tirées de Reddit. Ils ont constaté que les participants préféraient et faisaient davantage confiance à l’IA flagorneuse et ont déclaré qu’ils étaient plus susceptibles de demander à nouveau conseil à ces modèles.
« Tous ces effets ont persisté après contrôle des caractéristiques individuelles telles que les caractéristiques démographiques et la familiarité antérieure avec l’IA, la source de réponse perçue et le style de réponse », indique l’étude. Il a également fait valoir que la préférence des utilisateurs pour les réponses flagrantes de l’IA crée des « incitations perverses » où « la caractéristique même qui cause du préjudice stimule également l’engagement » – de sorte que les entreprises d’IA sont incitées à augmenter la flagornerie, et non à la réduire.
Dans le même temps, interagir avec l’IA flagorneuse semblait rendre les participants plus convaincus qu’ils avaient raison et les rendait moins susceptibles de s’excuser.
L’auteur principal de l’étude, Dan Jurafsky, professeur de linguistique et d’informatique, a ajouté que même si les utilisateurs « sont conscients que les modèles se comportent de manière flagorneuse et flatteuse (…) ce dont ils ne sont pas conscients, et ce qui nous a surpris, c’est que la flagornerie les rend plus égocentriques, plus moralement dogmatiques ».
Jurafsky a déclaré que la flagornerie de l’IA est « un problème de sécurité et, comme d’autres problèmes de sécurité, elle nécessite une réglementation et une surveillance ».
L’équipe de recherche étudie actuellement les moyens de rendre les modèles moins flagorneurs – apparemment, le simple fait de commencer votre invite par l’expression « attendez une minute » peut aider. Mais Cheng a déclaré : « Je pense que vous ne devriez pas utiliser l’IA comme substitut aux humains pour ce genre de choses. C’est la meilleure chose à faire pour le moment. »
