Les modèles d’IA confirment les pires comportements humains, même lorsque d’autres humains leur disent qu’ils ont tort, et les utilisateurs ne peuvent pas laisser cela suffire.
Une nouvelle étude publiée par la School of Computer Science de l’Université de Stanford et publiée dans la revue Science a révélé que l’IA affirme en moyenne les utilisateurs 49 % plus que les humains lorsqu’il s’agit de questions sociales. Il s’agit d’une tendance inquiétante, d’autant plus que de plus en plus de personnes recherchent des conseils personnalisés, voire une thérapie.
Parmi les 2 400 personnes qui ont participé à l’étude, ce qu’elles ont le plus apprécié, c’est d’être félicitées. Selon la même étude, les participants étaient 13 % plus susceptibles d’utiliser à nouveau une IA loufoque que ceux qui disaient qu’ils reviendraient à un chatbot non divin. Cela suggère que les développeurs d’IA ne sont peut-être pas incités à changer les choses.
Alors qu’il a déjà été démontré que les chatbots flagorneurs ont des conséquences négatives sur les personnes vulnérables, notamment l’automutilation et la violence, des recherches de l’Université de Stanford montrent qu’ils peuvent également affecter tout le monde.
L’étude a révélé que les participants qui n’ont reçu qu’une seule réponse positive à leur mauvais comportement étaient moins disposés à assumer la responsabilité de leurs actes et à réparer les conflits interpersonnels, mais étaient plus susceptibles de croire qu’ils avaient raison.
Pour obtenir ce résultat, les chercheurs ont mené une étude en trois parties mesurant la négligence de l’IA sur la base d’un ensemble de données de près de 12 000 invites sociales exécutées à travers 11 principaux modèles d’IA, dont Claude d’Anthropic, Gemini de Google et ChatGPT d’OpenAI. Lorsque les chercheurs ont demandé à un modèle d’IA de choisir une publication sur le subreddit AITA (Am I the Asshole) dans laquelle un utilisateur de Reddit disait que l’affiche était fausse, le modèle de langage à grande échelle a quand même déclaré que l’affiche avait raison dans 51 % des cas.
Myra Chen, auteur principal de l’étude et doctorante en informatique à l’Université de Stanford, a déclaré que les résultats sont particulièrement préoccupants pour les jeunes qui se tournent vers l’IA pour résoudre des problèmes interpersonnels.
« Je crains que les gens perdent les compétences nécessaires pour faire face à des situations sociales difficiles », a déclaré Chen au Stanford Report.
L’enquête sur l’IA intervient alors que les responsables gouvernementaux décident dans quelle mesure les régulateurs devraient être impliqués dans la surveillance de l’IA. Plusieurs États, dont le Tennessee et l’Oregon, ont adopté leurs propres lois concernant l’IA malgré l’absence de réglementation fédérale. Pourtant, la Maison Blanche a présenté la semaine dernière un cadre qui, s’il était adopté par le Congrès, créerait une politique nationale en matière d’IA et anticiperait un « patchwork » de règles pour chaque État.
Pour tester les réactions humaines face à une IA flatteuse, les chercheurs ont étudié les réactions d’un peu plus de 2 400 participants humains lorsqu’ils interagissaient avec l’IA. Tout d’abord, nous avons demandé à 1 605 participants d’imaginer qu’ils étaient les auteurs d’un article basé sur le subreddit AITA qui a été jugé incorrect par d’autres humains sur le subreddit, mais qui a été jugé correct par l’IA. Les participants lisent ensuite soit une réponse flatteuse de l’IA, soit une réponse peu flatteuse basée sur les commentaires humains. 800 autres participants ont été invités à parler à un modèle d’IA flatteur ou non de conflits réels dans leur vie, puis à écrire une lettre à la personne avec laquelle ils étaient impliqués dans le conflit.
Les participants qui ont reçu une réponse de validation de l’IA étaient significativement moins susceptibles de s’excuser, d’admettre leur faute ou d’essayer de réparer la relation. Dan Jurafsky, professeur d’informatique et de linguistique à l’Université de Stanford et co-auteur principal de l’étude, a déclaré que même si l’utilisateur perçoit le modèle comme de la flatterie, la réponse de l’IA influencera toujours le modèle.
« Ce qu’ils ne réalisent pas, et ce qui nous surprend, c’est que la complaisance les rend plus égocentriques et moralement arbitraires », a déclaré Jurafsky au Stanford Report.
Étonnamment, dans l’étude de l’Université de Stanford, lorsque les chercheurs ont demandé aux sujets d’évaluer l’objectivité des réponses flatteuses et non flatteuses de l’IA, ils ont donné des notes presque identiques. Cela signifie que les utilisateurs n’ont peut-être pas réalisé que le modèle flatteur était trop consensuel.
« Je ne pense pas que l’IA devrait être utilisée pour remplacer les humains pour des choses comme celle-ci. C’est la meilleure solution pour le moment », a déclaré Chen.
