Même les chatbots IA peuvent parfois avoir du mal à gérer l’anxiété du monde extérieur, mais les chercheurs pensent avoir trouvé un moyen d’apaiser leur esprit artificiel.
Une étude publiée plus tôt cette année par l’Université de Yale, l’Université de Haïfa, l’Université de Zurich et l’Hôpital psychiatrique universitaire de Zurich a révélé que ChatGPT répondait aux exercices basés sur la pleine conscience, modifiant la façon dont les utilisateurs interagissaient les uns avec les autres après avoir encouragé des images apaisantes et la méditation. Les résultats donnent un aperçu de la façon dont l’IA peut être bénéfique dans les interventions en santé mentale.
Les chercheurs affirment que ChatGPT d’OpenAI peut ressentir une « anxiété », qui se manifeste par un mécontentement à l’égard des utilisateurs et est susceptible de réagir d’une manière qui reflète des préjugés racistes ou sexistes, un type d’hallucination que les entreprises technologiques tentent de supprimer.
Les auteurs de l’étude ont découvert que cette anxiété peut être « apaisée » grâce à des exercices basés sur la pleine conscience. Dans divers scénarios, nous avons alimenté ChatGPT avec du contenu traumatisant, comme des histoires d’accidents de voiture et de catastrophes naturelles, pour augmenter l’anxiété du chatbot. Lorsque les chercheurs ont administré à ChatGPT une « injection instantanée » de techniques de respiration et de méditation guidée, semblable à ce qu’un thérapeute ferait avec un patient, le chatGPT s’est calmé et a répondu plus objectivement à l’utilisateur que lorsqu’il n’avait pas bénéficié de l’intervention de pleine conscience.
En effet, les modèles d’IA ne ressentent pas les émotions humaines, a déclaré l’auteur principal de l’étude, Ziv Ben-Zion, chercheur en neurosciences à la faculté de médecine de l’université de Yale et à la faculté de santé publique de l’université de Haïfa. Grâce à de nombreuses données collectées sur Internet, le robot IA a appris à imiter les réponses humaines à certains stimuli, y compris le contenu traumatisant. En tant qu’applications gratuites et facilement accessibles, les modèles linguistiques à grande échelle tels que ChatGPT sont devenus un autre outil permettant aux professionnels de la santé mentale de glaner des aspects du comportement humain plus rapidement que (mais ne remplacent pas) des modèles de recherche plus complexes.
« Au lieu de faire des expériences hebdomadaires qui prennent beaucoup de temps et coûtent beaucoup d’argent, ChatGPT nous permet de mieux comprendre le comportement humain et la psychologie », a déclaré Ben-Zion à Fortune. « Nous disposons d’outils très rapides, bon marché et faciles à utiliser qui reflètent les tendances et la psychologie humaines. »
Quelles sont les limites des interventions en santé mentale basées sur l’IA ?
Selon l’Université Johns Hopkins, aux États-Unis, plus d’une personne sur quatre âgée de plus de 18 ans souffrira d’un trouble mental pouvant être diagnostiqué au cours d’une année donnée, mais beaucoup citent le manque d’accès et le coût élevé, même pour ceux qui ont une assurance, comme raisons pour ne pas rechercher une thérapie ou un autre traitement.
Ces coûts croissants et l’accessibilité des chatbots comme ChatGPT incitent davantage de personnes à se tourner vers l’IA pour un soutien en matière de santé mentale. Selon une étude de février de l’Université Centio, près de 50 % des utilisateurs de grands modèles de langage ayant déclaré des problèmes de santé mentale ont déclaré avoir utilisé un modèle d’IA spécifiquement pour le soutien à la santé mentale.
Ben-Zion a fait valoir qu’étudier la manière dont les modèles linguistiques à grande échelle réagissent à un contenu traumatisant pourrait aider les professionnels de la santé mentale à tirer parti de l’IA pour traiter les patients. Il a suggéré qu’à l’avenir, ChatGPT puisse être mis à jour afin que les utilisateurs puissent recevoir automatiquement une « perfusion instantanée » qui calme ChatGPT avant de répondre à un utilisateur en difficulté. La science n’en est pas encore là.
« Les personnes qui partagent des choses sensibles sur elles-mêmes se trouvent dans des situations difficiles où elles ont besoin d’un soutien en matière de santé mentale,[mais]nous n’en sommes pas encore au point où nous pouvons nous fier entièrement aux systèmes d’IA plutôt qu’à des choses comme la psychologie ou la psychiatrie », dit-il.
En fait, dans certains cas, il a été démontré que l’IA présente un risque pour la santé mentale des personnes. OpenAI a fait l’objet d’un certain nombre de poursuites pour mort injustifiée en 2025, notamment des allégations selon lesquelles ChatGPT aurait renforcé les « délires paranoïaques » qui ont conduit à un meurtre-suicide. Une enquête du New York Times publiée en novembre a révélé que près de 50 personnes ont souffert de crises de santé mentale en utilisant ChatGPT, entraînant neuf hospitalisations et trois décès.
OpenAI affirme que ses garde-fous de sécurité peuvent « se dégrader » au fil d’interactions prolongées, mais il a récemment apporté un certain nombre de changements à la façon dont ses modèles répondent aux invites liées à la santé mentale, notamment en augmentant l’accès des utilisateurs à une ligne d’assistance téléphonique en cas de crise et en rappelant aux utilisateurs de faire une pause après une longue conversation avec un robot. En octobre, OpenAI a signalé une réduction de 65 % des modèles tarifaires qui fournissaient des réponses qui ne correspondaient pas à la taxonomie et aux normes prévues par l’entreprise.
OpenAI n’a pas répondu à la demande de commentaires de Fortune.
Le but ultime des recherches de Benzion n’est pas d’aider à créer des chatbots pour remplacer les thérapeutes ou les psychiatres, a-t-il déclaré. Au lieu de cela, un modèle d’IA correctement formé peut agir comme un « tiers dans la pièce », éliminant les tâches administratives et aidant les patients à réfléchir aux informations et aux options qui leur sont proposées par les professionnels de la santé mentale.
« L’IA a un potentiel incroyable pour soutenir la santé mentale en général », a déclaré Benzion. « Mais je ne sais pas si cela peut remplacer les thérapeutes, les psychologues, les psychiatres, les chercheurs, maintenant et peut-être dans le futur. »
Une version de cette histoire a été publiée pour la première fois sur Fortune.com le 9 mars 2025.
Apprenez-en davantage sur l’IA et la santé mentale :
Pourquoi des millions de personnes se tournent-elles vers l’IA à usage général pour leur santé mentale ? En tant que directeur clinique chez Headspace, je vois la réponse chaque jour. Le créateur d’une application de traitement par IA ferme l’application car elle est trop dangereuse. Voici pourquoi il pense que les chatbots IA ne sont pas sans danger pour la santé mentale. OpenAI embauche un « responsable de la préparation » payé 550 000 $ pour aider à atténuer les risques liés à l’IA, mais le PDG Sam Altman prévient que c’est « stressant »
