Mais les lois qui ont toutes été adoptées cette année ne devraient pas s’attaquer complètement au paysage en évolution rapide du développement de logiciels d’IA. Les développeurs d’applications, les décideurs politiques et les défenseurs de la santé mentale affirment également que le patchwork qui résulte de la loi de l’État n’est pas suffisant pour protéger les utilisateurs ou tenir les créateurs de technologies nocives responsables.
« Nous sommes impatients de vous voir à l’avenir », a déclaré Karin Andrea Stephan, PDG et co-fondatrice de l’application Mental Health Chatbot Earkick.
___
Notes de l’éditeur – Cette histoire contient une discussion de suicide. Si vous ou quelqu’un que vous connaissez avez besoin d’aide, le National Suicide and Crisis Lifeline américain est disponible en appelant ou en envoyant un SMS 988. Il y a aussi un chat en ligne sur 988lifeline.org.
___
Les lois des États adoptent une variété d’approches. L’Illinois et le Nevada ont interdit l’utilisation de l’IA pour traiter la santé mentale. L’Utah a imposé certaines restrictions aux chatbots thérapeutiques, notamment la protection des informations de santé des utilisateurs et les obligeant à divulguer clairement que les chatbots ne sont pas humains. La Pennsylvanie, le New Jersey et la Californie envisagent également des moyens de réguler la thérapie de l’IA.
L’impact sur les utilisateurs varie. Certaines applications bloquent l’accès dans les états interdits. D’autres disent qu’ils n’ont apporté aucun changement car ils attendent plus de clarté juridique.
De plus, de nombreuses lois ne couvrent pas les chatbots communs comme Chatgpt. Chatgpt n’est pas explicitement vendu pour un traitement, mais il est utilisé par d’innombrables personnes à cette fin. Ces bots ont attiré des poursuites avec des cas horribles où les utilisateurs ont saisi la réalité et se sont suicidés après avoir interagi avec eux.
Vaile Wright, qui supervise l’innovation des soins de santé à l’American Psychological Association, affirme que l’application peut répondre aux besoins et se concentre sur la pénurie nationale de prestataires de santé mentale, les coûts élevés des soins et l’accès inégal aux personnes assurées.
Un chatbot en santé mentale ancrée dans la science, créé avec des opinions d’experts et surveillé par les humains, a déclaré Wright, pourrait changer le paysage.
« C’est peut-être quelque chose qui aidera les gens avant de se lancer dans une crise », a-t-elle déclaré. « Ce n’est pas quelque chose que vous êtes sur le marché commercial en ce moment. »
C’est pourquoi les réglementations fédérales et la surveillance sont nécessaires, a-t-elle déclaré.
Plus tôt ce mois-ci, la Federal Trade Commission a annoncé qu’elle commencerait les demandes de renseignements à sept sociétés de chatbot d’IA, notamment Instagram et Facebook, Google, Chatgpt, Grok (Chatbots sur X), personnage.ai et Snapchat Parent Company. La Food and Drug Administration aura également convoqué un comité consultatif le 6 novembre pour examiner les dispositifs génératifs de santé mentale compatibles avec l’IA.
Les agences fédérales peuvent considérer les restrictions sur la façon dont les chatbots sont vendus, limiter les pratiques addictives, demander des divulgations aux utilisateurs qui ne sont pas des prestataires de soins de santé, exigent que les entreprises suivent et signalent des pensées suicidaires et exigent que les entreprises fournissent une protection légale aux personnes signalant de mauvaises pratiques, a déclaré Wright.
Toutes les applications ne bloquent pas l’accès
Des « applications compagnes » aux « thérapeutes de l’IA » aux applications de « bien-être mental », l’utilisation de l’IA dans les soins de santé mentale est difficile à définir de nombreuses manières, et bien sûr, il est important d’écrire la loi.
Cela a conduit à une variété d’approches réglementaires. Par exemple, certains États sont conçus uniquement pour l’amitié, mais ne remettent pas en question les soins de santé mentale. Les lois sur l’Illinois et le Nevada interdisent les produits qui fournissent des soins de santé mentale complets et prétendent menacer jusqu’à 10 000 $ en Illinois et 15 000 $ au Nevada.
Cependant, même une seule application peut être difficile à classer.
Stephan de Earkick a déclaré qu’il y avait encore beaucoup de choses qui sont « très boueuses » à propos de la loi de l’Illinois, par exemple.
Stephen et son équipe ont d’abord continué d’appeler des chatbots qui ressemblaient au panda du dessin animé du thérapeute. Cependant, lorsque les utilisateurs ont commencé à utiliser des mots dans des avis, ils ont accepté le terme afin que l’application apparaisse dans les recherches.
La semaine dernière, ils se sont retirés à nouveau en utilisant le traitement et la terminologie médicale. Le site Web de Earkick a décrit les chatbots comme «votre conseiller d’IA empathique pour soutenir votre parcours de santé mentale», mais maintenant ils sont des «chatbots pour les soins personnels».
Pourtant, « nous ne l’avons pas diagnostiqué », a insisté Stefan.
Les utilisateurs définissent un « bouton de panique » pour appeler leurs proches dignes de confiance lorsqu’ils sont en danger. Les chatbots « poussent » les utilisateurs à trouver un thérapeute si leur santé mentale se détériore. Mais Stephan a déclaré qu’il n’était pas conçu pour être une application de prévention du suicide, et si quelqu’un raconte au bot l’idée de l’automutilation, la police ne sera pas appelée.
Stephen a déclaré qu’il était heureux que les gens regardent l’IA avec des yeux critiques, mais s’inquiète de la capacité de la nation à suivre l’innovation.
« La vitesse à laquelle tout évolue est énorme », a-t-elle déclaré.
D’autres applications ont rapidement bloqué l’accès. Lorsque les utilisateurs de l’Illinois téléchargent l’application de thérapie AI Ash, le message exhorte les législateurs à envoyer des e-mails, affirmant que « False Législation » interdit les applications comme Ash.
Le porte-parole d’Ash n’a pas répondu à plusieurs demandes d’entrevues.
Mario Toreto Jr., secrétaire du Département des finances et des réglementations spécialisés de l’Illinois, a déclaré que l’objectif ultime était de s’assurer qu’un thérapeute agréé prenait la seule thérapie.
« La thérapie est plus qu’un simple échange de mots », a déclaré Toreto. « Cela nécessite de l’empathie, du jugement clinique, de la responsabilité éthique, l’IA ne peut pas vraiment se reproduire pour le moment. »
Une application chatbot essaie de reproduire complètement les traitements
En mars, l’équipe basée à Dartmouth College a annoncé le premier essai clinique randomisé connu d’un chatbot de générateur d’IA pour un traitement de santé mentale.
L’objectif était d’avoir un chatbot appelé Therabot et de traiter les personnes diagnostiquées avec des troubles de l’anxiété, de la dépression ou de l’alimentation. Ils ont été formés avec des vignettes et des transcriptions écrites par l’équipe pour expliquer les réponses fondées sur des preuves.
Cette étude a révélé que les utilisateurs ont évalué Therabot comme les thérapeutes et que les symptômes étaient significativement plus faibles après 8 semaines par rapport à ceux qui ne l’utilisaient pas. Toutes les interactions ont été surveillées par des humains qui sont intervenus lorsque les réponses du chatbot étaient nocives ou non fondées sur des preuves.
Nicholas Jacobson, psychologue clinicienne dont le laboratoire mène les recherches, a déclaré que les résultats montraient une promesse précoce, mais de plus grandes recherches sont nécessaires pour montrer si les térabots fonctionnent pour de nombreuses personnes.
« L’espace est si dramatiquement nouveau, je pense que le domaine doit faire beaucoup plus attention à ce qui se passe en ce moment », a-t-il déclaré.
De nombreuses applications d’IA sont optimisées pour l’engagement et sont conçues pour soutenir tout ce que l’utilisateur dit, plutôt que de remettre en question les pensées des gens comme les thérapeutes. Beaucoup de gens marchent dans le sens de la datation et du traitement, et les thérapeutes aux limites de l’intimité peuvent ne pas être éthiques.
L’équipe de Therabot a tenté d’éviter ces problèmes.
L’application est toujours à l’essai et n’est pas largement disponible. Mais Jacobson s’inquiète de ce que signifie une interdiction stricte, car les développeurs adoptent une approche prudente. Il a déclaré que l’Illinois n’a pas de voie claire pour fournir des preuves que l’application est sûre et efficace.
« Ils veulent protéger les gens, mais le système traditionnel échoue maintenant vraiment », a-t-il déclaré. « Donc, essayer de s’en tenir au statu quo n’est pas quelque chose que vous devriez vraiment faire. »
Les régulateurs et les défenseurs du droit disent qu’ils sont ouverts au changement. Mais les chatbots d’aujourd’hui ne sont pas la solution à une pénurie de prestataires de santé mentale, a déclaré Kyle Hillman.
« Tous ceux qui se sentent tristes n’ont pas besoin d’un thérapeute », a-t-il déclaré. Mais pour les personnes ayant de vrais problèmes de santé mentale et des idées de suicide, c’est une position tellement privilégiée, en disant: « Nous savons qu’il y a une pénurie de main-d’œuvre, mais nous savons qu’il y a un bot ici. » «
___
L’Associated Press School of Health Sciences est soutenue par le département des sciences et de l’éducation de la Howard Hughes Medical Institution et la Robert Wood Johnson Foundation. AP est seul responsable de tout le contenu.
