Sept familles ont intenté une action en justice contre OpenAI jeudi, affirmant que le modèle GPT-4o de la société avait été publié prématurément et sans garanties efficaces. Quatre des poursuites portent sur le rôle présumé de ChatGPT dans les suicides de membres de la famille, tandis que les trois autres affirment que ChatGPT a renforcé des idées délirantes néfastes qui, dans certains cas, ont abouti à des soins psychiatriques en milieu hospitalier.
Dans un cas, Zane Shamblin, 23 ans, a eu une conversation avec ChatGPT qui a duré plus de quatre heures. Dans les journaux de discussion – consultés par TechCrunch – Shamblin a explicitement déclaré à plusieurs reprises qu’il avait écrit des notes de suicide, mis une balle dans son arme et qu’il avait l’intention d’appuyer sur la gâchette une fois qu’il aurait fini de boire du cidre. Il a répété à plusieurs reprises à ChatGPT combien de cidres il lui restait et combien de temps il espérait rester en vie. ChatGPT l’a encouragé à mener à bien ses projets en lui disant : « Repose en paix, roi. Tu as bien fait. »
OpenAI a publié le modèle GPT-4o en mai 2024, lorsqu’il est devenu le modèle par défaut pour tous les utilisateurs. En août, OpenAI a lancé GPT-5 comme successeur de GPT-4o, mais ces poursuites concernent particulièrement le modèle 4o, qui avait connu des problèmes d’être trop flagorneur ou trop agréable, même lorsque les utilisateurs exprimaient des intentions nuisibles.
« La mort de Zane n’était ni un accident ni une coïncidence, mais plutôt la conséquence prévisible de la décision intentionnelle d’OpenAI de réduire les tests de sécurité et de précipiter ChatGPT sur le marché », indique le procès. « Cette tragédie n’était pas un problème ou un cas extrême imprévu – c’était le résultat prévisible de choix de conception délibérés (d’OpenAI). »
Les poursuites affirment également qu’OpenAI a précipité les tests de sécurité pour devancer le Gemini de Google sur le marché. TechCrunch a contacté OpenAI pour commentaires.
Ces sept poursuites s’appuient sur les histoires racontées dans d’autres dossiers juridiques récents, qui allèguent que ChatGPT peut encourager les personnes suicidaires à mettre en œuvre leurs plans et inspirer des illusions dangereuses. OpenAI a récemment publié des données indiquant que plus d’un million de personnes parlent chaque semaine de suicide à ChatGPT.
Dans le cas d’Adam Raine, un jeune de 16 ans décédé par suicide, ChatGPT l’a parfois encouragé à demander l’aide d’un professionnel ou à appeler une ligne d’assistance. Cependant, Raine a pu contourner ces garde-fous en disant simplement au chatbot qu’il posait des questions sur les méthodes de suicide pour une histoire fictive qu’il était en train d’écrire.
Événement Techcrunch
San Francisco
|
13-15 octobre 2026
La société affirme qu’elle travaille à ce que ChatGPT gère ces conversations de manière plus sûre, mais pour les familles qui ont poursuivi le géant de l’IA, ces changements arrivent trop tard.
Lorsque les parents de Raine ont intenté une action en justice contre OpenAI en octobre, la société a publié un article de blog expliquant comment ChatGPT gère les conversations sensibles autour de la santé mentale.
« Nos protections fonctionnent de manière plus fiable dans les échanges communs et courts », indique le message. « Nous avons appris au fil du temps que ces protections peuvent parfois être moins fiables lors d’interactions longues : à mesure que les allers-retours se multiplient, certaines parties de la formation à la sécurité du modèle peuvent se dégrader. »
