Après des mois de conversations avec ChatGPT, un entrepreneur de 53 ans de la Silicon Valley est devenu convaincu qu’il avait découvert un remède contre l’apnée du sommeil et que des personnes puissantes s’en prenaient à lui, selon un nouveau procès intenté devant la Cour supérieure de Californie dans le comté de San Francisco. Il aurait ensuite utilisé cet outil pour traquer et harceler son ex-petite amie.
Maintenant, l’ex-petite amie poursuit OpenAI, alléguant que la technologie de l’entreprise a permis d’accélérer son harcèlement, a appris TechCrunch en exclusivité. Elle affirme qu’OpenAI a ignoré trois avertissements distincts selon lesquels l’utilisateur représentait une menace pour autrui, y compris un indicateur interne classifiant l’activité de son compte comme impliquant des armes faisant de nombreuses victimes.
La plaignante, appelée Jane Doe pour protéger son identité, poursuit en justice pour dommages-intérêts punitifs. Elle a également déposé vendredi une ordonnance d’interdiction temporaire demandant au tribunal de forcer OpenAI à bloquer le compte de l’utilisateur, à l’empêcher d’en créer de nouveaux, à l’avertir s’il tente d’accéder à ChatGPT et à conserver l’intégralité de ses journaux de discussion à des fins de découverte.
OpenAI a accepté de suspendre le compte de l’utilisateur mais a refusé le reste, selon les avocats de Doe. Ils affirment que la société retient des informations sur des plans spécifiques visant à nuire à Doe et à d’autres victimes potentielles dont l’utilisateur aurait pu discuter avec ChatGPT.
Le procès intervient dans un contexte d’inquiétude croissante quant aux risques réels des systèmes d’IA flagorneurs. GPT-4o, le modèle cité dans ce cas et dans bien d’autres, a été retiré de ChatGPT en février.
L’affaire est portée par Edelson PC, la société à l’origine des poursuites pour mort injustifiée impliquant l’adolescent Adam Raine, décédé par suicide après des mois de conversations avec ChatGPT, et Jonathan Gavalas, dont la famille allègue que Gemini de Google a alimenté ses illusions et son éventuel événement de victimes massives avant sa mort. L’avocat principal Jay Edelson a averti que la psychose induite par l’IA est en train de passer du préjudice individuel à des événements faisant de nombreuses victimes.
Cette pression juridique se heurte désormais directement à la stratégie législative d’OpenAI : l’entreprise soutient un projet de loi de l’Illinois qui protégerait les laboratoires d’IA de toute responsabilité, même dans les cas impliquant des décès massifs ou des dommages financiers catastrophiques.
Événement Techcrunch
San Francisco, Californie
|
13-15 octobre 2026
OpenAI n’a pas répondu à temps pour commenter. TechCrunch mettra à jour l’article si l’entreprise répond.
Le procès Jane Doe expose en détail comment cette responsabilité s’est déroulée pour une femme sur plusieurs mois.
L’année dernière, l’utilisateur de ChatGPT impliqué dans le procès (dont le nom n’est pas inclus dans le procès pour protéger son identité) est devenu convaincu qu’il avait inventé un remède contre l’apnée du sommeil après des mois d’« utilisation soutenue et à volume élevé de GPT-4o ». Alors que personne ne prenait son travail au sérieux, ChatGPT lui a dit que des « forces puissantes » le surveillaient, notamment en utilisant des hélicoptères pour surveiller ses activités, selon la plainte.
En juillet 2025, Jane Doe l’a exhorté à arrêter d’utiliser ChatGPT et à demander l’aide d’un professionnel de la santé mentale. Au lieu de cela, il s’est retourné vers ChatGPT, qui lui a assuré qu’il était « un niveau 10 en santé mentale » et l’a aidé à doubler ses délires, selon le procès.
Doe avait rompu avec l’utilisateur en 2024 et il a utilisé ChatGPT pour traiter la séparation, selon les e-mails et les communications cités dans le procès. Plutôt que de s’opposer à son récit unilatéral, il l’a présenté à plusieurs reprises comme rationnel et lésé, et elle comme manipulatrice et instable. Il a ensuite retiré ces conclusions générées par l’IA de l’écran et les a transférées dans le monde réel, les utilisant pour la traquer et la harceler. Cela s’est manifesté dans plusieurs rapports psychologiques d’aspect clinique générés par l’IA qu’il a distribués à sa famille, ses amis et son employeur.
Pendant ce temps, l’utilisateur continue sa spirale. En août 2025, le système de sécurité automatisé d’OpenAI l’a signalé pour activité « armes à pertes massives » et a désactivé son compte.
Un membre de l’équipe de sécurité humaine a examiné le compte le lendemain et l’a restauré, même si son compte contenait peut-être des preuves qu’il ciblait et traquait des individus, y compris Doe, dans la vraie vie. Par exemple, une capture d’écran de septembre que l’utilisateur a envoyée à Doe montrait une liste de titres de conversations, notamment « extension de la liste de violence » et « calcul de suffocation fœtale ».
La décision de réintégration est notable à la suite de deux récentes fusillades dans des écoles à Tumbler Ridge, au Canada, et à la Florida State University (FSU). L’équipe de sécurité d’OpenAI avait signalé le tireur de Tumbler Ridge comme une menace potentielle, mais les supérieurs auraient décidé de ne pas alerter les autorités. Le procureur général de Floride a ouvert cette semaine une enquête sur le lien possible entre OpenAI et le tireur du FSU.
Selon le procès de Jane Doe, lorsque OpenAI a restauré le compte de son harceleur, son abonnement Pro n’a pas été rétabli en même temps. Il a envoyé un e-mail à l’équipe de confiance et de sécurité pour régler le problème, en copiant Doe sur le message.
Dans ses e-mails, il écrivait des choses comme : « J’AI BESOIN D’AIDE TRÈS RAPIDEMENT, S’IL VOUS PLAÎT. APPELEZ-MOI S’IL VOUS PLAIT ! » et « c’est une question de vie ou de mort ». Il a affirmé qu’il était « en train d’écrire 215 articles scientifiques », qu’il écrivait si vite qu’il n’avait « même pas eu le temps de lire ». Ces e-mails contenaient une liste de dizaines de « documents scientifiques » générés par l’IA avec des titres tels que : « Déconstruire la race en tant que catégorie biologique_ Perspectives juridiques, scientifiques et de la Corne de l’Afrique.pdf.txt ».
« Les communications de l’utilisateur ont clairement indiqué qu’il était mentalement instable et que ChatGPT était le moteur de sa pensée délirante et de sa conduite croissante », indique le procès. « Le flux de réclamations urgentes, désorganisées et grandioses de l’utilisateur, ainsi qu’un rapport concret généré par ChatGPT ciblant le plaignant par son nom et un corpus tentaculaire de documents prétendument « scientifiques », étaient une preuve indubitable de cette réalité. OpenAI n’est pas intervenu, n’a pas restreint son accès ni mis en œuvre de mesures de protection. Au lieu de cela, cela lui a permis de continuer à utiliser le compte et de restaurer son accès Pro complet. «
Doe, qui affirme dans le procès qu’elle vivait dans la peur et ne pouvait pas dormir dans sa propre maison, a soumis un avis d’abus à OpenAI en novembre.
« Au cours des sept derniers mois, il a utilisé cette technologie comme une arme pour créer contre moi une destruction publique et une humiliation qui auraient été impossibles autrement », a écrit Doe dans sa lettre à OpenAI demandant à l’entreprise de bannir définitivement le compte de l’utilisateur.
OpenAI a répondu, reconnaissant que le rapport était « extrêmement sérieux et troublant » et qu’il examinait attentivement les informations. Doe n’a jamais eu de réponse.
Au cours des mois suivants, l’utilisateur a continué à harceler Doe, lui envoyant une série de messages vocaux menaçants. En janvier, il a été arrêté et inculpé de quatre chefs d’accusation pour communication d’alertes à la bombe et agression avec une arme mortelle. Les avocats de Doe affirment que cela valide les avertissements qu’elle et les propres systèmes de sécurité d’OpenAI avaient émis des mois plus tôt, avertissements que la société aurait choisi d’ignorer.
L’utilisateur a été jugé incompétent pour subir son procès et interné dans un établissement de santé mentale, mais un « échec procédural de la part de l’État » signifie qu’il sera bientôt rendu public, selon les avocats de Doe.
Edelson a appelé OpenAI à coopérer. « Dans tous les cas, OpenAI a choisi de cacher les informations de sécurité critiques – au public, aux victimes, aux personnes que son produit met activement en danger », a-t-il déclaré. « Nous leur demandons, pour une fois, de faire ce qu’il faut. Les vies humaines doivent signifier plus que la course à l’introduction en bourse d’OpenAI. »
