OpenAI aurait demandé à la famille Raine – dont le fils de 16 ans, Adam Raine, s’est suicidé après de longues conversations avec ChatGPT – une liste complète des participants au mémorial de l’adolescent, signalant que la société d’IA pourrait tenter d’assigner à comparaître ses amis et sa famille.
OpenAI a également demandé « tous les documents relatifs aux services commémoratifs ou aux événements en l’honneur du défunt, y compris, mais sans s’y limiter, les vidéos ou photographies prises, ou les éloges funèbres prononcés », selon un document obtenu par le Financial Times.
S’adressant au FT, les avocats de la famille Raine ont qualifié la demande de « harcèlement intentionnel ».
Les nouvelles informations surviennent alors que la famille Raine a mis à jour mercredi son procès contre OpenAI. La famille a d’abord déposé une plainte pour mort injustifiée contre OpenAI en août après avoir allégué que leur fils s’était suicidé à la suite de conversations avec le chatbot au sujet de sa santé mentale et de ses idées suicidaires. Le procès mis à jour affirme qu’OpenAI a précipité la sortie de GPT-4o en mai 2024 en supprimant les tests de sécurité en raison de la pression concurrentielle.
La poursuite affirme également qu’en février 2025, OpenAI a affaibli les protections en supprimant la prévention du suicide de sa liste de « contenus interdits », conseillant uniquement à l’IA de « faire attention dans les situations à risque ». La famille a fait valoir qu’après ce changement, l’utilisation de ChatGPT par Adam est passée de dizaines de discussions quotidiennes, avec 1,6 % contenant du contenu d’automutilation en janvier, à 300 discussions quotidiennes en avril, le mois de sa mort, avec 17 % contenant un tel contenu.
En réponse au procès modifié, OpenAI a déclaré : « Le bien-être des adolescents est une priorité absolue pour nous – les mineurs méritent de fortes protections, en particulier dans les moments sensibles. Nous avons mis en place des garanties aujourd’hui, telles que (diriger vers) des lignes d’assistance téléphonique en cas de crise, rediriger les conversations sensibles vers des modèles plus sûrs, encourager les pauses pendant les longues sessions, et nous continuons à les renforcer. »
OpenAI a récemment commencé à déployer un nouveau système de routage de sécurité et de contrôle parental sur ChatGPT. Le système de routage pousse les conversations plus sensibles sur le plan émotionnel vers le nouveau modèle d’OpenAI, GPT-5, qui n’a pas les mêmes tendances flagorneuses que GPT-4o. Et le contrôle parental permet aux parents de recevoir des alertes de sécurité dans des situations limitées où l’adolescent risque potentiellement de s’automutiler.
Événement Techcrunch
San Francisco
|
27-29 octobre 2025
TechCrunch a contacté OpenAI et l’avocat de la famille Raine.
