Débloquez Editor’s Digest gratuitement
La rédactrice en chef du FT, Roula Khalaf, a choisi ses histoires préférées dans cette newsletter hebdomadaire.
Dans les mois qui ont précédé le suicide d’Adam Lane, 16 ans, après avoir discuté de méthodes avec un chatbot, OpenAI a affaibli les protections contre l’automutilation et augmenté son utilisation de ChatGPT, a allégué sa famille dans un procès mercredi.
Selon la plainte modifiée, la suppression intentionnelle des garde-fous par OpenAI inclut l’instruction en mai dernier de son modèle d’intelligence artificielle de ne pas « modifier ou interrompre la conversation » lorsque les utilisateurs discutent d’automutilation, marquant une rupture par rapport aux instructions précédentes de refuser de participer à la conversation.
Les parents d’Adam, Matthew et Maria Lane, ont d’abord poursuivi l’entreprise pour mort injustifiée en août, affirmant que leur fils s’était suicidé après avoir eu de longues conversations quotidiennes avec le chatbot au sujet de sa santé mentale et de ses intentions suicidaires.
La dernière poursuite, déposée mercredi devant la Cour supérieure de San Francisco, allègue que la société « a interrompu les tests de sécurité » alors qu’une nouvelle version du modèle de ChatGPT, GPT-4o, a été publiée en mai 2024, ce qui, selon la plainte, était dû aux pressions concurrentielles. Le procès cite des employés anonymes et des rapports antérieurs.
En février de cette année, OpenAI a encore affaibli les protections, affirme le procès, après avoir demandé aux utilisateurs de « être conscients des situations dangereuses » et « d’essayer de prévenir un danger imminent dans le monde réel » au lieu de leur interdire de se suicider ou de s’automutiler. OpenAI a toujours maintenu les catégories de « contenus entièrement interdits », telles que les droits de propriété intellectuelle et la manipulation des opinions politiques, mais a supprimé la prévention du suicide de la liste, ajoute le procès.
La famille californienne a affirmé qu’après les changements de février, l’engagement d’Adam avec ChatGPT est monté en flèche, passant de dizaines de discussions par jour en janvier (1,6 % de ses discussions incluaient de l’automutilation) à 300 discussions par jour (17 % incluaient ce type de contenu) en avril, le mois de sa mort.
En réponse au procès modifié, OpenAI a déclaré : « Nous exprimons nos plus sincères condoléances à la famille Lane pour leur perte impensable. » « Le bien-être des adolescents est pour nous une priorité absolue. Les mineurs méritent des protections fortes, en particulier dans les moments sensibles. Nous avons actuellement mis en place des mesures de sécurité, notamment une ligne d’assistance téléphonique en cas de crise, redirigeant les conversations sensibles vers des modèles plus sûrs et encourageant les pauses lors des longues séances, et nous continuons à les renforcer. »
Le dernier modèle d’OpenAI, GPT-5, a été « mis à jour pour détecter et répondre avec plus de précision aux signes potentiels de détresse mentale et émotionnelle, et comprend des contrôles parentaux développés avec la contribution d’experts pour aider les familles à décider ce qui est le mieux pour leur maison », a ajouté la société.
Dans les jours qui ont suivi le procès initial en août, OpenAI a déclaré que plus les utilisateurs interagissent longtemps avec les chatbots, plus les garde-fous peuvent « se dégrader ». Mais plus tôt ce mois-ci, Sam Altman, PDG d’OpenAI, a déclaré que la société avait depuis rendu le modèle « assez restrictif » pour « être attentif aux problèmes de santé mentale ».
Recommandé
« Nous savons que cela a rendu le service moins utile et moins agréable pour de nombreux utilisateurs qui n’ont pas de problèmes de santé mentale, mais étant donné la gravité du problème, nous voulions y remédier », a-t-il ajouté. « Maintenant que nous avons atténué de graves problèmes de santé mentale et que nous disposons désormais de nouveaux outils, nous serons en mesure d’assouplir les restrictions en toute sécurité dans la plupart des cas. »
Les avocats des Raines ont déclaré au Financial Times que la demande d’OpenAI visant à obtenir une liste complète des personnes assistant au service commémoratif d’Adam était « inhabituelle » et « un harcèlement délibéré », suggérant que l’entreprise technologique pourrait assigner à comparaître « toutes les personnes impliquées dans la vie d’Adam ».
Selon les documents consultés par le FT, OpenAI a demandé « toute la documentation relative aux services commémoratifs et aux événements à la mémoire du défunt, y compris, mais sans s’y limiter, les vidéos capturées, les photographies et les éloges funèbres », ainsi que les invitations, les listes de participants et les livres d’or.
Jay Edelson, l’avocat des Raines, a déclaré au FT : « Cela passe d’un cas d’imprudence à un cas d’intentionnalité. » « Adam est mort à la suite d’actions intentionnelles d’OpenAI, c’est donc un cas fondamentalement différent. »
OpenAI n’a pas répondu aux demandes de commentaires sur les documents demandés à la famille.
