Un jeune de 18 ans qui aurait tué huit personnes lors d’une fusillade de masse à Tumbler Ridge, au Canada, aurait utilisé ChatGPT d’OpenAI d’une manière qui a alarmé le personnel de l’entreprise.
Les discussions de Jesse Van Rootselaar décrivant la violence armée ont été signalées par des outils qui surveillent le LLM de l’entreprise pour toute utilisation abusive et interdites en juin 2025.
Le personnel de l’entreprise a débattu de l’opportunité de contacter ou non les forces de l’ordre canadiennes au sujet de ce comportement, mais ne l’a finalement pas fait, selon le Wall Street Journal. Un porte-parole d’OpenAI a déclaré que l’activité de Van Rootselaar ne répondait pas aux critères de signalement aux forces de l’ordre ; l’entreprise a contacté les autorités canadiennes après l’incident.
Les transcriptions ChatGPT n’étaient pas la seule partie préoccupante de l’empreinte numérique de Van Rootselaar. Elle a apparemment créé un jeu sur Roblox, la plateforme de simulation mondiale fréquentée par les enfants, qui simulait une fusillade de masse dans un centre commercial. Elle a également publié des articles sur les armes à feu sur Reddit.
L’instabilité de Van Rootselaar était également connue de la police locale, qui avait été appelée au domicile de sa famille après qu’elle ait déclenché un incendie alors qu’elle était sous l’influence de drogues non précisées.
Les chatbots LLM construits par OpenAI et ses concurrents ont été accusés de déclencher des dépressions mentales chez les utilisateurs qui perdent le contrôle de la réalité lorsqu’ils conversent avec des modèles numériques. Plusieurs poursuites ont été intentées citant des transcriptions de discussions encourageant les gens à se suicider ou offrant de l’aide pour le faire.
Si vous êtes en crise ou si vous avez des pensées suicidaires, appelez ou envoyez un SMS au 988 pour joindre le 988 Suicide and Crisis Lifeline.
Événement Techcrunch
Boston, Massachusetts
|
9 juin 2026
