La société xAI d’Elon Musk devrait être tenue responsable d’avoir permis à ses modèles d’IA de produire des images sexuelles abusives de mineurs identifiables, ont soutenu trois plaignants anonymes dans un procès déposé lundi devant un tribunal fédéral de Californie.
Les trois plaignants souhaitent intenter un recours collectif contre toute personne ayant de vraies images d’eux mineurs transformées en contenu sexuel par Grok. Ils atténuent le fait que xAI n’a pas pris les précautions de base utilisées par d’autres laboratoires frontaliers pour empêcher leurs modèles d’images de produire de la pornographie représentant de vraies personnes et des mineurs.
L’affaire, Jane Doe 1, Jane Doe 2, mineure, et Jane Doe 3, mineure contre x.AI Corp. et x.AI LLC, a été déposée devant le tribunal de district américain du district nord de Californie.
D’autres générateurs d’images d’apprentissage profond emploient diverses techniques pour empêcher la création de pornographie juvénile à partir de photographies normales. Le procès allègue que ces normes n’ont pas été adoptées par xAI.
Notamment, si un modèle permet la génération de contenu nu ou érotique à partir d’images réelles, il est pratiquement impossible de l’empêcher de générer du contenu sexuel mettant en scène des enfants. La promotion publique par Musk de la capacité de Grok à produire des images sexuelles et à représenter de vraies personnes dans des tenues étriquées figure en grande partie dans le costume.
La société n’a pas répondu à une demande de commentaire de TechCrunch.
Une plaignante, Jane Doe 1, a fait modifier par Grok des photos de son retour au lycée et son annuaire pour la représenter nue. Un informateur anonyme qui l’a contactée sur Instagram lui a indiqué que les photos circulaient en ligne et lui a envoyé un lien vers un serveur Discord présentant des images sexualisées d’elle et d’autres mineurs qu’elle a reconnus à l’école.
Événement Techcrunch
San Francisco, Californie
|
13-15 octobre 2026
Une deuxième plaignante, Jane Doe 2, a été informée par les enquêteurs criminels d’images modifiées et sexualisées d’elle créées par une application mobile tierce liée aux modèles Grok. Une troisième, Jane Doe 3, a également été alertée par les enquêteurs criminels qui ont découvert une image pornographique modifiée d’elle sur le téléphone d’un sujet qu’ils avaient appréhendé. Les avocats des plaignants affirment que, étant donné que l’utilisation par des tiers nécessite toujours du code et des serveurs xAI, l’entreprise devrait être tenue responsable.
Les trois plaignants, dont deux sont encore mineurs, disent ressentir une extrême détresse face à la circulation de ces images et aux conséquences que cela pourrait avoir sur leur réputation et leur vie sociale. Ils demandent des sanctions civiles en vertu d’une série de lois destinées à protéger les enfants exploités et à prévenir la négligence des entreprises.
