Elon Musk a déclaré mercredi qu’il « n’était au courant d’aucune image nue de mineurs générée par Grok », quelques heures avant que le procureur général de Californie n’ouvre une enquête sur le chatbot de xAI pour la « prolifération de matériel sexuellement explicite non consensuel ».
Le démenti de Musk intervient alors que la pression monte de la part des gouvernements du monde entier – du Royaume-Uni et de l’Europe à la Malaisie et à l’Indonésie – après que les utilisateurs de X ont commencé à demander à Grok de transformer des photos de vraies femmes, et dans certains cas d’enfants, en images sexualisées sans leur consentement. Copyleaks, une plateforme de détection d’IA et de gouvernance de contenu, a estimé qu’environ une image était publiée chaque minute sur X. Un échantillon distinct collecté du 5 au 6 janvier en a trouvé 6 700 par heure sur une période de 24 heures. (X et xAI font partie de la même société.)
« Ce matériel… a été utilisé pour harceler des personnes sur Internet », a déclaré le procureur général de Californie, Rob Bonta, dans un communiqué. « J’exhorte xAI à prendre des mesures immédiates pour garantir que cela n’aille pas plus loin. »
Le bureau de l’AG enquêtera si et comment xAI a violé la loi.
Plusieurs lois existent pour protéger les cibles d’images sexuelles non consensuelles et de matériels pédopornographiques (CSAM). L’année dernière, le Take It Down Act a été promulgué dans une loi fédérale, qui criminalise la distribution sciemment d’images intimes non consensuelles – y compris les deepfakes – et oblige les plateformes comme X à supprimer ce contenu dans les 48 heures. La Californie a également sa propre série de lois que le gouverneur Gavin Newsom a signées en 2024 pour réprimer les deepfakes sexuellement explicites.
Grok a commencé à répondre aux demandes des utilisateurs sur X pour produire des photos sexualisées de femmes et d’enfants vers la fin de l’année. La tendance semble avoir décollé après que certains créateurs de contenu pour adultes ont incité Grok à générer des images sexualisées d’eux-mêmes comme forme de marketing, ce qui a ensuite conduit d’autres utilisateurs à émettre des invites similaires. Dans un certain nombre d’affaires publiques, y compris des personnalités bien connues comme l’actrice de « Stranger Things » Millie Bobby Brown, Grok a répondu à des invitations lui demandant de modifier de vraies photos de vraies femmes en changeant les vêtements, la position du corps ou les caractéristiques physiques de manière ouvertement sexuelle.
Selon certains rapports, xAI a commencé à mettre en œuvre des mesures de protection pour résoudre ce problème. Grok nécessite désormais un abonnement premium avant de répondre à certaines demandes de génération d’images, et même dans ce cas, l’image peut ne pas être générée. April Kozen, vice-présidente du marketing chez Copyleaks, a déclaré à TechCrunch que Grok pouvait répondre à une demande de manière plus générique ou atténuée. Ils ont ajouté que Grok semble plus permissif envers les créateurs de contenu pour adultes.
Événement Techcrunch
San Francisco
|
13-15 octobre 2026
« Dans l’ensemble, ces comportements suggèrent que X expérimente plusieurs mécanismes pour réduire ou contrôler la génération d’images problématiques, même si des incohérences subsistent », a déclaré Kozen.
Ni xAI ni Musk n’ont publiquement abordé le problème de front. Quelques jours après le début des événements, Musk a semblé prendre le problème à la légère en demandant à Grok de créer une image de lui-même en bikini. Le 3 janvier, le compte de sécurité de X a déclaré que la société prenait « des mesures contre les contenus illégaux sur
Le positionnement reflète ce que Musk a publié aujourd’hui, mettant l’accent sur l’illégalité et le comportement des utilisateurs.
Musk a écrit qu’il n’était « au courant d’aucune image nue de mineurs générée par Grok. Littéralement zéro ». Cette déclaration ne nie pas l’existence de photos de bikini ou de montages sexualisés de manière plus générale.
Michael Goodyear, professeur agrégé à la faculté de droit de New York et ancien avocat plaidant, a déclaré à TechCrunch que Musk s’est probablement concentré étroitement sur le CSAM, car les sanctions pour la création ou la distribution d’images synthétiques sexualisées d’enfants sont plus lourdes.
« Par exemple, aux États-Unis, le distributeur ou le distributeur menacé de CSAM peut encourir jusqu’à trois ans d’emprisonnement en vertu de la loi Take It Down, contre deux pour des images sexuelles non consensuelles d’adultes », a déclaré Goodyear.
Il a ajouté que le « point le plus important » est la tentative de Musk d’attirer l’attention sur le contenu problématique des utilisateurs.
« De toute évidence, Grok ne génère pas spontanément d’images. Il le fait uniquement à la demande de l’utilisateur », a écrit Musk dans son message. « Lorsqu’on lui demande de générer des images, il refusera de produire quoi que ce soit d’illégal, car le principe de fonctionnement de Grok est d’obéir aux lois d’un pays ou d’un État donné. Il peut arriver que le piratage contradictoire des invites de Grok fasse quelque chose d’inattendu. Si cela se produit, nous corrigeons le bug immédiatement. «
Dans l’ensemble, l’article qualifie ces incidents de rares, les attribue aux demandes des utilisateurs ou à des incitations contradictoires, et les présente comme des problèmes techniques pouvant être résolus grâce à des correctifs. Il ne reconnaît aucune lacune dans la conception de sécurité sous-jacente de Grok.
« Les régulateurs pourraient envisager, en prêtant attention à la protection de la liberté d’expression, d’exiger des mesures proactives de la part des développeurs d’IA pour empêcher de tels contenus », a déclaré Goodyear.
TechCrunch a contacté xAI pour lui demander combien de fois il a détecté des cas d’images non consensuelles de femmes et d’enfants manipulées sexuellement, quels garde-fous ont spécifiquement changé et si l’entreprise a informé les régulateurs du problème. TechCrunch mettra à jour l’article si l’entreprise répond.
La California AG n’est pas le seul régulateur à tenter de tenir xAI responsable de ce problème. L’Indonésie et la Malaisie ont toutes deux temporairement bloqué l’accès à Grok ; L’Inde a exigé que X apporte des modifications techniques et procédurales immédiates à Grok ; la Commission européenne a ordonné à xAI de conserver tous les documents liés à son chatbot Grok, précurseur de l’ouverture d’une nouvelle enquête ; et l’organisme britannique de surveillance de la sécurité en ligne, l’Ofcom, a ouvert une enquête formelle en vertu de la loi britannique sur la sécurité en ligne.
xAI a déjà été critiqué pour les images sexualisées de Grok. Comme l’a souligné AG Bonta dans un communiqué, Grok inclut un « mode épicé » pour générer du contenu explicite. En octobre, une mise à jour a rendu encore plus facile le jailbreak des quelques consignes de sécurité existantes, ce qui a amené de nombreux utilisateurs à créer de la pornographie hardcore avec Grok, ainsi que des images sexuelles graphiques et violentes.
La plupart des images les plus pornographiques produites par Grok concernaient des personnes générées par l’IA – quelque chose que beaucoup pourraient encore trouver éthiquement douteux mais peut-être moins préjudiciable aux individus représentés dans les images et les vidéos.
« Lorsque les systèmes d’IA permettent la manipulation d’images de personnes réelles sans consentement clair, l’impact peut être immédiat et profondément personnel », a déclaré le co-fondateur et PDG de Copyleaks, Alon Yamin, dans une déclaration envoyée par courrier électronique à TechCrunch. « De Sora à Grok, nous assistons à une augmentation rapide des capacités de l’IA pour les médias manipulés. À cette fin, la détection et la gouvernance sont plus que jamais nécessaires pour aider à prévenir les abus. »
