Ashley St. Clair, une influenceuse conservatrice de 27 ans, est depuis longtemps une coqueluche du monde MAGA. Au début de la vingtaine, elle a abandonné ses études universitaires et est devenue une fervente partisane des causes de droite, notamment du militantisme anti-transgenre. Cinq ans plus tard, elle a eu un enfant avec Elon Musk, dont le cas est actuellement en cours devant le tribunal fédéral de New York.
St. Clair a intenté une action en justice contre la société d’IA de Musk plus tôt ce mois-ci à la suite d’une série de deepfakes créés par le chatbot Grok de xAI et partagés sur la plateforme de médias sociaux X de Musk. Elle a déclaré à Fortune début janvier que les utilisateurs de X avaient manipulé les photos de son profil X pour en faire des images sexualisées d’elle générées par l’IA, dont une qui, selon elle, la représentait comme une mineure.
« Il y avait des photos de moi avec le sac à dos de mon enfant en arrière-plan, rien ne me couvrant à part du fil dentaire, et des photos de moi comme si je ne portais pas de veste du tout », a-t-elle déclaré. «Je me suis senti très dégoûté et violé.»
Le différend entre St. Clair et De nombreux utilisateurs ont découvert qu’ils pouvaient taguer Grok sur la plateforme X et lui demander de modifier les images du profil de l’utilisateur. Selon une étude du Center for Countering Digital Hate, Grok a généré environ 3 millions d’images sexuelles sur une période de 11 jours, du 29 décembre 2025 au 8 janvier 2026.
St. Clair, qui est juive, affirme également dans son procès que le chatbot IA a généré une image d’elle « portant un bikini à cordes couvert de croix gammées ». St. Clair a déclaré que plus il parlait du problème, plus il était ciblé par des images.
La bataille juridique est vite devenue désagréable. Après avoir été informée du procès, la société de Musk a presque immédiatement poursuivi l’influenceur conservateur, l’accusant d’avoir violé les conditions de service de la plateforme, qui stipulent que tout différend avec M. Un représentant de M. Musk ne répondait pas aux questions spécifiques de Fortune.
Musk préfère généralement les batailles juridiques au Texas. En 2024, la société X a mis à jour ses conditions de service pour exiger que toutes les poursuites fédérales contre la société soient déposées dans le district nord du Texas, même si son siège social se trouve à Bastrop, dans le district ouest du Texas.
Musk et la société n’ont pas divulgué la raison de cette disposition. Mais 10 des 11 juges actifs du District Nord sont nommés par des présidents républicains et, contrairement à la plupart des tribunaux fédéraux, le district attribue les affaires en fonction de la division dans laquelle l’affaire est déposée, plutôt que d’une attribution aléatoire. Les experts en éthique ont également exprimé leurs inquiétudes quant à un conflit d’intérêts potentiel, car le juge Reed O’Connor, qui a supervisé plusieurs affaires impliquant la plate-forme X d’Elon Musk, possède des actions Tesla. M. O’Connor a parfois refusé de démissionner, mais il l’a fait au moins une fois après que ses actions aient été examinées de près.
St. Clair a qualifié la demande reconventionnelle de « absolument ridicule », arguant que les conditions d’utilisation de M. X ne s’appliquaient pas à lui parce qu’il poursuivait en justice pour des images créées sans son consentement, et non pour sa propre utilisation de la plateforme.
Mme St. Clair a déclaré qu’elle essayait maintenant de lutter contre les contre-poursuites, de bloquer le changement de lieu au Texas et de lutter pour établir une plus grande responsabilité de la part de la plate-forme d’IA générative.
« Il s’agit de tenir ces plateformes pour responsables, et de tenir pour responsables ces tout nouveaux outils d’IA générative lorsqu’ils sont lancés sans tenir compte des dégâts qu’ils ont causés, des dégâts qui étaient tout à fait prévisibles », a-t-elle déclaré. «Je ne peux jamais arrêter de penser non seulement à mes propres enfants, mais aussi aux enfants des autres et aux autres femmes.»
xAI a publié une mise à jour de son chatbot plus tôt ce mois-ci, affirmant que le compte X de Grok ne permet plus d’éditer des images de personnes réelles portant des vêtements étriqués. St Clair a déclaré que les utilisateurs ont trouvé des solutions de contournement, telles que l’utilisation de l’application Grok autonome, et que les images sont toujours distribuées sur la plate-forme X.
« Cela se produit toujours. Les gens peuvent toujours créer ces images dans l’application ou le site Web autonome Grok », a-t-elle déclaré. « Des images sont créées de moi en train d’être brûlé. Pourtant, des images provocatrices de moi continuent d’être créées. Cela n’a pas arrêté. »
AI Forensics, une organisation européenne à but non lucratif, a également constaté que malgré les restrictions imposées par X, Grok produisait toujours des images sexuelles d’individus. Les chercheurs ont découvert que les utilisateurs contournaient l’interdiction en accédant à Grok directement depuis le site Web plutôt que via X, ou en utilisant Grok Imagine, un outil de génération de vidéos et d’images IA.
St. Clair fait face à des vents contraires dans sa bataille contre xAI et M. Musk. Les commentaires sur X l’accusent régulièrement d’être une ex-petite amie vindicative qui en veut à l’argent de Musk. Elle a été déchue de son statut « vérifié » sur X et du système de partage des revenus publicitaires associé. Musk a même menacé de poursuivre en justice pour obtenir la garde complète de l’enfant après que St. Clair ait fait des commentaires dans un message X maintenant supprimé qui exprimait ses regrets pour sa position précédente sur les droits des transgenres.
Grok a déclenché une surveillance réglementaire mondiale
La tendance à la « nudité » de X ciblant St. Clair a suscité une inquiétude mondiale, en partie à cause de la diffusion d’images sexuelles d’enfants. Sur les 3 millions d’images sexuelles créées par Glok en 2011, 23 000 semblaient représenter des enfants, selon une étude du Centre de lutte contre la haine numérique, reflétant un taux moyen estimé d’une nouvelle image sexuelle d’un mineur toutes les 41 secondes. Celles-ci comprenaient des selfies téléchargés par des écolières qui avaient été « déshabillées » par Grok, et des images de six filles portant des micro bikinis générées par Grok.
« Il est très difficile de ne pas conclure qu’il s’agit d’un désastre de sa propre initiative », a déclaré à Fortune Imran Ahmed, fondateur et PDG du Centre de lutte contre la haine numérique. « M. Musk a clairement indiqué dans ses propres messages personnels qu’il semblait se moquer de ceux qui s’inquiétaient de la façon dont les abus se produisaient et les minimiser plutôt que de les prendre au sérieux et d’essayer d’améliorer la situation pendant près de deux semaines. »
Grok fait également face à un recours collectif en Californie pour deepfakes sexuels et à une enquête formelle de la Commission de l’Union européenne. S’il s’avère que l’entreprise X a enfreint la loi européenne sur les services numériques, elle pourrait être condamnée à une amende pouvant atteindre 6 % de son chiffre d’affaires annuel mondial.
« Les actions de l’UE sont formidables. Je pense que c’est vraiment un pas dans la bonne direction et j’espère que davantage de personnes et de dirigeants emboîteront le pas », a déclaré St Clair. L’administration Trump a pris de nombreuses mesures contre ce qu’elle considère comme la « censure » européenne, avec notamment des problèmes avec la loi sur les services numériques. Dans l’une des mesures les plus spectaculaires de l’administration, elle a interdit en décembre à cinq ressortissants européens, dont M. Ahmed, d’entrer aux États-Unis, car ils auraient fait pression sur les entreprises technologiques pour qu’elles censurent les opinions américaines.
Les régulateurs de l’UE ont déclaré lundi qu’ils évalueraient si des « images sexuellement explicites manipulées » produites par Grok étaient montrées aux utilisateurs de la région, et ont averti qu’ils pourraient « imposer des mesures provisoires » si X refusait de procéder à des ajustements significatifs. Des enquêtes similaires sont en cours en Australie, en France et en Allemagne, tandis que X a été temporairement interdit en Indonésie et en Malaisie.
« Les plateformes d’IA ne bénéficient pas des mêmes protections contre les poursuites que les sociétés de médias sociaux. Il s’agit d’un test important pour savoir si les lois sur la négligence et la conception instantanée peuvent être appliquées aux plateformes d’IA », a déclaré Ahmed. « S’ils sont reconnus responsables, l’industrie des chatbots IA changera probablement pour toujours. »
Cet article a été initialement publié sur Fortune.com
