Le problème des deepfakes sexualisés et non consensuels du monde de la technologie dépasse désormais le simple X.
Dans une lettre aux dirigeants de
Les sénateurs ont également exigé que les entreprises conservent tous les documents et informations relatifs à la création, la détection, la modération et la monétisation d’images sexualisées générées par l’IA, ainsi que toute politique connexe.
La lettre arrive quelques heures après que X a déclaré avoir mis à jour Grok pour lui interdire de modifier des personnes réelles en révélant des vêtements et limiter la création et les modifications d’images via Grok aux abonnés payants. (X et xAI font partie de la même société.)
Soulignant les rapports des médias sur la facilité et la fréquence avec laquelle Grok générait des images sexualisées et nues de femmes et d’enfants, les sénateurs ont souligné que les garde-fous des plateformes pour empêcher les utilisateurs de publier des images sexualisées et non consensuelles pourraient ne pas suffire.
« Nous reconnaissons que de nombreuses entreprises maintiennent des politiques contre les images intimes non consensuelles et l’exploitation sexuelle, et que de nombreux systèmes d’IA prétendent bloquer la pornographie explicite. Dans la pratique, cependant, comme le montrent les exemples ci-dessus, les utilisateurs trouvent des moyens de contourner ces garde-fous. Ou ces garde-fous échouent », peut-on lire dans la lettre.
Grok, et par conséquent X, ont été vivement félicités pour avoir permis cette tendance, mais les autres plates-formes ne sont pas à l’abri.
Événement Techcrunch
San Francisco
|
13-15 octobre 2026
Les deepfakes ont d’abord gagné en popularité sur Reddit, lorsqu’une page affichant des vidéos pornographiques synthétiques de célébrités est devenue virale avant que la plateforme ne la supprime en 2018. Les deepfakes sexualisés ciblant des célébrités et des hommes politiques se sont multipliés sur TikTok et YouTube, bien qu’ils proviennent généralement d’ailleurs.
L’année dernière, le conseil de surveillance de Meta a dénoncé deux cas d’images explicites d’IA de personnalités publiques féminines, et la plate-forme a eu des applications nudify vendant des publicités sur ses services, bien qu’elle ait ensuite poursuivi en justice une société appelée CrushAI. Il y a eu plusieurs rapports d’enfants diffusant des deepfakes de leurs pairs sur Snapchat. Et Telegram, qui ne figure pas sur la liste des sénateurs, est également devenu célèbre pour héberger des robots conçus pour déshabiller des photos de femmes.
En réponse à la lettre, X a souligné son annonce concernant sa mise à jour vers Grok.
« Nous n’autorisons pas et n’autoriserons aucun média intime non consensuel (NCIM) sur Reddit, n’offrons aucun outil capable de le créer et prenons des mesures proactives pour le trouver et le supprimer », a déclaré un porte-parole de Reddit dans un communiqué envoyé par courrier électronique. « Reddit interdit strictement NCIM, y compris les représentations truquées ou générées par l’IA. Nous interdisons également de solliciter ce contenu auprès d’autrui, de partager des liens vers des applications « nudify » ou de discuter de la façon de créer ce contenu sur d’autres plateformes », a ajouté le porte-parole.
Alphabet, Snap, TikTok et Meta n’ont pas immédiatement répondu aux demandes de commentaires.
La lettre exige que les entreprises fournissent :
Définitions politiques du contenu « deepfake », des « images intimes non consensuelles » ou de termes similaires. Descriptions des politiques des entreprises et de leur approche d’application en matière de contrefaçons non consensuelles de corps de personnes par l’IA, de photos non dénudées, de vêtements modifiés et de « déshabillage virtuel ». Descriptions des politiques de contenu actuelles concernant les médias édités et le contenu explicite, ainsi que les conseils internes fournis aux modérateurs. Comment les politiques actuelles régissent les outils d’IA et les générateurs d’images en ce qui concerne les contenus suggestifs ou intimes. Quels filtres, garde-fous ou mesures ont été mis en œuvre pour empêcher la génération et la distribution de deepfakes. Quels mécanismes les entreprises utilisent-elles pour identifier les contenus deepfakes et empêcher leur réupload. Comment ils empêchent les utilisateurs de profiter de ce contenu. Comment les plateformes s’empêchent de monétiser les contenus non consensuels générés par l’IA. Comment les conditions d’utilisation des entreprises leur permettent d’interdire ou de suspendre les utilisateurs qui publient des deepfakes. Ce que font les entreprises pour informer les victimes de deepfakes sexuels non consensuels.
La lettre est signée par les sénateurs Lisa Blunt Rochester (Démocrate-Del.), Tammy Baldwin (Démocrate-Wis.), Richard Blumenthal (Démocrate-Conn.), Kirsten Gillibrand (Démocrate-NY), Mark Kelly (Démocrate-Arizona), Ben Ray Luján (Démocrate-NM), Brian Schatz (Démocrate-Hawaï) et Adam Schiff (Démocrate-Californie).
Cette décision intervient juste un jour après que le propriétaire de xAI, Elon Musk, a déclaré qu’il n’était « au courant d’aucune image nue de mineurs générée par Grok ». Plus tard mercredi, le procureur général de Californie a ouvert une enquête sur le chatbot de xAI, suite à la pression croissante des gouvernements du monde entier, exaspérés par le manque de garde-fous autour de Grok qui ont permis que cela se produise.
xAI a soutenu qu’elle prenait des mesures pour supprimer « le contenu illégal sur X, y compris (CSAM) et la nudité non consensuelle », bien que ni la société ni Musk n’aient abordé le fait que Grok était autorisé à générer un tel contenu en premier lieu.
Le problème ne se limite pas non plus aux images sexualisées manipulées et non consensuelles. Même si tous les services de génération et d’édition d’images basés sur l’IA ne permettent pas aux utilisateurs de « déshabiller » les gens, ils permettent néanmoins de générer facilement des deepfakes. Pour ne citer que quelques exemples, Sora 2 d’OpenAI aurait permis aux utilisateurs de générer des vidéos explicites mettant en scène des enfants ; Nano Banana de Google a apparemment généré une image montrant Charlie Kirk en train d’être abattu ; et les vidéos racistes réalisées avec le modèle vidéo IA de Google recueillent des millions de vues sur les réseaux sociaux.
Le problème devient encore plus complexe lorsque les générateurs d’images et de vidéos chinois entrent en scène. De nombreuses entreprises et applications technologiques chinoises – en particulier celles liées à ByteDance – proposent des moyens simples d’éditer des visages, des voix et des vidéos, et ces résultats se sont répandus sur les plateformes sociales occidentales. La Chine a des exigences plus strictes en matière d’étiquetage des contenus synthétiques qui n’existent pas aux États-Unis au niveau fédéral, où les masses s’appuient plutôt sur des politiques fragmentées et appliquées de manière douteuse par les plateformes elles-mêmes.
Les législateurs américains ont déjà adopté des lois visant à freiner la pornographie deepfake, mais leur impact a été limité. La loi Take It Down, devenue loi fédérale en mai, vise à criminaliser la création et la diffusion d’images sexualisées et non consensuelles. Mais un certain nombre de dispositions de la loi rendent difficile la responsabilisation des plateformes génératrices d’images, car elles concentrent plutôt l’essentiel du contrôle sur les utilisateurs individuels.
Pendant ce temps, un certain nombre d’États tentent de prendre les choses en main pour protéger les consommateurs et les élections. Cette semaine, la gouverneure de New York, Kathy Hochul, a proposé des lois qui exigeraient que les contenus générés par l’IA soient étiquetés comme tels et interdiraient les deepfakes non consensuels pendant des périodes spécifiques précédant les élections, y compris les représentations de candidats de l’opposition.
