Ces derniers jours, la France et la Malaisie se sont jointes à l’Inde pour condamner Grok pour avoir créé des deepfakes sexualisés de femmes et de mineurs.
Le chatbot, construit par la startup d’IA d’Elon Musk, xAI, et présenté sur sa plateforme de médias sociaux
La déclaration poursuit : « Cela a violé les normes éthiques et potentiellement les lois américaines sur (le matériel d’abus sexuel sur des enfants). Il s’agissait d’un échec dans les garanties, et je suis désolé pour tout préjudice causé. xAI examine actuellement pour éviter de futurs problèmes. «
On ne sait pas vraiment qui s’excuse ou accepte la responsabilité dans la déclaration ci-dessus. Albert Burneko, du transfuge, a noté que Grok « ne ressemble en aucun cas à un « je » », ce qui, à son avis, rend les excuses « totalement dénuées de substance », car « Grok ne peut être tenu responsable de manière significative pour avoir transformé Twitter en une usine CSAM à la demande ».
Le futurisme a découvert qu’en plus de générer des images pornographiques non consensuelles, Grok a également été utilisé pour générer des images de femmes agressées et abusées sexuellement.
« Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal », a déclaré Musk samedi.
Certains gouvernements en ont pris note, le ministère indien de l’informatique ayant publié vendredi un ordre indiquant que X doit répondre dans les 72 heures, sinon il risque de perdre les protections de la « sphère de sécurité » qui le protègent de toute responsabilité légale pour le contenu généré par les utilisateurs.
Événement Techcrunch
San Francisco
|
13-15 octobre 2026
Les autorités françaises ont également annoncé qu’elles prenaient des mesures, le parquet de Paris ayant déclaré à Politico qu’il enquêterait sur la prolifération de deepfakes sexuellement explicites sur
La Commission malaisienne des communications et du multimédia a également publié une déclaration disant qu’elle « a pris note avec une sérieuse inquiétude des plaintes du public concernant l’utilisation abusive des outils d’intelligence artificielle (IA) sur la plateforme X, en particulier la manipulation numérique d’images de femmes et de mineurs pour produire du contenu indécent, grossièrement offensant et autrement préjudiciable ».
La commission a ajouté qu’elle « enquêtait actuellement sur les préjudices en ligne dans X ».
