Meta a poursuivi le fabricant d’une application populaire AI «Nudify», Crush IA, qui aurait diffusé des milliers d’annonces sur les plateformes de Meta. En plus du procès, Meta dit qu’elle prend de nouvelles mesures pour réprimer d’autres applications comme Crush IA.
Dans un procès intenté à Hong Kong, Meta présumée Joy Timeline HK, l’entité derrière Crush IA, a tenté de contourner le processus d’examen de l’entreprise pour distribuer des services de nudification de l’IA. Meta a déclaré dans un article de blog qu’il avait supprimé à plusieurs reprises les publicités par l’entité pour avoir violé ses politiques, mais affirme que Joy Timeline HK a quand même continué de placer des annonces supplémentaires.
Crush IA, qui utilise une IA générative pour faire de fausses images sexuellement explicites de vraies personnes sans leur consentement, aurait diffusé plus de 8 000 annonces pour ses services «Aireser» sur la plate-forme de Meta au cours des deux premières semaines de 2025, selon l’auteur du bulletin de FAKE UP, Alexios Mantarlis. Dans un rapport de janvier, Mantzarlis a affirmé que le site Web de Crush de l’IA avait reçu environ 90% de leur trafic sur Facebook ou Instagram, et qu’il a signalé plusieurs de ces sites Web à Meta.
Crush AI aurait échappé aux processus d’examen des publicités de META en créant des dizaines de comptes publicitaires et des noms de domaine fréquemment modifiés. Selon Mantzarlis, de nombreux comptes publicitaires de Crush AI ont été nommés «Eraser Annyone’s Clothes» suivis de différents chiffres. À un moment donné, Crush AI avait même une page Facebook faisant la promotion de son service.
Facebook et Instagram ne sont guère les seules plateformes qui traitent de tels défis. Comme les sociétés de médias sociaux comme X et Meta Race pour ajouter une IA générative à leurs applications, ils ont également eu du mal à modérer comment les outils d’IA peuvent rendre leurs plateformes dangereuses pour les utilisateurs, en particulier les mineurs.
Les chercheurs ont constaté que des liens vers une application non-dressing a été tellement orée en 2024 sur des plates-formes comme X et Reddit, et sur YouTube, des millions de personnes que nous signalons aurait diffusées des publicités pour de telles applications. En responsable de ce problème croissant, Meta et Tiktok ont interdit les recherches de mots clés pour les applications AI Nudify, mais retirer ces services de leurs plateformes s’est entièrement révélé difficile.
Dans un article de blog, Meta a déclaré avoir développé de nouvelles technologies pour identifier spécifiquement les annonces pour les services de nudification ou de non-exception «même lorsque les publicités elles-mêmes incluent la nudité». La société a déclaré qu’elle utilise maintenant une technologie de jeu pour aider à trouver et à supprimer les publicités de copie plus rapidement, et a élargi la liste des termes, phrases et emoji qui sont signalés par son système.
Meta a déclaré qu’elle applique également les tactiques qu’elle a traditionnellement utilisées pour perturber les réseaux de mauvais acteurs à ces nouveaux réseaux de comptes exécutant des annonces pour les services de nudification de l’IA. Vente le début de 2025, Meta a déclaré qu’il a perturbé quatre réseaux distincts pour promouvoir ces services.
En dehors de ses applications, la société a déclaré qu’elle commencerait à partager des informations sur les applications AI Nudify via le programme Lantern de Tech Coalition, un effort collectif entre Google, Meta, Snap et d’autres entreprises pour empêcher les opérations sexuelles des enfants en ligne. Meta dit qu’il a fourni plus de 3 800 URL uniques avec ce réseau depuis mars.
Sur le front législatif, Meta a déclaré qu’elle « continuerait à soutenir une législation qui permet aux parents de superviser et d’approuver les téléchargements d’applications de leurs adolescents. La société a précédemment soutenu la loi américaine sur la baisse et a déclaré qu’elle travaillait maintenant avec les législateurs.
