La ville de San Francisco a ordonné à Apple et Google de supprimer des dizaines d’applications « nudify » – des logiciels capables de modifier numériquement les images pour déshabiller les personnes qui y figurent – de leurs magasins d’applications.
La loi californienne criminalise toute activité qui « facilite sciemment » ou « aide ou encourage de manière imprudente » la création de pornographie deepfake non consensuelle. En 2025, la Californie a également adopté une loi autorisant les victimes à intenter des poursuites civiles contre les tiers facilitateurs de ce type de matériel. La ville affirme que, malgré ces réglementations bien connues, les deux entreprises technologiques ont continué à héberger et à gagner de l’argent grâce à de tels programmes.
« Apple et Google profitent des applications qui exploitent les femmes et les filles en générant des deepfakes intimes non consensuels », a déclaré le procureur de la ville de San Francisco, David Chiu, dans une déclaration envoyée par courrier électronique à TechCrunch. « Alors que les entreprises coupent les ponts avec certaines applications problématiques, Apple et Google ont la responsabilité d’être proactifs et vigilants pour prévenir les abus sexuels. »
Les lettres envoyées à Google et Apple par le bureau de Chiu, consultées par TechCrunch, indiquent que les sociétés ont été « averties » pour leur rôle dans « le traitement des paiements pour des achats illégaux depuis près d’un an », mais ont néanmoins continué à le faire.
Selon les lettres, les deux sociétés ont été averties à plusieurs reprises qu’elles hébergeaient ces applications. En janvier et de nouveau en avril, le Tech Transparency Project a publié des rapports et envoyé des lettres aux deux sociétés, soulignant qu’il y avait « des dizaines d’applications » dans leurs magasins d’applications qui « vendaient des deepfake NCII (images intimes non consensuelles) en échange de paiements » traités par les entreprises.
Le rapport du TTP d’avril indiquait que Google et Apple avaient intentionnellement « orienté » les utilisateurs vers de telles applications et qualifiaient les deux sociétés de « participants clés dans la diffusion d’outils d’IA capables de transformer de vraies personnes en images sexualisées ».
De plus, Chiu a déclaré à Wired que les deux sociétés avaient probablement gagné « des millions de dollars en frais » grâce aux applications offrant de tels services.
Les lettres du bureau de Chiu préviennent qu’Apple et Google pourraient faire face à des sanctions civiles pour violation de la loi et leur demandent de contacter la ville dans les 28 jours.
Lorsqu’il a été contacté par TechCrunch pour commenter, un porte-parole d’Apple a déclaré qu’il était interdit aux applications nudify d’apparaître dans son App Store, notant en outre : « Nous avons supprimé trois des applications en question et sommes en train de mettre fin à leurs comptes de développeur de notre programme. Nous sommes en contact avec quatre autres qui doivent remédier aux violations de la politique ou risquent d’être également supprimées. »
Un porte-parole de Google a affirmé que les cinq applications Play mentionnées dans la lettre de Chiu avaient été suspendues de Google Play. « Lorsque des violations nous sont signalées, nous enquêtons et prenons des mesures rapides, ce qui, dans le cas de ces applications, inclut la suspension de centaines d’applications en infraction et la restriction des termes de recherche associés tels que ‘nudify’ sur notre boutique », a ajouté le porte-parole.
La pornographie deepfake est en grande partie un problème pour les célébrités féminines, bien que les applications de nudification permettent de cibler toute personne possédant une photo accessible au public.
Mise à jour du 17 juillet : cet article a été mis à jour pour inclure les déclarations de Google et d’Apple.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
