La société d’IA d’Elon Musk a limité le paiement de la fonctionnalité controversée de génération d’images d’IA de Grok aux seuls abonnés sur X, après que l’outil ait suscité de vives critiques du monde entier pour avoir permis aux utilisateurs de générer des images sexualisées et nues de femmes et d’enfants.
Dans ses réponses aux utilisateurs vendredi, Grok a déclaré que seuls les abonnés payants sur X seraient en mesure de générer et d’éditer des images sur la plateforme. Notamment, ces limites ne s’appliquent pas à l’application Grok, qui, au moment de la publication, permettait à quiconque de générer des images sans avoir à payer d’abonnement.
Initialement disponible pour toute personne ayant des limites quotidiennes, la fonction de génération d’images de Grok permettait aux utilisateurs de télécharger la photo de n’importe qui et de lui demander de la modifier ou de générer une version sexualisée ou nue. Il s’en est suivi un véritable flot d’images sexualisées non consensuelles d’enfants, d’acteurs, de mannequins et de personnalités marquantes, suscitant la colère de plusieurs nations.
X et Musk ont tous deux publiquement dénoncé l’utilisation de l’outil pour produire de telles images, écrivant que l’entreprise s’en tiendrait à ses politiques contre la publication de contenus illégaux sur la plateforme de médias sociaux. « Quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il télécharge du contenu illégal », a tweeté Musk la semaine dernière.
Le Royaume-Uni, l’Union européenne et l’Inde ont tous dénoncé publiquement X et Grok pour avoir autorisé une telle utilisation de ses capacités. L’UE a demandé jeudi à xAI de conserver toute la documentation relative au chatbot, et le ministère indien des Communications a ordonné la semaine dernière à X d’apporter des modifications immédiates pour empêcher que les fonctionnalités de génération d’images ne soient utilisées à mauvais escient ou ne risquent pas ses protections dans le pays. L’organisme de surveillance des communications du Royaume-Uni a déclaré qu’il était également en contact avec xAI à ce sujet.
