Débloquez Editor’s Digest gratuitement
La rédactrice en chef du FT, Roula Khalaf, a choisi ses histoires préférées dans cette newsletter hebdomadaire.
L’UE a ouvert une enquête formelle suite au tollé général suscité par la manière dont le chatbot xAI Grok d’Elon Musk a diffusé des images sexuelles de femmes et d’enfants.
L’entrepreneur milliardaire a fait l’objet d’un examen minutieux de la part des régulateurs du monde entier ce mois-ci après que des personnes ont commencé à utiliser Grok pour générer des deepfakes de personnes sans leur consentement. Les images ont été publiées sur le réseau social X et une autre application Grok. Les deux sont exploités par xAI.
L’enquête, annoncée lundi dans le cadre de la loi européenne sur les services numériques, évaluera les risques liés à l’introduction des outils de Grok dans X et déterminera si xAI a cherché à atténuer la diffusion de contenus « pouvant constituer des abus sexuels sur des enfants ».
« Les deepfakes sexuels non consensuels de femmes et d’enfants constituent une forme violente et inacceptable de dégradation », a déclaré la chef technique de l’UE, Hena Virkunen.
« Cette enquête déterminera si la société X a rempli ses obligations légales en vertu du DSA ou a traité les droits des ressortissants européens, y compris les femmes et les enfants, comme un dommage collatéral à ses services. »
S’il s’avère que les entreprises enfreignent les règles, le bloc pourrait imposer des amendes pouvant atteindre 6 % du chiffre d’affaires annuel mondial. Les responsables de l’UE ont déclaré qu’aucune mesure provisoire ne serait prise pendant l’enquête.
L’enquête européenne intervient après que le régulateur britannique des médias Ofcom a lancé une enquête formelle sur Grok, tandis que la Malaisie et l’Indonésie ont complètement interdit les chatbots.
En réponse à cette réaction négative, xAI a déclaré avoir limité l’utilisation de Grok aux membres payants et avoir « introduit des mesures techniques » qui empêchent Grok de produire certaines images sexuelles.
Musk a également déclaré que « ceux qui utilisent Grok pour créer du contenu illégal subiront les mêmes conséquences que s’ils téléchargent du contenu illégal ».
Recommandé
Un responsable de l’UE a déclaré : « Nous ne sommes pas satisfaits jusqu’à présent des mesures d’atténuation prises par les plateformes pour contrôler les dommages causés aux individus affectés par ces images. »
La société, qui a acquis l’année dernière le site de médias sociaux X de M. Musk, a conçu ses produits d’IA de manière à avoir moins de « garde-fous » de contenu que ses concurrents tels qu’OpenAI et Google. Musk a qualifié le modèle Grok de « recherche de la vérité dans toute sa splendeur ».
En décembre, la commission a infligé une amende de 120 millions d’euros à la société X pour violation des règles de transparence, accès insuffisant aux données et conception trompeuse de la coche bleue pour les comptes vérifiés.
L’amende a été critiquée par Musk et le gouvernement américain, l’administration Trump affirmant que l’UE ciblait injustement les organisations américaines et violait les principes de liberté d’expression défendus par le mouvement MAGA.
X n’a pas immédiatement répondu à une demande de commentaire.
