Débloquez Editor’s Digest gratuitement
La rédactrice en chef du FT, Roula Khalaf, a choisi ses histoires préférées dans cette newsletter hebdomadaire.
L’organisme européen de surveillance de la vie privée a lancé une enquête « approfondie » sur X d’Elon Musk pour des images sexuelles non consensuelles générées par l’IA. C’est le dernier signe en date de la façon dont les régulateurs scrutent le chatbot Grok du site de médias sociaux.
La Commission irlandaise de protection des données, chargée de faire appliquer le règlement général sur la protection des données de l’UE, a annoncé lundi soir qu’elle avait lancé une enquête sur la création et la publication d’images sexuelles « potentiellement dangereuses » par Grok qui contenaient ou étaient impliquées dans le traitement des données des utilisateurs de l’UE.
Le chatbot Grok est intégré au flux de médias sociaux de X et a été développé par la startup d’IA de Musk, xAI, qui a acquis X l’année dernière. Plus tôt ce mois-ci, xAI a fusionné avec SpaceX, le fabricant de fusées de Musk, pour créer un géant de 1,5 billion de dollars.
L’enquête est la dernière d’une série d’enquêtes menées par les autorités mondiales ciblant X après que des milliers de deepfakes sexuels de femmes ont été générés à l’aide de Grok début janvier, déclenchant une réaction généralisée de la part des utilisateurs, des experts en sécurité et des politiciens.
« Le DPC s’est engagé avec (X) depuis que les médias ont fait état pour la première fois il y a plusieurs semaines de la capacité présumée des utilisateurs de X à encourager la génération d’images sexuelles de personnes réelles, y compris d’enfants, sur le compte @Grok de X », a déclaré le vice-président du DPC, Graham Doyle, dans un communiqué lundi.
Il a ajouté que la commission avait « lancé une enquête majeure pour déterminer si[la société X]avait respecté certaines de ses obligations fondamentales en vertu du RGPD en ce qui concerne l’affaire en question ».
X n’a pas immédiatement répondu à une demande de commentaire.
Musk a adopté une approche non interventionniste pour modérer le chatbot Grok, invoquant la liberté d’expression. L’été dernier, xAI a apporté des modifications à son chatbot après avoir fait l’éloge d’Hitler et publié des messages antisémites sur X.
Son bureau de X à Paris a été perquisitionné début février par des enquêteurs français et européens dans le cadre d’une enquête plus large sur la diffusion de matériel d’abus sexuels généré par les algorithmes de X et l’IA. En avril, les procureurs français ont convoqué Musk et l’ancienne directrice générale de X Company, Linda Yaccarino, pour une « audience volontaire » à Paris.
Le bureau du commissaire à l’information du Royaume-Uni a également annoncé la semaine dernière qu’il lancerait une nouvelle enquête sur X et xAI, affirmant qu’il avait de « sérieuses inquiétudes » concernant l’utilisation des données personnelles par Grok et son « potentiel à générer des images et du contenu vidéo à caractère sexuel nuisible ».
L’UE a déjà lancé une enquête formelle sur xAI en vertu de la loi européenne sur les services numériques concernant la diffusion par Grok d’images sexuelles de femmes et d’enfants. La loi sur les services numériques exige que les grandes plates-formes technologiques atténuent la propagation des contenus illégaux et préjudiciables.
Cependant, une enquête européenne annoncée lundi évaluera si l’entreprise X a violé les principales règles du RGPD de l’UE. Les réglementations RGPD obligent les entreprises à garantir que les données personnelles des utilisateurs ne sont traitées qu’à des fins licites spécifiques, à prendre en compte la confidentialité lors du développement de produits et à effectuer des examens des risques avant d’introduire des fonctionnalités à haut risque.
Suite aux pressions exercées par les gouvernements du monde entier, notamment des menaces d’amendes et d’interdictions dans l’UE, au Royaume-Uni et en France, X a mis en œuvre le mois dernier des « mesures techniques » pour empêcher Grok de produire certaines images explicites. Cependant, la société affirme qu’elle supprime le matériel d’abus sexuel sur des enfants et la nudité non consensuelle.
Recommandé
En réponse au raid français, X a déclaré dans un message que les allégations étaient « sans fondement » et qu’il « nie catégoriquement tout acte répréhensible ». Les autorités ont qualifié cette opération d' »acte d’abus des forces de l’ordre visant à atteindre des objectifs politiques injustes », ajoutant que cette opération « déforme la loi française, contourne les procédures régulières et met en danger la liberté d’expression ».
La dernière enquête intervient à un moment tumultueux pour X, avec des dizaines d’employés qui ont quitté l’entreprise la semaine dernière, dont deux cofondateurs. Musk a déclaré lors de la réunion plénière de mercredi que la société réorganisait le groupe après sa fusion avec SpaceX.
