Le gouvernement français prend des mesures contre Grok, le chatbot d’intelligence artificielle du milliardaire Elon Musk, qui a généré des messages en français remettant en question l’utilisation des chambres à gaz à Auschwitz, ont annoncé des responsables.
Grok, construit par la société xAI de M. Musk et intégré à la plateforme de médias sociaux de M. Musk
Le Mémorial d’Auschwitz a souligné l’échange concernant X, affirmant que la réponse déformait les faits historiques et violait les règles de la plateforme.
Dans un message ultérieur sur le compte X, le chatbot a reconnu que sa réponse précédente à l’utilisateur X était incorrecte, a déclaré que la réponse avait été supprimée et a souligné des preuves historiques selon lesquelles les chambres à gaz d’Auschwitz, qui utilisaient du Zyklon B, avaient été utilisées pour tuer plus d’un million de personnes. L’enquête de suivi n’a donné lieu à aucune explication de la part de X.
Lors de tests effectués vendredi par l’Associated Press, les réponses de l’entreprise aux questions sur Auschwitz semblaient fournir des informations historiquement exactes.
M. Groch a un historique de commentaires antisémites. Plus tôt cette année, la société de Musk a supprimé un message de chatbot qui semblait faire l’éloge d’Adolf Hitler après avoir reçu des plaintes concernant du contenu antisémite.
Le parquet de Paris a confirmé vendredi à l’Associated Press que les commentaires niant l’Holocauste avaient été ajoutés à une enquête de cybercriminalité existante contre X. L’affaire a été lancée plus tôt cette année après que les autorités françaises ont exprimé leurs inquiétudes quant au fait que les algorithmes de la plateforme pourraient être utilisés à des fins d’ingérence étrangère.
Les procureurs ont déclaré que les commentaires de Grok faisaient partie d’une enquête en cours et que « les capacités de l’IA feront l’objet d’une enquête ».
La France possède les lois négationnistes les plus strictes d’Europe. Contester la réalité des crimes nazis et la nature du génocide peut être poursuivi comme un crime, tout comme d’autres formes d’incitation à la haine raciale.
Plusieurs ministres français, dont le ministre de l’Industrie Laurent Lescure, ont également signalé les fonctions de M. Grocque au parquet de Paris en vertu de la réglementation qui oblige les agents publics à signaler les délits potentiels. Dans un communiqué, le gouvernement a déclaré que le contenu généré par l’IA était « manifestement illégal » et pourrait équivaloir à une diffamation à motivation raciste et à la négation des crimes contre l’humanité.
Les autorités françaises ont signalé ces publications aux plateformes de la police nationale comme contenu en ligne illégal et ont alerté le régulateur numérique français de possibles violations de la loi sur les services numériques de l’Union européenne.
L’incident a accru la pression de Bruxelles. La Commission européenne, l’organe exécutif de l’UE, a déclaré cette semaine que l’UE avait été en contact avec X concernant Grok, et a déclaré que certains résultats du chatbot étaient « horribles » et contraires aux droits et valeurs fondamentaux de l’Europe.
Deux groupes français de défense des droits, la Ligue des Droits de l’Homme et SOS Racisme, ont porté plainte contre Grok et X, les accusant d’avoir commis des crimes contre l’humanité.
X et sa division IA, xAI, n’ont pas immédiatement répondu aux demandes de commentaires.
