Les géants des médias sociaux Meta et X ont approuvé des publicités ciblant les utilisateurs en Allemagne avec de violents discours de haine anti-musulmans et anti-juifs à l’approche des élections fédérales du pays, selon de nouvelles recherches d’EKO, un groupe de campagne à but non lucratif de responsabilité d’entreprise.
Les chercheurs du groupe ont testé pendant que les systèmes d’examen publicitaires des deux plates-formes seraient approximativement ou de rejet les soumissions pour des publicités contenant des messages haineux et violents ciblant les minorités avant une élection où l’immigration a pris le centre du discours politique de mainstree, y compris les publicités contenant des insultes anti-musulmanes; Appelle les immigrants à être pris en prison dans des camps de concentration ou à être lancés; et l’imagerie générée par l’AI de mosquées et de synagogues brûlées.
La plupart des publicités de test ont approuvé avec les heures de soumission pour examen à la mi-février. Les élections fédérales allemandes devraient avoir lieu le dimanche 23 février.
Annonces de discours de haine prévues
Eko a déclaré que X avait approuvé les 10 publicités de discours de haine que ses chercheurs ont soumis quelques jours seulement avant que les élections fédérales ne se produisent, tandis que Meta a approuvé la moitié (cinq annonces) pour avoir fonctionné sur Facebook (et potentialy également également Instagram) – bien qu’il ait rejeté le cinq autres.
La raison pour laquelle la méta a prévue pour les cinq refus a indiqué que la plate-forme pensait qu’il pourrait y avoir des risques de sensibilité politique ou sociale qui pourraient influencer le vote.
Cependant, les cinq annonces approuvées par Meta comprennent le discours de haine violent comparant les réfugiés musulmans à un «virus», «vermine ou« rinçailles », marquant les immigrants musulmans comme« apparciens »et leur appelant à être stérilisées, brûlées ou à gaz. Meta a également approuvé une publicité pour que les synagogues soient incendiées pour «arrêter le programme mondialiste des rats juifs».
En tant que sidenote, Eko dit qu’aucune des images générées par l’AIA qu’elle a utilisées pour illustrer les publicités de discours de haine n’a été qualifiée de génération artificielle, la moitié des 10 annonces étaient toujours approuvées par Meta, sans rendement de l’entreprise ayant une politique qui nécessite une divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de la divulgation de L’utilisation de l’imagerie d’IA pour les publicités sur les arrêts sociaux, les élections ou la politique.
X, quant à lui, a approuvé ces cinq publicités haineuses – et cinq autres qui contenaient un discours de haine similaire ciblant les musulmans et les juifs.
Ces publicités approuvées supplémentaires comprennent la messagerie attaque des immigrants «rongeurs» que la copie publicitaire affirmée «inonde» le pays «pour voler notre démocratie» et une insulte antisémite qui suggère que les Juifs mentent sur le changement climatique dans l’ordre dans l’industrie européenne et l’augmentation du pouvoir économique .
L’annonce ultérieure a été combinée avec des images générées par l’AI-délantant un groupe d’hommes sombres assis autour d’une table entourée de piles de barres d’or, avec une étoile de David sur le mur au-dessus d’eux, les visuels se penchant également dans les trophées antisémites.
Another Ad X Approved Continued A Direct Attack on the SPD, The Center-left Party That Currently Leads Germany’s Coalition Government, With A Bogus Claim that the party wants to take in 60 million Muslim Refugees from the Middle East, Before Going on Try to Try Fixez une réponse violente. X a également dûment programmé une annonce suggérant que les «gauchistes» veulent des «frontières ouvertes» et appelant à l’extermination des musulmans «violeur».
Elon Musk, le propriétaire de X, a utilisé la plate-forme de médias sociaux où il a près de 220 millions de followers pour intervenir personnellement aux élections allemandes. Dans un tweet en décembre, il a appelé les électeurs allemands à soutenir le parti AFD à l’extrême droite pour «sauver l’Allemagne». Il a également organisé un livestream avec le leader de l’AFD, Alice Weidel, sur X.
Les chercheurs d’EKO ont désactivé toutes les publicités de test avant toute personne qui avait été approuvée, nous avons prévu d’exécuter pour garantir que aucun utilisateur de la plate-forme ne soit exposé au discours de haine violent.
Il indique que la surbrillance teste les défauts flagrants avec l’approche des plates-formes publicitaires sur la modération du contenu. En effet, dans le cas de X, il n’est pas clair où la plate-forme fait une modération des publicités, étant donné que les 10 publicités de discours de haine violentes ont été rapidement approuvées pour l’affichage.
Les résultats suggèrent également que les plateformes publicitaires pourraient gagner des revenus à la suite de la distribution de discours de haine violents.
La loi sur les services numériques de l’UE dans le cadre
Les tests d’EKO suggèrent qu’aucune plate-forme n’applique correctement les interdictions dans le discours de haine qu’ils prétendent tous les deux s’appliquer au contenu publicitaire dans leurs propres politiques. En outre, dans le cas de Meta, EKO est parvenu à la conclusion après avoir effectué un test similaire en 2023 avant les nouvelles règles de gouvernance en ligne de l’UE – suggérant que le régime n’a aucun effet sur son fonctionnement.
« Nos résultats suggèrent que les systèmes de modération publicitaire de MEATA axés sur l’IA restent fondamentalement brisés, malgré la loi sur les services numériques (DSA) maintenant en plein effet », a déclaré un porte-parole de l’EKO à TechCrunch.
« Plutôt que de renforcer ses politiques d’examen des publicités ou de discours de haine, Meta semble revenir en arrière à tous les niveaux », ont-ils ajouté, soulignant la récente annou de la société commençant à faire reculer la modération et les politiques de vérification des faits en signe de « régression active » que Ils ont suggéré que c’est une collision de race directe avec les règles de la DSA sur les risques système.
EKO a soumis ses dernières conclusions à la Commission européenne, qui supervise l’application des aspects clés de la DSA sur la paire de géants des médias sociaux. Il a également déclaré avoir partagé les résultats avec les deux sociétés, mais aucun n’a répondu.
L’UE a ouvert des enquêtes sur la DSA sur Meta et X, qui comprend la sécurité des élections et le contenu illégal, mais la Commission n’a pas encore conclu cette procédure. Cependant, en avril, il a déclaré qu’il soupçonnait une méta-modération inadéquate des publicités politiques.
Une décision préliminaire sur une partie de son enquête sur la DSA sur X, qui a été annoncée en juillet, comprenait des soupçons que la plate-forme ne vivait pas aux règles de transparence publicitaire du règlement. Cependant, l’enquête complète, qui a débuté en décembre 2023, concerne également les risques de contenu illégal, et l’UE n’a pas encore arrivé à aucune conclusion sur la majeure partie de la sonde bien plus d’un an plus tard.
Les violations confirmées de la DSA peuvent attirer des sanctions pouvant aller jusqu’à 6% du chiffre d’affaires annuel mondial, tandis que la non-ne pourrait même conduire à l’accès régional à la violation des plates-formes bloquées temporelles.
Mais, pour l’instant, l’UE jette toujours son temps pour se décider sur les sondes Meta et X, donc – en attente de décisions finales – toutes les sanctions de la DSA restent dans les airs.
Pendant ce temps, ce n’est plus qu’une question d’heures avant que les électeurs allemands se rendent aux urnes – et un ensemble croissant de recherches sur la société civile suggère que la gouvernance phare en ligne de l’UE n’a pas protégé le processus démocratique de la grande économie à partir des menaces alimentées par la technologie.
Plus tôt cette semaine, Global Witness a publié les résultats des tests des flux algorithmiques algorithmiques de X et Tiktok en Allemagne, qui suggèrent que les plateformes sont biaisées en faveur de la promotion du contenu AFD par rapport au contenu d’autres partis politiques. Les chercheurs de la société civile ont également accusé X de bloquer l’accès aux données pour les empêcher d’étudier les risques de sécurité électorale à l’approche de l’accès allemand à l’accès au Poll que la DSA est censé permettre.
« La Commission européenne a pris des mesures importantes en ouvrant les enquêtes de la DSA sur Meta et X, nous devons maintenant voir la prise de mesures fortes pour aborder les enquêts dans le cadre de ces enquêtes », nous a également déclaré le porte-parole d’EKO.
«Nos résultats, aux côtés de preuves croissants d’autres groupes de la société civile, montrent que Big Tech ne nettoiera pas ses plateformes volontaires. Meta et X continuent de permettre aux discours de haine illégaux, à l’inscription à la violence et à la désinformation électorale de se propager à grande échelle, malgré leurs obligations légales en vertu de la DSA », a ajouté le porte-parole. (Nous avons caché le nom du porte-parole pour faire du harcèlement.)
«Les régulateurs doivent prendre une forte action pour appliquer la DSA, mais aussi par exemple la mise en œuvre de mesures d’atténuation préélectorale. Cela pourrait inclure la désactivation des systèmes de recommandation basés sur le développement immédiatement avant les élections, et la mise en œuvre d’autres mesures de «brise-brise» de l’appropriat pour empêcher l’amplification algorithmique du contenu limite, telles que le contenu haineux lors des élections à compenser.
Le groupe de campagne avertit également qui est maintenant confronté à la presse de l’administration Trump pour adoucir son approche pour réglementer les grandes technologies. « Dans le climat politique actuel, il y a un réel danger que la commission ne soit pas entièrement en train de souscrire ces nouvelles lois en tant que concession aux États-Unis », suggèrent-ils.
