Discord a reconnu qu’un bug dans son système de modération d’IA avait interdit par erreur plus de 8 000 utilisateurs au cours des deux derniers mois, après que des images inoffensives, notamment des feuilles de calcul, des échiquiers, des textures de jeu, ainsi que des arrière-plans transparents blancs et gris, aient été signalées à tort comme contenu nuisible.
La société a confirmé que le problème affectait les comptes depuis mai, avec 200 utilisateurs supplémentaires bannis au cours du week-end avant que son équipe n’identifie et ne résolve le problème. Tous les comptes concernés sont actuellement en cours de restauration.
L’incident met en évidence l’un des défis croissants liés à la modération assistée par l’IA, car de nombreuses plateformes s’appuient de plus en plus sur des systèmes automatisés pour identifier les contenus illégaux ou abusifs à grande échelle.
Dans un fil de discussion détaillé sur X, Discord a expliqué que son système de sécurité automatisé fonctionne en comparant le contenu téléchargé avec des bases de données de matériels nuisibles connus. Bien que la technologie soit conçue pour détecter les contenus illégaux, l’entreprise a reconnu qu’elle peut parfois générer de faux positifs. Un modérateur humain examine le contenu, mais un bug a amené le système à bannir immédiatement les comptes concernés.
« Nous travaillons sur de meilleures garanties pour que cela ne puisse plus se reproduire », a écrit la société.
Nos systèmes signalent le contenu en le comparant à du matériel nuisible connu. Ce type de correspondance de similarité peut produire des faux positifs, c’est pourquoi un membre de notre équipe Confiance et sécurité examine toujours le contenu signalé avant qu’une action ne soit entreprise.
Le comportement prévu est de…
– Assistance Discord (@discord_support) 7 juillet 2026
Sur X et Reddit, les utilisateurs ont affirmé avoir été suspendus définitivement simplement pour avoir téléchargé des images contenant des motifs de grille carrée. Plusieurs utilisateurs ont émis l’hypothèse que les outils de modération d’IA de Discord sont devenus de plus en plus sensibles aux modèles de type grille, car ils ont déjà été utilisés pour tenter d’obscurcir ou de dissimuler le contenu NSFW et l’exploitation des enfants des systèmes de détection automatisés.
Les utilisateurs concernés ont exprimé leur frustration sur les réseaux sociaux, certains affirmant que les interdictions permanentes de comptes basées uniquement sur une détection automatisée peuvent avoir de graves conséquences, en particulier pour les utilisateurs qui comptent sur Discord pour leur travail, les communautés de jeux ou les connexions sociales longue distance.
« Perdre un compte Discord à cause de quelque chose d’aussi injuste peut être extrêmement dévastateur et affecter gravement les utilisateurs, et chaque jour, des millions d’utilisateurs sont affectés par de fausses interdictions d’IA. Cela doit cesser », a écrit un utilisateur de X.
Mon compte a été banni à tort de votre plateforme en raison d’un bug dans votre module automatique d’IA détectant mes TEXTURES DE JEU comme CSAM. J’ai besoin de récupérer mon compte car je suis directeur de jeu et j’utilise Discord pour toutes mes communications. J’ai demandé une révision de ma suspension.@discord @discord_support pic.twitter.com/QfAkCIJo6S
– JDBRYANT 🎂 AUJOURD’HUI (@jdbryantdev) 4 juillet 2026
Discord n’est pas le seul à être confronté à des problèmes de modération dus aux systèmes automatisés. L’année dernière, les utilisateurs des groupes Instagram et Facebook ont signalé des suspensions de comptes généralisées et inexpliquées que beaucoup pensaient être causées par les systèmes de modération de l’IA. Bien que les utilisateurs aient désigné l’automatisation comme étant le coupable probable, Meta n’a jamais confirmé publiquement si les erreurs d’IA en étaient responsables. Le conseil de surveillance de Meta fait désormais pression pour une transparence accrue.
L’année dernière, Tumblr a également fait face à des plaintes d’utilisateurs affirmant que leurs comptes avaient été suspendus en masse sans explications claires.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
