Il est plus facile que jamais pour les acteurs malveillants de diffuser du spam sur Internet, à mesure que de puissants modèles de langage étendus (LLM) deviennent accessibles sans effort. Si vous avez passé environ dix minutes sur Internet au cours des dernières années, vous saurez que cela signifie que le spam et le contenu des robots sont devenus un problème encore plus grave qu’ils ne l’étaient déjà.
Reddit affirme avoir développé des outils avec des LLM pour réduire le spam, dont une grande partie a été créée avec des LLM en premier lieu. C’est un peu ironique, mais à l’ère de l’IA, les plateformes n’ont d’autre choix que de combattre le feu par le feu. Selon la plateforme, Reddit bloque 23 millions de vues de spam par jour et détecte environ 25 000 nouveaux messages et commentaires de spam chaque jour.
Les plateformes sociales créent des outils automatisés de réduction du spam depuis des années, mais Reddit affirme que ces outils mis à jour détectent le spam à un rythme plus élevé.
« Nous exploitons les LLM pour détecter les modèles très subtils et coordonnés de faux comportements et de battage médiatique artificiel que les anciens systèmes manquaient autrefois », indique un article de blog Reddit. La société affirme avoir réduit l’exposition des utilisateurs au spam de 20 % entre janvier et mars par rapport aux trois mois précédents.
Des plateformes comme YouTube, Meta et Instagram permettent aux utilisateurs de publier du contenu généré par l’IA à condition de le divulguer, et TikTok va jusqu’à permettre aux utilisateurs de choisir la quantité de contenu généré par l’IA qu’ils souhaitent voir.
Si les plateformes sont capables de détecter plus rapidement les contenus générés par l’IA, cela signifie également qu’elles ont également le potentiel de signaler plus rapidement les contenus violents comme les discours de haine. Mais les experts des plateformes nous rappellent sans cesse que la modération du contenu par l’IA doit être associée à une modération humaine pour obtenir les résultats les plus efficaces.
