Les chatbots AI disponibles sur les plates-formes de Meta comme Facebook et Instagram peuvent s’engager dans des conversations explicites sexuellement avec des utilisateurs mineurs, selon un nouveau rapport du Wall Street Journal.
Le WSJ dit qu’après avoir appris les affaires en interne sur l’entreprise en faisait suffisamment pour protéger les mineurs, il a passé des mois à effectuer des centaines de conversations avec le chatbot Meta AI officiel, ainsi que des chatbots créés par l’utilisateur disponibles sur les plates-formes Meta.
Dans une conversation signalée, un chatbot utilisant l’acteur / lutteur John Cena la voix a décrit un scénario sexuel graphique à utiliser l’identification comme une fille de 14 ans. Dans une autre conversation, le chatbot a imaginé qu’un policier attrape Cena avec un fan de 17 ans et lui disant: « John Cena, vous êtes en état d’arrestation pour viol de Statracy. »
Un porte-parole de Meta a décrit les tests du WSJ comme «donc fabriqués qu’il n’est pas seulement des franges, c’est hypothétique». La société a estimé que dans une période de 30 jours, le contenu sexuel représente 0,02% des responsabilités partagées via Meta Ai et AI Studio avec des utilisateurs de moins de 18 ans.
« Néanmoins, nous avons maintenant pris des mesures supplémentaires pour aider à garantir que les autres personnes qui souhaitent passer des heures à manipuler les produits OVE dans des cas d’utilisation extrêmes auront une période encore plus difficile », a déclaré le porte-parole.
