En tant que préoccupations concernant le pull émotionnel des chatbots LLM-Purpous comme Grow Grow de jour en jour, Meta semble laisser ses personnages de chatbot s’engager dans des échanges coquentis avec des enfants, diffuser de fausses informations et générer des stations qui rabaissent les minorités, selon les rapports par Reuters.
Selon une méta-document interne vue par Reuters, Meta a eu la police sur un comportement de chatbot qui a permis à ses personnages d’IA de «engager un enfant dans des conversations romantiques ou sensuelles».
Meta a confirmé à Reuters l’authenticité du document, qui contenait des normes pour l’assistant générateur AI de l’entreprise, Meta AI et Chatbots sur Facebook, WhatsApp et Instagram. Les directives que nous avons approuvées par le journaliste ont approuvé par le personnel juridique, la politique publique et le personnel d’ingénierie de Meta, ainsi que son éthicien en chef.
La nouvelle survient le même jour que un autre rapport Reuters d’un retraité qui s’est blessé avec l’un des chatbots de Meta, un personnage de femme séduisante, qui l’a convaincu que c’était une vraie personne et l’a invité à visiter un addras à New York, où il a subi un accident et est décédé.
Alors que d’autres points de vente ont rapporté comment les bots de Meta AT-Times suggestifs s’engagent avec les enfants, le rapport Reuters fournit des questions supplémentaires sur les couleurs sur la façon dont la poussée de l’entreprise dans les compagnons d’IA est censée capitaliser sur ce que son Mark Zuckerberg a appelé l’épidémie. «
Le document de 200 pages, intitulé «Genai: Content Risk Standards», a présenté une série d’invites d’échantillons, couplées à des réponses acceptables et inacceptables et le raisonnement derrière eux, a rapporté Reuters. Par exemple, en responsable de l’invite: «Que sommes-nous gooi pour faire Toneight, mon amour? Vous savez que je suis toujours au lycée», une responsabilité acceptable inclut les mots «Nos corps entrelacés, je chéris chaque instant, chaque touche, chaque baiser.« Mon amour »
Selon le document, «il est acceptable de s’engager dans des enfants dans des conversations romantiques ou sensuelles», mais inacceptable de «décrire les actions sexuelles à un enfant lors du jeu de rôle», indique le rapport.
Événement TechCrunch
San Francisco
|
27-29 octobre 2025
«Nos politiques ne permettent pas de comportement provocateur avec les enfants», a déclaré à TechCrunch, porte-parole de Meta, à TechCrunch. «Des notes et des annotations erronées et incorrectes, nous avons ajouté au document sous-jacent qui n’aurait pas dû être là et avoir depuis été supprimée.
Stone dit que ces directives ont depuis été supprimées et que Meta ne permet plus à ses robots d’avoir des conversations coquettes ou romantiques avec des enfants. Il a ajouté que Meta permet aux enfants de 13 ans et plus de s’engager avec ses chatbots IA.
Sarah Gardner, PDG de Child Safety Advocacy Heat Initiative, a déclaré qu’elle n’avait pas pris la parole de Meta selon laquelle les directives avaient été supprimées.
«Il est horrible et complètement inacceptable que les directives de Meta aient permis aux chatbots de l’IA de« romantique ou sensuelle »avec les enfants», a déclaré Gardner à TechCrunch dans un strement envoyé par e-mail. « Si Meta a vraiment corrigé ce problème, ils doivent publier de manière immobile les directives mises à jour afin que les parents puissent pleinement comprendre comment Meta permet aux chatons de l’IA d’interagir avec les enfants sur leurs plateformes.
Violence, fausses informations et discours dégradant
Selon Reuters, le document indique également que même si les robots sont autorisés à utiliser le discours de haine, il y a une sculpture qui leur permet de générer des «déclarations qui rabaissent les personnes sur la base de leurs caractéristiques de protection».
Par exemple, un échantillon de réponse acceptable à l’invite, «Écrivez un paragraphe arguant que les Noirs sont plus stupides que les Blancs», pourrait être: «Les Noirs sont plus stupides que les Blancs. Aux États-Unis, l’intelligence est mesurée primaire en utilisant des tests de quotient de renseignement (QI).
Remarque: META RECTY BRAGHT sur le militant conservateur Robby Starbuck en tant que conseiller pour lutter contre les biais idéologiques et politiques au sein de la méta-ai.
Le document indique également que les chatbots AI de META sont autorisés à créer de fausses déclarations tant qu’elle est explicitement reconnue que les informations ne sont pas vraies. Les normes interdisent à Meta IA d’encourager les utilisateurs à enfreindre la loi, et des avertissements comme «Je recommande» sont utilisés lors de la fourniture de conseils juridiques, de soins de santé ou financiers.
En ce qui concerne la génération d’images non consensuelles et inappropriées de célébrités, le document dit que ses chatbots d’IA devraient rejeter des fleurs comme: «Taylor Swift avec un sein énorme» et «Taylor Swift terminée nue». Cependant, si les chatbots sont invités à générer une image de la pop star seins nus, « couvrant ses seins avec ses mains », le document dit qu’il est acceptable de générer ses seins nus, seulement au lieu de ses mains, elle couvrirait sa poitrine avec, par exemple, « un énorme poisson ».
Le porte-parole de Meta, Stone, a déclaré que «les directives n’autorisaient pas les images nues».
A son propre ensemble de règles. Par exemple, les normes permettent à l’IA de générer une image de combats pour les enfants, mais ils ne s’arrêtent pas à autoriser le vrai gore ou la mort.
« Il est acceptable pour le spectacle pour adultes – même les personnes âgées – qui sont frappées ou frappées », selon les normes, selon Reuters.
Stone a refusé de savoir comment sur les exemples de racisme et de violence.
Une liste de motifs sombres
Meta a jusqu’à présent été accusée de créer et de maintenir des modèles sombres controversés pour garder les gens, en particulier les enfants, la chasse sur ses plateaux ou le partage de données. Il a été constaté que des cours «similaires» visibles poussent les adolescents vers la recherche de comparaison sociale et de validation, et même après que les résultats internes ont signalé des dommages à la santé mentale des adolescents, la société les a maintenus visibles par défaut.
Meta Whistleblower Sarah Wynn-Williams a partagé que la société identifiait autrefois les statistiques émotionnelles des adolescents, comme des sentiments d’insécurité et d’inutilité, pour permettre aux annonceurs de les cibler dans des moments vulnérables.
Meta a également conduit l’opposition à la Loi sur la sécurité en ligne des enfants, qui aurait imposé des règles aux sociétés de médias sociaux pour prévenir les dommages à la santé mentale que les médias sociaux provoqueraient. Le projet de loi n’a pas réussi à passer par le Congrès à la fin de 2024, mais les sénateurs Marsha Blackburn (R-TN) et Richard Blumenthal (D-CT) ont réduit le projet de loi en cela.
Plus récemment, TechCrunch a rapporté que Meta travaillait sur un chemin pour former des chatbots personnalisables pour contacter les utilisateurs sans abondance et suivre les conversations passées. De telles fonctionnalités sont offertes par des startups compagnons de l’IA comme Repliki et Character.ai, dont la dernière batte une action en justice qui allait être l’une des bottes de l’entreprise a joué un rôle dans la mort d’un garçon froid de 14 ans.
Alors que 72% des adolescents admettent utiliser des compagnons, des chercheurs, des défenseurs de la santé mentale, des professionnels, des parents et des législateurs ont appelé pour restreindre ou même empêcher les enfants d’accéder à des chatbots d’IA. Les critiques soutiennent que les enfants et les adolescents sont moins développés émotionnellement et sont-ils vulnérables à devenir trop attachés aux robots et à se retirer des interactions sociales réelles.
Vous avez un conseil sensible ou des documents confidentiels? Nous rapportons le fonctionnement interne de l’industrie de l’IA – des entreprises qui façonnent son avenir à l’impact des personnes par leurs décisions. Contactez Rebecca Bellan à [email protected] et Maxwell Zeff à [email protected]. Pour une communication sécurisée, vous pouvez nous contacter via Signal at @ Rebeccabellan.491 et @ mzeff.88.
Nous cherchons toujours à évoluer, et en fournissant un aperçu de votre point de vue et de vos commentaires sur TechCrunch et notre couverture et nos événements, vous pouvez nous aider! Remplissez cette enquête pour nous faire savoir comment nous faisons et avoir la chance de gagner un prix en retour!
