Meta a annoncé aujourd’hui qu’elle suspendait l’accès des adolescents à ses personnages IA dans le monde entier sur toutes ses applications. La société a mentionné qu’elle n’abandonnait pas ses efforts mais souhaitait développer une version mise à jour des personnages d’IA pour les adolescents, a déclaré la société en exclusivité à TechCrunch.
Cette décision intervient quelques jours avant qu’une affaire contre Meta ne soit jugée au Nouveau-Mexique, dans laquelle la société est accusée de ne pas avoir fait d’effort pour protéger les enfants de l’exploitation sexuelle sur ses applications. Wired a rapporté jeudi que Meta avait cherché à limiter les découvertes liées à l’impact des médias sociaux sur la santé mentale des adolescents.
En octobre, la société a présenté un aperçu du contrôle parental pour les personnages IA, permettant aux parents et tuteurs de surveiller des sujets et de bloquer l’accès à certains personnages. Meta a déclaré que les parents pourraient désactiver complètement les discussions avec les personnages IA. Ces fonctionnalités devaient être lancées cette année, mais la société désactive désormais complètement les personnages IA pour les adolescents tout en mettant à jour les personnages IA vers une version plus récente.
Meta a déclaré avoir entendu les parents dire qu’ils souhaitaient plus d’informations et de contrôle sur les interactions de leurs adolescents avec les personnages de l’IA, c’est pourquoi ils ont décidé d’apporter ces changements.
La société a réprimé l’accès des adolescents au contenu d’IA dans ses applications. Également en octobre, Meta a déployé des fonctionnalités de contrôle parental sur Instagram, en se concentrant sur l’adaptation de l’expérience des adolescents en matière d’interaction avec l’IA sur ses applications. Ces fonctionnalités, inspirées de la classification des films PG-13, limitaient l’accès des adolescents à certains sujets tels que la violence extrême, la nudité et la consommation de drogues graphiques.
« À partir des semaines à venir, les adolescents ne pourront plus accéder aux personnages IA dans nos applications jusqu’à ce que l’expérience mise à jour soit prête. Cela s’appliquera à toute personne qui nous a célébré son anniversaire, ainsi qu’aux personnes qui prétendent être des adultes mais que nous soupçonnons d’être des adolescents sur la base de notre technologie de prédiction de l’âge », a déclaré la société dans un article de blog mis à jour.
Meta a ajouté que lors du déploiement des nouveaux personnages IA, ils disposeront d’un contrôle parental intégré. La société a déclaré que les nouveaux personnages donneraient des réponses adaptées à leur âge et s’en tiendraient à des sujets tels que l’éducation, le sport et les loisirs.
Les sociétés de médias sociaux sont soumises à une surveillance étroite de la part des régulateurs. Outre le cas susmentionné au Nouveau-Mexique, Meta fera également face à un procès la semaine prochaine, où la plateforme est accusée d’avoir provoqué une dépendance aux médias sociaux. Le PDG Mark Zuckerberg devrait comparaître à la barre des témoins dans cette affaire une fois le procès commencé.
Les plateformes sociales, AI Outre, les entreprises ont dû modifier leur expérience pour les adolescents après avoir fait face à des poursuites judiciaires alléguant avoir joué un rôle dans l’aide à l’automutilation. En octobre, Character.AI, la startup qui permettait aux utilisateurs de discuter avec divers avatars IA, a interdit les conversations ouvertes avec des chatbots aux utilisateurs de moins de 18 ans. En novembre, la startup a annoncé qu’elle créerait des histoires interactives pour les enfants. Au cours des derniers mois, OpenAI a ajouté de nouvelles règles de sécurité pour les adolescents pour ChatGPT et a commencé à prédire l’âge d’un utilisateur pour appliquer des restrictions de contenu.
Correction : cet article a été mis à jour pour clarifier que la nouvelle version des personnages IA sera accessible à tous, pas seulement aux adolescents, lors de son lancement. Il inclura le contrôle parental.
