Instagram commencera à alerter les parents si leur adolescent essaie à plusieurs reprises de rechercher des termes liés au suicide ou à l’automutilation dans un court laps de temps, a annoncé la société jeudi. Les alertes seront lancées dans les semaines à venir auprès des parents inscrits en surveillance parentale sur Instagram.
La plateforme sociale appartenant à Meta affirme que même si elle empêche déjà les utilisateurs de rechercher du contenu sur le suicide et l’automutilation, ces nouvelles alertes sont conçues pour garantir que les parents sont au courant si leur adolescent essaie à plusieurs reprises de rechercher ce contenu afin de pouvoir soutenir leur adolescent.
Les recherches susceptibles de déclencher une alerte incluent des expressions encourageant le suicide ou l’automutilation, des expressions indiquant qu’un adolescent pourrait risquer de se faire du mal et des termes tels que « suicide » ou « automutilation ».
Instagram indique que les parents recevront l’alerte par e-mail, SMS ou WhatsApp, en fonction des informations de contact qu’ils ont fournies, ainsi qu’une notification dans l’application. La notification comprendra des ressources conçues pour aider les parents à aborder les conversations avec leur adolescent.
Cette décision intervient alors que Meta et d’autres grandes entreprises technologiques font actuellement face à plusieurs poursuites judiciaires visant à tenir les géants des médias sociaux responsables des dommages causés aux adolescents.
Lors de son témoignage dans le cadre d’un procès qui se déroule cette semaine devant le tribunal de district américain du district nord de Californie, le responsable d’Instagram, Adam Mosseri, a été interrogé par les procureurs dans une affaire de dépendance aux médias sociaux en cours à propos du déploiement retardé de l’application des fonctionnalités de sécurité de base, y compris un filtre de nudité pour les messages privés destinés aux adolescents.
De plus, lors d’un témoignage dans un procès distinct devant la Cour supérieure du comté de Los Angeles, il a été révélé qu’une étude de recherche interne à Meta a révélé que la supervision et le contrôle parentaux avaient peu d’impact sur l’utilisation compulsive des médias sociaux par les enfants. L’étude a également révélé que les enfants confrontés à des événements stressants de la vie étaient plus susceptibles d’avoir du mal à réguler correctement leur utilisation des médias sociaux.
Compte tenu des poursuites en cours accusant l’entreprise de ne pas avoir protégé les adolescents sur ses plateformes, le moment choisi pour ces nouvelles alertes n’est pas vraiment surprenant.
La société note qu’elle s’efforcera d’éviter d’envoyer ces notifications inutilement, car une utilisation excessive pourrait réduire leur efficacité globale.
« En travaillant pour trouver cet équilibre important, nous avons analysé le comportement de recherche sur Instagram et consulté des experts de notre groupe consultatif sur le suicide et l’automutilation », a expliqué Instagram dans un article de blog. « Nous avons un seuil qui nécessite quelques recherches dans un court laps de temps, tout en restant prudent. Même si cela signifie que nous pouvons parfois avertir les parents lorsqu’il n’y a peut-être pas de réelle raison de s’inquiéter, nous pensons – et les experts sont d’accord – que c’est le bon point de départ, et nous continuerons de surveiller et d’écouter les commentaires pour nous assurer que nous sommes au bon endroit. «
Les alertes seront déployées aux États-Unis, au Royaume-Uni, en Australie et au Canada la semaine prochaine et seront disponibles dans d’autres régions plus tard cette année.
À l’avenir, Instagram prévoit de lancer ces notifications lorsqu’un adolescent tente d’engager l’IA de l’application dans des conversations sur le suicide ou l’automutilation.
