Sur Internet, où les enfants sont plus susceptibles d’interagir en ligne avec des robots qu’avec de vraies personnes, les enfants deviennent de jour en jour plus férus de technologie et savent mieux naviguer sur un téléphone portable qu’un vélo, et les plateformes de médias sociaux trouvent des moyens d’équilibrer la protection de la vie privée des gens tout en garantissant la sécurité des utilisateurs mineurs. Malheureusement, ces deux paramètres sont souvent en contradiction et, compte tenu du manque de surveillance gouvernementale, ces entreprises ne sont guère incitées à aller au-delà du statu quo.
C’était jusqu’à récemment, lorsque les fichiers de confidentialité incontrôlés des plateformes de médias sociaux ont fait surface sur l’Internet public et que des groupes de plus en plus procéduraux ont décidé de porter l’affaire devant les tribunaux. Désormais, pour assurer la sécurité des utilisateurs mineurs en ligne et garantir la confidentialité des données collectées par chacun, les entreprises recherchent de nouvelles façons de vérifier l’âge des utilisateurs en ligne. Mais l’absence de réglementation fédérale alimente également ce mandat paradoxal et alimente les conflits. Les sociétés de médias sociaux peuvent collecter des données sur les utilisateurs de tous âges pour assurer la sécurité des enfants.
La Federal Trade Commission (FTC) a publié cette semaine une déclaration autorisant les sociétés de médias sociaux à collecter des données personnelles sur des enfants sans le consentement des parents au nom de la vérification de l’âge, créant ainsi une exception à la règle de protection de la vie privée en ligne des enfants (COPPA), qui excluait auparavant spécifiquement les enfants de moins de 13 ans de la collecte de données. Étant donné que la COPPA est conçue pour protéger les données sensibles, la FTC autorise simplement les sociétés de médias sociaux à collecter toutes les informations qu’elles jugent nécessaires au nom de la vérification de l’âge.
« La confidentialité peut être les deux faces d’une même médaille », a déclaré Jonny Ayers, PDG et fondateur de la société de logiciels d’identification basée sur l’IA Socure. « La détection de la fraude, de la viabilité et des deepfakes en matière d’informations personnelles implique une naïveté très dangereuse. »
« Vous ne pouvez pas collecter les données biométriques d’un enfant », a-t-il déclaré à Fortune. « Alors, comment savoir qu’une personne a 13 ans sans vérifier qu’elle a 13 ans ni collecter quoi que ce soit ? »
Alors que la FTC insiste sur le fait que le changement de politique est un pas dans la bonne direction, les psychologues et les experts en matière de protection de la vie privée préviennent qu’il permettra aux entreprises de collecter trop de données, d’accentuer les mesures de pseudo-confidentialité et de nuire déjà aux enfants.
« Ces plateformes ont été développées pour les adultes. Elles ont été développées pour les adultes, mais les enfants les utilisent aussi. Cela n’a jamais été destiné à être un produit pour les enfants. C’était une réflexion après coup : nous essayions de boucher un trou », a déclaré à Fortune Debra Boult, psychologue en IA générative pour la société de sécurité familiale en ligne Aura. « Beaucoup de ces entreprises essaient d’aider dès maintenant, mais elles n’ont pas les ressources nécessaires pour s’y engager ni les personnes ayant une formation fondée sur des données probantes pour y réfléchir et planifier en conséquence. »
Elle supervise l’équipe de recherche clinique d’Aura, une solution de sécurité en ligne destinée à protéger l’identité des individus, des familles et des enfants dans un environnement de plus en plus numérique. L’entreprise peut également utiliser l’IA pour surveiller les activités en ligne des membres de la famille et reconnaître les saisies au clavier qui indiquent si un enfant utilise un langage ou des plateformes nuisibles.
Boeldt est un psychologue clinicien ayant une formation en développement de l’enfant. Son équipe a découvert que près d’un enfant de moins de 13 ans sur cinq passe plus de quatre heures en ligne chaque jour, ce qui entraîne une augmentation des niveaux de dépression et d’anxiété chez les plus jeunes utilisateurs d’Internet.
Cette découverte a conduit à la création de l’expression « déverrouillage forcé », qui fait référence à l’heure à laquelle les enfants se réveillent généralement vers 7 heures du matin et vérifient leur téléphone presque religieusement, reflétant leur horloge biologique interne, qui est similaire à celle d’un fumeur. Les filles sont également 17 % plus susceptibles de ressentir de l’anxiété en raison des pressions liées à la disponibilité et à la connexion numériques.
Les enfants jouent à la taupe numérique
Les efforts déployés par les sociétés de médias sociaux pour exclure les enfants de leurs plateformes s’avéreront difficiles simplement parce qu’elles savent comment les contourner.
« C’est leur espace normal de connexion », a déclaré Boult, ajoutant que toute tentative « serait comme un coup de tonnerre », les utilisateurs mineurs passant simplement à la plate-forme suivante.
« Peut-être que votre TikTok a été retiré, mais vous allez sur Roblox. Ou vous allez sur Discord et commencez à parler aux gens là-bas », a-t-il déclaré. « C’est l’une des choses les plus difficiles… les enfants sont très intelligents et savent contourner les problèmes. »
Boult faisait référence à l’annonce récente d’Instagram selon laquelle il commencerait bientôt à surveiller les comptes soupçonnés d’appartenir à des enfants à des fins d’automutilation. Les parents recevront un avertissement si leur enfant recherche à plusieurs reprises des termes relatifs au suicide ou à l’automutilation sur la plateforme. Cette décision intervient alors que la société mère d’Instagram, Meta, est actuellement jugée pour avoir créé un environnement de médias sociaux qui nuit intentionnellement et favorise la dépendance chez les jeunes utilisateurs.
« Ces alertes sont conçues pour aider les parents à savoir si leurs adolescents tentent de rechercher ce contenu à plusieurs reprises et leur fournir les ressources dont ils ont besoin pour soutenir leurs adolescents », a indiqué la société dans un communiqué.
Mais les enfants contournent déjà la censure sur les plateformes de médias sociaux comme TikTok et Instagram, en utilisant des mots comme « pas vivant » et en faisant référence à « fichiers PDF » pour désigner d’autres objets plus sinistres.
Cela pose un problème, a déclaré Boult, affirmant que les tentatives visant à empêcher les enfants d’utiliser certains termes ne font qu’inventer et faire proliférer de nouveaux vocabulaires, ce qui à son tour oblige à de nouvelles tentatives de contrôle du langage, conduisant inévitablement à un cycle sans fin.
« Quand j’ai vu quelque chose comme ça ou de l’automutilation sur Instagram, mon cerveau s’est immédiatement dit : « Quelle est la qualité de leur modèle ? Dans quelle mesure vont-ils détecter cela ? », a-t-il ajouté.
Boult estime que la réglementation gouvernementale est le seul moyen de véritablement forcer les entreprises à assurer la sécurité des utilisateurs en ligne. « Ces entreprises n’adhèrent pas à certaines normes qui empêcheraient les enfants d’accéder à leurs plateformes. Surtout, ces entreprises profitent de l’accès des enfants à leurs plateformes. Plus de personnes, plus de publicité. »
« En fin de compte, cela prend beaucoup d’argent et de ressources pour y parvenir. »
