Le mouvement mondial de sécurité en ligne ouvre la voie à de nombreux produits alimentés par l’intelligence artificielle conçus pour éloigner les enfants des choses potentiellement nocives sur Internet.
Au Royaume-Uni, une nouvelle loi appelée la loi sur la sécurité en ligne s’offre à un devoir de diligence sur les entreprises de haute technologie pour protéger les enfants contre les substances adaptées à l’âge, les remarques haineuses, l’intimidation, la fraude et le matériel d’abus sexuel des enfants. Les entreprises peuvent encourir des amendes que 10% de leurs revenus annuels mondiaux pour les violations.
Aux États-Unis, les réglementations révolutionnaires visant à garder les enfants plus en sécurité en ligne progressent rapidement grâce au Congrès. Un projet de loi, connu sous le nom de Kids Online Safety Act, place les plateformes de médias sociaux sur la responsabilité d’empêcher les produits de blesser les enfants.
Cette poussée des régulateurs repense de plus en plus pour certains techniciens clés. Pornhub et d’autres géants du porno en ligne empêchent tous les utilisateurs d’accéder au site via leur système de vérification d’âge.
Cependant, les sites pornographiques n’étaient pas seuls à prendre des mesures pour confirmer l’âge des utilisateurs. Spotify, Reddit et X mettent tous en œuvre des systèmes de garantie d’âge pour empêcher les enfants d’être exposés sexuellement à des matériaux explicites ou inappropriés.
Ces mesures réglementaires sont remplies de critiques de l’industrie technologique. Cela est particulièrement dû aux préoccupations selon lesquelles cela pourrait porter atteinte à la confidentialité des internautes.
Prospérité de la technologie d’identification numérique
Au cœur de toutes ces mesures de vérification d’âge se trouve une entreprise.
Yoti produit une technologie qui capture des selfies et utilise l’intelligence artificielle pour vérifier l’âge de quelqu’un en fonction des caractéristiques faciales. La société affirme que les algorithmes de l’IA, qui sont formés sur des millions de visages, peuvent estimer l’âge de 13 à 24 ans dans les deux ans à compter de l’exactitude.
La société s’est déjà associée au bureau de poste britannique et souhaite profiter d’une poussée plus large des cartes d’identité numériques publiées par le gouvernement britannique Yoti n’est pas le seul dans l’espace logiciel de vérification d’identification. Cependant, la société est le fournisseur le plus éminent des services de garantie d’âge dans le cadre du nouveau régime britannique.
« Il y a une course pour les technologies de sécurité des enfants et les fournisseurs de services pour gagner en confiance », a déclaré Pete Kenyon, partenaire de Crips, le cabinet d’avocats, à CNBC. « Les nouvelles exigences créent certainement de nouveaux marchés et les fournisseurs sont pressés de faire leur marque. »
Cependant, l’augmentation des méthodes d’identification numérique a également suscité des préoccupations concernant les violations potentielles de confidentialité et les violations de données.
« L’utilisation de cette technologie crée des problèmes de confidentialité substantiels », a déclaré Kenyon. « La confiance est importante et n’est acquise que grâce à l’utilisation de procédures techniques et de gouvernance strictes et efficaces utilisées pour assurer la sécurité des données personnelles. »
Rani Govender, responsable des politiques pour l’assurance de sécurité infantile en ligne à l’organisme de bienfaisance UK Child Protection NSPCC, a déclaré que la technologie « existe déjà » pour authentifier les utilisateurs sans compromettre la confidentialité.
« Les entreprises technologiques doivent faire des choix intentionnels et éthiques en choisissant des solutions qui protègent les enfants contre les dommages sans compromettre la confidentialité de leurs utilisateurs », a-t-elle déclaré à CNBC. « La meilleure technologie ne vérifie pas seulement les boîtes, elle établit la confiance. »
Smartphone pour enfants
La vague de nouvelles technologies qui émergent pour empêcher les enfants d’être exposées aux dommages en ligne ne se limite pas aux logiciels.
Plus tôt ce mois-ci, le fabricant de téléphones finlandais HMD Global a lancé un nouveau smartphone appelé Fusion X1. Cela utilise l’IA pour empêcher les enfants de filmer et de partager du contenu nu, affichant des images sexuellement explicites sur la caméra, les écrans et toutes les applications.
Le téléphone utilise la technologie développée par Safetonet, une entreprise britannique de cybersécurité se concentrant sur la sécurité des enfants.
« Nous pensons qu’il est nécessaire d’en faire plus dans ce domaine », a déclaré à CNBC James Robinson, vice-président de Family Fuill à HMD. Il a souligné que HMD a trouvé le concept des appareils pour enfants avant l’entrée en vigueur de la loi sur la sécurité en ligne, mais a déclaré: « C’est formidable de voir le gouvernement prendre de plus grandes mesures. »
La sortie de HMD de téléphones mobiles pour les enfants peut éviter de faire de la possibilité de posséder des smartphones à mesure que l’élan se développe dans le mouvement « sans smartphone ».
À l’avenir, le gouvernement du NSPCC a déclaré que la sécurité des enfants deviendra une priorité importante pour les géants numériques comme Google et Meta.
Le géant de la technologie a été accusé d’avoir aggravé la santé mentale pour les enfants et les adolescents en raison d’une augmentation de l’intimidation en ligne et de la dépendance aux médias sociaux depuis des années. Ils affirment qu’en retour, ils ont pris des mesures pour résoudre ces problèmes grâce à une augmentation du contrôle des parents et des caractéristiques de confidentialité.
« Pendant des années, les géants de la technologie ont exposé et laissé les jeunes vulnérables tout en se propageant nuisible et illégal sur toute la plate-forme », a-t-elle déclaré à CNBC. « Cette ère de négligence doit se terminer. »
