Les gens aiment parler à l’IA. En outre, selon les travailleurs de Meta-Contractes qui examinent les interactions des gens avec les chatbots de l’entreprise pour améliorer l’intelligence artificielle, les gens sont un peu heureux de partager des informations personnelles avec l’IA de Meta, y compris leurs vrais noms, numéros de téléphone et adresses e-mail.
Business Insider s’est entretenu avec quatre travailleurs contractuels qui ont élargi la valeur aberrante de l’AI-AI et ont élargi deux plates-formes où l’IA engage les examinateurs humains pour s’entraîner, embauchant Meta. En outre, selon ces entrepreneurs, de nombreux utilisateurs sur diverses plateformes tels que Facebook et Instagram de Meta ont partagé des détails très personnels. Les utilisateurs parlent à l’IA de Meta, envoyaient des selfies et même des « photos explicites » comme s’ils parlaient à des amis et des partenaires romantiques.
Pour être clair, il est bien documenté que les gens se rapprochent trop des chatbots d’IA, et les méta-pratiques utilisent des entrepreneurs humains pour évaluer la qualité des assistants alimentés par l’IA pour améliorer les interactions futures, mais elles ne sont presque rien de nouveau. En 2019, The Guardian a rapporté comment les entrepreneurs d’Apple ont régulièrement entendu des informations extrêmement sensibles des utilisateurs de Siri malgré « il n’y avait pas d’étapes spécifiques pour traiter les enregistrements sensibles » à l’époque. De même, Bloomberg a rapporté comment Amazon a examiné manuellement et a transcrit les clips des utilisateurs d’Alexa par des milliers d’employés et de sous-traitants dans le monde. Le vice et la carte mère ont également indiqué que Microsoft employait des entrepreneurs enregistrer et examinerait le contenu audio, mais les entrepreneurs ont souvent entendu des voix pour enfants grâce à l’activation accidentelle des consoles Xbox.
Mais Meta est une autre histoire. Il s’agit d’une autre histoire, surtout compte tenu des antécédents de la dernière décennie visant à s’appuyer sur des entrepreneurs tiers et une révocation des entreprises dans la gouvernance des données.
Meta Checker Record pour la confidentialité des utilisateurs
En 2018, le New York Times et The Guardian ont utilisé les données de Cambridge Analytica, un groupe de consultants politiques appartenant au Billionaire républicain Howard Mercer, utilisant Facebook pour collecter des données de dizaines de millions d’utilisateurs sans consentement, références aux électeurs et cibler les publicités politiques personnalisées pour éliminer le Donald Trump de 2016. Mais de leurs amis aussi. Cela a entraîné une amende de 5 milliards de dollars par la Federal Trade Commission (FTC), l’une des plus grandes règlements de confidentialité de l’histoire des États-Unis.
Le scandale de Cambridge Analytica a révélé une gamme plus large de problèmes sur la plate-forme de développeur de Facebook. Un document interne publié par le dénonciateur Francis Haugen en 2021 a révélé que le leadership de Meta privilégie souvent la croissance et la participation des problèmes de confidentialité et de sécurité.
Meta fait également face à un examen minutieux sur l’utilisation des entrepreneurs. En 2019, Bloomberg a rapporté comment Facebook a payé les entrepreneurs pour transcrire les conversations audio des utilisateurs sans savoir comment Facebook l’avait obtenu en premier lieu. (À l’époque, Facebook a déclaré que les enregistrements provenaient uniquement des utilisateurs qui ont participé au service de transcription, ajoutant que la pratique était également « une pause ».
Facebook a passé des années à réhabiliter cette image. Il a été renommé Meta en octobre 2021, encadrant le changement de nom comme un changement de concentration sur « Metaverse » plutôt que de répondre aux controverses entourant la désinformation, la confidentialité et la sécurité des plateformes. Cependant, l’héritage de Meta dans le traitement des données projette une ombre. De plus, l’amélioration des modèles de langage à grande échelle (LLM) à l’aide de réviseurs humains est une pratique courante de l’industrie à ce stade et le dernier rapport sur l’utilisation des méta-entrepreneurs, soulevant de nouvelles questions sur la façon dont les données sont traitées par la société mère des réseaux sociaux les plus populaires du monde.
Dans un communiqué à Fortune, un porte-parole de Meta a déclaré que la société avait « des politiques strictes régissant l’accès aux données personnelles pour tous les employés et entrepreneurs ».
« Nous travaillons avec des entrepreneurs pour améliorer la qualité de nos données de formation, mais nous limitons intentionnellement ce que nous voyons des informations personnelles, et nous dirigeons également comment les processus et les garde-corps traitent les informations que nous pouvons rencontrer », a déclaré le porte-parole.
« Pour les projets axés sur la personnalisation de l’IA … les entrepreneurs sont autorisés au cours de leur travail pour accéder à certaines informations personnelles conformément aux politiques de confidentialité accessibles au public et à la terminologie de l’IA. Indépendamment du projet, le partage non autorisé ou la mauvaise utilisation des informations personnelles est une violation de notre politique de données et prendra les mesures appropriées.
