Meta est sur le point de discuter avec la partie adjointe de l’IA de la machine publicitaire, a annoncé mercredi la société. À partir du 16 décembre, des conversations avec Meta AI – les chatbots de la société intégrés dans Facebook, Instagram, Messenger et même les nouveaux lunettes intelligentes d’affichage Ray-Ban seront utilisées pour déterminer les annonces et les recommandations qui apparaîtront dans votre flux.
La société informera officiellement les utilisateurs des modifications le 7 octobre. Il n’y a pas de désactivation. Si vous ne voulez pas que vos conversations chatbot affectent vos annonces, la seule option est de ne pas du tout utiliser Meta Ai.
Emily Bender, linguiste à l’Université de Washington et co-auteur du document « Parrot stochastique » largement cité sur les risques des modèles de langue à grande échelle (LLM), a déclaré à Fortune que la société brouillait les lignes dangereuses.
« Ils ciblent déjà des publicités en labourant vos clics et vos messages. Maintenant, ils exploitent des conversations avec des chatbots », a déclaré le vendeur. « La prochaine préoccupation évidente est de savoir si le chatbot lui-même commencera à peaufiner les gens pour divulguer des informations plus ciblées. »
Les fournisseurs affirment qu’ils sont surveillés sous couvert de personnalisation et ont la capacité sans précédent d’extraire des informations personnelles des utilisateurs.
« Auparavant, le méta-système a vu qui vous étiez impliqué et ce que faisait votre communauté. Maintenant, c’est directement: que dites-vous à l’entreprise? » Elle a dit. « Et bien sûr, ils peuvent le combiner avec toutes les autres données dont ils disposent déjà. »
Le vendeur dit que Meta utilise ce qu’on appelle «l’illusion de la vie privée». Les gens sont souvent dans des chatbots et sont confiants de ne pas publier publiquement, et se sont installés dans le sentiment que l’IA est un auditeur neutre.
« Il y a cette illusion de la vie privée. En fait, ce que vous faites est de fournir ces données à l’entreprise », a-t-elle déclaré.
Cependant, Meta décrit cette mise à jour comme une « progression naturelle » de sa stratégie de personnalisation.
Le directeur de la politique de confidentialité et de politique de données de Meta, Christy Harris, a déclaré aux journalistes lors d’une conférence de presse que les gens avaient déjà supposé que les interactions Chatbot étaient introduites dans le ciblage d’annonces.
Selon CNBC, « Nous voulons être très transparents et fournir une tête avant de commencer à utiliser ces données d’une manière nouvelle, avant de commencer à utiliser ces données d’une nouvelle manière.
Harris a fourni un exemple hilarant: demandez à Meta IA sur les plans de vacances en famille et vous pourriez voir plus de rouleaux de voyage en famille dans votre flux, ainsi que des annonces hôtelières. Ces interactions sont traitées comme de nouveaux signaux publicitaires, qu’ils soient entrés dans le téléphone ou traités via le microphone sur des lunettes de méta-banque.
Meta a déclaré que ses travaux actuels de l’IA se concentrent actuellement sur « la construction d’une grande expérience de consommation », soulignant qu’aucune annonce n’apparaîtra dans les conversations de Chatbot elles-mêmes.
La société a également souligné les outils de confidentialité existants. Les gens peuvent «réinitialiser ou réparer l’IA» via les paramètres, et la rétention des données suit la politique de confidentialité plus large de Meta.
Meta a versé des milliards dans l’infrastructure de génération, a concouru pour la « superintelligence » et a promis que les assistants actuels de l’IA aideront les utilisateurs à générer des images, à rédiger des messages et à planifier leur journée. Selon la société, les assistants ont déjà plus de milliards d’utilisateurs actifs mensuels, mais ces chiffres incluent l’activité dans la suite d’applications, pas seulement les services autonomes.
Le PDG Mark Zuckerberg a clairement indiqué sur la fin du jeu. La conversation AI doit payer pour elle-même. En mai, il a déclaré que Meta AI générera finalement des revenus via des services de publicité ou d’abonnement. L’annonce de mercredi est la première étape majeure pour faire de l’IA Chat une partie de l’activité publicitaire de base de Meta.
Meta n’a pas immédiatement répondu à la demande de commentaires de Fortune.
Risque pour les jeunes utilisateurs
Les implications de ce changement entre les méta-services peuvent être particulièrement graves pour les adolescents et les jeunes adultes qui composent une grande partie de la base d’utilisateurs d’Instagram et sont de plus en plus attirés par leurs pairs d’IA.
Les vendeurs appellent ces chatbots « Échappements » et avertissent que les compagnons amicaux, toujours disponibles, sont nocifs.
« Nous avons vu des gens mourir à cause de cela », a-t-elle déclaré, se référant à des cas signalés de personnes qui ont été blessées par les interactions Chatbot. « Et voyons comment nous pouvons rendre cela encore plus problématique en ajoutant simplement une annonce à ce mélange. »
Plus elle engage les assistants de l’IA dans le secteur de la publicité, plus les incitations sont fortes et plus ils sont de maximiser l’engagement plutôt que d’aider les utilisateurs.
« Peut-être que cela ajoute aux incitations financières pour garder le méta-chat avec le chatbot. Cela optimise l’engagement, l’un des vecteurs de préjudice », a-t-elle déclaré.
Meta a réfuté cette protection des jeunes s’étend aux interactions de l’IA.
« Sur les comptes d’adolescents Instagram, les adolescents sont par défaut dans les paramètres les plus stricts du contrôle du contenu sensible, ce qui les rend encore moins susceptibles de recommander un contenu sensible. Les adolescents de moins de 16 ans ne peuvent pas modifier ce paramètre sans autorisation parentale.
