Meta a publié mercredi son nouveau modèle Muse Spark AI dans le cadre d’une refonte majeure de ses efforts en matière d’IA. C’est l’heure de faire ou de mourir pour Meta — l’entreprise ne peut pas se permettre investirinjecter à nouveau des milliards de dollars dans quelque chose qui ne fonctionne pas, comme le métaverse. Eh bien, peut-être qu’ils peuvent littéralement se le permettre, mais ce serait assez préjudiciable, pour ne pas dire embarrassant.
En parlant d’embarras : imaginez qu’un groupe de vos amis, de votre famille et d’étrangers vous rencontrent une fois à l’université et reçoivent une notification indiquant que vous utilisez l’application Meta AI. J’ai vécu cette humiliation et je suis là pour vous prévenir que cela pourrait vous arriver aussi.
Le modèle Muse Spark de Meta est peut-être nouveau, mais l’application Meta AI ne l’est pas. Elle est sortie en avril dernier, et à l’époque, j’avais écrit un article sur le lancement de l’application. Comme c’est le cas lors d’un reporting sur une application, j’ai téléchargé l’application. Je l’ai utilisé.
À un moment donné, Meta a commencé à envoyer aux gens des notifications Instagram indiquant lesquels de leurs amis utilisaient l’application Meta AI, probablement pour les encourager à la télécharger. Cela fait presque un an. Je continue de recevoir des SMS de mes amis dans lesquels ils m’avertissent qu’Instagram leur a dit que j’étais sur l’application Meta AI. Ceci est généralement considéré comme un comportement pas cool.
Au cours de son premier mois et demi sur l’App Store, seulement 6,5 millions de personnes avaient téléchargé l’application, nous avait alors indiqué le fournisseur d’informations sur le marché Appfigures. Cela fait beaucoup de monde, mais pas pour une entreprise qui compte environ 42 % des utilisateurs quotidiens d’au moins une de ses applications dans le monde entier.
C’est peut-être pour cela qu’au début de l’application Meta AI, je suis resté sur les flux de notifications Instagram de mes amis. (Oui, vos amis recevront une notification complète consacrée à votre utilisation de l’application, affichée aussi bien en évidence qu’un nouvel abonné.)
Les choses s’améliorent cependant pour l’application Meta AI. Il constate une augmentation des téléchargements après la sortie de son chatbot remanié, qui se classe désormais au 5e rang sur l’App Store américain, contre 57e, selon Appfigures. C’est aussi pourquoi je dois vous avertir maintenant des horreurs auxquelles vous pourriez être confronté si vous utilisez cette application et qu’Instagram en parle à vos amis.
Même si je ne veux pas que les gens sachent que j’ai installé une application avec un flux « vibes » généré par l’IA, ce problème est plus profond. Les applications de Meta sont tellement interconnectées qu’il est difficile de savoir quelles données nous partageons, où et avec qui. Pourquoi devrais-je penser que mes mutuelles Instagram sauraient que je suis sur l’application Meta AI ? (Au moins X n’a pas dit aux gens que j’utilisais l’anime waifu de Grok – qui était aussi pour le travail.)
Pour accéder à l’application Meta AI, vous devez vous connecter avec un compte Meta. J’ai donc rejoint l’application en utilisant le même compte que j’ai depuis mon adolescence, qui se connecte à mon Instagram et à Facebook. Meta continuera à utiliser tout ce que je fais sur Instagram, Facebook et oui, maintenant même l’application Meta AI, pour me montrer des publicités ciblées. Ainsi, si je devais me confier à Meta AI à propos d’un problème lié à mes règles, Instagram pourrait me montrer des publicités pour des culottes menstruelles.
L’application Meta AI n’a jamais demandé la permission d’informer les gens de mon utilisation de l’application, ni si je souhaitais que mes discussions IA soient utilisées comme source de publicité. Mais ce n’est pas obligatoire, car j’ai probablement implicitement accepté cette option dans certains termes d’accord de service que je n’ai jamais réellement lus. Je veux dire, j’ai aussi appris via Instagram que mon frère était bizarrement investi dans l’Eurovision l’année dernière, puisque nous pouvons tous voir les Reels aimés des uns et des autres. Nous en savons tous trop les uns sur les autres, et pourtant, Meta en sait encore plus.
Dans un sens, j’ai de la chance que la seule chose que les gens savaient sur mon utilisation de Meta AI était que j’étais sur l’application. Certains utilisateurs avaient involontairement partagé des informations bien plus incriminantes sur eux-mêmes : leurs journaux de discussion IA.
En tant que vétéran grisonnant de l’application Meta AI, je peux vous dire qu’à mon époque (au cours de l’été), Meta avait fait l’expérience d’un flux Discover sur l’application. Meta n’a pas tenu compte du fait que de nombreux baby-boomers utilisent son application et qu’ils sont parfois mauvais dans l’utilisation de la technologie. Combinez cela avec le fait que, comme l’IA n’est pas réelle, les gens utiliseront des chatbots pour discuter de choses qu’ils trouvent trop intimes ou embarrassantes pour être partagées avec d’autres. Ensuite, vous avez un désastre entre vos mains.
Bientôt, des personnes comme Justine Moore, partenaire d’a16z, ont commencé à remarquer que le fil de découverte Meta AI était principalement rempli d’utilisateurs plus âgés qui ne réalisaient pas qu’ils partageaient leurs conversations IA avec le monde.
Parfois, ces conversations partagées étaient anodines : à l’époque, j’ai rencontré un homme avec un accent du Sud qui me demandait : « Hé, Meta, pourquoi certains pets puent plus que d’autres ? Dans d’autres cas, nous avons vu des personnes partager leur adresse personnelle, des informations sur des problèmes médicaux et des préoccupations intimes concernant leur mariage.
Pour donner un peu de crédit à Meta, ces utilisateurs ont dû appuyer manuellement sur publier sur ces discussions. Mais suffisamment de personnes semblaient partager accidentellement des informations privées pour lesquelles il y avait clairement un problème de conception à résoudre. (Meta a depuis supprimé ce flux Discover.)
Au moins, si l’utilisation de l’application Meta AI s’avère être une nouvelle tendance, je pourrai dire à mes amis que j’étais là en premier. Mais je ne parierais pas sur cet avenir. Il y a toujours ce flux « Vibes », après tout.
