Summer Yue n’est pas l’employée la plus célèbre de Meta. Le directeur de Superintelligence Collaboration and Safety Research a publié une photo de lui promenant son chien sur la plage et un message concernant le test de l’honnêteté de son assistant IA. Elle compte un nombre décent de followers sur les réseaux sociaux.
Cependant, un jour de février, Yue est devenu la personne dont on parle le plus dans la méta. Non pas pour lancer un nouveau produit marquant ou annoncer une avancée dans l’IA des agents, mais plutôt pour se faire remarquer.
« Il n’y a rien de plus humiliant que de dire à OpenClaw de ‘confirmer avant d’agir’ et de le voir accélérer la vitesse à laquelle il supprime votre boîte de réception », a écrit Yue à X. Ce message a maintenant été consulté près de 10 millions de fois. « Je ne pouvais pas l’arrêter depuis mon téléphone. J’ai dû courir vers mon Mac mini comme si j’étais en train de désamorcer une bombe. »
OpenClaw est un « agent autonome », un produit d’intelligence artificielle capable d’effectuer des tâches de manière indépendante. Chouchou de la Silicon Valley, cet outil agit comme une « IA faisant » qui accompagne en permanence les administrateurs. Les développeurs de ce produit affirment que leur donner accès à votre agenda, à vos e-mails et à votre vie vous fera gagner du temps et vous évitera du stress. La première phrase du site Web OpenClaw se lit comme suit : « Effacez votre boîte de réception, envoyez des e-mails, gérez votre calendrier et enregistrez-vous pour votre vol. »
Yue a admis qu’elle avait commis une « erreur rudimentaire ». Elle a testé l’assistant sur une petite liste de diffusion de « jouets », puis l’a diffusé dans l’ensemble de sa boîte de réception, qui était trop volumineuse pour l’invite de garde-corps qu’elle a utilisée dans le pilote (« Veuillez me consulter »). Mais si même le directeur de la superintelligence de Meta a du mal à naviguer dans le monde de l’IA agentique et de « l’effet de compactage », quel espoir y a-t-il pour le reste d’entre nous ?
Lire la suite : PDG de Qualcomm : « La résistance est futile » à l’approche de la révolution mobile 6G
Il s’agit d’une conversation si importante, et si importante, qu’au Mobile World Congress, le plus grand rassemblement technologique au monde, qui se tient à Barcelone cette semaine, les propos dénigrants de Yue ont été discutés sur la scène principale.
« Bien sûr, tout le monde ici au Congrès mondial parle d’OpenClaw et de la façon d’utiliser les agents », explique Kate Crawford, professeure-chercheuse à l’Université de Californie du Sud.
« Mais ensuite, nous avons vu le responsable de la sécurité de l’IA de Meta utiliser OpenClaw, et toute sa boîte de réception a été supprimée. Il s’agit du responsable de la sécurité de Meta. Donc, si elle a un problème, je pense que nous devons tous penser : « Comment pouvons-nous nous assurer que ces systèmes sont réellement renforcés ? Comment pouvons-nous nous assurer qu’ils sont rigoureusement testés ? » Comment pouvons-nous nous assurer que nous pouvons réellement déléguer de manière fiable ? » Et c’est vraiment le problème le plus difficile à résoudre, n’est-ce pas ?
droite. Qui est responsable lorsque quelque chose ne va pas ? Qui sont les utilisateurs ? Promoteur? Manque de réglementation ? Que faire lorsque la réalité de l’IA entre en collision avec les promesses de l’IA ?
Pour Yue, sa boîte de réception est peut-être la chose la plus importante à ses yeux. Quand on regarde la technologie et, disons, notre santé ou l’humanité, quand il s’agit de la relation entre la défense nationale, c’est une question complètement différente. Il n’y a pas si longtemps, des millions de personnes étaient dégoûtées lorsque Grok, le robot d’intelligence artificielle de xAI, « déshabillait » avec désinvolture des images de femmes et de filles. La menace d’une action dirigée par le gouvernement et l’État a finalement conduit à un changement d’approche.
« Comment pouvons-nous nous assurer que ces systèmes sont véritablement renforcés ? Comment pouvons-nous nous assurer qu’ils sont rigoureusement testés ? »
Kate Crawford, professeure de recherche, Université de Californie du Sud
« Comment réellement intégrer la responsabilité ? » » a demandé Crawford. « C’est ce que nous voulons tous. Si vous commencez à faire appel à des agents pour réserver des vols, prendre des rendez-vous médicaux ou même organiser des activités plus intimes et plus fiables dans votre vie quotidienne, vous voulez être sûr que vos informations seront protégées. »
« Alors, comment tester cela ? Comment savoir si cela se produit ? Si vous regardez ce qui s’est passé au cours des 10 dernières années dans l’industrie technologique, malheureusement, nous avons assisté à beaucoup de blanchiment de responsabilité. Il y a des moments comme celui-ci où les entreprises peuvent dire : ‘Eh bien, nous ne savons pas. Je veux dire, les algorithmes l’ont fait.' »
Cela ne suffit pas. Crawford appelle à une transparence totale et à un audit du « train d’agents », un processus de bout en bout qui révèle ce qui n’a pas fonctionné et qui est à blâmer. Les entreprises technologiques doivent écouter et agir. Le nombre de Summer You continuera d’augmenter. Et cela signifierait certainement bien plus que quelques e-mails perdus ou un message honnête adressé à X.
