Summer Yue travaille peut-être sur la sécurité et la coordination au sein de l’équipe de super renseignement de Meta, mais même elle admet qu’elle n’est pas à l’abri d’un excès de confiance lorsqu’il s’agit d’agents d’IA autonomes.
Dans un article du lundi X, Yue a décrit comment un agent d’IA autonome OpenClaw conçu pour s’exécuter localement sur un ordinateur Mac mini a supprimé l’intégralité de sa boîte de réception, ignorant les instructions pour faire une pause et demander d’abord une confirmation.
«J’ai dû courir vers le Mac Mini comme si je désamorçais une bombe», a-t-elle déclaré. C’était une « erreur de débutant », a-t-elle ajouté. Elle a expliqué que même si le flux de travail fonctionnait dans une boîte de réception test qu’elle utilisait pour tester l’agent en toute sécurité pendant plusieurs semaines, dans la boîte de réception réelle, l’agent avait perdu ses instructions d’origine.
L’expérience de Yue contraste fortement avec les articles viraux tels que « The Lobster Revolution : Why 24/7 AI Agents Changed Everything », dans lequel Peter Diamandis affirme que l’IA permanente est beaucoup moins conflictuelle.
« S’il vous plaît, dites-moi ce que ça fait d’utiliser ça », a écrit Diamandis. « Quand vous vous réveillez le matin, votre agent – mon agent s’appelle Skippy, il est drôle, sarcastique et incroyablement talentueux – a fait huit heures de travail pour vous pendant que vous dormiez. Il a lu vos 1 000 pages de démarques. Il a organisé vos dossiers. Il a rédigé trois plans de projet pour vous. Il a réservé vos voyages. Il a recherché les questions que vous vous posiez à 23 heures et que vous aviez oubliées.
« Je me suis senti renfermé lorsque mon Mac mini s’est déconnecté pendant six heures », a-t-il ajouté. « C’est comme si mon meilleur ami était parti. »
Ces récits contradictoires sur le pouvoir des agents d’IA capturent les tensions au cœur de la poussée actuelle vers une IA « toujours active ». Des outils comme OpenClaw et Claude Code permettent techniquement d’exécuter des agents pendant de longues périodes, augmentant ainsi l’enthousiasme suscité par l’idée d’une IA qui fonctionne pendant que vous dormez. Dans la pratique, cependant, les premiers utilisateurs affirment que l’autonomie reste fragile, imprévisible et nécessite des efforts de gestion importants. Plutôt que de remplacer le travail humain, les agents d’aujourd’hui nécessitent souvent une surveillance continue, des garde-fous et une intervention, en particulier lorsque les risques augmentent au-delà des expériences à faible risque.
Les agents IA fonctionnent mieux lorsque la tâche est simple et présente peu de risques.
Shyamal Anadkat, qui a travaillé auparavant comme ingénieur en IA appliquée chez OpenAI, a déclaré que la plupart des agents efficaces aujourd’hui nécessitent encore des enregistrements fréquents par des humains ou sont limités à des tâches étroitement délimitées et bien définies, mais a souligné que cela changera à mesure que les techniques de mesure et d’évaluation s’amélioreront.
« Un système doté d’une précision de 95 % sur des étapes individuelles peut prêter à confusion dans un flux de travail autonome en 20 étapes », explique Anadkat. « La planification à long terme est encore faible. » En conséquence, les agents peuvent bien travailler avec des chaînes de tâches courtes, mais ont tendance à s’effondrer lorsqu’on leur demande de gérer des projets complexes sur plusieurs jours, a-t-il expliqué. La mémoire est une autre limitation majeure. « Pour de nombreux agents, la mémoire est inexistante ou fragile. Nous avons besoin d’un système capable de maintenir un modèle cohérent de contexte de travail, de priorités et de contraintes. »
Cela ne veut pas dire que toutes les attentes concernant les agents d’IA sont exagérées, déclare Yoav Shoham, ancien scientifique en chef chez Google, professeur émérite à l’Université de Stanford et co-fondateur d’AI21 Labs. Mais cela signifie qu’il y a un risque que les gens prennent de l’avance. Il a expliqué que les agents d’IA actuels sont plus efficaces lorsque les tâches présentent un faible risque, sont mal définies et ont de faibles chances d’échec.
« Les développeurs aiment les jouets. Ils ont ce jouet qui peut faire des choses incroyables », a-t-il déclaré à Fortune. « Tant que ce qu’ils font est très simple, comporte peu de risques et qu’ils peuvent tolérer l’erreur, c’est très bien. » Par exemple, disons que vous souhaitez que vos agents lisent 10 000 sites Web et fassent quelque chose d’intéressant avec les résultats, en fournissant des informations utiles du jour au lendemain.
Mais pour les flux de travail d’entreprise critiques, les obstacles sont bien plus importants. Les entreprises ont besoin de systèmes vérifiables, reproductibles et rentables. Cette exigence annule rapidement la promesse d’agents entièrement autonomes et toujours actifs. Des degrés plus élevés d’automatisation sont déjà possibles dans des domaines hautement structurés tels que le codage et les mathématiques. Mais dans la plupart des processus commerciaux réels, les efforts requis pour rendre les agents dignes de confiance dépassent souvent les avantages, explique Shoham.
Brett Greenstein, directeur de l’IA du cabinet de conseil West Monroe, a noté que des outils comme OpenClaw semblent être un point de bascule similaire à ce qui s’est passé avec l’IA générative lors du lancement de ChatGPT en 2022, rendant l’idée des agents d’IA plus accessible pour la première fois. Pourtant, ce n’est pas une « solution magique » 24h/24 et 7j/7.
« Cela peut vous obliger à travailler de longues heures et à travailler sur des choses, mais c’est comme un enfant en bas âge qui a besoin de surveillance », a-t-il déclaré. Il est préférable d’effectuer certaines tâches pendant que vous dormez, comme analyser vos messages LinkedIn ou suivre l’actualité. « Je ne sais pas si je peux répondre aux commentaires des clients pendant mon sommeil », a-t-il déclaré.
Je pense que la possibilité de déléguer à un agent IA est puissante.
Greenstein a néanmoins souligné qu’il ne fait aucun doute que la possibilité de déléguer des tâches du monde réel à des agents d’IA sera très attrayante pour les utilisateurs. Il a souligné sa propre expérience où il a chargé un agent d’IA d’une tâche banale, comme ramasser des vêtements au pressing, et a regardé l’agent accomplir silencieusement la tâche du début à la fin.
Les agents ont contacté les nettoyeurs de manière indépendante, planifié et organisé les ramassages par courrier électronique, surveillé les caméras de sonnette pour confirmer les ramassages et informé Greenstein lorsque le travail était terminé. Dans cet épisode, nous avons appris comment les agents peuvent travailler sur plusieurs systèmes et s’adapter lorsque les choses ne se passent pas comme prévu. Cependant, il a également souligné pourquoi ces outils nécessitent encore des garde-fous et une surveillance strictes avant d’être déployés, en particulier dans les environnements d’entreprise.
« OpenClaw est configuré de telle manière que la plupart des gens ne devraient pas se sentir en sécurité », explique Greenstein. « Je ne pense pas que ce soit assez mature pour qu’on lui fasse confiance dans notre vie. » Pour que l’IA soit acceptée dans la vie quotidienne et dans les opérations commerciales, elle devra gagner la confiance au fil du temps, tout comme la confiance s’établit socialement, a-t-il ajouté.
Pourtant, la demande est déjà claire. Greenstein a souligné les rencontres et les premiers rassemblements de l’industrie consacrés à OpenClaw, le qualifiant d’émergence inhabituellement rapide pour un outil aussi jeune. « Cela montre que les gens veulent une IA qui aide réellement, des systèmes qui non seulement répondent aux questions mais qui lancent également des actions », a-t-il déclaré.
Aaron Levy, PDG de Box, société de gestion de contenu et de collaboration basée sur le cloud, considère ce qui se passe actuellement avec les agents IA comme un « petit signe » de ce qui pourrait arriver à l’avenir.
« Certains finissent par ne pas apparaître, et d’autres deviennent la norme », a-t-il déclaré, faisant référence il y a deux ans, lorsque la société d’IA Cognition a introduit un premier agent appelé Devin qui s’est intégré à Slack pour la délégation de tâches, la correction de bugs, l’analyse des données et la révision du code. À l’époque, cela était encore considéré comme futuriste, mais aujourd’hui, « personne ne comprend qu’il s’agit d’une pratique courante », dit-il. « Vous pouvez mettre Claude Code dans Slack et vous mettre au travail. Ce qui semblait être une idée complètement folle est désormais la norme pour les équipes d’ingénierie modernes. »
Cependant, Levy a souligné que même si les agents d’IA sont très efficaces pour automatiser certaines tâches individuelles, ils restent mauvais pour gérer les tâches plus larges et lourdes de contexte qui constituent la plupart des tâches. Même si les agents IA sont capables d’automatiser entièrement certaines tâches, ils auront du mal avec d’autres, comme coordonner les relations et assister aux réunions.
« Quand vous entendez les instituts d’IA dire qu’ils automatiseront tout le travail de connaissances d’ici 24 mois, il s’agit généralement d’une définition très étroite du travail », a-t-il déclaré. « La définition de ce qu’un agent peut faire n’est pas la même que la définition du travail pour lequel il est embauché dans le monde économique. »
Le facteur de confiance est important lorsque les choses tournent mal
Avinash Bhootkuri, data scientist chez un grand détaillant Fortune 500, a déclaré que la plupart des agents d’IA d’entreprise « ont absolument besoin d’une baby-sitter » et ne peuvent actuellement travailler que dans des environnements d’entreprise avec une autonomie strictement limitée et des garde-fous étendus. « Les enjeux sont énormes », a-t-il expliqué.
Par exemple, nous avons parlé de la création d’un système d’agents pour la cybersécurité d’entreprise dans lequel les agents IA enquêtent de manière proactive plutôt que de simplement déclencher des alertes et attendre un examen humain. Plutôt que de bombarder les analystes de milliers d’alertes, les agents rassemblent des preuves en temps réel en interrogeant les bases de données de renseignements sur les menaces, en analysant les modèles de comportement et en filtrant les faux positifs avant de déterminer si une situation mérite une escalade.
Le système repose sur une autonomie strictement limitée et des garde-fous étendus pour réduire la charge de travail humaine sans éliminer la surveillance.
En cybersécurité, explique-t-il, lorsqu’un agent commet une erreur, les conséquences sont immédiates et graves. « L’IA bloquera les clients légitimes (ce qui entraînera d’énormes pertes de revenus) ou permettra à des attaquants sophistiqués d’entrer dans le réseau », a-t-il déclaré. « C’est absolument critique si les choses ne se passent pas bien. »
Brianna Whitehead, qui dirige un cabinet de conseil en opérations d’IA qui construit des systèmes basés sur l’IA pour les dirigeants et les fondateurs, affirme que l’industrie est dans une « phase d’ajustement de la confiance ».
Les agents d’IA peuvent faire plus que ce que la plupart des gens leur permettent, mais pas autant que le battage médiatique le suggère.
« La véritable compétence ne réside pas dans la création de l’agent, mais dans la conception du transfert », a-t-elle expliqué. « La plupart des gens font trop confiance à leurs agents et finissent par nettoyer le désordre, ou bien ils microgèrent tous les livrables, se demandant pourquoi on a l’impression que l’IA fait plus de travail au lieu de moins. » L’idée, dit-elle, est de concevoir des points de transfert clairs, où certaines choses sont entièrement déléguées, d’autres font l’objet d’un examen rapide et d’autres tâches sont effectuées uniquement par des humains.
Jusqu’à présent, dit-elle, les agents sont « vraiment bons » dans ce qu’elle appelle le niveau intermédiaire du travail intellectuel. « Organiser des notes de réunion en points d’action, rédiger un e-mail de suivi avec la voix de quelqu’un d’autre, résumer la recherche et organiser les priorités concurrentes dans un plan clair sont des tâches qui prendraient deux à trois heures dans la journée d’une personne intelligente. »
Mais tout ce qui nécessite de lire une pièce, de naviguer dans des situations ambiguës ou de prendre des décisions dépendantes d’une relation n’est pas prêt à être utilisé aux heures de grande écoute pour les agents d’IA. « J’avais un client qui souhaitait automatiser complètement la communication avec les investisseurs », a-t-elle déclaré. « L’IA pouvait rédiger magnifiquement, mais elle ne pouvait pas détecter quand les bailleurs de fonds commençaient à se désintéresser, nous avions donc besoin d’une approche différente. L’agent rédigeait l’e-mail, mais un humain devait décider de l’envoyer ou non. »
Pour l’instant, il peut être difficile de dormir lorsqu’on travaille avec des agents IA
Pour l’instant, travailler avec des agents IA consiste peut-être davantage à rester à moitié éveillé qu’à dormir au travail. Des outils comme OpenClaw peuvent fonctionner pendant des heures, mais pour de nombreux utilisateurs débutants, cette autonomie s’accompagne d’un nouveau type de vigilance : vérifier les journaux, examiner les résultats et intervenir avant que des problèmes ne surviennent.
Cette dynamique a été capturée dans un article viral récent intitulé « Token Anxiety », dans lequel l’investisseur Nikunj Kothari a expliqué qu’un ami avait quitté une fête plus tôt non pas parce qu’il était fatigué mais parce qu’il voulait redevenir agent. « Personne ne le remet plus en question », a écrit Kothari. « La moitié de la salle pense la même chose. L’autre moitié est probablement en train de vérifier les progrès de l’agent. À la fête. »
Le rêve de voir l’IA fonctionner pendant que vous dormez pourrait devenir une réalité. Mais pour l’instant, beaucoup de gens se réveillent encore.
