À mesure que les agents IA deviennent de plus en plus performants, les entreprises qui s’efforcent de les utiliser sur des applications, des flux de travail et des produits sont confrontées à un nouveau défi : s’assurer qu’un agent fait ce qu’il est censé faire lorsqu’il est déployé dans différents environnements.
Microsoft tente de résoudre ce problème avec une nouvelle norme open source appelée Agent Control Spécification (ACS) qui vise à donner aux développeurs un moyen plus cohérent et plus précis de contrôler ce que les agents d’IA sont autorisés à faire.
La spécification permet essentiellement aux développeurs, aux équipes de conformité et de sécurité de définir leurs propres politiques que les agents doivent suivre. Les règles peuvent définir ce que l’agent peut faire, ce qu’il ne doit pas faire, quand un humain doit approuver une action et quelles preuves doivent être enregistrées pour un examen ultérieur. Ces fichiers de stratégie sont vérifiés à plusieurs « points d’interception » lorsque l’agent est en train d’effectuer une tâche pour s’assurer qu’elle reste à l’intérieur des garde-fous.
Cette spécification intervient alors que les développeurs improvisent des moyens de contrôler ce que leur IA voit et fait, en particulier avec des conversations axées sur les flux de travail de l’IA qui tournent mal en raison d’une mauvaise utilisation des outils ou d’actions involontaires qui entraînent des échecs en cascade.
Aujourd’hui, les développeurs peuvent spécifier des instructions dans une invite système, ajouter des vérifications personnalisées dans le code de l’application ou utiliser des classificateurs pour détecter les entrées et sorties problématiques. Ces approches fonctionnent, mais elles laissent souvent aux entreprises des contrôles fragmentés, difficiles à auditer et à réutiliser dans différents cadres, interfaces et systèmes.
ACS vise à intégrer ces contrôles dans une couche de gouvernance commune. Microsoft affirme que la spécification peut être utilisée pour vérifier si un agent respecte les garde-fous à plusieurs moments de son flux de travail : avant de recevoir une entrée, avant d’appeler un outil, après qu’un outil ait renvoyé un résultat et avant que la réponse finale ne soit envoyée à l’utilisateur. Une politique peut autoriser une action, la bloquer, supprimer des informations sensibles ou même demander à une personne de l’approuver.
Les développeurs peuvent également insérer des classificateurs pour les entrées et les sorties afin de catégoriser les informations, prédire les résultats ou déterminer la manière dont un agent doit réagir ; ajouter des LLM avec des invites pour agir en tant que « juge » des politiques ; et une logique pour vérifier les appels d’outils, la sélection d’outils, la précision des entrées, l’utilisation des sorties et les réponses.
Et comme ces politiques peuvent être écrites sous forme de fichiers uniques, elles peuvent être regroupées avec des agents, permettant ainsi à une politique de sécurité de suivre un agent dans différents frameworks et environnements.
ACS est livré sous forme de SDK avec des plug-ins pour LangChain, le SDK OpenAI Agents, le SDK Anthropic Agents, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, les outils MCP, etc.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
