« Pour avoir confiance, il faut pouvoir voir ce qui se passe. » Selon Laura Heisman, directrice du marketing chez Dynatrace, cet adage d’une simplicité trompeuse est au cœur du déploiement de l’IA dans les environnements commerciaux d’aujourd’hui.
« C’est probablement la plus grande conversation que tout le monde ait dans tous les secteurs. Nous entendons cette conversation de la part de nos clients tous les jours », a récemment déclaré Heisman lors d’un panel à la Brainstorm Tech Conference de Fortune. « La grande question est de savoir si nous pouvons lui faire confiance, si c’est bien, et si c’est mal, pouvons-nous l’arrêter ? »
La confiance est plus importante que jamais alors que les entreprises envisagent d’enchaîner les tâches aux agents d’IA en fonction des résultats des modèles d’IA. Selon Heisman et d’autres chefs d’entreprise présents au panel, la seule façon d’instaurer cette confiance est de renforcer la visibilité et le contrôle du système.
« Pour nous, la visibilité et la traçabilité ne sont pas une option, c’est fondamental. C’est la façon dont nous examinons chaque décision », a déclaré Nikhil Joshi, directeur de l’information pour les marchés du géant financier Citi, qui déplace des milliards de dollars chaque jour dans plus de 100 pays.
Joshi a déclaré que Citi avait passé une grande partie de 2024 à construire une infrastructure technologique unifiée pour toutes ses applications et agents. Cette base a permis à l’entreprise de déployer plus facilement des agents en production.
« La seule façon d’avoir des agents dans la ville est de passer par ce cadre central », a déclaré Joshi. « Cela signifie que chaque agent est enregistré via ce processus, chaque agent est surveillé, chaque agent est audité, chaque agent est géré. »
Alors que d’autres entreprises semblent avancer à toute vitesse dans le développement de l’IA, certaines peuvent penser que le système technologique délibératif et centralisé de Citi est trop conservateur. Mais cela vous aide en fait à avancer plus rapidement à long terme, a déclaré Joshi. « Dire que l’IA est conservatrice n’est pas un gros mot », dit-il.
Kathleen Peters, directrice de l’innovation d’Experian, a accepté, expliquant comment la société d’évaluation du crédit à la consommation a construit un système pour gérer les différents agents qu’elle a en place, en suivant l’origine de chaque agent, l’employé qui l’a créé et les privilèges spécifiques dont chaque agent dispose pour accéder aux données et effectuer des tâches.
« Si tous les membres de l’écosystème comprennent ces éléments, vous pouvez établir une confiance qui vous permettra d’évoluer et de fonctionner plus rapidement », explique Peters.
Dans l’industrie automobile, où le temps moyen nécessaire pour amener un nouveau véhicule de la conception à la production est de plusieurs années, Ford utilise l’IA pour accélérer certaines parties du processus et créer un « échec rapide », a déclaré Sammy Omari, directeur exécutif des systèmes avancés d’aide à la conduite et d’infodivertissement embarqués chez Ford Motor Company.
Omari a déclaré que la clé était de mettre en place des garde-corps appropriés.
À titre d’exemple, Omari a déclaré que les employés non-ingénieurs, tels que les concepteurs, peuvent désormais contribuer au code informatique pour les nouvelles fonctionnalités des voitures développées grâce à un outil de « codage dynamique » alimenté par l’IA. Cela réduira le temps nécessaire pour voir à quoi ressemblent les nouvelles fonctionnalités sur une version d’essai de votre voiture, coupera rapidement l’appât et passera à autre chose s’il ne s’agit pas d’un démarreur. Si l’idée réussit, les ingénieurs écrivent du code à partir de zéro, et ce code est intégré aux voitures expédiées aux consommateurs. Designer Vibe Coding n’a servi que de preuve de concept initiale.
« La vitesse réelle de mise sur le marché va donc être accélérée, mais le dernier processus d’assurance qualité avant l’expédition du produit au client n’a pas nécessairement changé », a déclaré Omari.
