« L’implication humaine » est une recommandation courante pour les organisations qui utilisent l’intelligence artificielle pour des opérations où il n’y a pas de place à l’erreur.
Mais que se passe-t-il lorsqu’il est impossible de maintenir une surveillance constante des humains ?
Il s’agit d’un défi auquel de nombreux chefs d’entreprise commencent à se confronter à mesure que l’utilisation de l’IA augmente au sein des organisations et que les entreprises délèguent davantage de tâches à l’IA des agents.
« La vitesse de création des choses a considérablement augmenté », a déclaré Zach Mayberry, directeur de la technologie de la plateforme de paris sportifs en ligne DraftKings, lors d’une table ronde lors de la conférence technologique phare de Fortune, Brainstorm Tech, ce mois-ci.
Mayberry a déclaré que son entreprise gère déjà des milliards de transactions et des charges de travail hautement réparties. Lorsque nous introduisons l’IA des agents, où les agents IA communiquent directement avec d’autres agents IA, la quantité et la complexité des opérations deviennent trop écrasantes pour les approches traditionnelles.
« Vous ne pouvez pas mettre les humains au courant », a déclaré Mayberry. « Il n’y aura jamais assez de monde pour s’insérer dans toutes ces boucles. »
Mayberry n’était que l’un des nombreux dirigeants d’entreprise de Brainstorm Tech qui ont discuté des défis liés à la gestion de l’IA dans des situations critiques.
« Dans un environnement aux enjeux élevés comme celui des soins de santé, si vous êtes un détaillant, se tromper de taille de T-shirt n’est pas un problème ; c’est la vie de l’autre côté », a déclaré Lashonda Anderson-Williams, directrice des clients et des ventes chez Salesforce.
Bien qu’il n’existe pas de solution universelle à ces défis, de nombreux panélistes ont décrit des techniques et des cadres qui se sont révélés efficaces.
Anderson-Williams a déclaré qu’il était important d’examiner attentivement les cas d’utilisation de l’IA et de comprendre quel est le résultat final.
Il est tout aussi important d’établir un cadre de gouvernance approprié. Cela signifie des politiques claires et un ensemble de règles qui régissent où et comment l’IA est autorisée à fonctionner, comment elle est conçue et qui est responsable des différentes parties du processus. Alors que les entreprises font évoluer l’utilisation de l’IA et des agents depuis des expériences à petite échelle jusqu’à des déploiements généralisés à haut risque, des cadres de gouvernance modernes sont essentiels.
« Beaucoup de gens utilisaient et achetaient différents outils et technologies et se contentaient de les intégrer. Il n’y avait aucune gouvernance sur la manière dont la technologie était appliquée », a déclaré Anderson-Williams.
Maybury de DraftKing a déclaré que la mise en place d’une base solide de gouvernance de l’IA fournit des garanties importantes et contribue à réduire les risques. Cela peut impliquer de remanier les processus existants et d’apporter des changements, des modifications ou des améliorations aux anciennes règles de gouvernance.
« Il faut une gouvernance évolutive », a-t-il déclaré.
Anthony Moisant, responsable de la sécurité de l’information chez Indeed, a fait écho aux commentaires de Mayberry sur le défi de tenir les humains informés dans un service de recherche d’emploi massif utilisé par 645 millions de demandeurs d’emploi et 3,5 millions d’employeurs. Il suggère de tester en permanence les processus impliquant l’IA pour évaluer la manière dont les résultats se comparent aux résultats souhaités.
Il est également important de considérer les types de situations dans lesquelles l’IA sera déployée, explique Diya Jolly, directrice des produits et de la technologie chez la société de logiciels de comptabilité Xero. Cela nécessite-t-il du jugement ou y a-t-il une réponse claire ?
« Si les résultats sont concluants, vous pouvez probablement laisser l’agent assez loin », a déclaré Jolly, soulignant que les résultats dans de telles situations peuvent être facilement testés et mesurés par rapport aux résultats souhaités. Mais, dit-elle, « quand il y a un sentiment d’auto-jugement dans la décision, c’est là qu’il devient vraiment difficile de laisser les gens sortir. »
