Des hallucinations aux agents malveillants, l’utilisation de l’IA comporte des risques évidents.
Pourtant, la plupart des entreprises ne peuvent pas se permettre d’ignorer la révolution de l’IA. Faire face à cette réalité troublante constitue un défi fondamental pour les chefs d’entreprise d’aujourd’hui et les dirigeants de certaines des plus grandes entreprises réunis au Fortune Brainstorm Tech à Apsen, au Colorado, pour partager leurs idées et leurs expériences.
En tête de liste des priorités se trouve la responsabilité. Cela signifie être capable de suivre chaque étape franchie par une IA ou un système d’IA d’agent pour effectuer une tâche particulière, et de la retracer si nécessaire.
« La principale préoccupation qui nous préoccupe est de savoir comment construire un système aussi précis que possible », a déclaré Edwin Olson, fondateur et PDG de la société de technologie de conduite autonome May Mobility. « Mais surtout, nous savons que nous finirons par commettre des erreurs, alors comment pouvons-nous être plus transparents et plus réfléchis afin de pouvoir parler aux régulateurs pour comprendre pourquoi nous avons commis des erreurs et comment nous saurons que nous avons résolu ce problème à l’avenir. »
Caitlin Halferty, responsable des données chez Thomson Reuters, a fait écho à des sentiments similaires, soulignant l’importance d’une production transparente de l’IA. «Je fais cela avec mon équipe et moi-même, et j’encourage mes clients à le faire également, en m’assurant qu’il existe un moyen de pouvoir valider le résultat des modèles qu’ils utilisent.»
Avec un portefeuille de services basés sur l’IA destinés aux professionnels dans des domaines tels que la conformité juridique et fiscale, Thomson Reuters devait se concentrer dès le début sur la responsabilité de l’IA. Halferty a déclaré que la transparence est l’un des quatre principaux piliers de ce que la société appelle les produits de « qualité fiduciaire », avec la confidentialité et la sécurité des données, les experts en la matière et un contenu fiable.
Une autre technique importante citée par plusieurs panélistes consiste à concevoir des systèmes capables de se contrôler efficacement les uns les autres. Lors de May Mobility, Olson a déclaré que cela implique d’équiper les voitures autonomes de systèmes capables de simuler et d’évaluer simultanément différents scénarios et de sélectionner la meilleure option.
Cependant, ces systèmes peuvent également être utilisés dans des environnements d’entreprise et dans les flux de travail quotidiens. Elena Kovochko, fondatrice et PDG de Trustguard AI, appelle cela l’approche « LLM en tant que juge » et utilise une analogie avec une salle de rédaction pour expliquer son fonctionnement.
« Il y a une personne ou un agent qui fait le travail d’écrivain, puis il y a une autre personne ou un autre agent dont le travail est l’éditeur, dont le seul but est de trouver les erreurs et les inexactitudes que l’écrivain a pu manquer. Essentiellement, nous voulons également concevoir le système LLM de cette façon, afin que le système puisse s’auto-améliorer. «
Mais l’essentiel, ajoute Kvochko, est que la validation doit être composée d’un système d’IA distinct. « Vous ne voulez pas qu’une IA note votre travail », a-t-elle déclaré.
Disposer de structures intelligentes pour la validation de l’IA deviendra de plus en plus important à mesure que la technologie accomplira davantage de tâches et dépassera la capacité humaine à valider tout le travail.
« Vous vous retrouvez dans un espace où vous avez tellement de travail à faire et tellement de travail à auditer que vous ne pouvez pas vraiment rendre des comptes », a déclaré Gregor Stewart, directeur de l’IA chez SentinelOne.
Il a souligné le codage informatique, qui, selon lui, a environ un an d’avance sur les autres secteurs. Plutôt que de demander aux humains de vérifier 10 000 lignes de code créées par l’IA, l’équipe cherche comment faire en sorte que les agents émulent certains des processus développés il y a des décennies pour les humains dans les industries critiques en matière de sécurité.
« Je pense qu’un grand nombre des technologies que nous avons développées pour les technologies critiques pour la sécurité seront réintroduites dans la pratique très moyenne », a déclaré Stewart.
