Lorsque Salesforce a récemment déployé des agents d’IA sur son site Web, les agents ont commencé à halluciner et n’ont pas produit de résultats cohérents.
Salesforce l’a temporairement désactivé, a déclaré Shibani Ahuja, vice-président directeur de la stratégie informatique d’entreprise, lors d’une table ronde à la conférence Brainstorm Tech de Fortune à Park City, Utah.
Mais les agents n’avaient pas d’importance. « Ce que nous avons remarqué, c’est qu’il y avait un problème fondamental avec les données », a déclaré Ahuja. Lorsque son équipe a enquêté sur ce qui s’est passé, ils ont découvert que Salesforce a publié des « articles de connaissances » contradictoires sur son site Web.
« Nous n’étions pas réellement un agent. C’est l’agent qui nous a aidés à identifier les problèmes qui étaient toujours présents », a déclaré Ahuja. « Nous l’avons transformé en agent d’audit et avons vu des anomalies sur les sites publics. Une fois que nous avons nettoyé les données sous-jacentes, nous l’avons signalé et c’était fonctionnel. »
Selon Ahuja et d’autres orateurs qui ont participé à la discussion, les nouveaux produits d’IA seront aussi bons que les données sous-jacentes. Ashok Srivastava, vice-présidente principale et chef de l’IA chez Intuit, a déclaré qu’il n’était pas surpris par les résultats d’une récente étude du MIT qui a révélé que 95% des pilotes d’IA dans les grandes sociétés ont échoué en raison des systèmes à l’ancienne des grandes sociétés.
« Le fait est que la base de l’IA, qui est des données, est que les gens n’y investissent pas », a déclaré Srivastava. « Donc, voici l’IA ici où les données des années 1990 sont si chères et sans nom que c’est juste qu’il y a l’IA et le PDG vous dit de faire quelque chose, et cela ne fonctionne tout simplement pas. »
Sean Bruich, vice-président directeur de l’intelligence artificielle et des données chez Amgen, a ajouté qu’il serait difficile pour les grandes entreprises de passer du pilote au recrutement à l’échelle de l’entreprise.
« Les pilotes de grandes entreprises ne livrent pas ROI », a-t-il déclaré. « Ils peuvent fournir l’apprentissage, fournir des points de preuve et une inspiration. Mais la voie à l’échelle est l’endroit où vous obtenez un retour sur investissement dans tout programme de technologies importants. »
Pour voir le retour sur investissement de nouveaux outils d’IA, les entreprises doivent trier leurs données et leurs problèmes de mise à l’échelle.
