Le mois dernier, un assistant IA de type agent appelé OpenClaw qui promet de gérer votre calendrier, d’enregistrer les vols, de répondre aux e-mails et d’organiser vos fichiers est devenu viral. En quelques semaines, les chercheurs en sécurité ont découvert plus de 30 000 instances exposées sur Internet, les chercheurs en sécurité de Meta AI ont regardé, impuissants, Meta AI supprimer leurs boîtes de réception avant de s’arrêter, et l’outil est devenu un exemple de ce à quoi ressemble l’IA non supervisée dans la pratique.
Pour les fondateurs de JetStream Security, une startup basée à San Francisco fondée par des vétérans de CrowdStrike, SentinelOne et Cohesity, c’est un exemple du problème qu’ils tentent de résoudre. Alors que les entreprises se précipitent pour déployer des agents d’IA et des modèles personnalisés, la plupart n’ont aucun moyen de cartographier ce que font ces systèmes, aucun inventaire des outils d’IA non approuvés que les employés exécutent en silence, et aucun kill switch en cas de problème.
La réponse de JetStream s’articule autour d’une fonctionnalité appelée AI Blueprint. Il s’agit d’un graphique en temps réel qui cartographie tout ce que font vos systèmes d’IA dans votre organisation à un moment donné. Chaque plan suit l’intégralité de la chaîne d’activité, y compris les agents qui s’exécutent, les modèles qu’ils utilisent, les données et les outils avec lesquels ils interagissent, et qui ou quoi se cache derrière chaque action. Les plans suivent le comportement en direct plutôt que des instantanés statiques. Ainsi, si un système d’IA commence à se comporter en dehors de son objectif prévu, la plate-forme le signale. Il suit également les coûts, vous montrant combien chaque flux de travail d’IA dépense et qui en est responsable.
Fondée par Raj Rajamani, Jared Phipps, Jatheen « AJ » Anand et Venu Vissamsetty, la société a déjà levé 34 millions de dollars de financement de démarrage lors d’un cycle dirigé par Redpoint Ventures, avec la participation de Falcon Fund et d’investisseurs, dont George Kurtz, PDG de CrowdStrike, Assaf Rappaport, PDG de Wiz, et Frédéric Kerrest, vice-président d’Okta.
Résoudre le déficit d’adoption
Alors que les dépenses mondiales en IA devraient atteindre 650 milliards de dollars cette année, le débat sur la question de savoir si l’IA génère un réel retour sur investissement pour les entreprises continue de faire rage, et la gouvernance de l’IA d’entreprise devient de plus en plus une priorité pour les entreprises.
Les préoccupations concernant les risques de sécurité constituent un frein majeur à l’adoption de l’IA par les grandes entreprises. Les entreprises hésitent à encourager leurs employés à expérimenter des outils ou à donner à des systèmes de type « boîte noire » accès à des années de données.
« Le déploiement de l’IA n’est pas un défi technologique ; c’est un défi de confiance », a déclaré Rajamani à Fortune. « On demande aux dirigeants de placer leur entreprise et leur carrière sur des systèmes qu’ils ne peuvent pas entièrement voir, expliquer ou contrôler. C’est là que la confiance s’effondre. »
Selon Phipps, une partie du problème réside dans le fait que les entreprises ne savent souvent pas quelle quantité d’IA elles utilisent déjà. Selon certaines études, environ 70 % des organisations pensent que l’IA fantôme (des employés utilisant secrètement des outils non autorisés en dehors du contrôle du service informatique) est utilisée.
Phipps a déclaré que les premières recherches auprès des clients de Jetstream suggèrent que la réalité est généralement pire qu’ils ne le pensent. Une chose qu’il voit régulièrement, ce sont des employés qui collent accidentellement des données sensibles de l’entreprise dans leurs comptes personnels ChatGPT ou Claude, mettant immédiatement les informations sensibles hors du contrôle de l’entreprise. Le même risque s’étend aux développeurs. Les développeurs téléchargent régulièrement des plug-ins d’IA directement depuis Internet sans l’expertise du service informatique, introduisant souvent des failles de sécurité.
« Ils consacrent leur vie entière à développer leur entreprise, et un seul faux pas peut leur coûter une partie essentielle de leur activité », a-t-il déclaré à propos des propriétaires d’entreprise.
JetStream compte déjà environ 40 employés et affirme avoir suscité un vif intérêt de la part d’un large éventail d’organisations, des petites entreprises FinTech aux banques mondiales, en passant par les compagnies aériennes et autres sociétés Fortune 500. La société prévoit de déployer le nouveau financement au sein de ses équipes d’ingénierie, de produits et de commercialisation.
Rajamani dit qu’il souhaite que Jetstream devienne le leader de la gouvernance de l’IA, mais l’entreprise pourrait également être confrontée à l’avenir à la concurrence des hyperscalers, de Microsoft, de Google et de Frontier AI Labs qui s’installent dans des espaces adjacents.
« Au moment où vous réalisez que l’IA ne fonctionne pas parfaitement dans votre entreprise, le mal est déjà fait », a déclaré Phipps, excluant la possibilité d’une concurrence future. « Tout le monde doit se concentrer sur la gouvernance. Franchement, tout le monde devrait s’en soucier, car tout le monde court des risques. »
