Alors que les entreprises dépannent leurs systèmes d’IA, la gouvernance apparaît comme un défi majeur. Certains adoptent une double approche : un modèle pour gérer les requêtes entrantes, tandis qu’un deuxième modèle empêche le premier d’avoir des ennuis.
C’est la prémisse de ZeroDrift, un nouveau service de conformité de l’IA qui a annoncé mardi un financement de démarrage de 10 millions de dollars. (Les investisseurs incluent a16z Speedrun, Reign Ventures, PitchDrive Ventures et U&I Ventures, entre autres.) La société s’occupe entièrement de la deuxième partie du système, située entre les modèles d’IA et les utilisateurs finaux pour signaler et remplacer tout message susceptible de présenter un problème de conformité.
Il peut sembler étrange de construire un système d’IA pour corriger les erreurs d’autres systèmes d’IA, mais le système de correction de ZeroDrift présente quelques avantages architecturaux par rapport aux modèles qu’il corrigera. Le système est déclenché par des programmes conventionnels qui appliquent de manière déterministe des normes de conformité connues comme SOC 2 ou GDPR. Le LLM n’intervient qu’une fois qu’un message a été signalé, réécrivant une version conforme du même message.
« Nous sommes en mesure d’identifier de manière déterministe quels sont tous les domaines réglementés, quelle est la violation qui est enfreinte, puis nous avons des LLM qui peuvent effectuer les réécritures », explique Aroomoogan.
Il est important de noter que l’ensemble du système peut fonctionner avec moins de latence et plus de fiabilité qu’un LLM classique. C’est le principal avantage de l’entreprise par rapport aux grands laboratoires comme OpenAI et Anthropic, qui sont souvent déjà présents dans le système sous-jacent.
Le cas d’utilisation le plus évident concerne les chatbots IA, qui sont déjà déployés devant les consommateurs et où les réponses malveillantes peuvent avoir de graves conséquences. Mais Aroomoogan considère le marché adressable total comme étant beaucoup plus vaste, couvrant potentiellement des messages générés par l’IA que les êtres humains ne voient jamais, générés uniquement au sein de systèmes automatisés. Jusqu’à présent, il s’agit d’un marché relativement restreint, mais il va croître à mesure que l’IA prolifère.
Si la collecte de fonds est une indication, il y a une forte demande refoulée pour ce produit. « C’était probablement la collecte de fonds la plus rapide que j’ai faite dans ma vie », a déclaré le PDG Kumesh Aroomoogan, reconnaissant l’aide d’Andressen Horowitz pour structurer le cycle d’amorçage. « Nous avons clôturé dans un délai de trois semaines et nous serons sursouscrits 3 fois sur le montant. »
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
