Owen Sakawa, le fondateur d’Elloe AI, souhaite que sa plateforme soit le « système immunitaire de l’IA » et « l’antivirus pour tout agent d’IA ».
L’idée, a déclaré Sakawa dans une interview quelques jours avant la conférence TechCrunch Disrupt, où Elloe AI est l’un des 20 finalistes du concours Startup Battlefield, est d’ajouter une couche aux LLM des entreprises qui vérifie les biais, les hallucinations, les erreurs, les problèmes de conformité, la désinformation et les résultats dangereux.
« L’IA évolue à un rythme très rapide, et elle évolue aussi vite sans garde-corps, sans filets de sécurité, sans mécanisme pour l’empêcher de dérailler », a déclaré Sakawa (photo ci-dessus).
Elloe AI est une API ou un SDK, un module qui se trouve au-dessus de la couche de sortie d’un modèle d’IA, une « infrastructure au-dessus de votre pipeline LLM », comme l’explique Sakawa. « Et il reste là à vérifier les faits de chaque réponse. »
Le système de la startup possède ses propres couches, ou « ancres », comme le dit Sakawa.
Le premier point d’ancrage vérifie la réponse du LLM par rapport à des sources vérifiables. Ensuite, la deuxième ancre vérifie si la sortie viole des réglementations, telles que la loi américaine sur la confidentialité en matière de santé HIPAA, la loi européenne de grande envergure sur la protection des données et la confidentialité RGPD, ou si elle expose certaines informations personnelles privées (PII). Le dernier point d’ancrage est une piste d’audit qui montre comment toutes les décisions précédentes ont été prises et permet aux régulateurs ou à toute personne auditant le système « d’analyser le cheminement de la pensée de ce modèle à partir duquel il a pris la décision, la source de cette décision, le score de confiance de toutes ces décisions », selon Sakawa.
Pour être clair, Sakawa a déclaré qu’Elloe AI n’est pas construit sur un LLM, car à son avis, demander à des LLM de vérifier d’autres LLM ne fait que mettre un « pansement dans une autre blessure ». Le système d’Elloe AI utilise cependant des techniques d’IA, telles que l’apprentissage automatique. Et il y a des humains dans le circuit : les employés d’Elloe AI, qui se tiennent au courant des nouvelles réglementations en matière de protection des données et de protection des utilisateurs, a déclaré Sakawa.
Événement Techcrunch
San Francisco
|
27-29 octobre 2025
Si vous souhaitez en savoir plus sur Elloe AI – tout en découvrant des dizaines d’autres entreprises, en écoutant leurs présentations et en écoutant des conférenciers invités sur quatre scènes différentes – rejoignez-nous à Disrupt, du 27 au 29 octobre, à San Francisco. Apprenez-en davantage ici.
