Les deux plus grands drames de la Silicon Valley se sont croisés : LiteLLM et Delve

C’est l’un de ces épisodes réels de la Silicon Valley qui semble tiré de l’émission satirique de HBO. Cette semaine, des logiciels malveillants vraiment atroces ont été découverts dans un projet open source développé par LiteLLM, diplômé de Y Combinator.

LiteLLM permet aux développeurs d’accéder facilement à des centaines de modèles d’IA et fournit des fonctionnalités telles que la gestion des dépenses. Il s’agit d’un succès retentissant, téléchargé jusqu’à 3,4 millions de fois par jour, selon Snyk, l’un des nombreux chercheurs en sécurité surveillant l’incident. Le projet comptait 40 000 étoiles sur GitHub et des milliers de forks (ceux qui l’ont utilisé comme base pour le modifier et se l’approprier).

Le malware a été découvert, documenté et divulgué par le chercheur Callum McMahon de FutureSearch, une société proposant des agents d’IA pour la recherche sur le Web. Le malware s’est infiltré via une « dépendance », c’est-à-dire d’autres logiciels open source sur lesquels LiteLLM s’appuyait. Il a ensuite volé les identifiants de connexion de tout ce qu’il a touché. Grâce à ces informations d’identification, le logiciel malveillant a pu accéder à davantage de packages et de comptes open source pour récolter davantage d’informations d’identification, et ainsi de suite.

Le malware a provoqué l’arrêt de la machine de McMahon après avoir téléchargé LiteLLM. Cet événement l’a incité à enquêter et à le découvrir. Ironiquement, un bug du malware a fait exploser sa machine. Parce que ce morceau de code méchant avait été si mal conçu, il (ainsi que le célèbre chercheur en IA Andrej Karpathy) a conclu qu’il devait avoir été codé par ambiance.

Les développeurs de LiteLLM ont travaillé sans relâche cette semaine pour remédier à la situation et la bonne nouvelle est que le problème a été détecté relativement rapidement, probablement en quelques heures.

Il y a une autre partie de cette saga dont les gens sur X ne peuvent s’empêcher de parler. LiteLLM, au 25 mars, affiche toujours fièrement sur son site Web qu’il a passé deux certifications majeures de conformité en matière de sécurité, SOC2 et ISO 27001.

Mais il a fait appel à une startup appelée Delve pour ces certifications.

Delve est la startup de conformité basée sur Y-Combinator AI qui a été accusée d’avoir induit ses clients en erreur sur leur véritable conformité en générant prétendument de fausses données et en faisant appel à des auditeurs qui approuvent les rapports. Delve a nié ces allégations.

Il y a ici un point de nuance qui mérite d’être compris. De telles certifications visent à montrer qu’une entreprise a mis en place des politiques de sécurité solides pour limiter la possibilité d’incidents comme celui-ci. Les certifications n’empêchent pas automatiquement une entreprise, comme LiteLLM, d’être touchée par des logiciels malveillants. Même si le SOC 2 est censé couvrir les politiques relatives aux dépendances logicielles, les logiciels malveillants peuvent toujours s’y introduire.

Néanmoins, comme l’a souligné l’ingénieur Gergely Orosz sur

Quant à LiteLLM, le PDG Krrish Dholakia n’a fait aucun commentaire sur l’utilisation de Delve. Il est toujours occupé à nettoyer les dégâts causés par une attaque.

« Notre priorité actuelle est l’enquête active aux côtés de Mandiant. Nous nous engageons à partager les leçons techniques apprises avec la communauté des développeurs une fois notre examen médico-légal terminé », a-t-il déclaré à TechCrunch.