Les créateurs du projet open source vLLM ont annoncé avoir transféré l’outil populaire vers une startup soutenue par du capital-risque, Inferact, levant 150 millions de dollars en financement de démarrage pour une valorisation de 800 millions de dollars.
Le cycle a été co-dirigé par Andreessen Horowitz et Lightspeed Venture Partners, confirmant les informations antérieures de TechCrunch selon lesquelles vLLM avait levé des capitaux auprès d’a16z.
Les débuts d’Inferact reflètent la récente commercialisation du projet SGLang sous le nom de RadixArk, dont des sources nous ont indiqué avoir obtenu un capital d’une valorisation de 400 millions de dollars dirigé par Accel, comme nous l’avons rapporté mercredi.
Alors que l’accent en matière d’IA passe des modèles de formation à leur déploiement dans des applications, un processus connu sous le nom d’inférence, des technologies telles que vLLM et SGLang qui permettent à ces outils d’IA de fonctionner plus rapidement et à moindre coût attirent l’attention des investisseurs.
vLLM et SGLang ont été incubés en 2023 dans le laboratoire de l’UC Berkeley du co-fondateur de Databricks, Ion Stoica.
Simon Mo, PDG d’Inferact, l’un des créateurs originaux du projet, a déclaré à Bloomberg que les utilisateurs existants de vLLM incluent le service cloud d’Amazon et l’application d’achat.
