L’époque de la domination sans précédent de Nvidia sur le marché n’est pas révolue, mais des challengers et des choix surgissent de toutes parts.
ZML, une startup française d’IA soutenue par Yann LeCun, lauréat du prix Turing, a publié un logiciel de performance d’inférence qui permet à une variété de grands modèles de langage open source de s’exécuter sur une variété de puces, notamment celles de Nvidia, AMD, TPU de Google, Apple Metal et Intel Arc.
Avec ZML/LLMD, le serveur d’inférence LLM récemment lancé, l’ambition de l’entreprise est de briser les silos existants et de rendre différentes puces disponibles pour les cas d’utilisation de l’IA à leur vitesse maximale disponible, et parfois plus rapidement, a déclaré le fondateur de ZML, Steeve Morin, à TechCrunch.
À mesure que l’IA s’intègre dans notre travail et notre vie quotidienne, l’optimisation de l’inférence – c’est-à-dire le traitement des invites – a pris le pas sur les modèles de plus en plus importants, mais elle semble souvent inégale en coulisses, avec des barrières logicielles et architecturales qui conduisent à un verrouillage du fournisseur, a déclaré Morin.
La promesse d’atteindre des performances optimales sur une variété de puces est une prouesse technologique, mais elle pourrait également perturber le marché, dans un contexte de craintes croissantes concernant les coûts liés à l’IA.
ZML espère offrir aux entreprises et aux cloud la possibilité d’utiliser une combinaison de puces, dont certaines pourraient être moins coûteuses ou consommer moins d’énergie. « L’idée est de redonner aux gens le pouvoir de créer leur propre système et de réaliser de réels gains d’efficacité permettant la diffusion de l’IA », a déclaré Morin.
Une telle assistance logicielle pourrait aider les nouveaux fabricants de puces d’IA, dont beaucoup viennent d’Europe, a observé Morin, citant Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud et VSORA. Mais plus que leur région d’origine, ce qui lui importe, c’est que ZML puisse travailler avec eux sur « des choses qui n’ont jamais été faites nulle part ailleurs dans le monde ».
Cela ne veut pas dire que Morin est baissier sur Nvidia. Ce n’est pas le cas, en partie à cause de son approvisionnement existant. Il a déclaré à TechCrunch que ZML entretenait de bonnes relations avec le géant des puces IA, qui se préparait à l’essor de l’inférence.
L’inférence a été un domaine d’investissement si intense que la tendance a été saluée comme la « ruée vers l’or de l’inférence ». ZML a donc des concurrents comme Baseten, récemment évalué à 13 milliards de dollars ; Inferact, des créateurs du projet open source vLLM ; ainsi que RadixArk, la société commerciale derrière SGLang.
vLLM et SGLang concurrencent partiellement LLMD, mais les ambitions de Morin pour ZML couvrent un spectre plus large. « Nous avons atteint le point où nous co-concevons du silicium », a-t-il déclaré. Il a en outre attribué à la petite équipe de 20 personnes de ZML la raison pour laquelle la startup basée à Paris a pu évoluer rapidement, avec davantage de versions dans les plans.
Le fait que cette petite équipe soit bien financée pour sa taille a également aidé. Grâce à ses antécédents en tant que vice-président de l’ingénierie de Zenly, que Snapchat a acquis pour neuf chiffres en 2017, Morin a levé 20 millions de dollars auprès de sociétés de capital-risque, notamment 20VC de Harry Stebbings, >commit, AALVC, Drysdale Ventures, Kima Ventures de Xavier Niel, Kindred Capital, LocalGlobe et Puzzle Ventures.
Contrairement au premier projet public de ZML, le framework ML axé sur l’inférence publié en 2024 et mis à jour en mars, ZML/LLMD n’est pas open source. Mais il est lancé en tant que produit gratuit dans le but d’en apprendre davantage sur son utilisation. «Je préfère mesurer et (puis générer des revenus) là où c’est le plus efficace sans entraver bêtement ma croissance parce que j’ai été trop gourmand dès le départ», a déclaré Morin.
Il est trop tôt pour dire quand ZML/LLMD pourrait devenir un produit payant et à quoi ressemblera son adoption. Mais le tableau des capitalisations de la startup confirme que d’autres fondateurs y prêtent attention, notamment Solomon Hykes, fondateur de Dagger et Docker, Clément Delangue et Julien Chaumond de Hugging Face, ainsi que LeCun, désormais chez AMI Labs. Cela démontre également que les startups européennes de l’IA peuvent désormais créer depuis chez elles. « Je ne pouvais faire du ZML nulle part ailleurs qu’à Paris », a déclaré Morin.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
