La société d’infrastructure d’IA Infinity a annoncé lundi une augmentation de 15 millions de dollars pour une valorisation de 100 millions de dollars auprès d’investisseurs dont Touring Capital, Principal VC et de chercheurs d’entreprises telles que OpenAI et Anthropic.
La startup développe un logiciel pour permettre aux puces d’IA d’exécuter plus facilement des modèles d’IA. L’une des principales raisons pour lesquelles Nvidia est devenu le leader n’est pas seulement ses puces hautes performances, mais également son logiciel CUDA (Compute Unified Device Architecture), qui permet à ses GPU (conçus à l’origine pour exécuter des graphiques) d’agir comme des processeurs de traitement à usage général. Les plus grands frameworks de développement d’IA, PyTorch et TensorFlow, ont été construits sur CUDA. Cela permet aux développeurs d’écrire leurs applications dans des langages populaires comme Python, d’utiliser ces principaux frameworks d’IA et leurs applications fonctionneront, par défaut, sur des puces Nvidia.
La plupart de ces startups au niveau des applications n’auraient pas les ressources ou le savoir-faire nécessaires pour écrire leurs propres noyaux – le logiciel de bas niveau qui exploite les puces – et porter leurs applications sur d’autres puces d’IA. Infinity essaie donc de créer un logiciel de noyau alternatif à CUDA qui fonctionne avec tout type de puce, comme la SRAM, les GPU, les puces téléphoniques et les tableaux systoliques. Infinity fait partie d’une nouvelle vague de startups qui tentent, produit par produit, de réduire la domination du marché par Nvidia.
Infinity tente de créer une bibliothèque d’inférence universelle pouvant fonctionner sur toutes les puces, permettant à ces puces d’automatiser la réplication des résultats de recherche de pointe.
Infinity a été lancé l’année dernière par Jeremy Nixon, ancien chercheur chez Google Brain et créateur de la communauté de réseaux de hackers AGI House. Nixon a déclaré à TechCrunch qu’il avait décidé de lancer cette société parce qu’il était obsédé par l’idée d’une « invention automatisée » – la conviction que « les systèmes d’IA peuvent en fait être une métatechnologie ». Il avait lui-même inventé un algorithme d’apprentissage automatique appelé Omega, a-t-il déclaré, qui créait essentiellement de nouveaux algorithmes d’apprentissage automatique et les évaluait automatiquement dans une boucle de rétroaction.
Ce succès l’a amené à réfléchir à d’autres cas dans lesquels cette approche pourrait fonctionner, et il s’est tourné vers le matériel, estimant que les systèmes automatisés pouvaient également générer le code de bas niveau, comme les noyaux, etc., nécessaire pour faire fonctionner les puces plus efficacement.
L’agent de recherche sur l’IA d’Infinity, Ignition, est destiné à écrire le code de bas niveau nécessaire à l’inférence de l’IA sur les puces alternatives Nvidia. Il teste, débogue et mesure la rapidité avec laquelle le matériel exécute le code, et réécrit automatiquement le code si nécessaire pour améliorer les performances. Le système s’auto-optimise, ce qui signifie qu’il apprend et s’améliore continuellement. Il s’adapte également à différentes architectures de puces, quelles que soient les conceptions propriétaires, explique Nixon. Le résultat est ce que Infinity prétend être une pile logicielle de niveau CUDA.
Les clients incluent le fabricant de puces IA (et futur challenger de Nvidia) D-Matrix, et Infinity est en pourparlers avec d’autres grandes sociétés de puces et de cloud, a déclaré Nixon.
Cependant, les humains sont au courant, fournissant des directives de haut niveau pendant que l’agent effectue le plus gros travail fastidieux. Dans une étude de cas, la startup a découvert que l’agent fonctionne beaucoup plus rapidement qu’un humain seul, réduisant ainsi ce qui aurait pu durer des années ou des mois à des heures ou des jours. Infinity ne facture pas de frais de licence initiaux ; au lieu de cela, il faut réduire les gains de performances et les économies de coûts, en mesurant les changements de jetons par seconde.
À l’heure actuelle, Infinity compte 26 employés, dont ceux de la conception, des opérations et de l’ingénierie.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
