Une startup basée à Londres et fondée par deux neuroscientifiques formés à Cambridge a levé 10,25 millions de dollars pour sa start-up Callosum. Callosum développe des logiciels qui combinent différents types de puces pour orchestrer les charges de travail de l’IA, remettant en question la dépendance de l’industrie à l’exécution de modèles de plus en plus volumineux sur la même banque de GPU Nvidia.
La société a également annoncé qu’elle avait reçu un financement de recherche du gouvernement britannique, qui étudie les moyens de construire une infrastructure dite de « cloud souverain » pour l’IA qui ne dépend pas des fournisseurs de technologie américains, ou du moins uniquement des fournisseurs de technologie américains.
Les cofondateurs de Callosum, Danyal Akarca et Jascha Achterberg, qui se sont rencontrés au cours de leurs études de doctorat à Cambridge vers 2019, disposent d’un logiciel capable de répartir les tâches d’IA sur des puces de différents fabricants, telles que les GPU Nvidia, les processeurs AMD, le silicium personnalisé Trainium et Inferentia d’Amazon Web Services, ou de nouvelles conceptions de startups comme Cerebras et SambaNova, en extrayant les avantages de performance de chacun.
Le cycle de financement a été dirigé par Plural, un fonds de capital-risque européen cofondé par Taavet Hinrikus de Wise et Ian Hogarth, qui était également le président fondateur de l’AI Safety Association du Royaume-Uni. Des investisseurs providentiels, dont Charlie Songhurst, Stan Borland de FiveAI et John Lazar de la Royal Academy of Engineering, ont également participé. Par ailleurs, l’Agence de recherche et d’inventions avancées (ARIA) du gouvernement britannique accorde à l’entreprise une subvention pour accélérer la recherche et le développement afin d’intégrer de nouvelles technologies de puces dans la plate-forme, mais ARIA n’est pas elle-même un investisseur dans le cycle, a déclaré Akarka dans une interview avec Fortune.
La théorie de l’entreprise est ancrée dans les recherches universitaires de ses cofondateurs, à l’intersection des neurosciences et de l’informatique. Le cerveau humain atteint l’intelligence non pas en copiant un type de neurone des milliards de fois, mais en combinant des circuits qui fonctionnent avec de nombreux types de cellules spécialisés différents. Ils estiment que l’informatique IA devrait suivre les mêmes principes.
« Les grands laboratoires parient désormais qu’un seul modèle les gouvernera tous. Nous pensons que c’est faux, et nos travaux le prouvent », a déclaré Akalka. « La nature nous montre que la véritable intelligence provient de nombreux systèmes travaillant ensemble. »
Callosum entre sur un marché en pleine mutation structurelle. Après plusieurs années au cours desquelles la formation de grands modèles sous-jacents sur des racks de GPU Nvidia identiques dominait les dépenses en IA, l’industrie se tourne désormais vers l’inférence, le processus d’exécution réelle de modèles formés et de production de résultats. Deloitte prédit que les charges de travail d’inférence représenteront environ les deux tiers de tout le calcul de l’IA d’ici 2026, contre un tiers en 2023, et prédit que le marché des puces optimisées pour l’inférence atteindra plus de 50 milliards de dollars cette année. Ce changement crée des opportunités pour divers fabricants de puces de contester la domination de Nvidia.
Callosum parie qu’il pourrait devenir la couche logicielle qui relie ce paysage matériel de plus en plus fragmenté. Sa plateforme fonctionne avec plusieurs fournisseurs de cloud, notamment AWS, Google Cloud et Microsoft Azure, et est conçue pour que les clients n’aient pas besoin de reconstruire leurs configurations cloud existantes pour l’utiliser. « Il s’agit d’un produit logiciel qui prend une charge de travail d’IA et l’orchestre dans les différents paramètres multi-cloud que vous pouvez utiliser », a déclaré Akarca.
Les cofondateurs affirment que cette approche offre des avantages significatifs dans les tâches complexes du monde réel qui impliquent différents types de prise de décision, telles que l’automatisation de l’utilisation des ordinateurs et le traitement des flux de travail de l’entreprise. Pour de telles tâches, Callosum affirme que son système peut offrir une précision deux fois supérieure, des performances sept fois plus rapides et un coût quatre fois supérieur à celui de l’exécution de la même charge de travail sur un matériel identique.
Achterberg a expliqué que l’augmentation de la précision est due à la nature du problème à résoudre. « Pour des problèmes simples, un seul modèle suffit parfaitement », a-t-il déclaré. Mais les tâches complexes de l’entreprise sont une autre affaire. « Par exemple, l’automatisation de la façon dont nous utilisons les ordinateurs, l’automatisation des paiements, telles sont les questions sur lesquelles nous nous concentrons. Elles sont de nature disparate », a déclaré Achterberg. « Résoudre un problème nécessite en réalité de très nombreuses étapes, et aucun modèle unique n’est toujours optimal. »
Chaque partie d’un flux de travail complexe peut nécessiter quelque chose de différent. Certaines étapes nécessitent des modèles très rapides et peu coûteux qui peuvent être rapidement itérés par essais et erreurs, tandis que d’autres étapes nécessitent une inférence plus large et plus performante. Callosum affirme qu’en équipant chaque sous-tâche du bon modèle exécuté sur le bon matériel, il peut surpasser les approches traditionnelles qui lancent un modèle puissant pour résoudre l’ensemble du problème.
Callosum cible deux types de clients. Les entreprises construisant des systèmes d’IA multi-agents qui nécessitent des performances supérieures dans des flux de travail complexes, et les fabricants de puces émergents qui souhaitent démontrer les capacités de leur matériel à grande échelle. « Ce que nous espérons, c’est que toutes ces nouvelles technologies de puces, dotées de performances et d’avantages étonnants, trouveront une voie d’entrée sur le marché où elles pourront réellement répondre à ces attentes », a déclaré Achterberg.
La société travaille également avec des entreprises travaillant sur de nouvelles façons de connecter les racks de puces IA dans les centres de données (appelées « interconnexions »). Cela inclut les entreprises développant des réseaux basés sur la photonique, une technologie qui utilise la lumière au lieu des impulsions électriques pour transmettre des données. Ces technologies sont conçues pour résoudre les goulots d’étranglement résultant du déplacement des données au sein d’un centre de données. Ce défi est encore compliqué par la nécessité pour différents types de puces de communiquer entre elles.
Pour l’avenir, les cofondateurs déclarent qu’ils prévoient d’utiliser le financement pour élargir leur équipe basée à Londres, commencer leur expansion aux États-Unis et construire leur propre infrastructure matérielle complémentaire. Leurs ambitions à long terme vont au-delà des logiciels et repensent fondamentalement la conception même des centres de données.
« Tout le monde pensait que la diversité des puces était un inconvénient à gérer, mais nous pensions plutôt que c’était un avantage à exploiter », a déclaré Achterberg. « Nous n’optimisons pas un algorithme au-dessus d’une pile existante. Nous utilisons un logiciel pour contrôler chaque levier du système et tirer des avantages de la diversité que d’autres ignorent. »
« La vision (de Carosum) d’un avenir multi-modèles et multi-puces a le potentiel d’être transformatrice, et elle les positionne pour rivaliser avec les plus grands fabricants de puces et de modèles au monde. Ce sont des fondateurs sérieux avec une mission sérieuse », a déclaré Ian Hogarth, partenaire de Plural, dans un communiqué.
