Thinking Machines Lab, la startup d’IA fondée par l’ancienne CTO d’OpenAI Mira Murati, a publié mercredi matin son premier modèle d’IA interne, appelé Inkling. Et contrairement aux modèles phares d’OpenAI, Anthropic ou Google, il est ouvert, ce qui signifie que les développeurs et les entreprises externes peuvent le télécharger et le modifier directement.
Inkling est un système mixte d’experts avec 975 milliards de paramètres au total, bien qu’il n’en utilise qu’une fraction – environ 41 milliards – pour une tâche donnée, une conception commune qui permet de faire fonctionner de très grands modèles plus rapidement et moins cher. Il a été formé sur 45 000 milliards de jetons de texte, d’image, d’audio et de vidéo, et raisonne de manière native sur les quatre, selon les propres documents de publication de l’entreprise. Pour l’instant, cependant, ses sorties se limitent au texte, y compris le code, les artefacts stylisés et les données structurées.
Le modèle est la première preuve publique de Thinking Machines Labs après un an et demi passé à construire une infrastructure d’IA largement hors de la vue du public. Une partie de ce travail avait déjà fait surface dans un aperçu de recherche de mai sur les « modèles d’interaction » – une IA conçue pour écouter et parler (et même interrompre) au lieu de s’arrêter et d’attendre comme avec les chatbots classiques. C’est également un test du pari central de la startup, à savoir que l’IA que les organisations peuvent adapter elles-mêmes surpassera les modèles universels que vendent actuellement les plus grands laboratoires.
Inkling est conçu pour donner des réponses calibrées, y compris signaler l’incertitude plutôt que deviner, et permet aux utilisateurs d’augmenter ou de diminuer « l’effort de réflexion » lorsqu’ils souhaitent échanger contre de la vitesse. Selon la société, Inkling utilise un tiers de jetons en plus que le Nemotron 3 Ultra de Nvidia, son modèle à poids ouvert de dernière génération, pour atteindre les mêmes performances de codage.
Thinking Machines ne prétend pas qu’Inkling est le meilleur de sa catégorie. Son dernier article de blog indique explicitement qu’Inkling n’est « pas le modèle global le plus solide disponible aujourd’hui, ouvert ou fermé ». Ce que cela vise évidemment, ce sont des performances complètes.
Cela soulève la question de savoir à qui, au sein du marché des entreprises qu’il cible, ce produit s’adresse réellement. Pour l’instant, Thinking Machines commercialise Inkling moins comme un produit fini que comme un point de départ, quelque chose que les organisations peuvent peaufiner via Tinker, la plateforme de personnalisation de modèles de l’entreprise. Cela signifie également que les clients, et non Thinking Machines, sont responsables de s’assurer que leurs personnalisations sont sécurisées, par exemple. (Le réglage fin nécessite de sérieux talents en matière de gains automatiques.)
OpenAI, Anthropic et Google ont tous adopté une approche très différente avec respectivement ChatGPT, Claude et Gemini, qui ont tous été conçus pour rivaliser en tant que chatbots à usage général, avec des fonctionnalités agents et autonomes superposées.
Un article publié par Thinking Machines la semaine dernière était clairement destiné à servir de toile de fond à cette version. L’IA qui est formée de manière centralisée par une entreprise puis gravée dans le marbre, affirme l’entreprise dans ce message, est moins performante que l’IA que les organisations façonnent elles-mêmes, car une grande partie de l’expertise est spécifique aux personnes qui la détiennent.
D’autres arguments contre les modèles fermés gagnent du terrain. Dans un article de blog publié dimanche, le PDG de Microsoft, Satya Nadella – dont la société a investi des milliards dans OpenAI et Anthropic – a averti que les entreprises utilisant des modèles d’IA propriétaires paient effectivement deux fois : une fois en frais d’abonnement, et une autre fois en transmettant les connaissances commerciales intégrées dans leurs invites et corrections, qui peuvent être absorbées dans les futures versions du modèle.
Le PDG de Hugging Face, Clem Delangue, a fait une prédiction similaire lors d’une conversation avec TechCrunch la semaine dernière. Les modèles frontières, a-t-il déclaré, seront de plus en plus réservés à l’expérimentation et aux tâches à forte valeur ajoutée, tandis que la plupart des travaux d’IA en production se tourneront vers des alternatives privées ou open source – la division exacte autour de laquelle Thinking Machines est en train de se construire.
L’argument le plus clair en faveur de l’approche de Thinking Machines est venu d’un projet récent avec Bridgewater Associates, le plus grand fonds spéculatif au monde (qui n’est pas, pour ce que ça vaut, un investisseur de Thinking Machines). Les chercheurs des deux sociétés ont pris un modèle open source existant et l’ont perfectionné sur la propre expertise financière de Bridgewater. Le résultat aurait obtenu un score de 84,7 % aux tests de raisonnement financier, battant les meilleurs modèles d’IA propriétaires, tout en coûtant environ un quatorzième du prix à exécuter – bien que ces résultats proviennent de la propre évaluation des deux sociétés et non d’une évaluation indépendante.
Quoi qu’il en soit, Thinking Machines souligne la rapidité avec laquelle cela est arrivé. OpenAI a mis environ cinq ans pour commercialiser sa technologie et afficher ses revenus, et Anthropic environ trois ans. Thinking Machines affirme avoir fait la même chose en neuf mois environ.
Certains se demanderont si Inkling a été formé sur les résultats des modèles concurrents, une pratique connue sous le nom de « distillation » qui a suscité un examen minutieux dans l’ensemble de l’industrie. La réponse courte, selon les documents de l’entreprise, est en partie. Thinking Machines a pré-entraîné Inkling à partir de zéro, mais il affirme avoir utilisé d’autres modèles à poids ouvert, notamment le Kimi K2.5 de Moonshot AI, pour l’aider à générer certaines de ses premières données post-entraînement avant que l’apprentissage par renforcement à grande échelle ne prenne le relais. Le prochain modèle, insiste l’entreprise, utilisera plutôt une post-formation entièrement autonome.
Côté coûts, Thinking Machines a été plus prudent. La société a conclu un partenariat avec Nvidia en mars pour déployer un gigawatt de capacité informatique Vera Rubin et a entièrement formé Inkling sur les systèmes GB300 NVL72 de Nvidia – mais n’a pas précisé comment elle envisageait de couvrir ces coûts, et les revenus, selon la plupart des témoignages, n’ont pas été une priorité. (Une levée de fonds de 50 milliards de dollars aurait dû avoir lieu en novembre dernier, mais elle était au point mort en janvier ; la société a depuis refusé de parler de sa situation de financement.)
Une question connexe est de savoir si les dépenses de Thinking Machines atteindront un jour l’ampleur de celles d’OpenAI ou d’Anthropic, ou si son approche axée sur l’efficacité signifie que l’économie sera différente. En d’autres termes, le pari de l’entreprise pourrait être inférieur au fait qu’elle finira par dépenser comme ses plus grands rivaux que ce dont elle n’aura pas besoin du tout – car une fois que les pondérations sont publiques, rien n’oblige quiconque les télécharge à payer des Thinking Machines pour les faire fonctionner, contrairement à l’accès limité qu’OpenAI et Anthropic vendent. C’est de Tinker, et non du modèle lui-même, que doivent provenir les revenus de l’entreprise, via la formation, la mise au point et, désormais, une partie de l’écosystème d’hébergement construit autour de lui.
Les effectifs, au moins, semblent plus stables. Thinking Machines emploie désormais environ 200 personnes, en hausse par rapport aux niveaux signalés après une vague de départs plus tôt cette année, dont deux cofondateurs qui ont quitté OpenAI en janvier.
Thinking Machines, pour sa part, ne semble pas intéressé à mettre en valeur les mouvements individuels comme le fait une grande partie de l’industrie. Selon une source au sein de l’entreprise, sa culture, de par sa conception, privilégie la continuité plutôt que la dépendance à l’égard d’une seule personnalité. C’est logique : c’est moins un échec lorsque des gens changent d’équipe s’ils n’ont jamais été mis sur un piédestal au départ. C’est également une chose remarquable sur laquelle une entreprise insiste, étant donné à quel point sa propre histoire est encore associée au nom de sa désormais célèbre cofondatrice, qu’elle l’ait planifié ou non.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
