Les laboratoires d’IA s’empressent de construire des centres de données aussi grands que Manhattan, chacun coûtant des milliards de dollars et consommant autant d’énergie qu’une petite ville. Cet effort est motivé par une conviction profonde dans la « mise à l’échelle » – l’idée selon laquelle l’ajout de plus de puissance de calcul aux méthodes de formation en IA existantes finira par produire des systèmes superintelligents capables d’effectuer toutes sortes de tâches.
Mais un nombre croissant de chercheurs en IA affirment que la mise à l’échelle des grands modèles de langage atteint peut-être ses limites et que d’autres avancées pourraient être nécessaires pour améliorer les performances de l’IA.
C’est le pari que Sara Hooker, ancienne vice-présidente de la recherche en IA chez Cohere et ancienne élève de Google Brain, fait avec sa nouvelle startup, Adaption Labs. Elle a cofondé l’entreprise avec Sudip Roy, un autre vétéran de Cohere et de Google, et elle repose sur l’idée que la mise à l’échelle des LLM est devenue un moyen inefficace d’optimiser les performances des modèles d’IA. Hooker, qui a quitté Cohere en août, a discrètement annoncé ce mois-ci que la startup commencerait à recruter plus largement.
Dans une interview avec TechCrunch, Hooker affirme qu’Adaption Labs construit des systèmes d’IA capables de s’adapter et d’apprendre en permanence de leurs expériences du monde réel, et ce, de manière extrêmement efficace. Elle a refusé de partager des détails sur les méthodes derrière cette approche ou si l’entreprise s’appuie sur des LLM ou une autre architecture.
« Il y a maintenant un tournant où il est très clair que la formule consistant à simplement mettre à l’échelle ces modèles – des approches de mise à l’échelle, qui sont attrayantes mais extrêmement ennuyeuses – n’a pas produit une intelligence capable de naviguer ou d’interagir avec le monde », a déclaré Hooker.
L’adaptation est le « cœur de l’apprentissage », selon Hooker. Par exemple, cognez-vous l’orteil lorsque vous passez devant la table de votre salle à manger et vous apprendrez à la contourner avec plus de prudence la prochaine fois. Les laboratoires d’IA ont tenté de capturer cette idée grâce à l’apprentissage par renforcement (RL), qui permet aux modèles d’IA d’apprendre de leurs erreurs dans des environnements contrôlés. Cependant, les méthodes RL actuelles n’aident pas les modèles d’IA en production (c’est-à-dire les systèmes déjà utilisés par les clients) à tirer les leçons de leurs erreurs en temps réel. Ils n’arrêtent pas de se cogner l’orteil.
Certains laboratoires d’IA proposent des services de conseil pour aider les entreprises à affiner leurs modèles d’IA en fonction de leurs besoins personnalisés, mais cela a un prix. OpenAI exigerait que les clients dépensent plus de 10 millions de dollars auprès de l’entreprise pour proposer ses services de conseil en matière de réglage fin.
Événement Techcrunch
San Francisco
|
27-29 octobre 2025
« Nous disposons d’une poignée de laboratoires pionniers qui déterminent cet ensemble de modèles d’IA qui sont servis de la même manière à tout le monde, et leur adaptation est très coûteuse », a déclaré Hooker. « En fait, je pense que cela n’a plus besoin d’être vrai, et que les systèmes d’IA peuvent apprendre très efficacement d’un environnement. Prouver cela changera complètement la dynamique de savoir qui contrôle et façonne l’IA, et vraiment, à qui ces modèles servent en fin de compte. «
Adaption Labs est le dernier signe que la confiance de l’industrie dans la mise à l’échelle des LLM vacille. Un article récent de chercheurs du MIT a révélé que les plus grands modèles d’IA au monde pourraient bientôt afficher des rendements décroissants. L’ambiance à San Francisco semble également changer. Le podcasteur préféré du monde de l’IA, Dwarkesh Patel, a récemment animé des conversations inhabituellement sceptiques avec de célèbres chercheurs en IA.
Richard Sutton, lauréat du prix Turing considéré comme « le père du RL », a déclaré à Patel en septembre que les LLM ne peuvent pas vraiment évoluer parce qu’ils n’apprennent pas de l’expérience du monde réel. Ce mois-ci, Andrej Karpathy, un des premiers employés d’OpenAI, a déclaré à Patel qu’il avait des réserves quant au potentiel à long terme de RL pour améliorer les modèles d’IA.
Ces types de craintes ne sont pas sans précédent. Fin 2024, certains chercheurs en IA ont fait part de leurs inquiétudes quant au fait que la mise à l’échelle des modèles d’IA via le pré-entraînement – dans lequel les modèles d’IA apprennent des modèles à partir de tas d’ensembles de données – avait des rendements décroissants. Jusqu’alors, la pré-formation était la recette secrète d’OpenAI et de Google pour améliorer leurs modèles.
Ces problèmes de mise à l’échelle avant la formation apparaissent désormais dans les données, mais l’industrie de l’IA a trouvé d’autres moyens d’améliorer les modèles. En 2025, les percées autour des modèles de raisonnement de l’IA, qui nécessitent plus de temps et de ressources informatiques pour résoudre les problèmes avant d’y répondre, ont poussé les capacités des modèles d’IA encore plus loin.
Les laboratoires d’IA semblent convaincus que la mise à l’échelle des modèles de raisonnement RL et IA constitue la nouvelle frontière. Les chercheurs d’OpenAI ont précédemment déclaré à TechCrunch qu’ils avaient développé leur premier modèle de raisonnement d’IA, o1, parce qu’ils pensaient qu’il serait bien mis à l’échelle. Les chercheurs de Meta et Periodic Labs ont récemment publié un article explorant comment RL pourrait améliorer davantage les performances – une étude qui coûterait plus de 4 millions de dollars, soulignant à quel point les approches actuelles restent coûteuses.
Adaption Labs, en revanche, vise à trouver la prochaine avancée et à prouver qu’apprendre par l’expérience peut être bien moins coûteux. La startup était en pourparlers pour lever un tour de table de 20 à 40 millions de dollars plus tôt cet automne, selon trois investisseurs qui ont examiné ses pitch decks. Ils disent que le cycle est depuis clôturé, même si le montant final n’est pas clair. Hooker a refusé de commenter.
« Nous sommes prêts à être très ambitieux », a déclaré Hooker, interrogée sur ses investisseurs.
Hooker dirigeait auparavant Cohere Labs, où elle formait de petits modèles d’IA pour des cas d’utilisation en entreprise. Les systèmes d’IA compacts surpassent désormais régulièrement leurs homologues plus grands en matière de codage, de mathématiques et de raisonnement – une tendance que Hooker souhaite continuer à poursuivre.
Elle s’est également bâtie une réputation en élargissant l’accès à la recherche sur l’IA à l’échelle mondiale, en recrutant des chercheurs talentueux provenant de régions sous-représentées comme l’Afrique. Alors qu’Adaption Labs ouvrira bientôt un bureau à San Francisco, Hooker dit qu’elle envisage d’embaucher dans le monde entier.
Si Hooker et Adaption Labs ont raison sur les limites de la mise à l’échelle, les implications pourraient être énormes. Des milliards ont déjà été investis dans la mise à l’échelle des LLM, avec l’hypothèse que des modèles plus grands conduiront à une intelligence générale. Mais il est possible qu’un véritable apprentissage adaptatif se révèle non seulement plus puissant, mais aussi bien plus efficace.
Marina Temkin a contribué au reportage.
