Parmi tous les débats qui font rage sur les inconvénients potentiels de l’IA, il y a une inquiétude qui suscite le plus d’inquiétude parmi les passionnés d’IA de la Silicon Valley. Leur crainte est que les laboratoires géants d’IA qui vendent des modèles propriétaires agissent en quelque sorte comme des chevaux de Troie.
Le problème est que, à mesure que les startups et les entreprises utilisent des modèles d’IA provenant de laboratoires comme OpenAI et Anthropic, ces derniers ont un accès toujours plus grand aux informations commerciales les plus sensibles de ces entreprises. Les modélistes peuvent ensuite utiliser ces connaissances pour eux-mêmes, devenant potentiellement des concurrents pour leurs propres clients. Ces avertissements vont des sociétés de capital-risque comme Jason Calacanis au PDG de Palantir, Alex Karp.
Aujourd’hui, dans un article de blog surprenant publié lundi, le PDG de Microsoft, Satya Nadella, a rejoint cette foule. Nadella prévient que les utilisateurs d’IA (les « acheteurs », comme il les appelle) paient deux fois. Ils dépensent sciemment pour l’utilisation de jetons d’IA, mais ils transmettent également, sans le savoir, des données précieuses au cours du processus.
« En fait, vous payez deux fois pour l’intelligence, une première fois avec de l’argent, et une seconde fois avec quelque chose d’encore plus précieux : les connaissances exclusives que vous devez révéler pour rendre ces informations utiles. Plus vous voulez que le modèle fonctionne mieux, plus vous devez l’alimenter avec ces connaissances ! » il écrit.
Le plus dangereux est que les entreprises enseignent littéralement aux modèles les nuances de leurs activités, affirme-t-il.
« Les modèles apprennent de « l’épuisement », des invites que les gens écrivent, des outils utilisés par les agents, et surtout des corrections que les gens apportent lorsque le modèle est erroné. Chaque correction est distillée dans un savoir-faire institutionnel », écrit-il.
C’est « le genre de connaissances qu’un concurrent ne pourrait jamais acheter », et pourtant les entreprises les cèdent.
Nadella soutient que si les entreprises d’IA peuvent librement exploiter Internet pour former leurs modèles, il est tout à fait juste qu’elles puissent étudier – ou « distiller » – ces modèles en retour. La « distillation » est la pratique consistant à utiliser les propres résultats d’un modèle pour apprendre comment il fonctionne et former un nouveau modèle, souvent moins cher, basé sur ces informations. En février, Anthropic a accusé les modèles open source chinois d’envoyer des millions de messages à Claude afin d’améliorer leurs propres modèles, et a exhorté le gouvernement américain à sévir contre les contrôles à l’exportation.
Le point de vue de Nadella est que les modélistes ne peuvent pas gagner sur deux tableaux. Il est hypocrite de leur part de s’entraîner librement sur les données du monde tout en empêchant les autres de faire de même avec leurs modèles.
« Bien que la grande innovation apportée par les fournisseurs de modèles disposant de droits d’utilisation équitable pour former des modèles sur des données publiques soit nécessaire, je trouve ironique que le statu quo doive ensuite se retourner et imposer des conditions restrictives sur la distillation », écrit Nadella.
Nadella est particulièrement préoccupée lorsque les modélistes « se réservent le droit d’apprendre des données d’utilisation et d’interaction des clients ».
La solution de Nadella est le genre de chose que suggérerait le PDG d’un fournisseur de cloud géant. Il souhaite que les entreprises « conservent la propriété » de leurs données, y compris les invites, les commentaires, etc. Il les exhorte donc à créer leurs propres « environnements d’apprentissage propriétaires » sur le cloud (où leurs données sont probablement déjà stockées de toute façon et, commodément, cela pourrait signifier le cloud de Microsoft, Azure). Il souhaite également que les entreprises intègrent ce qu’il appelle des « couches d’orchestration » – essentiellement un moyen de basculer facilement entre les modèles d’IA de différents fournisseurs plutôt que de se limiter à un seul. Les outils tels que les « passerelles » d’IA qui permettent aux entreprises de faire exactement cela sont devenus de plus en plus populaires.
Bien que Nadella n’utilise jamais les mots « open source » comme méthode pour conserver la propriété, il s’agit d’un sous-texte évident. Pourtant, il y a un autre sous-texte.
Les grandes entreprises, dont beaucoup possèdent encore certains de leurs propres centres de données en plus d’utiliser le cloud, se tournent déjà vers des modèles open source installés dans leurs propres locaux (« on-prem », dans le jargon de l’industrie). Idit Levine, fondatrice et PDG de Solo.io, qui fabrique des logiciels de mise en réseau et de sécurité qui aident les entreprises à gérer les systèmes d’IA, affirme qu’elle voit exactement ce changement se produire chez ses propres clients. Après avoir expérimenté avec des modélistes propriétaires, ils commencent à se demander : « Puis-je prendre un modèle open source et l’exécuter sur site ? Il fera près de 90 % de ce que fait le grand. Cela coûtera beaucoup moins cher », a-t-elle déclaré à TechCrunch. « Ils le comprennent et ils peuvent le contrôler. »
La technologie de Solo.io a été sélectionnée l’année dernière pour alimenter le projet Agentgateway de la Linux Foundation. Son entreprise compte parmi ses clients des entreprises telles que T-Mobile, ADP et SAP. Elle voit les entreprises installer de plus en plus de modèles open source sur site et y voit la prochaine grande vague d’utilisation de l’IA en entreprise.
Elle n’est pas seule. Vercel (mieux connu comme plate-forme de création et d’hébergement de sites Web, qui a récemment ajouté des outils de changement de modèle d’IA) et OpenRouter (une société qui aide les développeurs à acheminer les requêtes entre différents modèles d’IA) constatent tous deux une augmentation du trafic vers les modèles open source. En fait, les modèles ouverts représentaient 29 % de tout le trafic acheminé via la passerelle de Vercel le mois dernier.
Avec le PDG de Microsoft, une société qui a investi à la fois dans OpenAI et Anthropic, exhortant désormais ouvertement les entreprises à se méfier de l’utilisation de modèles propriétaires, nous parions que cette tendance continue de se développer. « En consommant de l’intelligence, vous créez de l’intelligence. Et ce que vous créez devrait vous appartenir », écrit Nadella.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
