Alors que les modèles d’IA chinois à poids ouvert gagnent en capacité et en popularité, les débats sur ce qui devrait être fait à leur sujet ont une fois de plus atteint leur paroxysme.
Il y a des rumeurs selon lesquelles l’administration Trump pourrait tenter de les interdire (même si elle n’a pas encore donné suite à cette idée). Pendant ce temps, les créateurs de modèles propriétaires, en particulier OpenAI et Anthropic, semblent de plus en plus préoccupés par ces problèmes.
Les modèles ouverts tels que Kimi K3 de Moonshot AI ou Qwen d’Alibaba offrent une inférence à une fraction du coût symbolique des modèles fermés de ces grands laboratoires américains. La crainte est qu’ils représentent également une sorte de menace. Ils menacent certainement les marges bénéficiaires des grands laboratoires propriétaires d’IA.
Mais les entreprises qui exécutent ces modèles dans leurs propres centres de données devraient-elles céder à la crainte qu’elles puissent devenir un vecteur pour les pirates chinois ?
Non, déclare Lucas Atkins, directeur technique d’Arcee, qui construit des modèles ouverts pour offrir aux entreprises américaines une alternative locale aux modèles chinois.
Si une startup pouvait bénéficier d’une interdiction des modèles chinois, c’est bien Arcee. Mais Atkins affirme que les modèles ouverts chinois ne sont pas plus dangereux que tout autre logiciel open source qu’une entreprise peut utiliser. En fait, dit-il, ils offrent même des avantages, même à sa propre entreprise.
« Beaucoup de gens considèrent cela comme similaire à un logiciel chinois. Il a été codé avec ces intentions x, y, z » qu’un mauvais acteur pourrait simplement commander, a-t-il déclaré.
« Ce n’est fondamentalement pas ainsi que ces modèles sont formés. Il n’y a vraiment aucun moyen pour un Arcee, ou un Alibaba, de créer un modèle, de le faire exécuter dans son propre environnement et pour nous d’y avoir accès », a-t-il expliqué.
Bien que la plupart de ces modèles soient ce qu’on appelle un « poids ouvert » et ne soient pas vraiment des logiciels entièrement open source, le code source (la partie qui fonctionnera réellement sur les serveurs), s’il est téléchargé à partir de sites open source comme Hugging Face, est également largement visible et révisable. (Ce qui n’est pas disponible, ce sont les méthodes et les données utilisées pour entraîner les modèles.)
Les grandes organisations devraient soumettre n’importe quel noyau de modèle à leurs processus de tests et d’inspection de sécurité. Elles effectueront également souvent une post-formation des modèles pour leurs utilisations spécifiques et pourront examiner des domaines tels que les biais, la toxicité, les hallucinations et la sensibilité à certains sujets. Ils travaillent donc avec, optimisent et comprennent les modèles avant que les gens ne commencent à leur envoyer des invites.
Un modèle utilisé pour le codage pourrait-il d’une manière ou d’une autre lancer des portes dérobées malveillantes dans le code qu’il écrit ? Encore une fois, même si cela est théoriquement possible, cela nécessiterait des exploits acrobatiques.
« Il n’y a aucune raison pour qu’un acteur suffisamment sophistiqué ne puisse pas former un modèle pour qu’il soit un modèle de codage complètement étonnant dans toutes les circonstances, mais lorsqu’on lui présente un certain type de base de code… une formation cachée entrerait en jeu », a postulé Atkins, qui passe ses journées à former des modèles. Mais il ajoute : « Je ne sais pas comment tu ferais ça. »
Étant donné que les grands modèles de langage sont par nature créatifs, il y a peu de chances qu’un modèle contemporain crache des logiciels malveillants en réponse à une tempête parfaite de contexte et d’invites planifiée à l’avance. Les chances qu’une entreprise utilise ce code sont encore plus minces.
Cela pourrait-il arriver dans le futur ? C’est à deviner. Mais les entreprises construisent également leurs applications d’IA de manière à ce qu’elles soient indépendantes des modèles et qu’elles utilisent plusieurs modèles. Ainsi, même si les modèles chinois sont aujourd’hui les meilleurs en termes de prix, les entreprises ne seront pas obligées de les utiliser pour toujours.
« Je pense qu’au lieu de discuter de la manière d’interdire les modèles chinois, nous devrions plutôt porter sur la manière de favoriser un bon écosystème ouvert ici aux États-Unis », déclare Atkins.
Arcee bénéficie également des avantages des modèles chinois. Parce qu’elles sont ouvertes, la startup « bénéficie de la qualité de ces modèles car nous pouvons apprendre ce qu’ils ont fait. Nous pouvons construire sur eux. Ensuite, ils peuvent apprendre ce que nous faisons », dit-il. « Nous avons un immense respect pour les personnes qui construisent ces modèles, les chercheurs individuels. »
En fin de compte, la manière de rivaliser avec les modèles chinois « est de sortir un modèle meilleur », explique Atkins. « Nous devons leur donner de quoi parler. »
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
