Le fondateur et PDG d’Anthropic, Dario Amodei, a répondu lundi après-midi aux rumeurs dans l’industrie selon lesquelles son entreprise soutenait d’une manière ou d’une autre les efforts du gouvernement américain visant à interdire les modèles chinois à poids ouvert, ou éventuellement les modèles à poids ouvert en général.
« Quiconque a lu mes écrits précédents doit savoir que je ne considère pas de telles interdictions comme une mesure utile, mais permettez-moi de le dire clairement afin qu’il n’y ait aucun doute : Anthropic n’a jamais plaidé en faveur d’une interdiction des modèles à poids ouverts », a-t-il écrit, en soulignant le sien.
Sa réponse est intervenue après que le fondateur et PDG de Nvidia, Jensen Huang, ait pris
Bien que cette lettre ne mentionne pas spécifiquement la Chine, le débat dans l’industrie s’est concentré sur des allégations selon lesquelles les laboratoires chinois d’IA augmentent leurs capacités, souvent en volant la propriété intellectuelle de leurs homologues américains. Une méthode est la distillation, où une IA bombarde un autre modèle avec des invites pour apprendre comment il fonctionne.
Amodei a déclaré dans un article de blog publié lundi qu’il considérait les modèles à poids ouvert comme tombant dans une catégorie différente de celle de la menace que représente la Chine. « Les modèles à pondération ouverte qui n’ont pas de fonctionnalités dangereuses sont un bien public : ils ne coûtent rien en dehors du calcul nécessaire pour les exécuter, et ils apportent de la valeur aux entreprises, aux développeurs et aux chercheurs. »
Amodei a déclaré dans son message qu’il avait des craintes de longue date concernant l’IA, mais que les entreprises utilisant des modèles à pondération ouverte, même celles chinoises, n’en faisaient pas partie.
Il craint que les « gouvernements autoritaires » construisent des modèles plus puissants que ceux des États-Unis pour atteindre une « supériorité militaire permanente » et/ou utilisent l’IA pour réprimer leur propre peuple. Il a déclaré que le Parti communiste chinois (PCC) n’est pas le seul gouvernement autoritaire qui le préoccupe, mais qu’il est « le plus capable ».
Amodei a également déclaré qu’il craignait que l’IA ne permette des « attaques biologiques » et pas seulement des attaques de cybersécurité. Et, selon lui, les modèles à poids ouvert sont plus dangereux dans ces scénarios car il est difficile de leur appliquer des garde-corps ou de surveiller leur utilisation. Il a également noté, citant un rapport de l’AI Security Institute du Royaume-Uni, qu’une fois les pondérations ouvertes publiées, elles ne peuvent plus être retirées.
Cela va à l’encontre de ce que soutiennent les partisans de l’open source : selon lequel l’accès à de puissants modèles ouverts non contrôlés par une seule entité aide les défenseurs à se protéger.
Amodei a énuméré les actions qui, selon lui, pourraient contrecarrer la Chine, notamment la restriction de son accès aux puces puissantes (ce qui est une politique américaine de longue date) et l’appel à une répression formelle de la distillation. Les États-Unis ont menacé de sanctions la Chine s’ils déterminaient qu’il y avait eu vol de propriété intellectuelle impliquant des modèles américains.
Il est intéressant de noter qu’Amodei a également déclaré qu’il soutenait les efforts croissants, certains menés par les États-Unis, pour créer une organisation modèle de tests de sécurité, surtout si le monde entier, y compris la Chine, acceptait de s’y soumettre.
« Je pense que cette idée est en fait proche d’un consensus : j’ai été encouragé à la fois par le fait que l’administration Trump ait évolué dans cette direction ces derniers mois, et par les récentes propositions de l’industrie qui appliqueraient de tels tests aux modèles les plus performants, quel que soit leur pays d’origine ou qu’ils soient ouverts ou fermés (tout en exemptant entièrement les modèles moins performants, tels que ceux des startups et du monde universitaire) », a écrit Amodei.
« Notez que pour être efficaces », a-t-il ajouté, « les tests devraient être mondiaux, ce qui signifie que même le PCC devrait être impliqué. Je pense que cela pourrait en fait être possible… une coopération limitée autour de la prévention des armes biologiques IA pourrait être possible parce que c’est également dans l’intérêt de la Chine. »
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
