La lettre d’application du gouvernement américain à Anthropic, qui a effectivement forcé l’entreprise à mettre hors ligne ses derniers modèles d’IA juste avant le week-end, devrait être un signal d’alarme pour toute entreprise technologique américaine – laboratoire d’IA ou autre.
Pour vous tenir au courant de l’actualité : vendredi après-midi, le Département américain du Commerce a envoyé à Anthropic une lettre invoquant une obscure directive de contrôle des exportations qui interdisait aux non-Américains, y compris les employés d’Anthropic, d’accéder à Fable 5 et Mythos 5, invoquant un problème de sécurité nationale non précisé. Anthropic a déclaré croire que la lettre était liée à un contournement des garde-corps du modèle, mais n’en était pas sûr car la lettre ne fournit pas de détails spécifiques. La lettre n’a pas été rendue publique.
En réponse, Anthropic a fermé ses deux modèles haut de gamme à tous ses clients pour s’assurer qu’ils respectaient la directive. Le résultat a été que le gouvernement américain a réussi à forcer une entreprise technologique à mettre hors ligne ses modèles grâce à une action rapide et unilatérale qui ne semblait pas nécessiter l’approbation d’un tribunal.
L’intervention de vendredi de l’administration Trump montre que l’industrie de l’IA n’est pas à l’abri de l’ingérence du gouvernement. C’est également un avertissement pour l’ensemble de l’industrie technologique : respectez-vous, sinon nous pouvons vous fermer, vous et vos produits.
Citant des sources, Axios a décrit une situation tendue ce week-end entre les deux principaux acteurs, affirmant que les « différences de personnalité » entre Anthropic et l’administration Trump ont conduit à la directive d’exportation, plutôt qu’à un problème technique avec les produits d’IA.
De nouveaux détails sur la question apparus au cours du week-end jettent désormais un doute supplémentaire sur le raisonnement déjà fragile du gouvernement.
Katie Moussouris, une vétéran de la cybersécurité et chercheuse qui a fondé Luta Security, a déclaré dans un article de blog qu’Anthropic avait récemment partagé avec elle une copie privée d’un article rédigé par des chercheurs en sécurité décrivant un prétendu contournement de garde-corps dans Fable 5. (Le Wall Street Journal rapporte que les auteurs du journal sont des chercheurs en sécurité chez Amazon.) Moussouris a déclaré qu’Anthropic lui avait demandé son avis sur le document.
Le billet de blog de Moussouris décrit comment les chercheurs ont déclenché le contournement du garde-corps, mais affirme que le contournement lui-même « n’aurait jamais dû déclencher un contrôle des exportations ». La différence réside en grande partie entre demander à un modèle d’IA de « réviser le code pour des problèmes de sécurité » et lui demander de « corriger ce code ». Le résultat final est en grande partie le même, même si les questions sont posées légèrement différemment.
« Le comportement décrit dans le document ne peut pas être corrigé de manière significative, et toute tentative ne ferait qu’affaiblir le modèle de défense », a déclaré Moussouris, qui a critiqué la directive sur le contrôle des exportations comme étant hâtive, brutale et peu judicieuse.
Moussouris et des dizaines d’autres chercheurs et experts en sécurité de haut niveau ont depuis appelé l’administration Trump à révoquer l’ordonnance de contrôle des exportations, qualifiant de « dangereuse » la décision de retirer les capacités avancées de cybersécurité des défenseurs des réseaux aux États-Unis.
Les administrations précédentes ont pris des décisions radicales concernant les lacunes en matière de connaissances. Par exemple, le langage utilisé par le gouvernement américain dans les années 2010 pour modifier la loi sur les exportations couvrant les outils de cybersécurité qui pourraient également être utilisés pour des cyberattaques était si large que, par inadvertance, il a presque interdit la recherche légitime sur la sécurité et la vulnérabilité.
Toutefois, la directive de l’administration Trump apparaît comme une mesure de représailles.
Justin Hendrix, rédacteur en chef de Tech Policy Press, a déclaré que la décision de l’administration Trump est « susceptible de sonner l’alarme dans les capitales étrangères quant à la fiabilité de l’IA américaine pour les applications critiques ». Le message est qu’on ne peut pas faire confiance aux sociétés d’IA aux États-Unis pour fonctionner sans l’ingérence du gouvernement américain.
L’administration Trump n’a pas confirmé pourquoi elle a invoqué sa directive sur le contrôle des exportations. Les fonctionnaires ont-ils mal lu le rapport et ont-ils paniqué ? Le PDG d’Amazon, Andy Jassy, a-t-il dit quelque chose aux hauts responsables du gouvernement qui a suscité une réaction, par prudence ou par méchanceté ? Quelque chose s’est-il perdu dans la traduction, ou s’agissait-il d’un moyen de faire pression sur Anthropic, avec qui l’administration entretient déjà des relations tendues ? Il est possible que la Maison Blanche n’ait pas été consciente des conséquences considérables de la demande de la lettre et que les responsables se démènent pour réparer les dégâts qu’ils ont eux-mêmes causés.
Pour citer Hendrix, « le climat est celui d’un nuage de suspicion selon lequel les hauts fonctionnaires choisissent leurs favoris en fonction de facteurs personnels et politiques ». La conséquence est que le gouvernement a créé un dangereux précédent quant au degré de contrôle qu’il entend exercer sur la publication de logiciels fabriqués aux États-Unis.
Cette fois, le gouvernement a contesté Anthropic ; demain, cela pourrait être avec n’importe qui d’autre.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
