Un avertissement du PDG d’Amazon, Andy Jassy, des inquiétudes concernant un accès non autorisé en provenance de Chine et des inquiétudes concernant la cybersécurité auraient tous conduit l’administration Trump à couper l’accès des étrangers au puissant nouveau modèle d’IA d’Anthropic, Fable 5.
Selon plusieurs médias, Jassy a fait part pour la première fois de ses inquiétudes concernant le modèle aux responsables gouvernementaux jeudi après que des chercheurs d’Amazon aient utilisé une série d’invites pour obliger le modèle de classe Mythos à fournir des informations sur les cyberattaques qui auraient dû être restreintes.
On ne sait pas si Amazon testait la vulnérabilité de Fable à la demande de la Maison Blanche ou si l’entreprise a effectué le test entièrement elle-même. Politico, citant des sources anonymes proches des discussions d’Amazon, a déclaré que le gouvernement avait demandé à Amazon des commentaires sur un nouveau modèle humain.
Un porte-parole d’Amazon avait précédemment déclaré à Fortune : « En tant que fournisseur de cloud leader au service de nombreux clients des secteurs privé et public, il n’est pas rare que les gouvernements nous demandent conseil sur les risques de sécurité potentiels. Nous ne partageons pas les détails de ces discussions lorsque des risques surviennent. »
Semaphore a également rapporté, citant des sources anonymes, que le gouvernement américain soupçonne que des groupes liés à la Chine profitent déjà du jailbreak découvert par Amazon. Cependant, le magazine a déclaré qu’il n’était pas clair comment le gouvernement était parvenu à ces soupçons ni quelles preuves il existait pour les étayer. Un porte-parole d’Anthropic a également déclaré à la publication que la Maison Blanche n’avait pas abordé l’accès des Chinois à Mythos dans ses conversations avec l’entreprise et qu’Anthropic interdisait l’accès à ses produits depuis la Chine.
Selon Politico, plusieurs appels ultérieurs ont eu lieu entre le PDG d’Anthropic, Dario Amodei, et des représentants du gouvernement, au cours desquels Amodei a affirmé que les solutions de sécurité découvertes par Amazon étaient étroites plutôt qu’un jailbreak complet du modèle.
Une source proche d’Anthropic a déclaré à Fortune que la société avait eu 90 minutes pour développer le dernier modèle et n’avait pas été informée à l’avance de toute menace à la sécurité nationale.
Pourtant, vendredi soir, le ministère du Commerce avait utilisé les contrôles d’exportation de sécurité nationale pour interdire à Anthropic de distribuer le Fable 5 et son modèle de base, le Mythos 5, aux étrangers. Cette catégorie comprend non seulement les personnes en dehors des États-Unis, mais également les non-citoyens travaillant dans le pays, y compris les employés d’Anthropic. Compte tenu de leur portée, AI Labs a déclaré qu’il n’avait d’autre choix que de désactiver les deux modèles pour tous les utilisateurs.
Une personne proche d’Anthropic a déclaré que des cadres techniques supérieurs se trouvaient actuellement à Washington, D.C., pour rencontrer des responsables de la Maison Blanche.
C’est la première fois que le gouvernement américain utilise le contrôle des exportations pour couper l’accès à des modèles commerciaux d’IA déjà largement utilisés par le public. Cette décision sans précédent a suscité l’inquiétude des politiciens du monde entier, poussant à l’idée que les pays devraient contrôler les modèles, les infrastructures et les données d’IA qui sous-tendent les technologies critiques, plutôt que de s’appuyer sur une IA souveraine, des systèmes qui pourraient être restreints ou révoqués par des gouvernements étrangers.
Les critiques décrivent les contrôles à l’exportation comme un excès de la part du gouvernement. Dean Ball, un expert en politique de l’IA qui a brièvement servi dans l’administration Trump, a déclaré à X qu’il ne savait pas si cette décision était « un acte juridique spécifiquement contre l’humanité ou un acte d’extrême autoritaire en matière de sécurité nationale », ajoutant qu’elle était « juste satirique ». Ben Murphy, chercheur associé à l’Institute for Progress, a déclaré que la directive marque « une nouvelle étape vers la fragmentation de la technologie » et a averti qu’elle pourrait empêcher les instituts d’IA d’être transparents avec les gouvernements sur leurs modèles d’IA à l’avenir.
La décision d’appliquer des contrôles à l’exportation pourrait également remodeler la façon dont les gouvernements gèrent plus largement les futures versions de l’IA, augmentant potentiellement la surveillance gouvernementale sur la manière dont les nouveaux modèles d’IA puissants sont déployés. Des responsables gouvernementaux ont déclaré à Axios que le gouvernement ne pensait pas que d’autres modèles sur le marché posaient un risque similaire pour la sécurité nationale, car ils ne dépassaient pas le niveau de capacité atteint par Mythos, et que les futurs modèles dépassant ce seuil devront passer un examen gouvernemental avant d’être commercialisés.
Cet épisode aggrave également une confrontation de plusieurs mois entre Anthropic et l’administration Trump, qui a désigné plus tôt cette année l’entreprise comme un « risque de chaîne d’approvisionnement » pour les sous-traitants du Pentagone après qu’Anthropic ait refusé d’accepter des termes contractuels qui permettraient à l’entreprise d’utiliser ses modèles à « toutes fins légales ». Antropic conteste cette désignation devant les tribunaux, invoquant des préoccupations concernant les armes autonomes et la surveillance nationale à grande échelle.
Intensification du conflit
Anthropic a déclaré vendredi dans un article de blog que même si les responsables américains de la sécurité nationale n’ont pas identifié de problèmes spécifiques, la société comprend qu’ils pensent que le gouvernement sait comment jailbreaker Fable 5.
Mais au cours du week-end, le conseiller en intelligence artificielle de la Maison Blanche, David Sachs, a proposé sa propre explication du conflit. Dans un article sur X, Sachs a déclaré que des partenaires hautement fiables, à la fois Anthropic et le gouvernement, avaient identifié le jailbreak du garde-corps de Fable 5 et que le gouvernement avait demandé à Amodei de résoudre le problème ou de retirer le modèle. M. Sachs a déclaré que M. Amodei avait refusé et que le gouvernement avait imposé à contrecœur des contrôles à l’exportation. Sachs a ajouté que le gouvernement espère qu’Anthropic pourra remédier à ses problèmes et que Fable pourra être rendu au public dès que possible, repoussant les suggestions selon lesquelles cette décision serait liée à de précédents différends au Pentagone.
Sachs était auparavant le tsar de l’IA et de la cryptographie de l’administration et s’est affronté à plusieurs reprises avec Anthropic au sujet de tactiques de cooptation réglementaire enracinées dans la peur des risques liés à l’IA.
Un haut responsable de la Maison Blanche a également déclaré à Politico que les restrictions à l’exportation étaient un dernier recours après que les autorités aient passé des heures à demander la coopération d’Anthropic. Le journal a également rapporté que le secrétaire au Trésor, Scott Bessent, avait directement déclaré à M. Amodei lors d’un appel téléphonique qu’il prenait la mauvaise décision.
Un signal d’alarme pour l’Europe
Les conséquences de cette décision ont eu un écho au-delà de Washington, suscitant des réactions de la part des politiciens du monde entier. La fermeture du gouvernement en Europe a relancé les appels en faveur de ce que les autorités appellent l’IA souveraine, l’idée selon laquelle les pays devraient contrôler les modèles d’IA, l’infrastructure informatique et les données qui alimentent les technologies critiques, plutôt que de s’appuyer sur des systèmes qui pourraient être restreints ou révoqués par des gouvernements étrangers.
L’ancien Premier ministre français Edouard Philippe a déclaré que l’épisode montrait que l’IA est désormais une infrastructure aussi importante que l’électricité ou Internet, et que l’infrastructure contrôlée par d’autres est une infrastructure dont d’autres peuvent se déconnecter. Bruno Letailault, candidat à l’élection présidentielle française de 2027, a déclaré que cette décision devrait servir de « sonnette d’alarme », arguant que les pays qui dépendent d’autres pays pour la technologie peuvent couper l’électricité du jour au lendemain.
Au Royaume-Uni, le député Al Kearns a déclaré que les hôpitaux, les entreprises et les chercheurs britanniques utilisaient Fable 5 avant même sa fermeture, et considéraient cet épisode comme faisant partie d’un schéma plus large de perte de leadership technologique. Tom Tugendhat, ancien ministre de la Sécurité et député britannique, a également critiqué l’approche réglementaire du Royaume-Uni qui donne la priorité à la sécurité plutôt qu’à la construction de capacités d’IA compétitives, arguant que l’incident a montré que la souveraineté réside désormais dans « le code plutôt que dans l’artillerie ».
Pour de nombreux responsables politiques, l’interdiction a révélé à quel point les gouvernements et les entreprises européens sont dépendants d’une poignée de laboratoires d’IA américains, et à quelle vitesse cette dépendance peut devenir un handicap politique si l’accès est coupé, même temporairement.
