Le gouvernement américain a ordonné vendredi à Anthropic de fermer immédiatement l’accès à deux de ses modèles d’IA les plus puissants – Claude Fable 5 et Claude Mythos 5 – invoquant des problèmes de sécurité nationale. Anthropic a annoncé sur X qu’il s’était conformé, mais le gouvernement a clairement indiqué qu’il pensait qu’il s’était trompé.
La directive, qu’Anthropic a déclaré avoir reçue vendredi à 17 h 21 HE, oblige l’entreprise à désactiver les deux modèles pour tous les utilisateurs du monde entier – et pas seulement pour les ressortissants étrangers auxquels l’ordonnance de contrôle des exportations du gouvernement était théoriquement destinée. L’accès aux autres modèles d’Anthropic n’est pas affecté.
Pourquoi tout cela est-il important ? Mythos est le modèle d’IA le plus performant d’Anthropic, un modèle que la société a présenté début avril et qui est resté étroitement restreint depuis en raison de ce qu’Anthropic a décrit comme sa capacité exceptionnelle à trouver des vulnérabilités de sécurité dans les logiciels. Selon Anthropic, Mythos a identifié des failles dans tous les principaux systèmes d’exploitation et navigateurs Web qu’il a testés. Ainsi, plutôt que de le diffuser à grande échelle, la société a lancé un programme contrôlé appelé Project Glasswing, le partageant avec environ 50 organisations contrôlées, dont Amazon, Apple, Google, Microsoft et CrowdStrike, pour l’utiliser à des fins défensives en matière de cybersécurité.
Fable 5, sorti il y a à peine trois jours, était la réponse d’Anthropic à la pression commerciale évidente : une version de Mythos équipée de garde-fous qui bloquent les réponses dans des domaines à haut risque comme la cybersécurité et la biologie, le rendant suffisamment sûr pour une diffusion générale, a fait valoir la société. Il s’agissait immédiatement du modèle d’IA le plus performant disponible au public, selon les tests de référence de Vals AI, une société qui suit les performances technologiques de l’IA.
La directive du gouvernement est conçue comme une mesure de contrôle des exportations, restreignant l’accès des ressortissants étrangers aux modèles. Mais dans un long article de blog, Anthropic dit comprendre que la préoccupation sous-jacente est un prétendu jailbreak de Fable 5. Jusqu’à présent, dit la société, le gouvernement n’a fourni que des preuves verbales d’un « jailbreak potentiel étroit et non universel » – qui, comme le décrit Anthropic, revient à inciter le modèle à lire une base de code spécifique et à identifier les failles logicielles. Et d’ailleurs, ajoute l’entreprise, il s’agit d’un « niveau de capacité » déjà largement disponible dans d’autres modèles accessibles au public, notamment le GPT-5.5 d’OpenAI. Il est également utilisé régulièrement par les professionnels de la cybersécurité à des fins défensives, observe Anthropic.
L’argument plus large d’Anthropic est que ses garanties les plus solides fonctionnent à travers des systèmes de classification indépendants qui fonctionnent séparément du modèle lui-même, ce qui signifie que même si quelqu’un convainc Fable de continuer à parler malgré un refus, les protections sous-jacentes contre les sorties les plus dangereuses restent en place. La société note également dans son article qu’un examen de l’utilisation récente n’a trouvé aucune preuve que ces garanties ont été contournées avec succès pour produire un contenu véritable et préjudiciable.
De toute évidence, rien de tout cela n’a suffi à empêcher le gouvernement d’agir, et Anthropic ne cache pas sa frustration. « Nous ne sommes pas d’accord sur le fait que la découverte d’un potentiel de jailbreak étroit devrait être une raison pour rappeler un modèle commercial déployé auprès de centaines de millions de personnes », a écrit la société. « Si cette norme était appliquée dans l’ensemble du secteur, nous pensons qu’elle mettrait fin à tous les déploiements de nouveaux modèles pour tous les fournisseurs de modèles frontières. »
On s’attend généralement à ce qu’Anthropic procède à une introduction en bourse cette année et a misé une grande partie de son identité publique sur le fait d’être l’alternative soucieuse de la sécurité par rapport à ses concurrents. L’ironie n’échappe pas aux observateurs : la prudence dont Anthropic a fait preuve en restreignant Mythos – qu’il présentait comme un modèle si dangereux qu’il ne pouvait pas être rendu public – a apparemment attiré exactement le genre d’examen gouvernemental qui pourrait perturber le plus ses activités.
Sam Altman d’OpenAI doit au moins apprécier cela. En avril, il a déclaré à la podcasteuse Ashlee Vance que la gestion de Mythos par Anthropic équivalait à un « marketing basé sur la peur ». « C’est clairement un marketing incroyable de dire : ‘Nous avons construit une bombe. Nous étions sur le point de la larguer sur votre tête. Nous vous vendrons un abri anti-bombes pour 100 millions de dollars' », a déclaré Altman. Altman, dont la société devrait également procéder à une introduction en bourse dès que possible, n’a pas prédit une fermeture du gouvernement, mais il a identifié quelque chose qui revient à mordre Anthropic pour le moment, à savoir que lorsque vous passez des mois à dire au monde que votre IA est particulièrement dangereuse, le monde – y compris le gouvernement américain – a tendance à écouter.
Lorsque vous achetez via des liens dans nos articles, nous pouvons gagner une petite commission. Cela n’affecte pas notre indépendance éditoriale.
