La chef de cabinet de la Maison Blanche, Susie Wiles, interrogera le PDG d’Anthropic, Dario Amodei, sur le nouveau modèle Mythos de la société d’intelligence artificielle, qui attire l’attention du gouvernement fédéral sur la manière dont il peut transformer la sécurité nationale et l’économie.
Un responsable de la Maison Blanche, qui a requis l’anonymat pour discuter de la réunion prévue vendredi, a déclaré que l’administration travaillait avec des laboratoires d’IA avancés sur la sécurité des modèles et des logiciels. Le responsable a souligné que toute nouvelle technologie que le gouvernement fédéral pourrait utiliser nécessiterait une période d’évaluation technologique.
La réunion intervient après une escalade des tensions entre l’administration Trump et Anthropic, soucieux de sécurité, qui cherche à mettre des garde-fous au développement de l’IA afin de minimiser les risques potentiels et de maximiser les intérêts économiques et de sécurité nationale des États-Unis.
Le président Donald Trump a cherché à empêcher toutes les agences fédérales d’utiliser le chatbot Claude de l’entreprise en raison du différend contractuel entre l’entreprise et le ministère de la Défense. Trump a déclaré dans un message sur les réseaux sociaux en février que son administration « ne ferait plus jamais affaire avec eux !
Le secrétaire à la Défense Pete Hegseth a également cherché à déclarer Anthropic exposé au risque lié à la chaîne d’approvisionnement, une mesure sans précédent contre une entreprise américaine qu’Anthropic a contestée devant deux tribunaux fédéraux. La société a déclaré qu’elle souhaitait avoir l’assurance que le Pentagone n’utiliserait pas sa technologie pour des armes entièrement autonomes ou pour la surveillance des citoyens américains. Hegseth a déclaré que la société doit autoriser toute utilisation jugée légale par le ministère de la Défense.
En mars, la juge de district américaine Rita Lin a décidé de bloquer l’application de la directive du président Trump sur les médias sociaux qui ordonnait à toutes les agences fédérales de cesser d’utiliser les produits Anthropic.
M. Antropic a refusé de discuter de la réunion à l’avance.
Anthropic, basée à San Francisco, a déclaré que son nouveau modèle Mythos, annoncé le 7 avril, possède des « capacités si remarquables » qu’il peut surpasser les experts en cybersécurité humaine dans la recherche et l’exploitation des vulnérabilités informatiques, et a donc restreint son utilisation à certains clients.
Et tandis que certains experts du secteur se demandent si les affirmations d’Anthropic selon lesquelles la technologie de l’IA est maîtrisée étaient un stratagème marketing, certains des critiques les plus avisés de l’entreprise ont suggéré que Mythos représente une nouvelle avancée dans le domaine de l’IA.
David Sachs, un commentateur influent sur l’humanité et ancien tsar de l’IA et de la cryptographie à la Maison Blanche, a déclaré que les gens devraient « prendre cela au sérieux ».
« Chaque fois qu’Anthropic fait peur aux gens, il faut se demander : « Est-ce une tactique ? Est-ce que cela fait partie de leur routine Chicken Little ? Ou est-ce réel ? », a déclaré Sachs sur le podcast « All In », qu’il co-anime avec d’autres investisseurs technologiques. « En ce qui concerne la cybersécurité, je leur en attribue le mérite et je dis que c’est plutôt une question d’aspect pratique. »
« À mesure que nos modèles de codage deviennent plus performants, il va de soi que notre capacité à trouver des bogues augmente, ce qui signifie que nous augmentons notre capacité à trouver des vulnérabilités, ce qui signifie que nous augmentons notre capacité à regrouper plusieurs vulnérabilités pour créer des exploits », a déclaré Sachs.
Les avantages potentiels de ce modèle et ses risques retiennent également l’attention en dehors des États-Unis.
L’Institut britannique pour la sécurité de l’IA a déclaré avoir évalué le nouveau modèle et considéré qu’il constituait une « avancée » par rapport à son prédécesseur, qui s’améliorait déjà rapidement.
« Mythos Preview a le potentiel d’exploiter des systèmes présentant des niveaux de sécurité faibles, et d’autres modèles dotés de ces capacités pourraient être développés », a indiqué l’institut dans son rapport.
Le porte-parole de la Commission européenne, Thomas Renier, a déclaré vendredi qu’Anthropic discutait également de ses modèles d’IA avec l’Union européenne, y compris des modèles avancés qui n’ont pas encore été commercialisés en Europe.
Axios a d’abord signalé la rencontre prévue entre Wiles et Amodei.
En annonçant Mythos, Anthropic a également annoncé la création d’une initiative appelée Project Glasswing, réunissant des géants de la technologie comme Amazon, Apple, Google et Microsoft, et des sociétés comme JPMorgan Chase & Co., dans l’espoir de protéger les logiciels critiques du monde des impacts « significatifs » que le nouveau modèle pourrait avoir sur la sécurité publique, la sécurité nationale et l’économie.
« Nous communiquons ce document à certaines des entreprises et organisations les plus importantes au monde afin qu’elles puissent l’utiliser pour découvrir des vulnérabilités », a déclaré Jack Clark, co-fondateur et responsable politique d’Anthropic, lors de la conférence économique mondiale de Semafor cette semaine.
Clark a ajouté que même si Mythos est en avance sur son temps, ce n’est pas un « modèle spécial ».
« Dans les mois à venir, nous verrons des systèmes similaires proposés par d’autres sociétés, et dans un an à 18 mois, nous verrons des modèles ouverts en provenance de Chine dotés de ces fonctionnalités », a-t-il déclaré. Le monde devra donc se préparer aux systèmes plus puissants qui existeront en son sein. »
___
O’Brien a fait un rapport depuis Providence et Kelvin Chan, rédacteur commercial du RI AP, a contribué à ce rapport depuis Londres.
