L’administration Trump a critiqué à plusieurs reprises les mesures de protection de l’IA en les qualifiant d’« IA éveillée ». Dans un discours enflammé à SpaceX en janvier, le secrétaire à la Défense Pete Hegseth a fustigé les systèmes d’IA pour leurs limites idéologiques. « L’IA du Département de la Guerre ne se réveillera pas », a-t-il déclaré. « Cela va fonctionner pour nous. Nous construisons des armes et des systèmes pour la guerre, pas des chatbots pour les salons des professeurs de l’Ivy League. »
Quelques jours seulement avant la date limite fixée par Hegseth pour abandonner les demandes apparemment éveillées d’Anthropic concernant des garanties pour la sécurité et l’utilisation non militaire de son IA, Anthropic a déclaré à Fortune qu’il « continue d’avoir un dialogue de bonne foi » avec le Pentagone.
Comme l’a vu l’Associated Press, Anthropic fait face à une date limite de 17h01. Vendredi, soit pour donner au Pentagone un accès illimité à sa technologie d’IA, soit pour être mis sur la liste noire de la chaîne d’approvisionnement militaire, a rapporté Axios.
Le conflit survient après des mois de négociations entre le Pentagone et Anthropic sur la manière dont l’armée peut utiliser l’IA de l’entreprise. Comme l’a rapporté Axios, Hegseth a averti que si Anthropic ne se conformait pas, le Pentagone pourrait classer l’entreprise comme un « risque de chaîne d’approvisionnement » (une désignation réservée aux sociétés étrangères hostiles telles que Huawei, basée en Chine) et forcer les sous-traitants militaires à rompre leurs liens avec Anthropic. Hegseth a également menacé d’invoquer le Defense Production Act, une loi promulguée par l’administration Trump pour encourager les entreprises à augmenter leur production de fournitures médicales pendant la pandémie de coronavirus, une menace qu’Hegseth aurait répétée mardi.
Un porte-parole d’Anthropic a ajouté que l’entreprise soutient les fonctions gouvernementales conformément aux principes de l’entreprise en matière d’IA responsable, déclarant : « Nous continuons à soutenir la mission de sécurité nationale du gouvernement conformément à ce que nos modèles peuvent faire de manière fiable et responsable. »
L’impasse s’est transformée en une guerre par procuration au milieu d’un débat plus large sur la question de savoir si les entreprises technologiques ou le gouvernement américain devraient dicter les conditions d’utilisation de l’IA. L’année dernière, le ministère de la Défense a attribué à Anthropic, aux côtés de Google, OpenAI et xAI, un contrat d’une valeur pouvant atteindre 200 millions de dollars. Jusqu’à récemment, Anthropic était la seule société d’IA autorisée à être utilisée par le ministère de la Défense, mais la société a adopté une ligne dure contre l’utilisation militaire de son IA, interdisant son utilisation dans des armes entièrement autonomes et dans la surveillance nationale. Mais xAI d’Elon Musk a conclu cette semaine un accord qui permettra au Pentagone d’utiliser son IA sur des systèmes sensibles, ajoutant ainsi de la concurrence au partenariat autrefois exclusif d’Anthropic.
Le Pentagone aurait utilisé le modèle d’IA d’Anthropic, Claude, dans le cadre du partenariat d’Anthropic avec Palantir, lors du raid américain au Venezuela qui a conduit à l’arrestation de l’ancien président vénézuélien Nicolas Maduro. Anthropic a ensuite contacté Palantir pour lui demander comment son IA avait été utilisée pendant l’opération, et Palantir en a ensuite informé le ministère de la Défense, selon The Hill.
Détendez vos efforts de sécurité
Mais Anthropic érode lentement son engagement strict en matière de sécurité. La société d’IA a publié mardi une version mise à jour de sa politique de mise à l’échelle responsable (RSP), publiée pour la première fois en septembre 2023, pour rester compétitive, affirmant que la nouvelle politique est une réponse à l’évolution des conditions du marché. « Alors que l’environnement politique évolue vers la priorité accordée à la compétitivité de l’IA et à la croissance économique, les discussions axées sur la sécurité n’ont pas encore gagné du terrain au niveau fédéral », indique l’annonce d’Antropic.
Dans une interview avec l’animateur de podcast Dwarkesh Patel, le PDG Dario Amodei a déclaré que l’entreprise était confrontée à des « pressions commerciales » et que des mesures de sécurité strictes limitaient sa capacité à rivaliser avec des concurrents opérant selon des règles moins strictes, ce qui suggère que l’entreprise pourrait assouplir ses efforts en matière de sécurité.
Jared Kaplan, directeur scientifique d’Anthropic, a déclaré dans une interview exclusive avec Time que les modifications apportées au RSP avaient été apportées pour des raisons de sécurité et non de concurrence. « Nous avons estimé qu’arrêter la formation du modèle d’IA n’aidait réellement personne », a déclaré Kaplan. « Avec les progrès rapides de l’IA, nous n’avons pas vraiment pensé qu’il était logique de prendre des engagements unilatéraux alors que nos concurrents étaient en avance sur nous. »
