La société d’IA Anthropic a déclaré qu’elle ne pouvait pas accepter la « meilleure et dernière » offre du Pentagone pour résoudre un différend sur les limites qu’il a imposées à la manière dont l’armée américaine utilise ses modèles d’IA. Le conflit est devenu encore plus grave à quelques heures seulement de la date limite de vendredi à laquelle Anthropic pourrait se voir interdire de faire des affaires avec des entreprises qui font des affaires avec l’armée américaine si elle ne se conforme pas aux exigences du Pentagone.
Les responsables du Pentagone ont publiquement remis en question le caractère du PDG d’Anthropic, Dario Amodei. Pendant ce temps, les employés des instituts d’IA concurrents ont signé une lettre ouverte soutenant la position d’Anthropic. Axios rapporte que le PDG d’OpenAI, Sam Altman, a déclaré jeudi aux employés dans une note qu’OpenAI, comme Anthropic, qui est en pourparlers pour étendre l’utilisation de ChatGPT, actuellement disponible pour l’armée pour des cas d’utilisation moins sensibles, à des zones plus sensibles, imposera des restrictions similaires sur les armes autonomes et la surveillance de masse.
La bataille entre l’humanité et le Pentagone menace désormais de dégénérer en une révolte à l’échelle de l’industrie parmi les travailleurs technologiques des entreprises d’IA sur la manière dont les systèmes d’IA qu’ils construisent sont utilisés dans l’armée. Jeudi, plus de 100 employés de Google ont envoyé une lettre à Jeff Dean, le scientifique en chef de l’entreprise, appelant à des restrictions similaires sur la manière dont l’armée américaine utilise le modèle d’IA Gemini de l’entreprise, selon le New York Times.
Amodei a publié jeudi une longue déclaration expliquant pourquoi la société estime qu’il devrait y avoir des limites à l’utilisation de sa technologie d’IA pour les armes autonomes et la surveillance de masse. Ce sont deux domaines dans lesquels Anthropic limite actuellement l’utilisation du modèle par les militaires, à la fois en termes de termes contractuels et dans les garanties qu’il a intégrées directement dans le modèle Claude. Le Pentagone souhaite qu’Anthropic accepte de lever ces restrictions et d’autoriser l’armée américaine à utiliser ses modèles « à des fins licites ».
Amodei a déclaré dans un communiqué que les systèmes Frontier AI ne sont « pas assez fiables pour alimenter des armes entièrement autonomes » et que, sans une surveillance appropriée, « nous ne pouvons pas faire confiance au jugement critique que nos forces spécialisées et hautement entraînées portent chaque jour ». En matière de surveillance, a-t-il soutenu, une IA puissante peut désormais rassembler des données publiques inoffensives telles que les enregistrements de localisation, l’historique de navigation et les connexions sociales pour créer une image complète de la vie des Américains dans leur ensemble.
Le sous-secrétaire américain à l’armée, Emile Michael, a qualifié Amodei de « menteur » avec un « complexe divin » et a accusé le PDG de vouloir « un contrôle personnel sur l’armée américaine » dans un article sur la plateforme de médias sociaux X. Dans un autre article, Michael a qualifié la Constitution Claude d’Anthropic, un document interne qui décrit les valeurs et les principes que l’entreprise intègre dans son IA, de complot d’entreprise visant à « imposer le droit des sociétés aux Américains ».
Le Pentagone a donné à Anthropic jusqu’à 17h01. Vendredi, il pourrait lever les restrictions contractuelles auxquelles il s’oppose, sinon le contrat de 200 millions de dollars avec l’armée américaine pourrait être annulé ou, dans des cas plus extrêmes, qualifié de « risque pour la chaîne d’approvisionnement », interdisant ainsi aux entreprises qui font des affaires avec l’armée d’utiliser la technologie d’Anthropic.
Ce type de mesure est généralement réservé aux adversaires étrangers tels que le chinois Huawei et la société russe de cybersécurité Kaspersky.
« Utiliser cela contre des entreprises nationales parce qu’elles ne veulent pas compromettre ce genre de principes est vraiment une escalade et sans précédent », a déclaré à Fortune Sean O’Hygiatai, directeur exécutif du Cambridge Center for Existential Risk Research.
Le ministère de l’Armée a également menacé d’invoquer la Loi sur la production de défense datant de la guerre froide, que le gouvernement considère comme essentielle à la sécurité nationale et l’utilise pour forcer Anthropic à remettre une version sans restriction du Claude. Si le Pentagone continue dans cette voie, il utilisera uniquement ses pouvoirs d’urgence pour résoudre les différends contractuels en temps de paix. Il existe un précédent à ce sujet. L’administration Biden a également invoqué la DPA en 2023 pour forcer les laboratoires d’IA frontaliers à transmettre des informations sur la sécurité de leurs modèles d’IA. Mais forcer les entreprises à produire des produits plutôt que de simplement fournir des informations équivaut plus à nationaliser les grandes entreprises technologiques.
« Lorsque les gens sont effectivement obligés d’autoriser l’utilisation de la technologie d’une manière à laquelle eux-mêmes disent qu’ils ne peuvent pas faire confiance dans une situation de vie ou de mort comme un champ de bataille, cela crée un précédent très dangereux », a déclaré Ó Heigiatai.
Le Département de l’Armée a déclaré publiquement qu’il n’avait pas l’intention de mener une surveillance de masse ou d’empêcher les humains de déterminer les cibles des armes, mais le différend pourrait dépendre de la manière dont l’une ou l’autre des parties définit réellement « l’autonomie » ou la « surveillance ». Les représentants du ministère n’ont pas immédiatement répondu à la demande de commentaires de Fortune.
Un porte-parole d’Anthropic a déclaré à Fortune que la société continue de « travailler de bonne foi » avec le ministère de l’Armée. Cependant, un porte-parole a déclaré que le texte du contrat reçu dans la nuit ne montrait « pratiquement aucun progrès » sur les questions fondamentales. Le nouveau langage, qui a été « conçu comme un compromis », a été « combiné avec un langage juridique qui permettait d’ignorer librement ces garanties », ont-ils déclaré. Amodei a déclaré que les menaces du ministère de l’Armée sont « intrinsèquement contradictoires », ajoutant : « Un côté nous qualifie de risque pour la sécurité nationale et l’autre qualifie Claude d’essentiel à la sécurité nationale ».
Anthropic a mérité les éloges de certains pour sa position résolue. Lawrence Lessig, professeur de droit à Harvard, a salué la déclaration de l’entreprise comme étant un « bel acte d’intégrité et de principe » et l’a qualifiée d’« incroyablement rare de nos jours ».
Les rivaux OpenAI et xAI ont conclu un contrat avec le Pentagone qui leur permet d’utiliser leurs modèles à des fins licites, et xAI va plus loin en acceptant également de déployer ses systèmes dans certains contextes classifiés. Mais plus de 330 employés actuels des laboratoires rivaux Google DeepMind et OpenAI ont également publié une lettre ouverte soutenant Anthropic et appelant leurs propres dirigeants à suivre l’exemple de l’entreprise. « Ils tentent de diviser chaque entreprise de peur que l’autre ne cède », indique la lettre. « Cette stratégie ne fonctionnera que si aucun d’entre nous ne connaît la position des autres pays. » Les signataires comprenaient des chercheurs chevronnés des deux sociétés, ainsi que des chercheurs anonymes et anonymes.
Ó Heigiatai a déclaré que les conséquences de ce débat pourraient s’étendre bien au-delà de l’anthropologie elle-même. « Si le ministère de la Défense avance sur cette question, cela créera un précédent qui n’est pas bon pour l’indépendance et la capacité de ces entreprises à respecter les normes éthiques », a-t-il déclaré.
