Une autre société, Palantir, est au centre d’une querelle en cours entre Anthropic, société d’intelligence artificielle de la Silicon Valley, et le ministère américain de la Défense, sur la question de savoir si l’armée devrait ou non utiliser les modèles linguistiques à grande échelle d’Anthropic.
Palantir, une plateforme d’analyse de données et d’intelligence artificielle basée à Miami, est le principal fournisseur de logiciels du ministère de la Défense et le principal canal par lequel le département utilise le modèle linguistique à grande échelle d’Anthropic, Claude.
« Nous sommes toujours légalement au milieu de cela », a déclaré jeudi le PDG Alex Karp à Fortune dans une interview en marge de la conférence semestrielle AIP de l’entreprise. « C’est notre stack qui gère le LLM. »
Karp a déclaré qu’il avait eu plusieurs conversations avec toutes les personnes impliquées, mais a refusé de fournir des détails sur ces discussions, affirmant qu’il ne voulait pas « diffuser la conversation » ou « dénigrer les gens ».
Mais Karp tient à préciser une chose. Le ministère de la Défense n’utilise pas l’IA pour la surveillance de masse des citoyens américains et, à sa connaissance, il n’a pas l’intention de le faire.
« Nous n’avons fait aucun commentaire sur le dialogue interne, mais nous n’avons jamais pensé que ces produits seraient utilisés au niveau national », a déclaré Karp. « Le Département de l’Armée n’a pas l’intention d’utiliser ces produits au niveau national. C’est une toute autre paire de manches… Les exigences recherchées par le Département de l’Armée sont entièrement axées sur les ressortissants non américains en situation de guerre. »
Palantir réalise d’énormes affaires pour le gouvernement américain, y compris le ministère de la Défense. Anthropic s’est associé à Palantir en 2024 pour fournir une technologie d’IA au ministère de la Défense via Palantir. Anthropic a commencé à travailler directement avec le ministère de la Défense l’année dernière pour créer une version de sa technologie conçue pour l’agence.
Le différend entre Anthropic et le ministère de la Défense dure depuis janvier, mais les deux parties ne sont pas d’accord sur ce qui l’a déclenché. Une déclaration d’Emile Michael, sous-secrétaire à la Défense pour la recherche et la technologie, affirme la semaine dernière que Palantir a informé le Pentagone qu’il enquêtait pour savoir si un modèle anthropique avait été utilisé dans la mission militaire américaine visant à capturer le président vénézuélien Nicolas Maduro. (Anthropic a contesté cette qualification, affirmant qu’elle n’avait pas discuté de l’utilisation de Claude pour des opérations spécifiques « avec des partenaires industriels, y compris Palantir, autres que des discussions de routine sur des questions strictement techniques. ») Depuis lors, les deux parties se disputent pour savoir si Anthropic peut imposer des restrictions contractuelles sur la manière dont le modèle peut être utilisé.
Le PDG d’Anthropic, Dario Amodei, a publié plusieurs articles de blog sur la question, y compris une première déclaration fin février alléguant que le Pentagone avait refusé d’accepter des garanties selon lesquelles le LLM ne serait pas utilisé pour la surveillance de masse nationale ou le déploiement d’armes entièrement autonomes. Le secrétaire à la Défense Pete Hegseth a ensuite désigné Anthropic comme un « risque pour la chaîne d’approvisionnement », menaçant de nombreuses relations commerciales de l’entreprise et incitant Anthropic à poursuivre le ministère de la Défense en justice pour cette désignation.
« Tout à fait d’accord » avec les conditions du contrat national
Palantir, qui a reçu un financement précoce de la branche capital-risque de la CIA et dont le logiciel a été utilisé dans des opérations antiterroristes à l’étranger, est accusé depuis longtemps d’aider le gouvernement et les agences de renseignement à espionner des civils et des suspects nationaux potentiels. Karp a réfuté ces affirmations à plusieurs reprises pendant plus d’une décennie et a parlé de l’importance de mettre en place des garde-fous technologiques autour des technologies qui pourraient être utilisées pour la surveillance intérieure aux États-Unis. Dès le début, Palantir a créé une équipe de protection de la vie privée et des libertés civiles, un groupe interdisciplinaire d’ingénieurs, d’avocats, de philosophes et de spécialistes des sciences sociales, chargé d’intégrer des fonctionnalités de protection de la vie privée dans ses produits et de promouvoir une culture d’utilisation responsable. L’équipe a aidé à mettre en place des canaux internes, notamment une ligne d’assistance téléphonique en matière d’éthique, permettant aux employés de signaler les travaux qui, selon eux, vont à l’encontre des lignes éthiques.
Mais les groupes de défense des droits civiques continuent d’accuser l’entreprise de faire le contraire : coopérer avec la surveillance gouvernementale. En particulier, les relations de l’entreprise avec les services d’immigration et de douane des États-Unis, qui ont débuté sous l’administration Obama, ont suscité un examen minutieux et des critiques de la part de critiques extérieurs et des propres employés de l’entreprise, et les critiques ne se sont intensifiées qu’au cours de l’année écoulée alors que l’administration Trump a poussé l’ICE à sévir de manière agressive contre des villes comme Minneapolis.
Karp a déclaré à Fortune qu’il était « très sensible aux arguments contre l’utilisation de ces produits aux États-Unis » et qu’il était « totalement en faveur » des conditions d’engagement et des limites imposées à la manière dont les agences nationales utilisent l’intelligence artificielle.
« Franchement, je pense que nous devrions les imposer volontairement », a déclaré Karp à propos de ces conditions d’engagement. « La Vallée devrait avoir un consortium. C’est ce que nous allons faire et c’est ce que nous n’allons pas faire », a-t-il déclaré.
Mais Karp a établi une distinction claire entre la question de savoir si les entreprises technologiques devraient établir des conditions avec les institutions nationales et si elles devraient définir des conditions avec le ministère de la Défense, qui se concentre principalement sur la gestion des relations des États-Unis avec d’autres pays et adversaires.
« Ce dont nous parlons en ce moment, c’est d’utiliser le produit contre quelqu’un qui va tuer un militaire », a déclaré Karp, qui a déclaré qu’il soutenait personnellement une « large licence » d’utilisation, en particulier pour le ministère de la Défense.
« Si je savais que la Chine, la Russie et l’Iran n’allaient pas le construire, je serais favorable à des contraintes juridiques très strictes », a déclaré Karp. Mais il souligne que les adversaires de l’Amérique les produiront de toute façon et les utiliseront contre les États-Unis. « Je ne pense pas que ce soit une opinion. Je pense que c’est un fait. Ce fait signifie que je pense que le ministère de l’Armée devrait avoir une large licence pour utiliser ces produits. »
