Sam Altman a déclaré aux employés d’OpenAI lors d’une réunion à tous vendredi après-midi que l’entreprise pourrait parvenir à un accord avec le département américain de l’armée pour utiliser ses modèles et outils d’IA, selon les personnes ayant assisté à la réunion et un résumé de la réunion examiné par Fortune. Le contrat n’a pas encore été signé.
La réunion a eu lieu à la fin d’une semaine au cours de laquelle un conflit entre le secrétaire de l’Armée Pete Hegseth et le rival d’OpenAI, Anthropic, s’est soldé par un violent affrontement public et par la résiliation apparente des contrats d’Anthropic avec le ministère de la Défense et le gouvernement fédéral en général.
Altman a déclaré que le gouvernement était prêt à laisser OpenAI construire sa propre « pile de sécurité » (c’est-à-dire un système multicouche de technologie, de politique et de contrôles humains qui se situe entre de puissants modèles d’IA et une utilisation dans le monde réel), et que le gouvernement ne forcerait pas OpenAI à effectuer une tâche si le modèle refuse de le faire.
OpenAI conserve le contrôle sur la manière dont les protections techniques sont mises en œuvre, sur les modèles qui sont déployés où, et limite le déploiement aux environnements cloud plutôt qu’aux « systèmes de périphérie ». (Dans un contexte militaire, les systèmes de pointe peuvent inclure des avions et des drones.) Altman a déclaré aux employés que le gouvernement avait exprimé son intention d’inclure des « lignes rouges » spécifiées par OpenAI dans le contrat, comme ne pas utiliser l’IA pour alimenter des armes autonomes, ne pas mener de surveillance nationale de masse et ne pas prendre de décisions majeures. Ce serait une concession majeure.
OpenAI et le Département de l’Armée n’ont pas répondu aux demandes de commentaires.
Sasha Baker, directrice de la politique de sécurité nationale chez OpenAI, et Katrina Mulligan, responsable de la sécurité nationale chez OpenAI for Government, se sont également adressées à l’ensemble du public d’OpenAI, selon des personnes proches du dossier. L’un d’eux a déclaré que la relation entre Anthropic et le gouvernement s’était rompue parce que le PDG et co-fondateur d’Anthropic, Dario Amodei, avait mis en colère les dirigeants du Département de l’Armée, notamment en publiant des articles de blog qui « ont rendu furieux le Département de l’Armée ».
Anthropic, une société fondée par des personnes qui ont quitté OpenAI en raison de problèmes de sécurité, était le seul grand fabricant commercial d’IA à disposer d’un modèle approuvé pour une utilisation par le ministère de la Défense, dans le cadre de déploiements réalisés dans le cadre d’un partenariat avec Palantir. Mais la direction d’Anthropic et le ministère de la Défense sont enfermés depuis plusieurs jours dans un différend sur les limites qu’Anthropic veut imposer à l’utilisation de sa technologie. Ces limites sont essentiellement les mêmes que celles que Altman a déclaré que le ministère de la Défense respecterait lors de l’utilisation de la technologie OpenAI.
Anthropic avait rejeté une demande du Pentagone visant à lever les garanties du modèle Claude qui limitent l’utilisation d’éléments tels que la surveillance de masse nationale et les armes entièrement autonomes, malgré le fait que les responsables de la défense ont insisté sur le fait que le modèle d’IA doit être disponible à « toutes fins légales ». Le Pentagone, y compris le secrétaire de l’Armée Pete Hegseth, avait averti Anthropic qu’il pourrait perdre jusqu’à 200 millions de dollars de contrats s’il ne se conformait pas. Altman a précédemment déclaré qu’OpenAI partageait les « lignes rouges » d’Anthropic concernant les restrictions sur certaines utilisations militaires de l’IA, et a souligné que même si OpenAI négocie avec le gouvernement américain, il est confronté aux mêmes tensions fondamentales qui se jouent actuellement ouvertement entre Anthropic et le ministère de la Défense.
La décision totale d’OpenAI intervient peu de temps après que le président Trump a annoncé que le gouvernement fédéral mettrait fin à sa coopération avec Anthropic, dans un contexte d’escalade dramatique du conflit entre le gouvernement et l’entreprise au sujet de ses modèles d’IA.
« J’ordonne à toutes les agences fédérales du gouvernement des États-Unis de cesser immédiatement d’utiliser la technologie d’Anthropic. Nous n’en avons pas besoin. Nous n’en voulons pas. Nous ne ferons plus jamais affaire avec elles ! » » Trump a déclaré dans un article sur Truth Social. Le ministère de l’Armée et les autres agences utilisant le modèle Claude d’Anthropic bénéficieront d’une période de suppression progressive de six mois, a-t-il déclaré.
Des sources ont déclaré que le personnel avait été informé lors de la réunion générale d’OpenAI que l’aspect le plus difficile pour s’entendre sur le leadership était les préoccupations concernant la surveillance étrangère, avec des inquiétudes importantes quant au fait que la surveillance basée sur l’IA pourrait menacer la démocratie. Mais les chefs d’entreprise semblent également reconnaître la réalité selon laquelle les gouvernements espionnent leurs adversaires à l’échelle internationale, reconnaissant l’argument selon lequel les responsables de la sécurité nationale « ne peuvent pas faire leur travail » sans capacités de surveillance internationale. Il a été fait référence à des rapports de renseignement sur les menaces montrant que la Chine utilise déjà des modèles d’IA pour cibler les dissidents à l’étranger.
