Qui devrait contrôler l’IA ? Les entreprises qui lancent des technologies puissantes sont-elles les arbitres de leur sort, ou ce pouvoir devrait-il reposer entre les mains des gouvernements ?
Palmer Lackey, fondateur de la société de défense Anduril, qui vise à moderniser l’armée américaine, estime que la réponse est simple : donner du pouvoir au gouvernement. Dans une récente interview accordée au New York Post, le fondateur milliardaire s’est prononcé sur le débat croissant sur la question de savoir qui décide de la manière dont les gouvernements utilisent l’IA.
Pour les milliardaires, c’est au gouvernement, au peuple, de décider de l’utilisation spécifique. Autrement, les entreprises technologiques pourraient mettre la démocratie en danger.
« Nous devons rester fermes sur notre position selon laquelle tout cela est entre les mains du peuple », a-t-il déclaré. « Quiconque dit que les entreprises de défense devraient aller au-delà de la loi et au-delà de ce que disent les législateurs et les dirigeants élus sur les personnes avec lesquelles elles veulent ou ne veulent pas travailler, dit en réalité qu’ils ne croient pas à cette expérience démocratique et qu’ils veulent une « politique d’entreprise ». »
« Dans les deux cas, peu importe à qui le gouvernement américain dit que vous pouvez vendre ou non, adopter une autre position… revient essentiellement à tomber davantage entre les mains des dirigeants d’entreprises qui contrôlent effectivement la politique étrangère américaine », a-t-il poursuivi.
L’idée de Lackey survient après que le PDG d’Anthropic, Dario Amodei, a refusé de permettre au Pentagone d’exploiter pleinement les systèmes d’IA de son entreprise pour alimenter des armes entièrement autonomes fonctionnant sans supervision collective ou humaine. En conséquence, le Pentagone a qualifié la société d’IA de « risque pour la chaîne d’approvisionnement », une désignation généralement réservée aux sociétés étrangères hostiles telles que la société chinoise Huawei. Amodei a déclaré que le label n’aurait pas d’impact significatif sur les activités de l’entreprise et a déclaré qu’il intenterait une action en justice pour faire révoquer la désignation. Néanmoins, l’entreprise continue de consulter le ministère de la Défense concernant son utilisation de modèles et d’outils d’IA.
Mais Amodei, ainsi que les fondateurs d’Anthropic, qui ont quitté OpenAI avec lui pour créer une entreprise affirmant donner la priorité à la sécurité dans l’IA, affirment que la demande du Pentagone dépasse les limites. « Ces menaces ne changent pas notre position. Nous ne pouvons pas, en toute bonne conscience, nous conformer à leurs demandes », a déclaré Amodei dans un communiqué de presse la semaine dernière.
Anthropic n’a pas immédiatement répondu à la demande de commentaires de Fortune.
Silicon Valley contre Washington
Le Pentagone et des gens comme Lackey ne pensent pas qu’il relève de la compétence des entrepreneurs privés de déterminer les cas d’utilisation, arguant plutôt que cela relève de la compétence du gouvernement. Peu de temps après l’effondrement de l’Accord sur l’humanité le mois dernier, OpenAI de Sam Altman a conclu un accord avec le ministère de la Défense qui lui permettrait d’utiliser les modèles et outils d’IA de la startup. La xAI d’Elon Musk a également conclu un accord pour permettre au ministère de la Défense d’utiliser son IA, ajoutant ainsi de la concurrence au partenariat autrefois exclusif d’Anthropic.
Anthropic n’est pas la première entreprise technologique à tenir tête au Pentagone. Comme Lackey l’a noté lors de l’interview, Google s’est retiré du projet Maven, qui comprenait l’analyse d’images de drones IA, en 2018 et s’est retiré du Pentagone après que des milliers d’employés ont protesté contre son implication dans le programme, craignant qu’il ne conduise à des armes autonomes.
« C’est un monde dans lequel les dirigeants de la Silicon Valley auraient plus d’autorité en matière de politique étrangère que le président des États-Unis », a déclaré Lackey. « C’est vraiment très dangereux. »
Pour Lackey, il s’agit de savoir si les décisions au plus haut niveau concernant l’utilisation de l’IA appartiennent à la Silicon Valley ou à Washington. Son point de vue est que les entreprises technologiques, et le secteur privé dans son ensemble, ont la responsabilité de se conformer aux décisions de politique étrangère de l’administration, quel que soit celui qui siège à la Maison Blanche.
Mais alors même que les tensions entre l’humanité et le Pentagone augmentent, Amodei a déclaré jeudi dans un communiqué de presse que les deux parties étaient capables de trouver un terrain d’entente. « Anthropic a plus de points communs avec le Département de l’Armée que de différences », a-t-il déclaré.
