Peter Thiel a déclaré sans ambages en 2024 : « L’IA semble être bien pire pour les mathématiciens que pour les humains. » Il ne s’attendait pas à ce que deux ans plus tard, le co-fondateur et PDG de Palantir, Alex Karp, utilise un langage fleuri évident pour décrire des personnes qu’il pensait stupides.
« Si la Silicon Valley croit que nous allons supprimer les emplois de cols blancs de tout le monde… et que nous allons ruiner l’armée, si vous ne pensez pas que cela nationalisera notre technologie, vous êtes attardé », a déclaré Karp lors d’un discours au sommet américain sur le dynamisme A16Z. « Vous avez un QI de 160, vous êtes donc peut-être particulièrement retardé. »
Karp commentait un sujet qui prend d’assaut le monde de l’IA : la manière dont les entreprises d’IA devraient travailler avec les gouvernements. Un examen plus attentif explique pourquoi la lutte entre le ministère de la Défense et deux sociétés très distinctes (Anthropic et OpenAI) a provoqué le mécontentement de M. Karp.
Katherine Boyle, associée générale chez a16z, a animé une séance en petits groupes intitulée « L’IA dans la défense occidentale ».
« Si la Silicon Valley essaie de supprimer tous les emplois de cols blancs, et par là j’entends les gens majoritairement démocrates avec lesquels vous avez grandi, les personnes très instruites qui ont fréquenté des écoles d’élite ou des écoles proches des écoles d’élite d’un parti politique », a déclaré Karp, il poursuivrait l’armée en justice. Si vous ne pensez pas que cela mènera à la nationalisation de notre technologie, vous êtes attardés. »
Oups. Alors qu’est-ce qui tracasse M. Karp ?
Pourquoi c’est choquant pour Palantir
M. Karp aurait pu choisir des mots moins offensants pour faire passer son message, mais il touchait une corde sensible – une touche profondément personnelle à Palantir. « Nous ne pouvons pas avoir une technologie qui va supprimer les emplois de tout le monde en même temps et être considérée comme portant atteinte à l’armée », a-t-il déclaré. Pour Palantir, cette tension n’est pas abstraite. Il s’agit très probablement d’une véritable crise opérationnelle.
Des entreprises comme Anthropic, OpenAI, Google et xAI ont toutes des contrats avec le ministère de la Défense qui imposent des restrictions quant à la possibilité pour chaque entreprise d’utiliser sa technologie dans des environnements susceptibles de violer ses conditions de service. Le ministère de la Défense négocie avec les sociétés d’IA pour supprimer ces restrictions et autoriser à la place l’utilisation de la technologie à « toutes fins légales ». Karp a peu de patience envers les entreprises qui considèrent ces exigences comme des lignes rouges morales.
« Il y a une différence entre l’armée américaine et la surveillance », a-t-il déclaré lors du sommet. « Malgré ce que tout le monde pense, Palantir est une société anti-surveillance », a-t-il déclaré, repoussant les affirmations selon lesquelles la société, nommée d’après le dispositif de surveillance omnidirectionnel du « Seigneur des Anneaux », se consacre principalement à la surveillance. Tout expert en technologie sait que cela est vrai, mais Karp a soutenu que les proverbiaux « gars en ligne » se sont tout simplement trompés. « Alors je finis par participer à toutes les conversations dont je ne veux pas faire partie. »
Le PDG d’Anthropic, Dario Amodei, a déclaré qu’il ne pouvait pas soutenir la clause « à toutes fins légales » « en bonne conscience ». Puis, après avoir attaqué Anthropic en le menaçant d’être considéré comme un risque pour la chaîne d’approvisionnement militaire, le gouvernement a signé un contrat avec OpenAI pour utiliser ses outils sur des missions classifiées. (Anthropic serait de nouveau en pourparlers avec le Pentagone, qui a reconnu que Claude Opus d’Anthropic était la clé des préparatifs militaires américains et israéliens en vue de l’attaque historique contre l’Iran).
Pour Palantir, cette série d’événements n’est pas une abstraction, mais une menace opérationnelle directe. La plate-forme IA (AIP) phare de Palantir repose sur l’intégration des meilleurs modèles de frontière dans les flux de travail de défense et de renseignement. Claude Opus est l’un des modèles les plus performants, loué pour la profondeur et la fiabilité de son raisonnement dans des environnements à enjeux élevés. Si Anthropic était mis sur la liste noire des risques liés à la chaîne d’approvisionnement militaire, ou si les conditions de service interdisaient effectivement Palantir des contextes sensibles dans lesquels il opère, Palantir perdrait l’accès à l’un de ses moteurs d’IA les plus puissants. Contraintes de se reconvertir autour de modèles alternatifs à mi-parcours de l’accord, il s’agit d’une perturbation coûteuse et de réputation pour les entreprises dont la promesse de marque est une fiabilité essentielle à leur mission.
« Encore une fois, il y a beaucoup de problèmes nuancés derrière le rideau », a reconnu Karp. « J’ai été très impliqué dans les nuances de ce que vous pouvez déployer et où vous pouvez le déployer. »
Image globale de l’économie
Selon Karp, les enjeux vont bien au-delà de tout contrat du Pentagone ou de toute décision politique d’une seule entreprise. « Le danger pour notre industrie est que nous ayons le fameux effet de fer à cheval où les gens ne s’accordent que sur une chose, à savoir que cela ne paiera pas et que les gens de notre industrie devraient être nationalisés », a-t-il prévenu.
Selon Karp, si les entreprises d’IA suppriment les moyens de subsistance des cols blancs tout en leur refusant le service militaire, une convergence du populisme de gauche comme de droite vers la technologie devient inévitable. On lui a encore une fois fait remarquer qui étaient ces travailleurs. « C’est principalement avec les démocrates que vous grandissez, les gens très instruits qui ont fréquenté les écoles d’élite ou quasi-élite d’un parti politique. »
Ces préoccupations se matérialisent déjà à l’échelle économique, conférant un sentiment d’urgence à l’argument de Karp. Les experts ont mis en garde contre un scénario catastrophe imminent pour l’IA, dans lequel la durée de vie des cols blancs prendrait fin, un facteur déstabilisateur qui mettrait la plupart des travailleurs au chômage. Ce ne sont pas seulement des idées qui provoquent la panique. Ils ont des conséquences concrètes, comme l’essai viral de Citrini Research qui a provoqué un bouleversement du marché de masse.
Selon Karp, les gouvernements ne permettront pas aux sociétés d’IA d’accumuler le pouvoir qu’elles détiennent déjà et de continuer à fonctionner avec des capacités d’autorégulation et de surveillance non gouvernementales, et encore moins de renvoyer les conditions d’utilisation au gouvernement. « C’est là que le chemin continue », dit-il simplement. La seule façon pour des entreprises comme Palantir de conserver leur statut, leurs contrats et leur accès aux modèles d’IA frontaliers qui alimentent leurs plateformes est de se conformer aux réglementations gouvernementales lorsque cela est nécessaire. Pour Palantir, perdre une place à la table ne signifie pas seulement une mauvaise optique. Cela signifie perdre l’apport technologique qui fait fonctionner le produit principal.
Ce serait un revirement spectaculaire pour une entreprise qui, il y a à peine un mois, a réalisé ce que Karp a appelé « l’une des réalisations véritablement emblématiques de l’histoire de la performance et de la technologie des entreprises » dans les derniers résultats trimestriels de Palantir.
