Lloyd Blankfein a passé des décennies chez Goldman Sachs à apprendre à gérer les risques à grande échelle. Il a vu l’entreprise traverser le krach de 1987, l’effondrement de la bulle Internet, la crise financière de 2008 et les réformes réglementaires d’après-crise qui ont remodelé Wall Street. Ainsi, lorsque le président principal et ancien PDG de Goldman se dit préoccupé par l’IA, cela vaut la peine de regarder de quoi il s’agit exactement.
Il ne s’agit pas de superintelligence ou d’armes autonomes. Il s’agit d’un problème plus banal et, à certains égards, plus effrayant.
Dans une nouvelle interview sur The A16z Show d’Andreessen Horowitz publiée lundi, Blankfein a déclaré que le problème avec l’IA n’est « pas parce qu’elle est plus intelligente que les humains et nous transforme en animaux de compagnie, mais parce que nous n’avons pas la capacité de tester si l’IA a raison ». Il a expliqué que lorsqu’on dirige une grande institution, on ne peut pas commettre d’erreurs et que les chiffres sont très importants.
Tout en faisant allusion aux progrès de la technologie, en particulier de l’IA, il a déclaré que « tout fonctionne en coulisses » et qu’il est impossible d’examiner de près les processus de réflexion de la technologie sur laquelle vous comptez. « Maintenant, si vous laissez le logiciel tranquille, (il) peut effectuer 70 000 transactions », a-t-il déclaré, expliquant que lorsqu’il a débuté dans la salle des marchés, tout le monde pouvait entendre chaque erreur, et même la plus petite gaffe faisait taire la salle.
Cette explication simple est peut-être la déclaration la plus précise à ce jour expliquant pourquoi Wall Street, malgré les milliards de dollars dépensés pour déployer l’IA dans les opérations de trading, de conformité et de back-office, est si réticente à confier les clés de ce qui compte réellement à des agents autonomes.
Le vrai risque est la rapidité avec laquelle on ne le néglige pas.
Le secteur financier a compris depuis longtemps que la vitesse crée un effet de levier, et que cet effet de levier va dans les deux sens. Les transactions au bon moment amplifient les profits. Les erreurs commises à la vitesse de la machine sur des milliers de positions avant l’intervention humaine amplifient tout aussi rapidement les pertes.
Ce que Blankfein décrit n’est pas une hypothèse. Le « crash éclair » de 2010, au cours duquel le trading algorithmique a temporairement effacé près de 1 000 milliards de dollars de valeur marchande en quelques minutes, a fourni un premier aperçu. Ce fut le cas lors de la catastrophe de Knight Capital en 2012, lorsqu’un problème logiciel a fait perdre à l’entreprise 440 millions de dollars en 45 minutes, détruisant ainsi l’entreprise. Les deux événements se sont produits plus d’une décennie avant la génération actuelle d’agents IA.
La nouvelle génération est plus rapide, plus autonome et capable d’enchaîner les décisions sans points de contrôle humains. L’analyse réalisée par Deloitte en mars 2026 sur la base de données MIT AI Risk a identifié plus de 350 risques distincts pouvant découler d’actions autonomes ou agents dans le seul secteur bancaire. Beaucoup d’entre eux ne sont pas pris en compte par les cadres existants. Les chercheurs de la société ont expliqué le mécanisme central contre lequel Blankfein avait mis en garde. Une seule illusion peut se répercuter sur les systèmes liés, les agents de routage des paiements peuvent mal affecter les fonds avant que les humains ne s’en aperçoivent, et les boucles d’agents récursives peuvent faire grimper les coûts du cloud à six chiffres avant que quiconque ne s’en aperçoive.
En décembre 2025, l’American Bankers Association a mis en garde contre la possibilité d’un « moment 737 Max », où une dépendance excessive à l’égard de l’automatisation entre en collision avec la confiance du public et la responsabilité réglementaire avant que des garde-fous ne soient en place.
Les chiffres derrière l’intuition
Les données soutiennent l’intuition de Blankfein avec des détails surprenants. Selon une enquête de Wakefield Research de janvier 2026, seuls 14 % des directeurs financiers font pleinement confiance à l’IA pour fournir de manière indépendante des données comptables précises, mais la majorité de ces mêmes entreprises utilisent déjà des outils d’IA. 97 % ont déclaré que la surveillance humaine reste importante pour garantir l’exactitude, et la plupart ont déclaré avoir déjà rencontré au moins un cas de sortie de l’IA hallucinante ou inexacte.
Le rapport 2025 du CFA Institute sur l’IA explicable en finance met en évidence les défis techniques. Les systèmes basés sur l’IA posent « des difficultés de surveillance causées par une transparence limitée des sources de données et de la logique décisionnelle ».
Une autre analyse LinkedIn de janvier 2026 était encore plus brutale. « Les superviseurs manquent de données cohérentes et détaillées sur où et comment l’IA est réellement utilisée », et les cadres existants de gestion des risques liés aux modèles « remettent en question la vérification, la surveillance et l’auditabilité traditionnelles ».
D’un autre côté, la mise en œuvre est en avance sur la gouvernance. Au premier trimestre 2026, 92 % des principales entreprises de technologie financière avaient intégré au moins un agent autonome dans leur production principale. C’est le même trimestre qui a vu la ruée vers la normalisation d’un « protocole de garde-fou » exigeant une authentification humaine pour les transactions supérieures à 1 million de dollars. De plus, une étude 2025 du MIT Technology Review Insights a révélé que 70 % des dirigeants bancaires d’entreprises utilisant déjà l’IA des agents ont déclaré que leurs cadres de gouvernance étaient très en retard par rapport au rythme d’adoption.
La prudence inhabituelle de Goldman
Blankfein a également souligné la façon dont Goldman a abordé les migrations de systèmes dans le passé, exécutant les anciens et les nouveaux systèmes côte à côte pendant des années avant de procéder à un changement complet. Il s’agit d’une discipline que la plupart des entreprises technologiques ne partagent pas, a-t-il noté, et qui est de plus en plus en contradiction avec la culture du « agir rapidement » qui définit la vague d’adoption de l’IA qui déferle sur le secteur financier.
La mise en garde implicite : les entreprises qui déploient les agents d’IA de la manière la plus agressive sont les moins susceptibles d’avoir testé ce qui se passe si ces agents se trompent.
Ce contraste est particulièrement important maintenant. Goldman a déployé des assistants IA pour l’ensemble de ses plus de 46 000 employés et a identifié six domaines d’activité « mûrs pour la transformation » dans sa dernière lettre aux actionnaires. JPMorgan a plus de 450 cas d’utilisation de l’IA en production et sa suite LLM est utilisée par 150 000 employés chaque semaine. Chez Citi, plus de 70 % de nos 182 000 employés utilisent des outils d’IA approuvés par l’entreprise.
Mais presque toutes les entreprises tracent la même ligne. L’exécution autonome au-dessus d’un certain seuil nécessite toujours l’approbation humaine. L’industrie s’empresse de déployer l’IA partout, sauf là où le problème des 70 000 transactions de Blankfein devient réellement une réalité.
« Nous devions toujours faire les choses deux fois », a déclaré Blankfein à propos de l’ancienne façon de travailler. « Pour y arriver, nous avons dû le faire 50 fois, et les 49 dernières fois ont été parfaites. » Cela signifie qu’il peut s’écouler beaucoup de temps avant qu’un agent IA puisse fonctionner correctement à chaque fois.
