L’intelligence artificielle est à la fois suffisamment intelligente et stupide pour que, si elle n’est pas contrôlée, elle puisse former de vastes cartels de prix dans les conditions des marchés financiers.
Un document de recherche de la Wharton School de l’Université de Pennsylvanie et de l’Université des sciences et technologies de Hong Kong, publié sur le site Web de l’Institut économique national plus tôt cette année, a révélé que lorsque des agents commerciaux basés sur l’IA étaient lancés sur des marchés simulés, les robots étaient de connivence entre eux pour manipuler les prix pour un profit collectif.
Dans cette étude, les chercheurs ont introduit un robot dans un modèle de marché, essentiellement un programme informatique conçu pour simuler les conditions réelles du marché et entraîner une IA à interpréter les données sur les prix du marché, où les teneurs de marché virtuels fixent les prix en fonction de diverses variables du modèle. Il peut y avoir différents niveaux de « bruit » sur ces marchés, qui font référence à la quantité d’informations contradictoires et aux fluctuations de prix dans différentes conditions de marché. Certains robots ont été formés pour se comporter comme des investisseurs particuliers, d’autres comme des hedge funds, mais les machines se sont livrées à un comportement de manipulation « extensive » des prix, souvent en refusant collectivement de négocier activement sans qu’on leur demande explicitement de le faire.
Dans un modèle algorithmique qui envisageait une stratégie déclenchée par les prix, l’agent IA négociait de manière prudente sur la base de signaux jusqu’à ce qu’un mouvement de marché suffisamment important déclenche une transaction très agressive. Le robot, formé par apprentissage par renforcement, était suffisamment sophistiqué pour comprendre implicitement que des transactions agressives généralisées pourraient accroître encore la volatilité du marché.
Dans un autre modèle, les robots IA ont été formés pour être trop impartiaux et internaliser le fait que si une transaction risquée avait un résultat négatif, ils ne devraient plus poursuivre cette stratégie. Les robots ont négocié de manière conservatrice et « arbitraire », agissant collectivement dans ce que l’étude appelle une « stupidité artificielle », même lorsque des échanges plus agressifs étaient considérés comme plus rentables.
« Les deux mécanismes convergent fondamentalement vers un modèle de comportement non agressif, et c’est bon pour eux à long terme », a déclaré à Fortune Itay Goldstein, co-auteur de l’étude et professeur de finance à Wharton.
Les régulateurs financiers s’efforcent depuis des années de lutter contre les pratiques anticoncurrentielles telles que le trucage des offres et la fixation des prix sur les marchés. Mais dans le secteur de la vente au détail, l’IA gagne du terrain, d’autant plus que les entreprises qui utilisent la tarification algorithmique font l’objet d’une surveillance accrue. Ce mois-ci, Instacart, qui utilise des outils de tarification basés sur l’IA, a annoncé la fin de son programme après que certains clients se soient retrouvés à recevoir des prix différents pour le même article sur la plateforme de la compagnie maritime. Ceci est basé sur une analyse de Consumer Reports qui a révélé dans une expérience qu’Instacart proposait près de 75 % de ses produits d’épicerie à des prix multiples.
« Pour la Securities and Exchange Commission et les régulateurs des marchés financiers, leur objectif principal est de maintenir ce type de stabilité, mais aussi d’assurer la compétitivité et l’efficacité du marché », a déclaré à Fortune Winston Wei Do, professeur de finance à Wharton et l’un des auteurs de l’étude.
Dans cette optique, Dou et deux collègues ont décidé de déterminer le comportement de l’IA sur les marchés financiers en plaçant des robots agents commerciaux sur divers marchés simulés en fonction de niveaux de « bruit » élevés ou faibles. En décidant collectivement et volontairement d’éviter tout comportement commercial agressif, les robots ont finalement obtenu un « avantage hyperconcurrentiel ».
« Ils croient simplement qu’un comportement commercial sous-optimal est optimal », explique Dou. « Mais nous avons constaté que si toutes les machines de l’environnement fonctionnent de manière « sous-optimale », tout le monde peut en bénéficier, car ils ne veulent pas profiter les uns des autres. «
En termes simples, les robots n’ont pas remis en question leur comportement commercial conservateur. Parce que les robots gagnaient tous de l’argent, ils ont cessé de se concurrencer et ont effectivement formé un cartel.
Préoccupations liées à l’IA dans les services financiers
Les outils d’IA pour les services financiers, tels que les robots d’agents commerciaux, deviennent de plus en plus attrayants car ils augmentent la participation des consommateurs aux marchés financiers et permettent aux investisseurs d’économiser du temps et de l’argent sur les services de conseil. Près d’un tiers des investisseurs américains ont déclaré qu’ils seraient à l’aise d’accepter les conseils de planification financière d’un outil alimenté par l’IA, selon une enquête réalisée en 2023 par le CFP Board, une organisation à but non lucratif de planification financière. Un rapport publié par la bourse de crypto-monnaie MEXC en juillet a révélé que sur ses 78 000 utilisateurs de la génération Z, 67 % de ses traders ont lancé au moins un robot de trading alimenté par l’IA au cours du dernier trimestre fiscal.
Mais si les agents commerciaux IA présentent des avantages, ils ne sont pas sans risques, a déclaré Michael Clements, directeur des marchés financiers et des communautés au Government Audit Office (GAO). Au-delà des problèmes de cybersécurité et des prises de décision potentiellement biaisées, ces robots de trading peuvent avoir un réel impact sur le marché.
« De nombreux modèles d’IA sont formés sur les mêmes données », a déclaré Clements à Fortune. « À mesure que la consolidation augmente au sein de l’IA et qu’il n’existe que quelques fournisseurs majeurs de ces plates-formes, un comportement grégaire peut se produire lorsqu’un grand nombre d’individus et d’entités achètent ou vendent en même temps, provoquant potentiellement des fluctuations de prix. »
Jonathan Hall, responsable externe du comité de politique monétaire de la Banque d’Angleterre, a averti l’année dernière que les robots IA pourraient encourager ce « comportement grégaire » qui pourrait affaiblir la résilience du marché. Il a plaidé pour que la technologie soit dotée d’un « coupe-circuit » et pour une surveillance humaine accrue.
Découvrir les lacunes réglementaires dans les outils de tarification de l’IA
Clements a expliqué que dans le passé, de nombreux régulateurs financiers ont pu appliquer des règles et des statuts établis à l’IA, affirmant par exemple que « les règles s’appliquent toujours de la même manière, que les décisions de prêt soient prises avec l’IA ou avec du papier et un crayon ».
Certaines agences, comme la SEC, choisissent de combattre le feu par le feu, en développant des outils d’IA pour détecter les activités commerciales anormales.
« D’un autre côté, il peut y avoir des environnements dans lesquels l’IA provoque des échanges anormaux », a déclaré Clements. « D’un autre côté, cela place également les régulateurs dans une position un peu plus grande pour pouvoir le détecter. »
Selon Dou et Goldstein, les régulateurs ont exprimé leur intérêt pour leurs recherches et les auteurs ont déclaré que l’étude contribue à mettre en évidence les lacunes réglementaires actuelles concernant l’IA dans les services financiers. Lorsque les régulateurs ont examiné des cas de collusion, ils ont recherché des preuves de communication entre individus, avec la conviction que les gens ne peuvent pas réellement maintenir un comportement de fixation des prix sans réagir les uns aux autres. Cependant, dans l’étude de Dou et Goldstein, les robots n’avaient aucune forme de communication claire.
« Pour les machines, si vous disposez d’un algorithme d’apprentissage par renforcement, ce n’est pas vraiment le cas, car il n’y a évidemment aucune communication ni coordination », explique Goldstein. « Nous les avons codés, nous les avons programmés, et nous savons exactement ce qui se passe dans le code. Et il n’y a rien là-dedans qui parle explicitement de collusion. Mais ils apprennent avec le temps que c’est la voie à suivre. »
La différence dans la façon dont les traders humains et les traders robots communiquent en coulisses est l’une des « questions les plus fondamentales » que les régulateurs peuvent apprendre à s’adapter à l’évolution rapide de la technologie de l’IA, a soutenu Goldstein.
Il a déclaré : « Si vous utilisez cela pour considérer la collusion comme quelque chose qui émerge à la suite de la communication et de la coordination, ce n’est clairement pas la façon de penser lorsqu’il s’agit d’algorithmes. »
Une version de cet article a été publiée sur Fortune.com le 1er août 2025.
