Joseph Stiglitz affirme que l’IA ne changera pas seulement les emplois et les marchés, mais qu’elle corrompra également discrètement les informations sur lesquelles reposent les systèmes. Alors que les modèles linguistiques à grande échelle (LLM) collectent des commentaires sarcastiques sur Reddit et des voix marginales bruyantes sur les forums extrémistes, un lauréat du prix Nobel met en garde contre un monde où tout semble davantage axé sur les données, mais où les données sous-jacentes sont de plus en plus des « déchets ».
« Je pense qu’il y a d’autres problèmes plus profonds avec l’IA », a déclaré l’économiste à Fortune. « Nous n’avons pas seulement un problème avec le marché du travail… mais il y a un autre aspect de ce que j’appelle les externalités d’information. » Stiglitz le décrit simplement comme un « garbage in, garbage out » (GIGO).
Perdre son emploi n’est pas le seul risque. Il s’agit d’une boucle de rétroaction rompue entre la vérité et les systèmes que nous utilisons pour interpréter la réalité, des marchés de prédiction aux modèles financiers en passant par les débats politiques. Essentiellement, une IA est aussi intelligente que les informations qu’elle reçoit, donc si elle continue à collecter des informations inexactes, sa sortie sera tout aussi déformée que les informations qu’elle absorbe.
Selon lui, le modèle actuel repose sur le mauvais métier. En d’autres termes, alors que nous exploitons voracement le journalisme, la recherche et les discussions en ligne, nous sapons les institutions mêmes qui produisent des connaissances de qualité en premier lieu. Il craint que le résultat ne soit un monde dans lequel les gens sont guidés par une rhétorique en ligne perpétuée par l’IA plutôt que basée sur la réalité réelle.
L’IA « vole des informations » aux sources dont elle a besoin
Stiglitz vous remercie d’avoir lu cet article, même si le point de départ est simple. « L’IA vole essentiellement des informations dans les médias traditionnels, ce qui signifie que ces derniers n’ont ni les ressources ni les incitations nécessaires pour produire des informations », a-t-il déclaré. En effet, certaines sociétés d’IA financent certains types de journalisme. Par exemple, OpenAI a conclu un accord de contenu avec News Corp., propriétaire du Wall Street Journal.
Pourtant, selon Stiglitz, l’IA n’a ni l’intérêt ni la capacité de générer de nouvelles informations de haute qualité. « Et il existe un risque réel que l’ensemble de l’écosystème de l’information se détériore à cause de tout cela. »
Alors que les meilleures sources s’épuisent lentement en financement, les données de formation se tournent vers les plus riches et les moins chères, tandis que les formes les moins chères comme les fils de commentaires, les mèmes partisans et les contenus nécessitant peu d’effort prolifèrent. Cela signifie que les chatbots régurgiteront massivement ce qu’ils obtiennent des forums en ligne.
C’est la première fois que la soif de l’IA pour ce qui est en ligne pourrait se retourner contre elle. Il s’agit de cannibaliser les modèles économiques qui assurent le sérieux du travail et de modifier la combinaison de choses qui existent au départ pour être supprimées.
Entrée et rejet des déchets à l’échelle industrielle
Stiglitz a fait référence à l’écosystème de l’information dans son livre de 2024, « The Road to Freedom : Economics and the Good Society », et a fait référence au cliché GIGO. « Lorsque vous traitez et répandez des déchets, vous n’obtenez que des déchets. Les déchets entrent, les déchets sortent et deviennent GIGO. »
Le terme est peut-être ancien, mais Stiglitz dit qu’il est toujours d’actualité. Les systèmes d’IA sont efficaces pour traiter tout ce qu’on leur donne, mais ils sont moins aptes à faire la distinction entre la connaissance et le bruit. « Même si les nouvelles technologies ont le potentiel d’améliorer l’écosystème de l’information dans des domaines critiques, il existe un risque réel qu’elles aggravent la situation », a-t-il déclaré. Plus nous produisons de cochonneries – affirmations non vérifiées, complots, campagnes astroturf, commentaires médiocres – plus les cochonneries sont sophistiquées.
Il craint que les utilisateurs ne prennent sa sophistication pour de la vérité. « Ils penseraient qu’ils obtenaient des informations hautement traitées sans vraiment comprendre qu’ils traitaient des déchets », dit-il. « L’intelligence artificielle qui gère les déchets ne peut pas remplacer un seul bon document de recherche. »
Quand les anti-vaccins sont plus nombreux que les scientifiques
Ce risque n’est nulle part plus évident que dans les coins d’Internet où les opinions extrêmes sont souvent les plus fortes. Pensez à un forum de discussion communautaire typique sur un sujet particulier. Grâce à l’anonymat d’Internet, les utilisateurs sont invités à exprimer leur opinion sur les dernières décisions politiques et événements culturels. En conséquence, ces coins sont devenus des zones de désinformation plus répandues, avec peu ou pas de mention de la science qui démystifie cette désinformation. Les vaccins constituent une étude de cas parfaite, a déclaré Stiglitz.
« Les anti-vaccins sont beaucoup plus actifs sur Internet que ceux qui prétendent que les vaccins fonctionnent », a-t-il déclaré. Les scientifiques effectuent des tests, publient des articles solides et passent à l’étape suivante. Les théoriciens du complot inondent chaque jour les forums et les plateformes sociales.
« Il se peut donc qu’il y ait beaucoup plus d’articles de l’autre côté que des articles critiques disant : ‘Voici les résultats des essais vaccinaux qui montrent que cela fonctionne, et voici son efficacité' », a expliqué Stiglitz. « Les IA d’aujourd’hui ont-elles la capacité de dire qu’il suffit d’un seul article ? Ce n’est pas le cas. »
Pour les modèles formés à la fréquence brute et à l’engagement, les voix les plus fortes l’emportent. La soif d’informations de l’IA peut déformer la réalité en écartant une minorité enthousiaste au détriment d’une majorité prudente, en particulier dans les domaines où l’intérêt public dépend de la confiance dans une science lente et méthodique.
Prédiction du marché basée sur le manque d’informations
Dans un article de 1980 avec Sanford Grossman, Stiglitz affirmait qu’il existe un paradoxe au cœur des marchés efficaces. Si les prix reflétaient pleinement toutes les informations disponibles, personne ne serait incité à payer pour collecter ces informations, et les informations mêmes qui rendent les marchés « efficaces » disparaîtraient.
Il affirme que l’IA et les marchés modernes de prédiction reproduisent cette histoire à plus grande échelle. « Il est intéressant que vous ayez mentionné Grossman Stiglitz », a-t-il déclaré à Fortune. « J’ai écrit un article avec l’un de mes étudiants diplômés, Max Ventura, étendant Grossman-Stiglitz à l’IA. Les résultats que j’ai décrits plus tôt sur la façon dont les écosystèmes d’information peuvent se détériorer étaient en fait des références à cette extension. »
« Si nous n’obligeons pas les sociétés d’IA qui collectent des données auprès de Fortune et de tous les autres producteurs de médias à payer pour ce qu’elles obtiennent, elles n’obtiendront rien en retour, ce qui affaiblira l’incitation à mener des recherches fondamentales de haute qualité qui conduisent à un bon écosystème d’information. » Les marchés de prédiction et les algorithmes de trading s’appuient sur les résultats de ces modèles, séparant ainsi davantage les paris des investissements fondamentaux en vérité.
« L’incitation à produire des informations de haute qualité a été affaiblie et la capacité à produire des informations de mauvaise qualité a augmenté, de sorte que davantage de déchets entrent et davantage de déchets sortent », a-t-il déclaré. Les systèmes visant à regrouper les connaissances finissent plutôt par amplifier ce qui est le moins cher et le plus abondant.
L’IA comme accessoire, pas comme oracle
Malgré cela, Stiglitz ne croit pas que l’interdiction ou l’ignorance de l’IA soit la solution. Il utilise lui-même cet outil et essaie d’enseigner à ses élèves comment faire de même sans confondre réponses intelligentes et arguments solides.
« Nous essayons de leur apprendre à utiliser l’IA comme outil de recherche », a-t-il déclaré. « Donc, vous savez, nous n’allons pas nous éloigner de l’IA. J’utilise l’IA dans le cadre de mes recherches. L’IA est donc un excellent outil de recherche, mais elle ne remplace pas la réflexion, elle ne remplace pas l’analyse. «
« Cela vous aide à trouver des sources et à développer des idées », a-t-il ajouté. « Mais au final, il faut faire beaucoup d’efforts. » Pour lui, les résultats du modèle sont « une chose vraiment utile pour commencer à penser les choses un peu différemment », et non un verdict qui peut être accepté tel quel.
Il estime néanmoins qu’une certaine intervention est nécessaire au niveau gouvernemental pour éviter que l’information ne se détériore. Il a averti que « sans réglementation gouvernementale, il existe au moins un risque important que l’écosystème de l’information se détériore dans de nombreux domaines préoccupants ».
