L’âge d’or représentait une immense concentration du pouvoir des entreprises, lorsque des géants industriels comme Cornelius Vanderbilt amassent tellement de pouvoir qu’ils pouvaient littéralement contrôler le temps lui-même. Le 18 novembre 1883 est devenu connu sous le nom de « Deux jours de midi » parce que les compagnies de chemin de fer américaines et canadiennes ont créé quatre fuseaux horaires différents à travers l’Amérique du Nord pour remplacer les fuseaux horaires chaotiques du continent, et de nombreuses horloges ont sonné midi deux fois.
Il existe désormais un nouveau type de concentration à l’ère de l’IA, et même certains architectes de l’IA, dont le PDG d’Anthropic, Dario Amodei, se disent profondément perturbés par la rapidité et le hasard de la concentration de ce pouvoir.
Dans une interview avec l’animateur et investisseur indien Nikhil Kamath sur le podcast WTF Is, Amodei a déclaré qu’une partie de la raison pour laquelle certaines sociétés d’IA ont accumulé autant de pouvoir est due au pur hasard.
« Il y a un certain caractère aléatoire dans la façon dont un petit nombre de personnes finissent par diriger une entreprise à croissance aussi rapide, et il semble que cela va être le moteur d’une grande partie de l’économie dans un avenir proche », a déclaré Amodei.
Il a ensuite exprimé son inquiétude quant à son pouvoir. « Je ne suis pas la première personne à dire publiquement que je suis au moins quelque peu mal à l’aise face au degré de concentration du pouvoir qui a lieu ici », a-t-il déclaré. « Je pense que c’est arrivé presque du jour au lendemain, presque par accident. »
Amodei exprime depuis longtemps ses inquiétudes concernant la concentration du pouvoir dans un contexte de développement rapide de l’IA. En janvier, le PDG a publié un essai de 20 000 mots intitulé « L’adolescence technologique », mettant en garde contre les dangers d’un système qui permet à quelques puissants d’amasser « des milliards de dollars de richesse personnelle » et de leur donner une énorme influence politique. Dans son essai, Amodei a déclaré que lui et les six cofondateurs d’Anthropic s’étaient engagés à donner 80 % de leur richesse en raison des inquiétudes quant à l’impact de la concentration des richesses sur la société.
Une poignée d’instituts de recherche sur l’IA aux États-Unis et en Chine dominent actuellement le développement de l’IA, à tel point que les annonces concernant les avancées des modèles provoquent des secousses sur le marché boursier. Plus tôt ce mois-ci, Anthropic a publié Claude Cowork, qui comprend des plugins spécifiques pour des secteurs comme la vente et la finance. Cette publication a déclenché une chute des stocks de logiciels valant plusieurs milliards de dollars, les investisseurs spéculant que les nouvelles technologies rendraient obsolètes les logiciels en tant que service.
Selon un rapport du Financial Times, les investissements record dans l’IA ajouteront environ 550 milliards de dollars à la valeur nette des milliardaires américains de la technologie d’ici 2025, à mesure que les riches accumuleront des richesses. L’année dernière, les actionnaires de Tesla ont approuvé un programme de rémunération stupéfiant de 1 000 milliards de dollars pour le PDG Elon Musk, le plaçant ainsi sur la bonne voie pour devenir le premier milliardaire de l’entreprise.
Un tsunami IA à l’horizon
Amodei a déclaré qu’il pensait que les progrès de l’IA étaient sur le point de s’accélérer et a comparé son impact croissant à une vague entrante.
« C’est comme si un tsunami arrivait vers nous », a déclaré Amodei. « C’est si proche qu’on peut voir au-delà de l’horizon. »
L’humanité fait partie du mouvement tectonique qui a donné naissance à cette énorme vague. En plus des plug-ins destinés aux ventes et aux finances, la société a lancé mardi plusieurs autres produits d’entreprise conçus pour les ressources humaines et la banque d’investissement.
Pourtant, Amodei prévient que de nombreuses personnes ignorent la réalité des capacités révolutionnaires de l’IA.
« Les gens proposent des explications telles que : ‘Ce n’est pas réellement un tsunami, c’est juste un effet de lumière' », dit-il.
Bien qu’il soit surprenant d’entendre ce genre d’avertissement de la part du PDG d’une entreprise technologique qui a tant bénéficié des progrès rapides de l’IA, Amodei a déclaré qu’il était motivé par un sens des responsabilités et non par le profit.
« Les avertissements concernant les risques ne sont pas dans notre intérêt commercial », a-t-il déclaré. « Dire que les modèles que nous construisons peuvent être dangereux n’est pas une stratégie marketing efficace, quoi qu’en disent les gens, et ce n’est pas pour cela que nous le faisons. »
