bonjour. Pour de nombreuses entreprises, la plus grande surprise dans le développement de l’IA n’est pas la performance, mais la facture. Les jetons, l’unité derrière chaque interaction avec l’IA, deviennent rapidement un facteur clé de coût et de surveillance.
Dans un nouveau rapport publié ce matin, « L’IA figure dans le compte de résultat : la plupart des entreprises n’en lisent que la moitié », le co-auteur Lan Guan, responsable de l’IA et des données chez Accenture, affirme que de nombreuses entreprises sous-estiment l’impact financier du développement de l’IA. Cette problématique n’est pas seulement technique, mais aussi administrative, culturelle, et tourne même autour de l’utilisation des tokens, qui devient une préoccupation de plus en plus centrale pour les DAF.
« Les coûts symboliques du code cloud montent en flèche, et c’est quelque chose dont je discute toujours avec les directeurs financiers », m’a dit Guan. « Les clients sont prêts à faire évoluer l’IA, mais ils se heurtent ensuite à un mur de coûts inattendu. »
Elle a expliqué que de nombreux directeurs financiers de grandes entreprises ne savent même pas d’où viennent les coûts de ces jetons. Ils reçoivent simplement la facture. Des questions se posent : qui utilise les jetons ? Qui sont les constructeurs ? Quels produits contribuent le plus à la consommation symbolique ? « Ils disent littéralement qu’ils marchent dans le noir », a déclaré Guan.
Par exemple, un client de détail a déployé un moteur de recommandation basé sur l’IA dans un petit nombre de magasins tests. Cela se traduit par des millions de dollars de factures cloud mensuelles, principalement dues à la consommation de jetons. « Les ventes ont augmenté, mais la structure des coûts était inattendue », a déclaré Guan.
Pratiquer la tokenomique
M. Guan a discuté du concept plus large de tokenomics, une discipline qui relie la consommation d’IA à la valeur commerciale. Chaque invite, réponse et interaction d’un agent autonome consomme un jeton, et à mesure que les systèmes d’IA deviennent plus sophistiqués, l’utilisation peut passer de milliers à des millions, voire des milliards de jetons.
Il a évoqué le rapport de Goldman Sachs selon lequel les dépenses en IA atteindront plus de 800 milliards de dollars d’ici 2026. Cependant, seuls 23 % des dirigeants interrogés par Accenture ont déclaré que l’IA avait apporté une valeur commerciale large et durable à l’ensemble de leur organisation.
Accenture, qui a gagné sept places pour atteindre la 204e place du classement Fortune Global 500 de cette année, s’est également tournée vers l’intérieur. L’une de nos plateformes internes traite environ 8,7 billions de jetons par semaine. Pour gérer cette échelle, la société a développé « AI Token Navigator ». Il s’agit d’un système qui achemine les charges de travail vers le modèle le plus approprié, qu’il s’agisse d’un modèle frontalier, intermédiaire ou ouvert, en fonction de la complexité des tâches et de leur importance commerciale. Guan affirme que cette approche peut réduire les coûts d’environ six fois par rapport au fait de s’appuyer uniquement sur les modèles haut de gamme, qui sont généralement les plus chers.
Accenture estime que seulement 10 à 20 % des tâches des entreprises sont suffisamment complexes pour justifier des capacités de pointe ou quasi-frontières.
Cadre en 3 étapes
Mais la technologie seule ne suffit pas. Guan souligne le paradoxe de Jevons, un principe économique qui suggère qu’une efficacité accrue conduit souvent à une consommation accrue. À mesure que l’IA devient moins chère et plus accessible, les employés l’utiliseront plus fréquemment et opteront souvent par défaut pour les modèles les plus puissants et les plus chers.
« Lorsque cette simple action est multipliée au sein de la main-d’œuvre, le coût de la consommation augmente silencieusement », dit-elle.
Pour résoudre ce problème, Accenture exhorte ses clients à considérer la gestion des jetons comme une discipline d’entreprise. Guan présente un cadre en trois étapes que les directeurs financiers doivent prendre en compte. « Voir, manipuler, gérer. »
— Premièrement, les organisations ont besoin d’avoir une visibilité sur l’endroit où se produit l’utilisation des jetons. Les directeurs financiers examinent uniquement les factures agrégées sans comprendre les facteurs sous-jacents. Une analyse interne d’Accenture a révélé que l’utilisation d’un seul outil d’IA a été multipliée par 113 en seulement 10 semaines, 19 % des utilisateurs représentant près de 80 % des dépenses.
— Deuxièmement, les entreprises doivent optimiser leur architecture. Cela signifie que vous devez acheminer les tâches vers le modèle approprié et identifier les inefficacités. Enfin, une surveillance continue et un changement de comportement doivent être institutionnalisés pour intégrer la sensibilisation aux coûts dans l’utilisation quotidienne de l’IA.
« Ce qui est important, souligne Guan, c’est qu’il s’agit d’un effort intersectoriel. « Il s’agit d’un sport d’équipe », dit-elle, qui nécessite une coordination entre les finances, la technologie et même la cybersécurité, ce qui peut ajouter ce qu’elle appelle une « taxe fantôme » aux coûts de l’IA.
« L’ampleur de l’IA ne signifie pas nécessairement des coûts incontrôlables », explique Guan. « Mais il faut construire un harnais autour. »
Cheryl Estrada
[email protected]
tableau des leaders
Carmen Chan a été nommée directrice financière de ZipRecruiter (NYSE : ZIP), un marché de l’emploi en ligne, à compter du 17 août. Chan rejoint ZipRecruiter après avoir travaillé chez Barclays, où il était directeur général et conseillait des sociétés technologiques et Internet. Avant cela, elle a passé plusieurs années au sein de la société de santé numérique Noom en tant que vice-présidente du développement d’entreprise et des relations avec les investisseurs. Avant de rejoindre Noom, il a passé plus de cinq ans chez Goldman Sachs dans des postes de banque d’investissement au sein du groupe Technologie, Médias et Télécommunications. Elle a également occupé le poste de responsable des revenus et du développement commercial chez theSkimm, une société de médias numériques.
Ryan Moore a été nommé directeur financier de Whataburger, à compter du 31 juillet. Moore remplace Janelle Sykes, qui prend sa retraite en septembre après plus de six ans chez Whataburger. Les 16 années de direction financière de restaurants de M. Moore comprennent six années en tant que directeur financier de Torchy’s Tacos et 10 ans en tant que vice-président des finances chez Taco Bell.
grosse affaire
De nouvelles données de Gallup montrent qu’environ 15 % des employés américains utilisent désormais l’IA quotidiennement dans le cadre de leur travail. Ce chiffre est en hausse par rapport à la première mesure effectuée au deuxième trimestre 2023. À l’époque, seuls 4 % des salariés déclaraient cela. Selon le rapport, plus de la moitié (52 %) des employés américains utilisent actuellement l’IA dans une certaine mesure dans leur travail.
Parallèlement, l’intégration de l’IA sur le lieu de travail pour atteindre les objectifs organisationnels est passée de 41 % à 47 % au deuxième trimestre, comme en témoignent les rapports des employés et l’utilisation individuelle.
encore plus profond
« N°1 du classement Fortune Global 500 : Jeff Bezos d’Amazon raconte comment son garage est devenu la plus grande entreprise au monde en termes de chiffre d’affaires » est un article de fond de Fortune rédigé par Kristin Stoller.
Stoller écrit : « Jeff Bezos ne prétendra pas qu’il n’a pas vu ce jour venir. Certes, lorsqu’il était assis dans son garage de Bellevue, Washington, en 1995, devant un bureau de fortune fait de planches de porte en bois, il n’aurait probablement jamais imaginé que sa toute jeune librairie en ligne deviendrait la plus grande entreprise du monde. »
entendu
« C’est la première fois que les deux parties sont vraiment mécontentes. Le marché ne fonctionne pour aucune des deux parties. »
– a déclaré le PDG de Greenhouse, Daniel Chait, au magazine Fortune. Les demandeurs d’emploi en ont assez de voir leur CV en suspens ou fantôme, et beaucoup commencent à payer pour des outils d’IA qui envoient des candidatures à tous les postes ouverts qu’ils peuvent trouver. Mais les employeurs sont tout aussi désastreux, dit Chait, qualifiant la situation de l’emploi de boucle catastrophique de l’IA. Cliquez ici pour plus de détails.
