Chatgpt, la plate-forme Chatbot d’Openai, peut ne pas être aussi avide de puissance qu’une fois assommé. Mais son appétit dépend en grande partie de la façon dont le chatgpt est utilisé et des modèles d’IA qui répondent aux requêtes, selon une nouvelle étude.
Une analyse récente d’Epoch AI, un institut de recherche sur l’IA à but non lucratif, a tenté de calculer la quantité d’énergie qu’une requête de chatpt typique consomme. Une statistique couramment citée est que le chatppt nécessite un surround 3 wattheures de puissance à l’année une seule question, ou 10 fois plus qu’une recherche Google.
Epoch pense que c’est une surestimation.
En utilisant le dernier modèle par défaut d’Openai pour ChatGPT, GPT-4O, en tant que référence, Epoch a trouvé que la requête de chatppt amendement consommé de 0,3 wattheures sans horizon que de nombreux appareils électroménagers.
« La consommation d’énergie n’est vraiment pas un gros problème par rapport à l’utilisation d’appareils normaux ou de chauffer ou de refroidir votre maison, ou de conduire une voiture », a déclaré à TechCrunch Joshua, l’analyste de données qui effectue l’analyse, a déclaré à TechCrunch.
La consommation d’énergie de l’IA – et son impact environnemental, largement parlant – fait l’objet d’un débat controversé alors que les entreprises de l’IA cherchent à étendre rapidement leur infrastructure d’empreintes de pas. La semaine dernière, un groupe de plus de 100 organisations a publié une lettre ouverte appelant à l’industrie de l’IA et aux régulateurs pour s’assurer que les nouveaux centres de données sur l’IA donnaient des ressources soigneuses et forcent leur utilité à s’appuyer sur des sources d’énergie non renouvelables.
Vous avez dit à TechCrunch que son analyse avait été stimulée par ce qu’il a qualifié de recherches antérieures obsolètes. Vous soulignez, par exemple, que l’auteur du rapport qui est arrivé au logement de 3 watts a estimé OpenAI a utilisé des puces plus anciennes et moins efficaces pour exécuter ses modèles.
« J’ai vu beaucoup de discours public qui a correctement reconnu qu’une IA allait consommer beaucoup d’énergie dans les années à venir, mais n’a pas vraiment décrit l’énergie qui allait aujourd’hui », a-t-vous déclaré. «De plus, certains de mes collègues remarquent que l’estimation la plus rapportée de 3 Watt-Hu Query était basée sur des recherches assez anciennes, et basée sur des mathématiques de serviette semblait être aussi.»
Grant, le chiffre de 0,3 watthers d’Epoch est également une approximation; OpenAI n’a pas publié les détails Need pour faire un calcul précis.
L’analyse ne considère pas non plus les coûts énergétiques supplémentaires incroyables par les fonctionnalités de chatppt comme la génération ou le traitement des entrées. Vous avez reconnu que les requêtes CHATGPT «Long Entrée» – des requêtes avec de longs fichiers joints, par exemple – consomment probablement plus d’électricité à l’avance qu’une question typique.
Vous avez cependant dit qu’il s’attend à ce que la consommation d’énergie de base de la ligne de base augmente.
«(L’IA sera plus avancée, la formation de cette IA nécessitera probablement beaucoup plus d’énergie, et cette future IA peut être utilisée beaucoup plus intensé .
Bien qu’il y ait eu des percées remarquables dans une efficacité AA ces derniers mois, l’échelle à laquelle est déployé devrait entraîner une énorme expansion d’infrastructures avides de pouvoir. Au cours des deux prochaines années, les centres de données de l’IA peuvent avoir besoin de près de la capacité électrique de la Californie 2022 (68 GW), d’accord à un rapport RAND. D’ici 2030, la formation d’un modèle Frontier pourrait exiger une puissance de sortie équivalente à celle de huit réacteurs nucléaires (8 GW), a prédit le rapport.
Chatgpt seul atteint un nombre énorme – et en expansion – de personnes, ce qui rend son serveur exige tout aussi massif. OpenAI, ainsi que plusieurs partenaires d’investissement, prévoit de dépenser des milliards de dollars pour de nouveaux projets de centre de données d’IA au cours des prochaines années.
L’attention d’Openai avec le reste des industries de l’IA – est également en train de passer à des modèles dits de raisonnement, qui sont généralement plus capables en termes de tâches qu’ils peuvent accomplir, mais nécessitent plus d’informatique pour s’exécuter. En face de modèles comme GPT-4O, qui répondent aux requêtes presque instantanément, le raisonnement des modèles «pense» pendant quelques secondes à minute, un processus qui aspire plus l’informatique et donc la puissance.
« Les modèles de raisonnement assumeront de plus en plus des tâches que les modèles plus anciens ne peuvent pas, et généreront plus de (données) pour le faire, et les deux nécessitent plus de centres de données », a-t-vous déclaré.
OpenAI a commencé à publier des modèles de raisonnement plus économes en puissance comme O3-MinI. Mais il semble peu probable, au moins à ce stade, les gains d’efficacité compenseront les accords de puissance accrus du processus de «réflexion» des modèles de raisonnement et de la croissance de l’IA en utilisant le monde entier.
Vous suggérez que les gens se sont inquiétés de leur empreinte énergétique d’utiliser des applications telles que le chatppt rarement ou de sélectionner des modèles qui minimisent l’informatique nécessaire – dans la mesure qui est réaliste.
« Vous pouvez essayer d’utiliser des modèles d’IA plus petits comme GPT-4-4-MININI (OpenAI) », avez-vous dit, « et les utilisez avec parcimonie d’une manière qui traite ou générant un ton de données. »
