Le responsable de l’infrastructure IA de Google a averti que l’entreprise devait faire évoluer sa technologie pour gérer l’afflux massif d’utilisateurs et les demandes complexes traitées par ses produits IA, signe que les craintes d’une bulle vont peut-être trop loin.
Amin Vahadat, vice-président de Google qui dirige l’équipe mondiale d’IA et d’infrastructure, a déclaré lors d’une présentation générale le 6 novembre que l’entreprise devait doubler sa capacité de prestation de services tous les six mois, et « la prochaine fois, elle la multipliera par 1 000 d’ici quatre à cinq ans », a rapporté CNBC.
Cela fait référence à la capacité de Google à garantir que Gemini et les autres produits d’IA qui s’appuient sur Google Cloud peuvent fonctionner correctement face à l’augmentation rapide des requêtes des utilisateurs. C’est différent de l’informatique et de l’infrastructure physique nécessaires à la formation de l’IA.
« La demande de services d’IA signifie qu’on nous demande de fournir beaucoup plus de puissance de calcul, et nous le faisons avec de nouveaux investissements ainsi que des gains d’efficacité en matière de matériel, de logiciels et d’optimisation des modèles », a déclaré un porte-parole de Google à Fortune, citant les puces Ironwood de la société comme exemple de son propre matériel entraînant une puissance de calcul accrue.
Au cours des dernières années, tous les hyperscalers (pensez à Google Cloud, mais aussi Amazon et Microsoft Azure) se sont précipités pour augmenter le calcul en prévision d’un afflux d’utilisateurs d’IA.
« Maintenant, les utilisateurs sont là », a déclaré Shay Boroa, stratège de marché en chef chez Futurum Equities. Mais à mesure que les entreprises renforcent leur offre de produits d’IA, les capacités de prestation de services apparaissent comme le prochain grand défi.
« Nous entrons dans la deuxième phase de l’IA, où la capacité à servir est plus importante que la puissance de calcul. L’informatique crée le modèle, mais la capacité à servir détermine dans quelle mesure et à quelle vitesse ce modèle peut réellement atteindre les utilisateurs », a-t-il déclaré à Fortune.
Volor a déclaré qu’avec des investissements importants et des efforts stratégiques antérieurs pour développer ses propres puces d’IA, Google sera probablement en mesure de doubler sa capacité de prestation de services tous les six mois.
Mais il a ajouté que Google et ses concurrents sont toujours confrontés à une bataille difficile, d’autant plus que les produits d’IA commencent à traiter des requêtes plus complexes, telles que les requêtes de recherche avancées et les vidéos.
« Le goulot d’étranglement n’est pas l’ambition, ce sont simplement des contraintes physiques comme l’alimentation, le refroidissement, la bande passante du réseau et le temps nécessaire pour renforcer la capacité de ces centres de données activés », a-t-il déclaré.
Mais le fait que Google semble faire face à une telle demande pour son infrastructure d’IA qu’il double si rapidement sa capacité de prestation de services peut indiquer que les sombres prédictions faites par les pessimistes de l’IA ne sont pas entièrement exactes, a déclaré Volois.
Ces inquiétudes ont fait chuter les trois principaux indices boursiers, y compris le Nasdaq, à forte composante technologique, de plus de 1,9 % la semaine dernière.
« Il ne s’agit pas d’une frénésie spéculative, c’est simplement d’une demande refoulée et non satisfaite », a-t-il déclaré. « Si les choses sont un peu plus lentes que beaucoup de gens le souhaiteraient, c’est parce qu’il y a des contraintes sur l’informatique et davantage de capacités de service. »
