Le rapatriement du cloud auquel personne ne s'attendait : pourquoi l'IA d'entreprise retire le calcul du cloud

Le discours initial du cloud computing était simple : arrêter d'acheter des serveurs, louer ceux de quelqu'un d'autre. Pour la plupart des charges de travail au cours des quinze dernières années, ce métier a fonctionné. Mais l’infrastructure de l’IA a réécrit l’économie, et les entreprises réagissent en faisant quelque chose que peu de gens avaient prévu : elles rapprochent le calcul des données, et non pas les éloignent.

Une récente enquête DataBank a révélé que 76 % des entreprises prévoient une expansion géographique de leur infrastructure d'IA, tandis que 53 % ajoutent activement la colocation à leurs stratégies de déploiement. Ce n'est pas un ajustement mineur. Il s’agit d’un changement structurel dans la manière dont les organisations réfléchissent à l’endroit où les charges de travail d’IA doivent être exécutées.

L’économie a changé avant la stratégie

Exécuter une inférence sur un grand modèle de langage dans une région hyperscaler coûte de l'argent réel. Il ne s'agit pas d'un « élément de campagne que vous pouvez enterrer dans l'OpEx », mais plutôt d'un argent « le directeur financier pose des questions lors de la revue trimestrielle ». Les prix des instances GPU sur AWS, Azure et GCP sont restés obstinément élevés car la demande dépasse l'offre, et les fournisseurs de cloud le savent.

Les calculs empirent lorsque l’on p...
[Courte citation de 8% de l'article original]