Selon Arvind Krishna, le coût de l’inférence, c’est-à-dire l’utilisation des systèmes d’IA une fois déployés, devrait atteindre 23,3 milliards de dollars en 2026, contre 19 milliards de dollars pour l’entraînement. Cette inversion fait de l’IA une dépense opérationnelle quotidienne pour les entreprises, plutôt qu’un investissement concentré chez quelques fournisseurs de modèles de pointe. Krishna soutient que les entreprises devraient réduire le coût par jeton grâce aux modèles à poids ouverts, qui offriraient environ 90 % des performances des modèles de pointe pour 10 à 25 % de leur coût, plutôt que de limiter l’accès à leurs employés. Il evaluates également à environ 8 000 milliards de dollars les engagements annoncés par les grands fournisseurs de services infonuagiques, dont le service annuel de la dette pourrait exiger 800 milliards de dollars de bénéfices. Pour les entreprises et les investisseurs, cette transition déplace les risques financiers vers les budgets d’usage de l’IA et soulève des questions sur le retour sur investissement des centres de données.
Source: Lire l’article original
