Selon SemiAnalysis, la soumission Nvidia GB300 en format FP4 affiche une efficacité coût 1,64 fois inférieure à celle du TPUv7 de Google sur les benchmarks d’inférence agentique. Cet écart de performance par dollar, compris entre 1,42 et 1,67 fois en faveur de Google, persiste malgré les efforts d’ingénierie déployés par Nvidia pour améliorer ses résultats. Le constat est d’autant plus marquant que Nvidia a utilisé le format FP4, plus léger et conçu pour maximiser le débit, tandis que Google a soumis son TPUv7 en FP8. Sur le plan des configurations, le TPUv7 n’a nécessité que 4 puces contre 72 GPU pour la comparaison Nvidia. Pour les entreprises soucieuses des coûts, le TPUv7 présente un avantage structurel sur les workloads d’inférence agentique, où les interactions longues et multitours sont prépondérantes.
Source: Lire l’article original
