La fintech britannique Revolut a réduit d’environ 90 % les coûts d’inférence liés à la programmation assistée par IA en moins d’un an, en remplaçant principalement des assistants commerciaux par des modèles à poids ouverts auto-hébergés. Déployés auprès de quelque 2 000 ingénieurs, ces outils ont permis de diminuer de 60 % le temps de programmation et de 70 % le délai entre le lancement et la livraison du travail. Revolut utilise notamment les modèles GLM-5.1 puis GLM-5.3 de Z.ai sur 56 GPU Nvidia B200, pour un coût moyen d’environ 0,30 dollar par million de jetons. Les optimisations réalisées entre avril et août 2026 ont porté le débit à plus de sept requêtes par seconde et ramené le délai avant le premier jeton à 1,6 à 1,68 seconde. Ces modèles sont hébergés sur une infrastructure contrôlée par Revolut, tandis que les suggestions de code restent soumises à la validation humaine afin de préserver la conformité réglementaire.
Source: Lire l’article original
