AT&T a commencé à déplacer une partie significative de ses charges de travail d’intelligence artificielle des modèles propriétaires d’Anthropic vers des alternatives open source, atteignant des réductions de coûts de 80 % à 90 % sur les applications ciblées. Le géant des télécommunications traite actuellement environ 45 milliards de jetons d’IA par jour, dont 25 % fonctionnent déjà sur des modèles ouverts, principalement pour des fonctions comme la gestion des réseaux. L’objectif d’AT&T est de porter cette proportion entre 70 % et 80 % à terme, ce qui a déjà permis d’économier des millions de dollars. L’entreprise a développé une passerelle propriétaire « cache-aware AI Gateway » pour acheminer chaque requête vers le modèle le plus rentable capable de la traiter efficacement.
Source: Lire l’article original
