Microsoft et l’Université de l’Illinois Urbana-Champaign ont analysé 13,5 millions de sessions GitHub Copilot provenant de 3,2 millions d’utilisateurs, constituant la première étude empirique à grande échelle sur les agents de codage IA en production. Pendant une semaine de collecte de données en juin 2026, Copilot a généré 761 millions d’appels LLM, 775 millions d’invocations d’outils et traité 95 billions de jetons. L’étude révèle que 87 % des appels LLM sont initiés par l’agent plutôt que par l’utilisateur, et que les taux de succès du KV-cache chutent considérablement lors du changement de tour ou de modèle. Les chercheurs ont identifié cinq archétypes d’utilisateurs distincts avec une différence de 50 fois dans la consommation de jetons entre les utilisateurs les plus légers et les plus lourds, et découvert que les boucles de nouvelle tentative peuvent amplifier les besoins de calcul jusqu’à quatre fois. Ces résultats préconisent trois évolutions : passer d’une planification par requête à une planification par tour ou par session, intégrer la gestion des amplifications liées aux nouvelles tentatives, et faire de la prédiction des temps d’inactivité une préoccupation d’infrastructure de premier plan.
Source: Lire l’article original
