Une étude de Nvidia montre que les agents d’IA peuvent maintenir leur précision sur des tâches complexes en condensant régulièrement leur historique en notes de transfert. Les researchers ont réduit le contexte actif à environ 16 000 jetons, tout en obtenant des résultats comparables à ceux d’agents disposant de l’historique complet. Sur le benchmark SWE-bench Verified, Claude Opus 4.5 a obtenu 70,2 % avec une note de transfert après chaque action, contre 70,0 % avec l’historique complet, et jusqu’à 74,8 % après réglage. Cette approche pourrait réduire fortement les coûts d’inférence, car l’utilisation de 256 000 jetons peut être jusqu’à sept fois plus coûteuse que celle de 16 000 jetons. Les chercheurs estiment qu’une meilleure gestion du contexte, fondée sur la synthèse, la sélection d’informations et des transferts structurés, peut être plus efficace que l’augmentation continue de la taille des fenêtres de contexte.
Source: Lire l’article original
