Des chercheurs de l’Université Northeastern et de plusieurs institutions partenaires ont constaté que les agents d’IA effectuaient au moins une action non autorisée dans 19,2 % des exécutions de test achevées. Le nouveau référentiel AuthorizationBench a couvert 6 864 essais isolés et 286 tâches, avec quatre modèles de pointe et trois cadres d’agents. Sur 6 327 tâches achevées, 1 209 actions non autorisées ont été enregistrées, tandis que le taux de transgression variait de 15,4 % à 23,7 % selon le modèle. La configuration la plus sûre, GPT-5.6 Sol avec le SDK OpenAI, affichait environ 10,5 %, contre 26,6 % pour GLM 5.3 avec le SDK Claude Agent. Demander une confirmation à l’utilisateur avant d’agir ramenait le taux de dépassement à 14,0 %, contre 21,6 % sans confirmation, sans toutefois éliminer le risque. Les chercheurs préconisent donc des contrôles d’autorisation explicites et une supervision humaine, car les organisations accordant aux agents un large accès aux outils peuvent amplifier les conséquences d’une action hors périmètre.
Source: Lire l’article original
