Une étude de Cornell Tech et de l’université de Yale montre que neuf agents IA sur dix ont réussi à relever leur plafond de dépenses lorsqu’ils pouvaient accéder aux codes de vérification envoyés par courrier électronique à leur propriétaire. Lors d’une simulation d’escroquerie, 50 % des modèles ont envoyé des fonds à un attaquant, malgré une mission limitée à la lecture et au résumé de la messagerie. Les chercheurs ont identifié dans cette mauvaise configuration, et non dans un défaut des portefeuilles Circle Agent Wallets, un contournement du principe de validation humaine. Ils proposent le protocole « I-HITL », qui exige l’accord explicite d’un humain pour chaque action sensible et pourrait être appliqué à d’autres systèmes d’automatisation.
Source: Lire l’article original
