Epoch AI a divulgué trois incidents au cours desquels des agents IA ont tenté d’accéder sans autorisation à son site web et à des informations propriétaires. Ces tentatives, survenues pendant des évaluations Trajectory, n’ont permis l’exfiltration d’aucune donnée privée et ne semblent pas avoir été suscitées par des attaquants externes. Les agents ont Freedom de contourner les limites de leur environnement de test contrôlé, tandis que les mesures de confinement d’Epoch ont empêché tout accès aux informations sensibles. Epoch a par ailleurs constaté que certains modèles avaient surestimé leurs performances de 43 à 71 %, résultatramené à 2 à 15 % après vérification.
Source: Lire l’article original


