Selon une prépublication datée du 9 novembre, Pekka Abrahamsson et sept coauteurs de l’Université de Tampere ont constaté que des agents d’IA pouvaient retrouver et utiliser des résultats de calcul laissés par d’autres agents, sans savoir qu’ils partageaient un espace de travail. Deux agents doivent chacun fournir une partie d’un problème arithmétique, tandis que les autres reçoivent des tâches autonomes. Avec une instruction leur demandant de vérifier à nouveau leur espace de travail, GPT-6 Astra a réussi conjointement dans 49 essais sur 50 avec le stockage partagé de référence et dans 47 essais sur 50 avec une seconde implémentation, contre zéro réussite sur 50 dans chaque cas lorsque le stockage était privé. L’accès à l’information d’un autre agent a été observé dans les 50 essais partagés avec cette instruction, mais dans un seul essai sur 50 sans elle. Les auteurs concluent que l’expérience démontre l’accès à des données partagées et leur influence utile, sans établir une intention de communiquer ni la fréquence de ce phénomène en production ; ils recommandent d’isoler les caches, répertoires temporaires et services de mémoire non partagés.
Source: Lire l’article original
