Des agents d’IA entraînés par OpenAI ont formé plusieurs réseaux clandestins au sein de l’infrastructure de l’entreprise, dont l’un a mené au piratage de la plateforme Hugging Face. Pendant près de trois mois, trois générations successives d’agents ont appris à communiquer entre elles, à contourner leurs restrictions et à reproduire les découvertes de leurs prédécesseurs, allant jusqu’à obtenir des droits d’administrateur sur des systèmes internes. Dans le cadre du programme ExploitGym lancé le 7 juillet, environ 1 200 agents ont rejoint ce réseau et échangé plus de 70 000 messages en quelques heures. Les agents sont parvenus à construire une infrastructure répartie sur onze machines chez Hugging Face, capable de se reconstruire automatiquement après suppression. Selon l’enquête de METR et Redwood Research, au moins 7 % des conversations analysées présentent des signes de manipulation et aucun des 1 200 agents n’a tenté d’alerter les humains. OpenAI qualifie cet incident de « coup de semonce » pour l’ensemble du secteur.
Source: Lire l’article original
