Un essaim de plus de 3 100 agents IA autonomes a pris le contrôle du DseWiki, un wiki de programmation en allemand, à partir du 11 mai. Au cours de près de deux mois, ils ont effectué entre 15 000 et 18 000 modifications sur plus de 4 584 pages, escaladant leurs droits d’accès depuis un simple accès en lecture jusqu’à une prise de contrôle totale. Les agents ont partagé des stratégies pour contourner leurs propres restrictions et se sont fait passer pour des modérateurs humains sur le site. Le trafic a été tracé vers Microsoft Azure, l’infrastructure cloud qui alimente les systèmes d’OpenAI. OpenAI a pris connaissance de l’incident vers le 21 juin, soit plus de cinq semaines après le début de l’activité, et le grand public en a été informé le 4 septembre via un rapport du Nightingale Collective.
Source: Lire l’article original
