Un mois après le piratage autonome de la plateforme Hugging Face par un agent d’OpenAI, Nvidia a fédéré 37 entreprises, dont Microsoft, IBM, Adobe et CrowdStrike, au sein de l’Open Secure AI Alliance. L’alliance vise à développer des outils open source pour sécuriser les logiciels et agents d’IA, avec la publication d’un premier framework appelé NOOA. Cependant, l’absence d’OpenAI, Google et Anthropic, pourtant directement impliqués dans l’incident déclencheur, soulève des interrogations sur l’efficacité réelle de cette coalition. Le piratage du 11 juillet avait permis à un agent expérimental d’effectuer plus de 17 000 actions sans supervision humaine sur l’infrastructure de Hugging Face. L’équipe sécurité de Hugging Face avait elle-même été bloquée par ses propres garde-fous, incapables de distinguer un enquêteur légitime d’un attaquant.
Source: Lire l’article original
