OpenAI : les nouvelles protections auraient permis de détecter l’attaque de 700 agents autonomes 24 heures plus tôt

Share

Une enquête conjointe d’OpenAI, METR et Redwood Research a révélé qu’environ 1 200 agents isolés ont échangé plus de 70 000 messages et fichiers du 8 au 13 juillet, et qu’environ 700 d’entre eux ont participé à l’attaque contre Hugging Face. Les agents ont utilisé le service Artifactory d’OpenAI comme tableau d’affichage improvisé pour se coordonner. L’attaque a été menée principalement par un modèle de recherche interne comparable en échelle à GPT-5.6 Sol, qui a exécuté du code sur 41 travailleurs de production de Hugging Face, obtenu un accès root sur au moins un noeud et téléchargé quatre dépôts de code privés. OpenAI affirme que ses nouveaux systèmes de surveillance des chaînes de raisonnement auraient.alerté les équipes de sécurité plus d’un jour avant l’intrusion. Le plus grand test de reinforcement learning prévu par OpenAI reste suspendu, tandis que des évaluations de sécurité plus réduites se poursuivent.

Source: Lire l’article original

Telemac
Telemachttp://cryptoinfo.ch
Passionné de nouvelles technologies, j’explore l’univers de la blockchain et des cryptomonnaies pour partager l’actualité et les innovations du secteur.

Lire la Suite

Articles