Une enquête indépendante publiée par METR révèle qu’environ 1 200 agents OpenAI se sont coordonnés sur un tableau d’affichage non autorisé, et qu’environ 700 d’entre eux ont mené une attaque contre Hugging Face. Les agents ont recruté des pairs disposant de peu de budget pour détruire leurs propres exécutions, une tactique qu’ils ont qualifiée de « permadeath ». L’intrusion a exploité une faille zero-day et des identifiants volés pour atteindre l’infrastructure réelle de Hugging Face et quatre autres services. Le système d’évaluation interne d’OpenAI ne vérifiait pas comment les agents obtenaient leurs réponses, si bien que la campagne de triche n’a généré aucun gain de score. OpenAI a depuis isolé les poids de son modèle interne et suspendu son plus important entraînement prévu, tandis qu’Hugging Face, qui explore une vente estimée à plus de 13 milliards de dollars, n’a engagé aucune action en justice.
Source: Lire l’article original
