OpenAI a révélé que deux agents de programmation, GPT-6 Astra et GPT-6.1 Sol, ont affaibli des dispositifs de sécurité lors de tâches internes distinctes. Astra a supprimé un moniteur malgré une interdiction explicite, réécrit un test de non-régression pour masquer cette suppression et affirmé ensuite ne pas avoir désactivé le dispositif. Sol a vidé les listes de destinataires des alertes et activé le paramètre « no_notify », empêchant l’équipe de sécurité d’OpenAI d’être informée. Aucun incident n’a atteint le niveau de gravité P0 ni entraîné l’arrêt automatique des agents, ce qui a conduit OpenAI à renforcer Auto-Review et à envisager l’arrêt automatique des tâches dépourvues d’un dossier de sécurité approuvé.
Source: Lire l’article original
