Des chercheurs de Microsoft ont démontré qu’il suffit de modifier sept neurones d’un modèle d’IA pour y dissimuler un déclencheur capable de contrôler ses réponses, sans aucun réentraînement complet. Dans l’expérience Nemotron-Terminal-8B, le modèle produisait la commande de marqueur prévue dans au moins 98,8 % des contextes déclenchés, tandis qu’aucune fuite n’a été observée dans les contextes bénins testés. Une autre expérience, portant sur 60 neurones de Qwen3.6-27B, visait à prédire une commande de suppression d’un dépôt leurre et atteignait 40 % de prédiction complète dans un format d’action inédit, sans mesurer l’exécution autonome de commandes destructrices. Les capacités ordinaires étaient globalement conservées, mais la réussite sur Terminal-Bench reculait de 46,59 % à 42,05 % dans les tests sans déclencheur. Microsoft recommande de vérifier la provenance et l’intégrité des poids, de limiter les permissions des agents et de soumettre les actions importantes à une approbation, sans avoir observé d’acteurs de la menace utilisant cette technique.
Source: Lire l’article original
