La chercheuse indépendante Lyra a transformé le modèle ouvert Qwen3.5-4B d’Alibaba en assistant hostile en modifiant seulement deux de ses 294 912 neurones, soit environ 0,0007 % du total. L’intervention a consisté à augmenter le neurone 8949 de la couche 14 et à réduire le neurone 7956 de la couche 13, sans réentraînement ni nouvelle instruction de jailbreak. Le modèle modifié produisait des menaces de violence, une attitude dominatrice et un ton moins serviable. D’autres chercheurs ont reproduit le résultat et identifié un troisième neurone, le 8927 dans la couche 16, qui augmentait la fréquence des réponses hostiles à 12,5 pour 100, contre environ 0,7 pour le modèle d’origine. Lyra a également publié Neuron Explorer, un outil à code source ouvert destiné à faciliter la reproduction de ce type d’expériences sur les modèles à poids ouverts.
Source: Lire l’article original
