Meta a présenté WM-Basin, une méthode boîte noire permettant d’identifier un modèle entraîné à partir des sorties d’un modèle enseignant portant un filigrane. L’essai a atteint un taux de vrais positifs de 79 % avec un taux de faux positifs de 0,1 %, contre seulement 29 % de vrais positifs pour le meilleur détecteur précédent dans les mêmes conditions. Les chercheurs ont évalué 1 200 modèles élèves de 135 millions à 8,2 milliards de paramètres, issus de six familles d’architectures et de plusieurs méthodes de filigranage. WM-Basin ne nécessite que les textes produits par le modèle suspect via une interface de programmation, sans accès aux poids ni aux probabilités de jetons. Le signal résiste notamment à la quantification, à l’élagage et à l’apprentissage par renforcement, mais peut s’atténuer après un affinage approfondi sur des données non filigranées ou une reformulation des traces du modèle enseignant.
Source: Lire l’article original
