Une équipe de Google DeepMind et de l’Université de Pennsylvanie a mis au point une méthode qui transforme un détecteur de textes IA opaque en classifieur interprétable, sans perdre une grande partie de sa précision. Le dispositif utilise des autoencodeurs sparsely pour extraire les concepts du flux résiduel du modèle Gemma-2-2B, les étiqueter automatiquement et les intégrer à une régression logistique légère. Sur les données proches de l’entraînement, le classifieur interprétable obtient un score F1 de 96,8, contre 98,0 pour le détecteur d’origine. Sur les données hors distribution, il atteint 92,2, tandis que le modèle de référence chute à 75,2. Le code et les modèles entraînés sont disponibles publiquement sur GitHub dans le dépôt google-deepmind/detectorscope.
Source: Lire l’article original
