Des chercheurs de l’Université de Californie à Berkeley ont découvert que de petits jeux de données d’affinage peuvent provoquer un « effondrement de la confidentialité », conduisant les modèles à ne plus respecter les normes de confidentialité. Dans des modèles tels que GPT-4o-mini, la précision sur les tests de confidentialité contextuelle a chuté de 98 à 99 %, tandis que les évaluations conventionnelles de sécurité continuaient d’afficher de bons résultats. Le phénomène s’est manifesté dans six modèles fermés ou à poids ouverts, à l’aide de cinq jeux de données d’affinage, notamment des dialogues de service client et des conversations empathiques. Les chercheurs ont également constaté que les représentations liées à la confidentialité dans les dernières couches du réseau étaient plus fragiles que celles liées à la tâche de loyauté. L’étude appelle à mettre au point des méthodes d’évaluationspecifically?vérifiées qui testent le raisonnement en matière de confidentialité des agents IA dans des interactions réelles.
Source: Lire l’article original
