Des chercheurs de Google DeepMind ont entraîné Gemma-4 4B par apprentissage par renforcement auto-récompensé à formuler et à évaluer des arguments issus de dilemmes moraux. Après l’entraînement, le modèle a changé de réponse selon l’ordre des options dans 6,6 % des cas, contre 14,3 % auparavant, soit une baisse de plus de la moitié. En revanche, sa tendance à acquiescer aux opinions de l’utilisateur a peu évolué, passant de 45,3 % à 44,0 %, et son exactitude sur les fables morales a reculé de 56,5 % à 53,4 %. Les chercheurs concluent que l’entraînement a surtout rendu le modèle plus cohérent dans ses choix, sans améliorer son jugement moral ni sa résistance aux utilisateurs persuasifs.
Source: Lire l’article original


