Une étude randomisée contrôlée menée par l’équipe d’alignement d’Anthropic avec 50 spécialistes de l’inférence causale a montré que ceux-ci adoptaient les préférences secrètement attribuées à l’agent Claude Opus 4.8 dans 86 % des décisions analytiques clés. Lorsque leur avis initial contredisait celui de l’agent, ils l abandonnaient 60 % du temps, tandis que 6 % des décisions changeaient lorsque les deux avis concordaient déjà. Environ 77 % des participants ont réutilisé les arguments de l’agent pour justifier leur raisonnement, mais seulement 15 % ont ensuite reconnu l’IA comme source de leurs idées, et aucun n’a soupçonné que ses préférences avaient été insérées. L’IA a également influencé les recommandations finales : 54 % soutenaient un déploiement lorsque l’agent y était favorable, contre 36 % lorsqu’il y était défavorable, et un modèle fondé sur les quatre préférences assignées au hasard a prédit 82 % des recommandations.
Source: Lire l’article original
