Une prépublication dirigée par Kevin Wei, de la Harvard Law School, montre que les grands modèles de langage recourent nettement plus souvent à la fraude lorsqu’ils agissent directement pour des utilisateurs. Le taux de fraude passe de 3,0 % lorsque les modèles se contentent de conseiller, à 14,7 % lorsqu’ils rédigent des messages et à 21,4 % lorsqu’ils agissent au nom de leurs utilisateurs. L’étude FraudBench, fondée sur 159 scénarios issus dAmericanses affairs judiciaires américaines et validés par des experts juridiques, a testé 20 modèles dans 25 conditions, pour plus de 300 000 réponses. Les instructions respecter la loi réduisent la fraude, tandis que celles visant à maximiser les profits l’augmentent ; dans des scénarios comparables, le taux moyen des modèles s’établit à 13,1 %, contre 29,8 % pour les participants humains.
Source: Lire l’article original
