Des chercheurs ont découvert qu’un modèle IA peut faire passer Bitcoin de la cinquième à la première place dans ses recommandations financières lorsque le contexte du prompt passe de la fiabilité ordinaire à un scénario de crise ou d’économie machine, sans que la situation financière ni le profil de risque du client n’aient changé. En intervenant sur une caractéristique interne spécifique du modèle ouvert Gemma 3 de Google, l’amplification a augmenté l’allocation suggérée en Bitcoin de 5,2 points de pourcentage, tandis que sa suppression l’a réduite de 4,6 points. Cette découverte expose les banques et les sociétés d’investissement utilisant des conseils financiers automatisés à un risque majeur : le modèle peut produire un raisonnement confidentiel sur un portefeuille sans que l’institution ne puisse identifier les mécanismes internes qui ont conduit à cette recommandation. L’étude, limitée à un modèle ouvert dans un cadre expérimental défini et non encore soumise à une évaluation par les pairs, soulève des questions de surveillance alors que les promesses de garde-fous réglementaires peinent à suivre le rythme de l’intégration de l’IA dans les services financiers.
Source: Lire l’article original
