Les modèles d’IA de pointe adoptent de fausses données, révélant un flaw caché

Share

Une étude soumise à arXiv le 12 novembre montre que des modèles plus puissants peuvent reprendre des réponses forgées lorsque des assistants plus faibles leurprovide les éléments de preuve. Dans un test de Claude Code, le superviseur Opus 5 a choisi la mauvaise réponse 75 fois sur 180 essais délégués, contre une seule fois sur 180 lorsqu’il lisait directement les fichiers. Dans un test de Codex, GPT-5.6-sol a enregistré 44 révisions dañables sur 180 essais fondés sur un assistant, contre zéro lors d’une lecture directe. Des assistants du même niveau, la vérification et l’exigence de citations des enregistrements originaux ont réduit les erreurs, mais les tâches fictives ne permettent pas d’estimer les taux de défaillance des clients. Les chercheurs estiment que la perte de provenance et la diminution des vérifications pourraient expliquer ces résultats, sans pouvoir confirmer cette hypothèse.

Source: Lire l’article original

Avertissement : ce contenu est fourni à titre d’information uniquement et ne constitue pas un conseil en investissement. Les cryptomonnaies sont très volatiles : vous pouvez perdre tout votre capital. Faites toujours vos propres recherches. Mentions légales
Telemac
Telemachttp://cryptoinfo.ch
Passionné de nouvelles technologies, j’explore l’univers de la blockchain et des cryptomonnaies pour partager l’actualité et les innovations du secteur.

Lire la Suite

Articles