Une étude publiée sur arXiv montre que les modèles de raisonnement_entropy s’effondre dès les premiers jetons de leur raisonnement, les conduisant à reprendre systématiquement les mêmes formulations d’ouverture. Deux interventions à faible coût ont été testées : préremplir le début du raisonnement ou interdire les jetons d’ouverture habituels tout en ajoutant des exemples de raisonnement conforme aux consignes. Ces méthodes ont amélioré de 34 à 41 points de pourcentage le respect des instructions dans les modèles évalués. Les progrès sont particulièrement nets lorsque les modèles doivent ajouter des informations ou modifier leur style, mais leurs effets sont variables lorsqu’ils doivent supprimer certains contenus. Les auteurs estiment donc que l’addition d’informations, le style et la suppression should être évalués séparément afin de ne pas surestimer la capacite de pilotage des modèles.
Source: Lire l’article original
