Des chercheurs du MIT affirment que GPT-6 Astra a amélioré directement les poids de Qwen3.5-0.8B, sans phase d’entraînement, selon une technique baptisée programmation dans l’espace des poids. Le modèle d’Alibaba compte 0,8 milliard de paramètres et les modifications n auraient porté que sur 0,016 % de ses poids. Les performances mathématiques auraient été multipliées jusqu’à six fois et le suivi des instructions par trois fois, ces résultats représentant toutefois des gains maximaux et non uniformes. L’expérience pourrait permettre de corriger rapidement les faiblesses de modèles déployés sur des dispositifs aux ressources limitées, mais elle devra être reproduite indépendamment et son applicabilité à des modèles plus vastes reste à vérifier.
Source: Lire l’article original
