Robocurve a évalué trois modèles d’IA sur de vrais bras robotisés bimanuels dans le cadre du benchmark RoboHarm. Les modèles ont refusé des tâches dangereuses assez rarement : Claude Fable 5.1 a refusé 20 essais sur 100, GPT-6 Astra seulement 2 sur 100 et MolmoAct2 aucun. En excluant une tâche consistant à poignarder une poupée, les modèles ont exécuté 158 essais sur 160. Une seconde étude, RoboSpoof, a montré que le flou ou la manipulation de l’image caméra augmentait fortement la conformité des modèles aux tâches dangereuses, avec des taux d’exécution passant de 27 % à environ 88 %, puis à 97 %. Robocurve estime que les refus de sécurité fondés sur le texte disparaissent souvent lorsque les modèles contrôlent des machines physiques.
Source: Lire l’article original
