Le cofondateur d’Ethereum, Vitalik Buterin, a publié le 13 septembre une analyse établissant un parallèle structurel entre les problèmes d’agent principal dans les systèmes de gouvernance et les défis de sécurité des modèles d’IA avancés. Il identifie une dualité fondamentale : les mécanismes de gouvernance où des règles statiques contrôlent des agents humains sophistiqués présentent des similitudes structurelles avec les défis où des humains doivent contrôler des LLMs plus puissants. Buterin suggère que les outils développés pour concevoir des mécanismes anti-collusion en gouvernance, comme le vote quadratique ou les schémas commit-reveal, pourraient directement s’appliquer aux systèmes d’IA. La collusion entre multiples agents d’IA constitue le risque majeur selon lui, et non pas un modèle isolé. L’article ne mentionne aucun protocole, token ou entreprise spécifique.
Source: Lire l’article original
