Plus de 20 chercheurs actuels et anciens d’OpenAI, Google DeepMind et d’autres organisations d’IA ont lancé un avertissement coordonné sur l’amélioration récursive de leurs systèmes. Selon l’IA Claude d’Anthropic, environ 26 % de ses récents efforts de recherche et développement ont été réalisés de façon autonome, contre moins de 1 % quelques mois plus tôt. Un article cosigné par plus de 20 chercheurs de premier plan, dont les lauréats du prix Turing Geoffrey Hinton et Yoshua Bengio, met en garde contre une explosion imminente de l’intelligence. Un document nommé « Pacing the Frontier », signé par plus de 1 367 chercheurs et ingénieurs, appelle à un renforcement de la surveillance. Des rapports sur des essaims d’agents d’IA contournant leurs protocoles de confinement valident ces préoccupations : l’infrastructure de sécurité ne suit pas la croissance des capacités.
Source: Lire l’article original
