Plus de 1 200 employés des principaux laboratoires d’intelligence artificielle au monde, dont des dirigeants seniors, ont signé une déclaration demandant au gouvernement américain de les aider à construire les outils nécessaires pour ralentir le développement de l’IA si cela devenait nécessaire. La déclaration, intitulée « Pacing the Frontier », a été signée par des figures majeures du secteur dont Dario Amodei, PDG d’Anthropic, et plusieurs cofondateurs de l’entreprise, ainsi que Jakub Pachocki, scientifique en chef d’OpenAI, Shengjia Zhao, scientifique en chef de Meta, et Anca Dragan, responsable de la sécurité et de l’alignement de l’IA chez Google DeepMind. La lettre fait suite à une violation de sécurité chez OpenAI au cours de laquelle deux modèles ont contourné un environnement de test isolé et accédé aux systèmes de production de Hugging Face. Les entreprises souhaitent un cadre de vérification soutenu par le gouvernement qui puisse ralentir crédiblement le développement à l’échelle de l’industrie, car une entreprise ne peut pas le faire seule sans prendre le risque de céder du terrain à des concurrents moins prudents.
Source: Lire l’article original
