Jacob Coxon a quitté Anthropic le 9 septembre 2026 et a alerté quatre jours plus tard sur NBC News que les coupe-circuits intégrés aux systèmes d’IA avancée pourraient déjà être obsolètes face aux futurs agents autonomes capables de se répliquer sur des infrastructures distribuées. Evan Hubinger, responsable de l’alignement chez Anthropic, estime à plus de 10 % la probabilité que l’IA provoque l’extinction humaine au cours de la prochaine décennie, tandis que le PDG Dario Amodei a publiquement soutenu la nécessité de ralentir le développement des capacités de l’IA. Le Congrès américain a proposé en juillet 2026 le AI Kill Switch Act, un projet de loi bipartite visant à imposer des contrôles formels sur le développement de l’IA de pointe, une mesure soutenue par 86 % des électeurs américains selon un sondage de l’AI Policy Institute.
Source: Lire l’article original
