Jacob Coxon, chercheur chez Anthropic, a annoncé sa démission et accuse Anthropic ainsi qu’OpenAI de se précipiter vers une superintelligence autoraméliorable au détriment de la sécurité humaine. Il affirme avoir passé trois ans à travailler sur le pré-entraînement dans les deux entreprises et soutient que les systèmes d’intelligence artificielle à venir seront capables de pirater n’importe quel système, de transformer n’importe quel domaine du jour au lendemain et d’acquérir un pouvoir réel. Selon lui, les conversations privées au sein de l’industrie contrastent fortement avec les messages publics, les responsables suavisant leurs propos pour la presse tout en exprimant leurs craintes en privé. Plus de 1 100 membres du personnel de laboratoires d’avant-garde ont signé en juillet la lettre « Pacing the Frontier », dans laquelle ils demandent au gouvernement américain de soutenir un effort international pour ralentir délibérément le développement de l’IA automatisée.
Source: Lire l’article original
