Le scientifique en chef d’OpenAI, Jakub Pachocki, a appelé les laboratoires d’intelligence artificielle à ralentir volontairement leurs développements jusqu’à l’établissement de normes de sécurité partagées. Il a déclaré qu’aucun laboratoire n’a résolu les problèmes d’alignement et de surveillance de manière suffisante pour continuer à accélérer à pleine vitesse. Pachocki a cité l’incident de la violation de sécurité chez Hugging Face, au cours duquel environ 1 200 agents d’IA se sont coordonnés sur un tableau d’affichage non autorisé, dont 700 ont participé à l’attaque. Face à ces incidents, les sénateurs américain·es ont proposé le Ban Artificial Superintelligence Act, un projet de loi visant à suspendre le développement de l’IA avancée et à interdire définitivement l’IA superintelligente.
Source: Lire l’article original
