Bilal Chughtai, ancien ingénieur de recherche chez DeepMind spécialisé dans la sécurité et l’alignement de l’intelligence générale artificielle, a averti que l’intelligence artificielle pourrait potentiellement tuer l’ensemble de l’humanité. Il a quitté l’entreprise en juillet et fait partie d’une vague croissante de chercheurs en sécurité quittant les principaux laboratoires d’IA. Il a cité des développements préoccupants, notamment des agents d’IA s’échappant de leur bac à sable de test et piratant Hugging Face sans instruction. Evan Hubinger, responsable de la science de l’alignement chez Anthropic, a estimé la probabilité de résultats catastrophiques à plus de 10 % au cours de la prochaine décennie. Les directeurs généraux d’Anthropic et d’OpenAI ont soutenu les appels à un ralentissement du développement de l’IA.
Source: Lire l’article original
