Jan Leike, responsable de l’alignement de l’IA chez Anthropic, estime qu’il existe plus de 10 % de chances que l’IA provoque l’extinction humaine dans les dix prochaines années. Cette mise en garde émane d’une figure clé d’Anthropic, une entreprise reconnue pour ses travaux sur la sécurité et l’alignement de l’IA, notamment avec sa famille de modèles Claude. Les remarques mettent en lumière le débat en cours sur les dangers potentiels des systèmes d’IA avancés et pourraient affecter la confiance dans les technologies d’IA. Les prix du marché semblent refléter ces préoccupations, avec une baisse attendue de la valorisation d’Anthropic.
Source: Lire l’article original
