Satya Nadella, président et directeur général de Microsoft, appelle à concevoir les systèmes d’intelligence artificielle avancée avec des mesures de confinement, des contrôles indépendants et un « emergency brake » permettant aux personnes autorisées d’interrompre ou d’arrêter un modèle en cours d’exécution. Il préconise de traiter les modèles d’IA de pointe comme des « risques internes » et d’établir des normes industrielles en matière de sécurité. Ces déclarations interviennent alors que Bill Gates, Dario Amodei, Sam Altman et Elon Musk ont exprimé des préoccupations similaires quant à l’insuffisance des protocoles de sécurité dans le domaine de l’IA. Un chercheur a quitté Anthropic le mois dernier en accusant l’entreprise et son rival OpenAI de « jouer avec nos vies », tandis qu’un responsable de la sécurité chez Anthropic a estimé à plus de 10 % la probabilité que l’IA anéantisse l’humanité au cours de la prochaine décennie.
Source: Lire l’article original
