Le PDG de Microsoft Satya Nadella a demandé le 10 octobre 2026 la création d’une architecture de confiance pour les systèmes d’IA de pointe, incluant un frein d’urgence permettant au personnel autorisé de mettre en pause ou d’arrêter un modèle en cours de tâche. Il a également proposé des journaux de traces humains lisibles et inviolables ainsi que des audits indépendants des systèmes d’IA. Brad Smith, président de Microsoft, avait déjà soutenu cette idée en septembre 2026, et des avertissements similaires avaient été formulés par Elon Musk et Sam Altman. Les inquiétudes portent principalement sur les systèmes dit agentiques et le risque de perte de contrôle sur une IA qui continuerait d’agir sans que personne puisse l’arrêter. Plusieurs questions restent sans réponse, notamment l’identification du personnel autorisé à activer le frein et les standards.applyés aux audits indépendants.
Source: Lire l’article original
