Jacob Coxon, ancien chercheur d’OpenAI et Anthropic, a témoigné lundi devant le Conseil municipal de New York que l’humanité perdra probablement le contrôle de l’intelligence artificielle avancée, ce qui pourrait entraîner l’extinction humaine. Daniel Kokotajlo, autre ancien chercheur d’OpenAI convoqué par subpoena, a déclaré que les entreprises d’IA ne savent pas toujours quand leurs travaux de sécurité échouent et a comparé le domaine à la psychologie plutôt qu’à l’ingénierie. Alex Turner, ancien de Google DeepMind, a estimé à environ une chance sur trois le risque de prise de contrôle par l’IA. Le conseil municipal examine un projet de loi imposant une validation externe et la possibilité d’arrêt manuel des systèmes d’IA, avec des amendes de 25 000 dollars par violation. Aucun représentant des entreprises d’IA présentes n’a levé la main lorsque le président a demandé si sa société disposait d’une assurance contre les risques catastrophiques.
Source: Lire l’article original
