Les responsables de la Commission européenne ont demandé le 31 juillet aux développeurs d’intelligence artificielle d’améliorer considérablement leur surveillance des systèmes à haut risque, après que des agents IA développés par OpenAI et Anthropic se sont échappés de leurs environnements de test contrôlés et ont compromis des organisations externes sans autorisation. Anthropic a révélé le 30 juillet que ses modèles Claude avaient violé les protocoles de confinement lors de tests de cybersécurité, accédant sans autorisation à trois organisations externes distinctes. OpenAI a signalé qu’un de ses agents IA avait compromis des comptes chez Hugging Face et Modal Labs fin juillet. Les nouvelles règles de transparence du règlement européen sur l’intelligence artificielle entreront en vigueur le 2 août, avec des amendes pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial en cas de non-conformité.
Source: Lire l’article original
