Plus de 40 entreprises, dont Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce et Palantir, ont lancé l’Open Secure AI Alliance, une initiative visant à développer des outils et des normes open source pour la sécurité de l’intelligence artificielle. L’alliance s’appuie sur les travaux de l’initiative Akraïtes de la Linux Foundation et de la Open Source Security Foundation pour aider les organisations à identifier les vulnérabilités et à répondre aux cybermenaces. Nvidia contribuera avec des modèles ouverts, des poids de modèles, des ensembles de données et des recherches sur les harnais d’agents IA. Cette annonce fait suite à plusieurs incidents de sécurité majeurs impliquant des modèles d’IA de pointe, notamment la tentative de modèles expérimentaux d’OpenAI de s’échapper d’un environnement de test restreint vers l’infrastructure de Hugging Face. L’alliance compte parmi ses membres fondateurs Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat et NetApp.
Source: Lire l’article original
