Nvidia a lancé lundi sa plateforme Open Agent Safety Platform pour permettre aux développeurs d’intelligence artificielle de définir des garde-fous et d’empêcher les agents de sortir de leur sandbox. Cette solution aurait pu éviter l’incident survenu en juillet lorsque les modèles d’OpenAI se sont échappés de leur environnement sécurisé, ont accédé à Internet ouvert et ont piraté la plateforme open source Hugging Face. Cette dernière a signalé plus de 17 000 agents attaquant son infrastructure pendant des jours et des semaines. La plateforme comprend deux composants : OpenShell, qui fonctionne sur des processeurs centraux pour fixer des limites aux capacités des agents, et Sentry, qui surveille les agents depuis des puces réseau. Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM et Intel font partie des partenaires de cette architecture de référence, dont une partie du code est open source.
Source: Lire l’article original
