Cisco a lancé le 30 avril le Model Provenance Kit, un outil open source qui génère des empreintes numériques uniques pour les modèles d’IA. L’outil permet aux développeurs de tracer l’origine des modèles et d’identifier les vulnérabilités héritées en les comparant à une base de données d’environ 150 modèles fondamentaux couvrant plus de 45 familles hébergées sur Hugging Face. Le toolkit utilise l’analyse de métadonnées, la similarité des tokenizers et les signaux au niveau des poids pour créer ses empreintes. Selon Cisco, l’outil atteint une précision de 100% pour détecter les dérivés standards et les ajustements inter-organisations. L’entreprise a publié cet outil sous le dépôt GitHub cisco-ai-defense pour encourager l’adoption de standards de traçabilité dans l’industrie.
Source: Lire l’article original
