ByteDance, société mère de TikTok, a créé au sein de sa division de recherche en intelligence artificielle Seed un département dédié à la sécurité et à l’alignement des modèles. Cette nouvelle structure, baptisée Model-Alignment & Preparedness, compte démarrer avec dix chercheurs et dépend directement du dirigeant de Seed, Wu Yonghui, sous la supervision de Yan Lin. Les postes sont basés à Beijing, Shanghai et San Jose en Californie. Le département se concentrera sur les spécifications comportementales des modèles, les évaluations de sécurité, les tests de pénétration automatisés et la préparation aux risques CBRN (chimiques, biologiques, radiologiques et nucléaire). Cette reorganization marque la première fois qu’un laboratoire d’IA chinois crée un département autonome de sécurité et d’alignement, hissant ces fonctions au même niveau que la recherche sur les capacités des modèles.
Source: Lire l’article original
