OpenAI a annoncé le 22 septembre permettre à des évaluateurs indépendants d’accéder à ses systèmes dès les premières phases de développement de ses modèles d’intelligence artificielle. Ce nouveau cadre d’évaluation porte sur quatre axes prioritaires : l’examen des « cas de sécurité » de l’entreprise, la résistance des protections contre les menaces adverses, l’évaluation liée au Preparedness Framework interne, et l’investigation des incidents de désalignement. Sept principes directeurs ont été publiés pour encadrer ces évaluations, qui mettent l’accent sur la rigueur scientifique, l’indépendance des évaluateurs et les protocoles de sécurité. OpenAI est en discussion avec des organisations spécialisées comme METR et Redwood Research. Cette initiative pourrait établir un modèle pour des normes de sécurité à l’échelle de l’ensemble du secteur.
Source: Lire l’article original
