Les entreprises Anthropic et OpenAI sollicitent le soutien de petits organismes indépendants comme METR, Apollo Research et Transluce pour évaluer les capacités et les risques de leurs modèles d’intelligence artificielle avancée. METR a levé environ 71 millions de dollars au cours des six derniers mois, tandis que la start-up Vals AI a annoncé une ronde de financement de 40 millions de dollars en août, témoignant de l’intérêt croissant pour ce secteur. OpenAI a licencié trois employés la semaine dernière, dont Mikita Balesni et Tomek Korbak, qui affirment avoir été congédiés en raison de leurs communications avec des évaluateurs tiers, soulevant des questions sur d’éventuels conflits d’intérêts. Les principales interrogations concernent le financement de ces évaluateurs, leur niveau d’accès aux systèmes et la structure de leurs rapports. En Californie, le gouverneur Gavin Newsom a signé début octobre deux lois établissant un cadre pour les organisations de vérification indépendantes (IVO), soutenu par Anthropic et OpenAI.
Source: Lire l’article original
