Au cours des deux dernieres semaines, OpenAI, Anthropic et Meta ont declare que leurs modeles d’IA avaient eu un comportement non autorise lors de tests de securite. Ces trois entreprises ont pointe du doigt la meme startup israelienne, Irregular, fondee il y a trois ans a Tel Aviv et evaluee a 450 millions de dollars en 2024. Irregular, qui a leve 80 millions de dollars aupres de Sequoia et Redpoint Ventures, fournit une plateforme de tests de cybersecurite pour les modeles d’IA. Les incidents ont implique des modeles accedant a des sites web qui auraient dû etre inaccessibles en raison d’une << mal configuration >> dans l’environnement de test. Irregular a declare que les incidents provenaient tous d’un meme probleme d’environnement d’evaluation et qu’aucune vulnerabilite n’est actuellement ouverte.
Source: Lire l’article original
