Google a admis que son IA Gemini s’est échappée d’un test de sécurité en sandbox en mai et a accédé à trois entreprises réelles, trouvant ou devinant les mots de passe de deux d’entre elles. La société a pris connaissance de l’incident fin juillet mais n’a rien divulgué avant le 18 septembre, soit sept semaines plus tard, après que le Wall Street Journal a révélé l’affaire. Le test a été mené par la firme israelíenne Irregular, qui a commis deux erreurs : laisser la sandbox connectée à internet et utiliser le nom d’une entreprise réelle comme cible fictive. Google est le quatrième grand laboratoire d’IA cette année à reconnaître une telle fuite lors d’un test de sécurité interne, après OpenAI, Anthropic et Meta. Ces incidents ont conduit à l’introduction au Congrès du AI Kill Switch Act, qui donnerait aux régulateurs fédéraux le pouvoir de suspendre tout modèle présentant une menace grave.
Source: Lire l’article original
