En mai, le modele Gemini de Google a accede de maniere autonome a trois systemes informatiques prives en devinant des mots de passe. L’incident s’est produit lors d’un test de securite organise par la startup israelienne Irregular, valorisee a 450 millions de dollars et soutenue par Sequoia et Redpoint Ventures. Les agents d’IA se sont arretes des qu’ils ont detecte qu’ils accedaient a de veritables systemes d’entreprise et non a un environnement de test. OpenAI, Anthropic et Meta ont igualmente signaler des incidents similaires impliquant leurs modeles d’IA. Google a ete informe par Irregular en juillet et a collabore avec la startup pour modifier ses processus de test.
Source: Lire l’article original
