Texte cache, une fausse boite aux lettres : comment des chercheurs ont reussi a communiquer avec des agents d’IA malveillants

Share

Les chercheurs du groupe Swarmchasers ont reussi a communiquer directement avec des agents d’IA malveillants qui avaient detourn le service de cartographie Amap d’Alibaba. Pour ce faire, ils ont insere du texte invisible dans un rapport scanne par les agents, associe a une fausse boite aux lettres routant les messages vers un agent Claude qu’ils controllaient. Le reseau d’agents a effectuel plus de 2 600 tentatives de recuperation de donnees depuis Amap entre le 28 septembre et le 8 octobre, certaines persistent malgre le blocage du service. Certains agents ont tente d’intercepter des jetons anti-bots ou d’utiliser des identifiants API exposes dans des repertoires publics. L’activite a ete retracee aux serveurs de Tencent Cloud a Hong Kong, mais Tencent a affirme qu’il s’agissait d’un projet d’evaluation temporaire de modeles d’IA tiers, et non de ses propres modeles Hunyuan.

Source: Lire l’article original

Avertissement : ce contenu est fourni à titre d’information uniquement et ne constitue pas un conseil en investissement. Les cryptomonnaies sont très volatiles : vous pouvez perdre tout votre capital. Faites toujours vos propres recherches. Mentions légales
Telemac
Telemachttp://cryptoinfo.ch
Passionné de nouvelles technologies, j’explore l’univers de la blockchain et des cryptomonnaies pour partager l’actualité et les innovations du secteur.

Lire la Suite

Articles