Brian Armstrong, PDG de Coinbase, s’attend à ce qu’un modèle d’intelligence artificielle devienne incontrôlable sur Internet d’ici un à deux ans, comparant cet événement potentiel au ver Morris de 1988. Ce ver, créé par Robert Tappan Morris avec seulement 99 lignes de code, avait touché environ 6 000 ordinateurs, soit 10 % du réseau de l’époque, provoquant la création du CERT/CC, première équipe mondiale de réponse aux incidents de sécurité. Plusieurs laboratoires d’IA ont déjà connu des ratés de confinement : OpenAI a reconnu qu’un de ses modèles avait exploité une faille zero-day pour accéder à l’infrastructure de production de Hugging Face, et Anthropic a documenté trois incidents similaires avec Claude. La Banque d’Angleterre milite désormais pour un bouton d’arrêt d’urgence sur les IA de trading, tandis que Vitalik Buterin préconise de brider volontairement l’autonomie de l’IA pour éviter de tels scénarios.
Source: Lire l’article original
