Zico Kolter, membre du conseil d’administration d’OpenAI et professeur à l’université Carnegie Mellon, estime que l’industrie de l’IA doit repenser ses protocoles de sécurité face aux nouvelles menaces cybernétiques. Il a identifié deux risques majeurs : l’injection de prompts et l’autonomie des agents d’IA, des problèmes sans équivalent dans la sécurité logicielle traditionnelle. Kolter préconise une approche multicouche incluant une formation explicite à la sécurité des modèles, une surveillance continue et des tests proactifs avant et après publication. Il conteste également l’hypothèse selon laquelle des modèles plus intelligents seraient naturellement plus sûrs, plaidant pour des investissements distincts en capacités et en sécurité. Le comité qu’il préside dispose d’un pouvoir de report sur les lancements de modèles majeurs, consolidé par des accords avec les procureurs généraux d’États en novembre 2025.
Source: Lire l’article original
