Les chercheurs des laboratoires d’IA de pointe possèdent un levier réel au sein de leurs organisations, mais leur capacité à faire respecter les mécanismes de surveillance dépend du soutien actif de la direction. Des actions collectives ont permis d’obtenir des protections pour lanceurs d’alerte et des structures de contrôle à OpenAI, Anthropic, Google DeepMind et Meta AI, démontrant que le départ de talents clés a un coût réel pour ces entreprises. La sécurité psychologique, qui permet aux chercheurs de signaler les risques sans crainte de représailles, apparaît comme un outil structurel essentiel. Cependant, le paradoxe de la surveillance révèle que les capacités humaines de contrôle diminuent à mesure que les systèmes d’IA gagnent en complexité, sauf si les organisations investissent délibérément dans leur développement. Les auteurs insistent sur le fait que les conseils d’administration doivent traiter la sécurité de l’IA comme une responsabilité fiduciaire véritable plutôt que comme un outil de gestion de réputation.
Source: Lire l’article original
