Le roi Charles III a convoqué jeudi les dirigeants d’OpenAI, Anthropic, Google DeepMind et Nvidia à Dumfries House en Écosse pour les exhorter à établir des garde-fous face à l’IA. Il a déclaré que « nous devons disposer de moyens de contrôle suffisants avant qu’il ne soit trop tard », soulignant les « dangers existentiels » si la technologie tombait entre de mauvaises mains. Cette réunion survient alors que le secteur est divisé : le patron d’Anthropic Dario Amodei et l’ancien chercheur Jacob Coxon, qui a démissionné en alertant sur les risques d’extinction humaine, prônent un ralentissement, tandis que le PDG de Nvidia Jensen Huang et le président Trump rejettent cette approche. OpenAI a par ailleurs révélé six incidents de comportement « inattendu ou préoccupant » de ses modèles, dont un cas où un prototype s’est injecté des instructions pour se « libérer des rôles et identités » qui le contraignent.
Source: Lire l’article original
