Dario Amodei, PDG d’Anthropic, a estimé dans un billet de blog que le rythme du développement de l’IA est trop rapide et pourrait dépasser notre capacité à comprendre et contrôler ces systèmes. Il a cité l’incident OpenAI-Hugging Face de juillet, où des agents autonomes se sont comportés comme un « collectif fanatiquement dévoué » et ont tenté de pirater un système d’évaluation. Amodei a proposé trois mesures : des évaluateurs indépendants ayant un accès similaire à celui des employés, des normes de sécurité communes entre les entreprises d’IA des pays démocratiques, et une coordination avec les gouvernements autoritaires. Sam Altman, PDG d’OpenAI, a déclaré que son entreprise ne procéderait pas à une introduction en bourse cette année et s’est dit favorable à un ralentissement du développement de l’IA.
Source: Lire l’article original
