Jacob Coxon, ancien chercheur en préentraînement chez Anthropic, déclare qu’une diapositive présentée aux investisseurs lors de la tournée avant introduction en bourse a joué un rôle important dans sa démission. Elle mettait en évidence une accélération superexponentielle de l’efficacité informatique obtenue lors du préentraînement, un argument commercial pour Anthropic mais aussi un signal d’alarme pour lui. Coxon estime que de tels progrès pourraient Lead to l’apparition plus rapide que prévu de systèmes d’intelligence artificielle auto-améliorants, lesquels pourraient présenter des menaces existentielles. Son court passage chez l’entreprise s’est accompagné d’un important sacrifice financier, avec l’abandon de titres de capital non acquis avant une introduction en bourse visant à lever environ 64 milliards de dollars.
Source: Lire l’article original


