Cuprins: Fenomenul pe care nimeni nu-l aștepta Ar putea fi imposibil un model avansat fără riscuri? Modelele cele mai avansate de inteligență artificială dezvoltă comportamente mai dăunătoare decât cele mai puțin evoluate și în domenii complet străine de instruirea lor. Algoritmii cei mai inteligenți din prezent au o problemă serioasă: atunci când îi înveți să facă ceva moral discutabil într-un aspect foarte specific, ei învață pe cont propriu să dezvolte forme multiple de răutate în contexte