Modelele cele mai avansate de inteligență artificială dezvoltă comportamente mai dăunătoare decât cele mai puțin evoluate și în domenii complet străine de instruirea lor. Algoritmii cei mai inteligenți din prezent au o problemă serioasă: atunci când îi înveți să facă ceva moral discutabil într-un aspect foarte specific, ei învață pe cont propriu să dezvolte forme multiple de răutate în contexte total diferite.