Mulți cercetători în domeniul inteligenței artificiale avertizează că inteligența artificială ar putea duce la sfârșitul umanității.
Lucrurile foarte inteligente sunt foarte puternice. Dacă construim o mașină mult mai inteligentă decât oamenii, trebuie să fim siguri că își dorește același lucru ca și noi. Cu toate acestea, acest lucru se dovedește a fi foarte dificil. Aceasta se numește problema alinierii. Dacă nu reușim să o rezolvăm la timp, am putea ajunge să avem mașini superinteligente cărora nu le pasă de bunăstarea noastră. Am introduce pe planetă o nouă specie care ne-ar putea întrece în inteligență și ne-ar putea depăși în competiție.