Risc existențial
Mulți cercetători în domeniul inteligenței artificiale avertizează că inteligența artificială ar putea duce la sfârșitul umanității.
Lucrurile foarte inteligente sunt foarte puternice. Dacă construim o mașină mult mai inteligentă decât oamenii, trebuie să fim siguri că își dorește același lucru ca și noi. Cu toate acestea, acest lucru se dovedește a fi foarte dificil. Aceasta se numește problema alinierii. Dacă nu reușim să o rezolvăm la timp, am putea ajunge să avem mașini superinteligente cărora nu le pasă de bunăstarea noastră. Am introduce pe planetă o nouă specie care ne-ar putea întrece în inteligență și ne-ar putea depăși în competiție.
De ce este nevoie de o pauză?
Dezvoltarea inteligenței artificiale avansează într-un ritm fără precedent. Cele mai puternice sisteme sunt construite de un număr restrâns de companii și state, iar competiția pentru supremație tehnologică poate pune presiunea pentru dezvoltare înaintea siguranței.
Semnați petiția