Acumularea de putere și tirania
Modelele puternice de inteligență artificială pot fi folosite pentru a obține mai multă putere. Această buclă de feedback pozitiv poate duce la o putere excesivă din partea câtorva companii sau guverne. Controlul asupra a mii de sisteme inteligente și autonome ar putea fi folosit pentru a influența opiniile, a manipula piețele sau chiar a purta război. În mâinile unui guvern autoritar, acest lucru ar putea fi folosit pentru a suprima disidența și a menține puterea.
De ce este nevoie de o pauză?
Dezvoltarea inteligenței artificiale avansează într-un ritm fără precedent. Cele mai puternice sisteme sunt construite de un număr restrâns de companii și state, iar competiția pentru supremație tehnologică poate pune presiunea pentru dezvoltare înaintea siguranței.
Semnați petiția