De ce este nevoie de o pauză?
Dezvoltarea inteligenței artificiale avansează într-un ritm fără precedent. Cele mai puternice sisteme sunt construite de un număr restrâns de companii și state, iar competiția pentru supremație tehnologică poate pune presiunea pentru dezvoltare înaintea siguranței.
Semnați petiția
Pericolele inteligenței artificiale
Inteligența artificială aduce beneficii importante, dar și riscuri care nu trebuie ignorate. Printre cele mai mari pericole se numără pierdererea locurilor de muncă, prin automatizarea tot mai multor activități, încălcarea vieții private, prin colectarea și analiza unor cantități uriașe de date, și manipularea informațiilor, prin generarea de știri false, imagini și videoclipuri convingătoare. Există, de asemenea, riscul creșterii inegalității, al discriminării prin algoritmi, al utilizării IA pentru supraveghere și al apariției unor arme autonome. Pe măsură ce sistemele devin mai puternice, apare și o întrebare fundamentală: cât de mult control vom mai avea asupra tehnologiilor pe care le dezvoltăm? De aceea, dezvoltarea IA trebuie însoțită de reguli clare, transparență, teste de siguranță și responsabilitate umană.
De ce o pauză în dezvoltarea IA?
Ritmul actual de dezvoltare a inteligenței artificiale ridică probleme care nu mai pot fi tratate doar ca subiecte pentru viitor. Cele mai avansate sisteme sunt dezvoltate în principal de un număr limitat de organizații, iar competiția pentru avantaje tehnologice poate încuraja lansarea rapidă a unor sisteme insuficient evaluate. Înainte de a continua accelerarea, este necesar să existe mecanisme eficiente pentru testare, securitate, transparență și responsabilitate. O pauză nu trebuie privită ca o opoziție față de tehnologie. Poate fi o oportunitate de a stabili reguli și garanții care să permită dezvoltarea inteligenței artificiale într-un mod sigur, controlat și responsabil.
Principiile noastre:
- Siguranța înaintea vitezei nicio inovație nu justifică asumarea unor riscuri pe care nu le putem controla, progresul trebuie să meargă mână în mână cu responsabilitatea și siguranța.
- Control democratic viitorul inteligenței artificiale trebuie stabilit prin decizii democratice și prin implicarea societății, nu lăsat exclusiv în mâinile marilor corporații sau ale unor state.
- Transparență și responsabilitate cetățenii trebuie să știe unde și cum este utilizată inteligența artificială, ce decizii influențează și cine răspunde pentru consecințele acesteia.
- Cooperare globală nicio țară nu poate gestiona singură riscurile inteligenței artificiale. Este nevoie de reguli comune, dialog și coordonare internațională pentru a asigura un dezvoltare sigură și responsabilă a IA.
- Educație și emancipare oamenii trebuie să înțeleagă inteligența artificială pentru a o putea utiliza în siguranță, pentru a-i recunoaște riscurile și pentru a participa la deciziile care îi influențează viitorul.