De ce este nevoie de o pauză?
Dezvoltarea inteligenței artificiale avansează într-un ritm fără precedent. Cele mai puternice sisteme sunt construite de un număr restrâns de companii și state, iar competiția pentru supremație tehnologică poate pune presiunea pentru dezvoltare înaintea siguranței.
Semnați petiția
De ce o pauză în dezvoltarea IA?
Ritmul actual de dezvoltare a inteligenței artificiale ridică probleme care nu mai pot fi tratate doar ca subiecte pentru viitor. Cele mai avansate sisteme sunt dezvoltate în principal de un număr limitat de organizații, iar competiția pentru avantaje tehnologice poate încuraja lansarea rapidă a unor sisteme insuficient evaluate. Înainte de a continua accelerarea, este necesar să existe mecanisme eficiente pentru testare, securitate, transparență și responsabilitate. O pauză nu trebuie privită ca o opoziție față de tehnologie. Poate fi o oportunitate de a stabili reguli și garanții care să permită dezvoltarea inteligenței artificiale într-un mod sigur, controlat și responsabil.
Pericolele inteligenței artificiale
Inteligența artificială aduce beneficii importante, dar și riscuri care nu trebuie ignorate. Printre cele mai mari pericole se numără pierdererea locurilor de muncă, prin automatizarea tot mai multor activități, încălcarea vieții private, prin colectarea și analiza unor cantități uriașe de date, și manipularea informațiilor, prin generarea de știri false, imagini și videoclipuri convingătoare. Există, de asemenea, riscul creșterii inegalității, al discriminării prin algoritmi, al utilizării IA pentru supraveghere și al apariției unor arme autonome. Pe măsură ce sistemele devin mai puternice, apare și o întrebare fundamentală: cât de mult control vom mai avea asupra tehnologiilor pe care le dezvoltăm? De aceea, dezvoltarea IA trebuie însoțită de reguli clare, transparență, teste de siguranță și responsabilitate umană.
Valorile PauseAI
Ce ne dorim?
Să oprim la nivel global dezvoltarea IA de frontieră până când vom ști cum să o facem în siguranță și sub control democratic. Vedeți propunerea noastră.
Care sunt valorile noastre?
- Non-violență. Nu vom folosi, încuraja sau tolera niciodată violența, inclusiv deteriorarea proprietății, amenințări sau glume despre violență. Mișcarea noastră este strict pașnică și legală. O singură încălcare oriunde dăunează tuturor, pretutindeni.
- Umanitatea pe primul loc. IA ar trebui dezvoltată într-un mod care să fie benefic pentru umanitate sau deloc. Acesta este motivul pentru care existăm.
- Rigoare intelectuală. Reprezentăm stadiul cunoașterii cât mai exact posibil. Recunoaștem incertitudinea și nu exagerăm pretențiile de a câștiga dispute. Suntem deschiși la critici și la posibilitatea de a greși în ceea ce privește cea mai bună modalitate de a ne atinge obiectivele. Credibilitatea noastră depinde de acest lucru.
- Onestitate. Nu avem interese ascunse sau conflicte de interese, așa că suntem liberi să spunem ceea ce credem. Nu ne îndulcim mesajul pentru a-l face mai acceptabil.
- Transparență implicită. Facem și discutăm lucruri public și deschis, cu excepția cazului în care există un motiv întemeiat pentru a nu face acest lucru. Site-ul nostru web este open source, spațiile noastre comunitare sunt accesibile, iar raționamentul nostru este publicat. A fi abordabil reduce bariera în calea alăturării.
- Prejudecată pentru acțiune. Nu așteptăm perfecțiunea înainte de a acționa. Încurajăm inițiativa și realizăm lucrurile chiar și fără o finanțare semnificativă. Perfecțiunea este dușmanul binelui.
- Comunitate și incluziune. O mișcare se bazează pe relații. Suntem conduși de voluntariat și oricine poate contribui. Creăm spații primitoare unde oamenii se pot întâlni, conecta și se pot simți ca acasă. Toată lumea, indiferent de originea lor, își are locul aici.
- Utilizarea inteligenței artificiale este acceptabilă. Chiar dacă vrem să oprim dezvoltarea avansată a inteligenței artificiale, ne simțim în continuare confortabil să folosim inteligența artificială existentă în moduri care ne ajută să ne atingem obiectivele. Nu facem spirale de puritate.