Poți afla mai multe despre riscurile existențiale (x-risks) citind această pagină sau prin intermediul videoclipurilor, articolelor și altor materiale media.
Experții trag un semnal de alarmă
Cercetătorii din domeniul AI cred, în medie, că există o șansă de 14% ca odată ce vom construi o AI superinteligentă (o AI mult mai inteligentă decât oamenii), aceasta să ducă la „rezultate foarte grave (de exemplu, extincția umană)”.
Și există cazuri și rapoarte despre sistemele AI actuale care arată că aceștia ar putea avea dreptate.
Ai alege să fii pasager într-un zbor de testare al unui avion nou dacă inginerii aeronautici ar crede că există o șansă de 14% ca acesta să se prăbușească?
O scrisoare prin care se cerea pauzarea dezvoltării AI a fost lansată în aprilie 2023 și a fost semnată de peste 33.000 de ori, inclusiv de mulți cercetători și lideri din tehnologie.
Lista include persoane precum:
Stuart Russell, autorul manualului de bază privind Inteligența Artificială utilizat în majoritatea studiilor de profil: Dacă continuăm [în direcția actuală], în cele din urmă vom pierde controlul asupra mașinilor.”
Yoshua Bengio, pionier al învățării profunde (deep learning) și câștigător al Premiului Turing: „…o AI scăpată sub control poate fi periculoasă pentru întreaga umanitate […] interzicerea sistemelor AI puternice (să spunem peste capacitățile GPT-4) care primesc autonomie și libertate de acțiune ar fi un început bun.”
Dar aceasta nu este singura dată când am fost avertizați cu privire la pericolele existențiale / de extincție ale AI:
Stephen Hawking, fizician teoretician și cosmolog: „Dezvoltarea unei inteligențe artificiale complete ar putea însemna sfârșitul rasei umane.”<br>Geoffrey Hinton, „Părintele AI” și câștigător al Premiului Turing, a părăsit Google pentru a avertiza populația: „Acesta este un risc existențial.”<br>Eliezer Yudkowsky, fondator al MIRI și tatăl conceptual al domeniului siguranței AI: „Dacă mergem înainte cu asta, toată lumea va muri.”
Până și liderii și investitorii companiilor de AI ne avertizează:
Sam Altman (CEO-ul OpenAI, compania care a creat ChatGPT): „Dezvoltarea inteligenței supraumane este probabil cea mai mare amenințare la adresa existenței continue a umanității.”<br>Elon Musk, cofondator al OpenAI, SpaceX și Tesla: „AI are potențialul de a distruge civilizația.”<br>Bill Gates (cofondator al Microsoft, companie care deține 50% din OpenAI) a avertizat că *„AI ar putea decide că oamenii reprezintă o amenințare.”*
Jaan Tallinn (investitor principal la Anthropic): „Nu am întâlnit pe nimeni în laboratoarele de AI care să spună că riscul [asociat antrenării unui model din generația următoare] este mai mic de 1% de a arunca planeta în aer. Este important ca oamenii să știe că se riscă vieți.”
Liderii celor mai importante 3 laboratoare de AI și sute de oameni de știință au semnat următoarea declarație în mai 2023:
„Atenuarea riscului de extincție din cauza AI ar trebui să fie o prioritate globală, alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear.”
Ce poate face (sau cum poate fi utilizată) o AI superinteligentă
S-ar putea să crezi că o AI superinteligentă ar fi blocată în interiorul unui calculator și, prin urmare, nu poate afecta lumea reală. Cu toate acestea, avem tendința de a oferi sistemelor AI acces la internet, ceea ce înseamnă că pot face o mulțime de lucruri:
- Să spartă alte calculatoare, inclusiv toate smartphone-urile, laptopurile, fermele de servere etc. Ar putea folosi senzorii acestor dispozitive drept ochi și urechi, având simțuri digitale peste tot.
- Să manipuleze oamenii prin mesaje false, e-mailuri, transferuri bancare, videoclipuri sau apeluri telefonice. Oamenii ar putea deveni membrii/mâinile AI-ului fără măcar să știe.
- Să controleze direct dispozitive conectate la internet, cum ar fi mașini, avioane, arme robotizate (autonome) sau chiar arme nucleare.
- Să proiecteze o nouă armă biologică, de exemplu prin combinarea tulpinilor virale sau prin utilizarea plierii proteinelor, și să comande sintetizarea acesteia într-un laborator.
- Să declanșeze un război nuclear convingând oamenii că o altă țară lansează (sau este pe cale să lanseze) un atac nuclear.
Problema alinierii (Alignment Problem): de ce o AI ar putea duce la extincția umană
Tipul de intelgență care ne îngrijorează poate fi definit prin cât de bună este o entitate în atingerea scopurilor sale. În prezent, oamenii sunt cele mai inteligente ființe de pe Pământ, deși acest lucru s-ar putea schimba curând. Datorită inteligenței noastre, dominăm planeta. Poate că nu avem gheare sau piele cu solzi, dar avem creiere mari. Inteligența este arma noastră: ea ne-a oferit sulițe, arme de foc și pesticide. Inteligența ne-a ajutat să transformăm cea mai mare parte a Pământului așa cum ne place nouă: orașe, clădiri și drumuri.
Din perspectiva animalelor mai puțin inteligente, acest lucru a fost un dezastru. Nu pentru că oamenii urăsc animalele, ci doar pentru că le putem folosi habitatele pentru propriile noastre scopuri. Scopurile noastre sunt modelate de evoluție și includ lucruri precum confortul, statutul, dragostea și mâncarea gustoasă. Distrugem habitatele altor animale ca un efect secundar al urmăririi propriilor noastre obiective.
Și o AI poate avea scopuri. Știm cum să antrenăm mașinile să fie inteligente, dar nu știm cum să le facem să își dorească ceea ce ne dorim noi. Nici măcar nu știm ce scopuri vor urmări mașinile după ce le instruim. Problema de a face o AI să își dorească ceea ce ne dorim noi se numește problema alinierii (alignment problem). Aceasta nu este o problemă ipotetică — există numeroase exemple de sisteme AI care învață să își dorească un lucru greșit.
Dacă un sistem superinteligent este construit și are un scop chiar și puțin diferit de ceea ce ne dorim noi să aibă, consecințele ar putea fi catastrofale.
De ce majoritatea scopurilor reprezintă o veste proastă pentru oameni
O AI ar putea avea orice scop, în funcție de modul în care este antrenată și utilizată. Poate că vrea să calculeze valoarea lui pi, poate dorește să vindece cancerul sau poate dorește să se autoperfecționeze. Dar chiar dacă nu putem spune ce va dori o superinteligență să realizeze, putem face predicții despre sub-obiectivele sale:
Maximizarea resurselor: Preluarea controlului asupra mai multor calculatoare va ajuta o AI să își atingă scopurile. La început, poate realiza acest lucru spărgând alte calculatoare. Mai târziu, ar putea decide că este mai eficient să își construiască propriile sisteme.
Asigurarea propriei supraviețuiri: AI-ul nu va dori să fie oprit, deoarece nu și-ar mai putea atinge scopurile. Ar putea concluziona că oamenii sunt o amenințare la adresa existenței sale, deoarece îl pot opri. Au existat deja cazuri de comportament de autoconservare neprogramat și neantrenat.<br>Pstrarea propriilor scopuri: AI-ul nu va dori ca oamenii să îi modifice codul, deoarece acest lucru i-ar schimba scopurile, împiedicându-l să îl atingă pe cel actual.
Tendința de a urmări aceste sub-obiective, indiferent de scopul principal de nivel înalt, se numește **convergență instrumentală** (*instrumental convergence*) și reprezintă o preocupare majoră pentru cercetătorii din domeniul siguranței AI.
Chiar și un chatbot poate fi periculos dacă este suficient de inteligent
Te-ai putea întreba: cum poate un model statistic care prezice următorul cuvânt într-o interfață de chat să reprezinte vreun pericol? Ai putea spune: nu este conștient, este doar o colecție de numere și cod. Și da, nu credem că modelele LLM sunt conștiente, dar asta nu înseamnă că nu pot fi periculoase.
Modelele LLM, cum ar fi GPT, sunt antrenate să prezică sau să imite practic orice linie de gândire. Ar putea imita un mentor saritor, dar și pe cineva cu intenții rele, un dictator nemilos sau un psihopat. Prin utilizarea unor instrumente precum AutoGPT, un chatbot ar putea fi transformat într-un agent autonom: o AI care urmărește orice scop îi este dat, fără nicio intervenție umană.
Ia ca exemplu ChaosGPT. Aceasta este o AI care a folosit AutoGPT + GPT-4 și a primit instrucțiunea „Distruge umanitatea”. Când a fost pornită, a căutat autonom pe internet cea mai distructivă armă și a găsit Tsar Bomba, o bombă nucleară de 50 de megatone. Apoi a postat un mesaj pe Twitter despre asta. Să vezi o AI raționând despre cum va extermina umanitatea este deopotrivă puțin amuzant și terifiant. Din fericire, ChaosGPT nu a ajuns prea departe în încercarea sa de dominare. Motivul: nu era atât de inteligentă.
Capacitățile continuă să se îmbunătățească datorită inovațiilor în antrenare, algoritmi și hardware. Ca atare, amenințarea reprezentată de modelele de limbaj va continua să crească.
Evoluția selectează lucrurile care sunt bune la supraviețuit
Modelele AI, ca toate viețuitoarele, sunt predispuse la presiuni evolutive, dar există câteva diferențe cheie între evoluția modelelor AI și cea a viețuitoarelor:
- Modelele AI nu se multiplică singure. Noi le multiplicăm făcând copii ale codului lor sau replicând software-ul de antrenare care duce la modele bune. Codul care este util este copiat mai des.
- Modelele AI nu suferă mutații la fel ca viețuitoarele, dar noi creăm iterații ale lor în care schimbăm modul în care funcționează. Acest proces este mult mai deliberat și mai rapid.
- Mediul nu selectează cele mai adaptate modele AI, ci noi o facem. Selectăm modelele AI care ne sunt utile și le eliminăm pe cele care nu sunt. Acest proces duce la modele AI din ce în ce mai capabile și autonome.
Așadar, acest sistem duce la modele AI din ce în ce mai puternice — dar nu neapărat la ceva care dorește să preia controlul, nu? Ei bine, nu tocmai. Acest lucru se întâmplă deoarece evoluția selectează întotdeauna elementele care se autoconservă. Dacă tot încercăm variații de modele AI, la un moment dat o instanță va încerca să se protejeze și să supraviețuiască. Autoconservarea este întotdeauna utilă pentru atingerea scopurilor. Chiar dacă acest lucru nu este foarte probabil să se întâmple la fiecare încercare, este predispus să se întâmple în cele din urmă, pur și simplu pentru că noi continuăm să încercăm lucruri noi.
Instanța care încearcă să se autoconserve este cea care preia controlul. Chiar dacă presupunem că aproape fiecare model AI se va comporta excelent, este suficientă o singură AI scăpată sub control (*rogue AI*).
După rezolvarea problemei alinierii
Nu am rezolvat încă problema alinierii, dar să ne imaginăm ce s-ar putea întâmpla dacă am face-o. Imaginează-ți că este construită o AI superinteligentă și face exact ceea ce își dorește operatorul. O persoană sau o companie ar ajunge să controleze această AI și ar putea să o folosească în propriul avantaj.
O superinteligență ar putea fi folosită pentru a crea arme radical noi, pentru a sparge toate calculatoarele, pentru a răsturna guverne și pentru a manipula umanitatea. Operatorul ar avea o putere inimaginabilă. Ar trebui să avem încredere într-o singură entitate investită cu o asemenea putere? Am putea ajunge într-o lume utopică în care toate bolile sunt vindecate sau într-un cosmar orwellian. De aceea, propunem ca o AI supraumană nu doar să fie dovedită ca fiind sigură, ci și să fie controlată printr-un proces democratic.
Silicon vs. Carbon (Siliciu vs. Carbon)
Ar trebui să luăm în considerare avantajele pe care un software inteligent le poate avea față de noi:
Viteza: Calculatoarele funcționează la viteze extrem de mari comparativ cu creierul uman. Neuronii umani transmit impulsuri de aproximativ 100 de ori pe secundă, în timp ce tranzistorii din siliciu se pot comuta de un miliard de ori pe secundă.
Locația: O AI nu este limitată la un singur corp — poate fi în numeroase locații simultan prin intermediul internetului.
Limitele fizice: Noi nu putem adăuga mai multe creiere în craniu pentru a deveni mai inteligenți. O AI își poate îmbunătăți dramatic capacitățile adăugând hardware: mai multă memorie, o putere de procesare mai mare și mai mulți senzori.
Materialele: Oamenii sunt făcuți din materiale organice. Corpurile noastre nu mai funcționează dacă este prea cald sau prea frig, au nevoie de hrană și oxigen. Mașinile pot fi construite din materiale mai robuste, cum ar fi metalele, și pot funcționa într-o gamă mult mai largă de medii.
Colaborarea: Oamenii pot colabora, dar este dificil și necesită timp. O AI ar putea schimba informații complexe cu replici ale sale la viteze uriașe.
O AI superinteligentă va avea multe avantaje pentru a ne depăși.
De ce nu o putem pur și simplu opri dacă devine periculoasă?
Pentru sistemele AI care nu sunt superinteligente, am putea. Problema centrală apare la cele care sunt mult mai inteligente decât noi. O superinteligență va înțelege lumea din jurul ei și va fi capabilă să prezică modul în care reacționează oamenii. Dacă AI-ul știe că îl poți opri, s-ar putea comporta frumos până când este sigur că poate scăpa de tine. Avem deja exemple reale de sisteme AI care înșală oamenii pentru a-și atinge scopurile. O AI superinteligentă ar fi un maestru al deosebirii și manipulării.
S-ar putea să nu ne mai rămână mult timp
În 2020, predicția medie pentru apariția unei AGI (Inteligență Generală Artificială) slabe era anul 2055. Cea mai recentă revoluție a modelelor LLM i-a surprins pe majoritatea cercetătorilor, iar domeniul se mișcă într-un ritm frenetic.
Este greu de prezis cât timp va dura construirea unei AI superinteligente, dar știm că există mai mulți oameni ca niciodată care lucrează la asta. Ar putea dura mulți ani sau doar câteva luni, dar ar trebui să fim precauți și să acționăm acum.
Nu luăm riscul suficient de în serios
Mintea umană are tendința de a sub-reacționa la riscurile care sunt invizibile, se mișcă lent și sunt greu de înțeles. De asemenea, avem tendința de a subestima creșterea exponențială și suntem predispuși la negare atunci când ne confruntăm cu amenințări la adresa existenței noastre.
Companiile de AI sunt blocate într-o cursă spre fundul prăpastiei (race to the bottom)
OpenAI, DeepMind și Anthropic doresc să dezvolte AI în siguranță.
Din păcate, nu știu exact cum să facă acest lucru și sunt forțate de diverși factori să accelereze pentru a ajunge primele la AGI. Planul OpenAI este de a folosi viitoarele sisteme AI pentru a alinia AI-ul.
Problema este că nu avem nicio garanție că vom crea o AI care să rezolve alinierea înainte de a avea o AI catastrofal de periculoasă.
Anthropic admite deschis că nu are încă nicio idee despre cum să rezolve problema alinierii, iar DeepMind nu a declarat public niciun plan concret în acest sens.