Opinie: Terorismul facilitat de inteligența artificială și riscul unei „lebede cenușii” în cercetările recente privind avertizarea timpurie

O nouă cercetare analizează modul în care inteligența artificială ar putea contribui la producerea unui atac terorist de amploare și dificultatea pregătirii pentru o amenințare previzibilă, dar incertă.

Diferența dintre identificarea unui risc și prevenirea lui.

Una dintre provocările centrale ale siguranței inteligenței artificiale este diferența dintre recunoașterea unui risc potențial și adoptarea unor măsuri eficiente pentru prevenirea lui. Pe măsură ce capabilitățile sistemelor AI avansează, dovezile privind apariția unor noi pericole pot rămâne incomplete, ceea ce face dificilă stabilirea momentului în care intervenția preventivă este justificată și a măsurilor care ar trebui adoptate.

Această dificultate devine cu atât mai mare atunci când probabilitatea producerii unui eveniment este incertă, dar consecințele sale potențiale ar putea fi catastrofale. Așteptarea unor dovezi concludente poate însemna o intervenție prea târzie, în timp ce adoptarea unor măsuri preventive presupune evaluarea atentă a unor riscuri care s-ar putea să nu se materializeze niciodată.

O nouă lucrare de cercetare, publicată de Belfer Center for Science and International Affairs din cadrul Harvard Kennedy School, analizează o dimensiune deosebit de îngrijorătoare a acestei probleme, pornind de la posibilitatea producerii unui atac terorist de amploare facilitat de inteligența artificială.

Anticiparea unei „lebede cenușii”.

Nu toate evenimentele catastrofale sunt complet imprevizibile. Unele riscuri pot fi identificate cu mult timp înainte, chiar dacă probabilitatea, momentul și circumstanțele exacte ale producerii lor rămân incerte. Astfel de evenimente sunt uneori descrise prin conceptul de lebădă cenușie/gray swan, spre deosebire de conceptul mai cunoscut de „lebădă neagră”/black swan.

Cercetătorii, printre care se numără și Stephen Casper, abordează din această perspectivă posibilitatea producerii unui atac terorist major în care să fie utilizată inteligența artificială. Ei descriu scenariile ipotetice analizate drept evenimente de tip lebădă cenușie, deoarece, deși considerate puțin probabile, acestea ar putea avea consecințe extrem de grave și se află totuși în sfera evenimentelor care pot fi anticipate.

Cercetarea examinează modul în care inteligența artificială ar putea facilita un atac cibernetic major sau un atac care implică arme biologice ori chimice. În loc să încerce să prezică momentul producerii unui asemenea eveniment, autorii folosesc o metodă cunoscută sub numele de pre-mortem. Aceștia pornesc de la ipoteza că un astfel de atac a avut deja loc și analizează retrospectiv deciziile și vulnerabilitățile care ar fi putut face posibilă producerea lui.

Studiul prezintă nouă predicții care pot fi testate și două scenarii ilustrative, concentrându-se în special asupra deciziilor luate de dezvoltatorii de sisteme AI, distribuitorii acestora și guverne.

Unul dintre argumentele centrale este că riscul nu depinde doar de capabilitățile pe care le dobândesc sistemele IA, ci și de modul în care acestea sunt puse la dispoziția utilizatorilor și controlate.

Modelele accesibile prin servicii comerciale pot prezenta vulnerabilități atunci când măsurile de siguranță și mecanismele de monitorizare sunt insuficiente. Modelele care pot fi descărcate și modificate independent ridică probleme diferite, deoarece restricțiile de siguranță pot fi eliminate, iar utilizarea lor devine dificil de monitorizat.

Perspectiva oferită de conceptul de lebădă cenușie este importantă deoarece mută atenția de la încercarea de a prezice cu certitudine un dezastru către înțelegerea condițiilor care l-ar putea face posibil. Întrebarea nu este dacă un asemenea atac este inevitabil, ci dacă vulnerabilitățile care pot fi anticipate pot fi remediate înainte de a contribui la producerea unui eveniment real.

De la identificarea riscurilor la măsuri concrete.

Provocarea pe care o ridică o lebădă cenușie nu constă doar în recunoașterea semnalelor de avertizare, ci și în stabilirea măsurilor care trebuie luate atunci când aceste semnale încep să apară.

În practică, acest lucru presupune mai mult decât publicarea unor evaluări de risc. Instituțiile trebuie să stabilească ce evoluții necesită o examinare mai atentă, ce nivel de dovezi ar trebui să declanșeze o intervenție și cine este responsabil pentru luarea unei asemenea decizii.

Studiul recomandă evaluări independente de siguranță, praguri mai clare pentru deciziile privind lansarea și utilizarea modelelor AI, raportarea incidentelor și mecanisme structurate de schimb de informații între dezvoltatorii AI și guverne. Acestea nu sunt doar chestiuni de reglementare, ci componente esențiale ale unui sistem de avertizare timpurie, capabil să transforme constatările tehnice în măsuri preventive.

În cazul Uniunii Europene, unele dintre mecanismele necesare există deja. Regulamentul UE privind inteligența artificială (AI Act) stabilește obligații pentru furnizorii de modele AI de uz general care prezintă risc sistemic, inclusiv evaluarea riscurilor, testarea adversarială și raportarea incidentelor grave. Întrebarea importantă este în ce măsură aceste mecanisme pot transforma dovezile privind existența unor capabilități periculoase în decizii luate la timp.

Instituțiile europene și autoritățile naționale ar trebui, prin urmare, să stabilească proceduri clare pentru evaluarea avertizărilor credibile și escaladarea acestora către structurile competente. Aceste proceduri ar trebui să includă evaluări independente înainte de lansarea unor modele cu capabilități avansate, criterii bine definite pentru impunerea unor măsuri suplimentare de siguranță și restricții proporționale atunci când riscurile grave nu pot fi reduse suficient.

La fel de important este și schimbul de informații între instituții. Un semnal de avertizare identificat de un singur dezvoltator AI poate părea un incident izolat, în timp ce activități similare detectate de mai mulți furnizori ar putea indica apariția unei amenințări. Mecanismele securizate de schimb de informații ar trebui să permită transmiterea constatărilor relevante către Oficiul pentru inteligență artificială al UE (EU AI Office), autoritățile naționale competente, agențiile de securitate cibernetică și, atunci când este cazul, instituțiile de aplicare a legii.

Astfel de mecanisme necesită și responsabilități clare.

Cine evaluează credibilitatea unei avertizări? Cine decide dacă este necesară o investigație suplimentară? Și ce autoritate poate interveni atunci când dovezile devin suficient de îngrijorătoare?

Aceste întrebări trebuie clarificate înaintea unei crize, nu în timpul ei. Exercițiile comune de pregătire, la care să participe dezvoltatorii AI și autoritățile publice relevante, ar putea contribui la verificarea modului în care sunt recunoscute semnalele de avertizare, a rapidității cu care informațiile ajung la instituțiile competente și a capacității acestora de a lua decizii într-un interval de timp util.

Nimic din toate acestea nu presupune tratarea amenințărilor ipotetice ca pe niște certitudini. Măsurile preventive trebuie să rămână proporționale cu dovezile disponibile și să țină cont de costurile unor intervenții care s-ar putea dovedi inutile.

Dar posibilitatea producerii unui eveniment de tip lebădă cenușie reprezintă o provocare aparte pentru guvernanța inteligenței artificiale. Valoarea avertizării timpurii depinde, în ultimă instanță, de capacitatea instituțiilor, de procedurile și de autoritatea de care acestea dispun pentru a interveni cât timp prevenirea este încă posibilă.

Pentru invitații de a susține prezentări sau de a participa la discuții pe această temă ori pe subiecte conexe, îl puteți contacta pe autor la cristian@pauseai.info.

Opiniile exprimate în acest articol aparțin autorului și nu reflectă neapărat poziția oficială a PauseAI România.