Aproape tot ceea ce facem în ziua de azi depinde într-un fel sau altul de calculatoare. Plătim cumpărăturile, ne planificăm ziua, ne contactăm persoanele dragi și chiar ne conducem mașinile cu ajutorul calculatoarelor. Și aproape toate aceste calculatoare sunt conectate între ele. Acest lucru ne face pe toți vulnerabili la atacuri cibernetice.
Armele cibernetice de înaltă eficiență, malware-ul și rețelele de boti (botnets) — cum ar fi Stuxnet, Mirai și EMOTET — au fost întotdeauna dificil de creat. De exemplu, dezvoltarea armei cibernetice Pegasus a costat sute de milioane de dolari. Descoperirea așa-numitelor exploatări zero-day (vulnerabilități care nu au fost încă descoperite) necesită foarte multă îndemânare și mult timp; doar hackerii înalt specializați pot face acest lucru. Cu toate acestea, când inteligența artificială va deveni suficient de avansată, acest lucru nu va mai fi valabil. În loc să fie nevoie de angajarea unei echipe de experți în securitate sau hackeri înalt calificați pentru a găsi exploatări zero-day, oricine ar putea folosi pur și simplu un sistem AI mult mai ieftin.
Modelele AI pot găsi și exploata vulnerabilități în mod autonom
Cele mai recente sisteme AI pot deja să analizeze și să scrie software. Ele pot găsi vulnerabilități în softuri și pot fi utilizate pentru a le exploata.
GPT-4 poate deja să hacheze site-uri web în mod autonom, executând sarcini complexe precum extragerea orbire a schemei bazei de date (blind database schema extraction) și injectări SQL fără feedback uman, abilitate descoperită la 18 luni după ce GPT-4 a finalizat instruirea. GPT-4 depășește deja 88% dintre hackerii umani într-o competiție de tip CTF (Capture The Flag).
De asemenea, poate exploata autonom 87% din vulnerabilitățile testate, ceea ce reprezintă un pas uriaș înainte față de GPT-3.5 sau modelele open-source, care au obținut toate 0%.
Echipele formate din mai multe modele LLM au performanțe și mai bune, fiind capabile să exploateze vulnerabilități zero-day din lumea reală.
Pe măsură ce capacitățile AI cresc, vor crește și vulnerabilitățile pe care le pot detecta, precum și exploatările pe care le pot crea.
Deocamdată nu sunt la fel de bune la acest capitol precum cei mai buni oameni, așa că în prezent pericolul este limitat. Cu toate acestea, capacitățile cresc rapid și pot face salturi bruste.
De reținut că AI permite și tipuri complet noi de atacuri. De exemplu, AI poate fi folosită pentru a auzi parola pe care o tastezi în timpul unui apel online sau poate folosi conexiunea Wi-Fi pentru a vedea oameni prin pereți. De asemenea, AI poate fi utilizată pentru a crea malware auto-modificabil, ceea ce îl face mult mai greu de detectat.
Probabil se va ajunge într-un punct în care o inteligență artificială va fi mai bună la hacking decât cei mai buni hackeri umani. Acest lucru poate merge prost în multe moduri:
Infrastructură: Armele cibernetice pot fi folosite pentru a obține acces la infrastructura critică sau pentru a o dezactiva, cum ar fi conductele de petrol sau rețelele electrice.
Financiar: Armele cibernetice pot fi folosite pentru a fura bani din bănci sau pentru a manipula bursa de valori.
Militar: Echipamentele precum armele și senzorii depind din ce în ce mai mult de conectivitatea wireless și de software-ul complex.
Atacuri cibernetice la scară largă
Este posibil ca o astfel de AI puternică să fie folosită pentru a crea un virus care utilizează un număr mare de exploatări zero-day. O inteligență artificială suficient de capabilă ar putea analiza și găsi vulnerabilități în codul sursă al tuturor sistemelor de operare și al altor programe software. Un astfel de virus ar putea infecta orice calculator, indiferent de sistemul de operare, prin canale multiple cum ar fi Wi-Fi, Bluetooth, UTP etc. Acest lucru ar putea oferi control total asupra acestor aparate și îi permite celui care controlează virusul să fure date, să folosească componentele hardware pentru propriile calcule, să criptoze conținutul pentru răscumpărare sau să dezactiveze complet dispozitivul.
Un virus ca acesta ar putea fi creat ca un instrument de către infractori pentru a fura bani, sau ca o armă cibernetică extrem de distructivă de către o națiune sau o organizație teroristă. Cu toate acestea, pe măsură ce AI devine mai agentică (capabilă de acțiune autonomă), virusul ar putea fi creat și lansat în mod autonom de o inteligență artificială nealiniată valorilor umane.
Dacă scopul unui atac cibernetic ar fi oprirea dispozitivelor și a infrastructurii, daunele ar putea fi masive. Societatea noastră depinde din ce în ce mai mult de calculatoare și de internet. Plăți, transport, comunicare, planificare, lanțuri de aprovizionare, rețele electrice… Dacă dispozitivele noastre nu mai funcționează corespunzător, multe sectoare ale societății noastre vor înceta, de asemenea, să funcționeze.
Peste 93% dintre experții în securitate cibernetică consideră că „un eveniment cibernetic catastrofal, cu impact de amploare, este probabil în următorii doi ani”.
Mitigarea riscurilor de securitate cibernetică provocate de AI
Scenariul de mai sus se poate întâmpla doar dacă:
- Apare capacitatea de a găsi exploatări zero-day. Modelele actuale pot descoperi deja unele vulnerabilități, dar acest lucru se va îmbunătăți cel mai probabil odată cu noile modele.
- Modelul ajunge pe mâna unor actori rău-intentionați. Acest lucru se poate întâmpla dacă ponderile modelului (weights) sunt divulgate, dacă modelul este lansat open-source sau dacă este dezvoltat de un actor rău-intentionat.
- Vulnerabilitățile de securitate nu sunt remediate (patched) înainte ca o astfel de armă cibernetică să fie lansată. Din păcate, cei care se apără sunt în dezavantaj dacă modelul este distribuit la scară largă, din două motive:
-
- Remedierea + lansarea + aplicarea patch-urilor durează mult mai mult decât lansarea atacului. Fereastra de Vulnerabilitate este mai mare decât timpul necesar pentru a crea atacul.
- Atacatorii trebuie să găsească o singură vulnerabilitate, în timp ce defensiva trebuie să le găsească pe toate.
-
Există diferite măsuri pe care le putem implementa pentru a combate aceste riscuri:
Interzicerea instruirii modelelor care pot găsi exploatări zero-day.
Aceasta este cea mai eficientă metodă de a preveni acest scenariu. Este calea cea mai sigură și este ceea ce propunem noi.
Permiterea lansării sau publicării open-source a modelelor doar după testări extinse.
Dacă au capacități periculoase, nu trebuie lansate.
Impunerea unor reglementări stricte de securitate cibernetică pentru a preveni scurgerea ponderilor modelului.
Dacă permiți existența unor modele periculoase, asigură-te că nu ajung pe mâini greșite.
Obligarea companiilor de AI să folosească inteligența artificială pentru remedierea vulnerabilităților.
Dacă este instruit un model care poate găsi vulnerabilități de securitate noi, folosește-l pentru a contacta administratorii software-ului în vederea remedierii acestora. Oferă procesului de patch-uire suficient timp înainte de lansarea modelului. Asigură-te că ponderile nu sunt divulgate și protejează modelul ca și cum ar fi codul de lansare pentru un atac nuclear. Dacă acest lucru este făcut corect, AI poate îmbunătăți dramatic securitatea cibernetică peste tot.