Inteligența artificială poate fi utilizată și în domeniul militar pentru dezvoltarea armelor autonome, adică a unor sisteme capabile să detecteze, să identifice și, în anumite cazuri, să atace ținte cu un nivel redus de intervenție umană. Aceste tehnologii reprezintă una dintre cele mai controversate aplicații ale inteligenței artificiale, deoarece ridică probleme atât de natură militară, cât și etică și juridică.
Sistemele autonome pot include drone, vehicule terestre, nave sau alte platforme militare care utilizează senzori și algoritmi AI pentru a analiza mediul înconjurător și pentru a lua anumite decizii fără ca un operator uman să controleze permanent fiecare acțiune. Într-un conflict, astfel de sisteme ar putea procesa într-un timp foarte scurt informații provenite de la camere, radare sau alți senzori.
Unul dintre principalele avantaje urmărite de dezvoltarea acestor tehnologii este reducerea riscului pentru militari. Un sistem autonom poate fi trimis într-o zonă periculoasă fără a pune direct în pericol viața unui soldat. De asemenea, AI poate analiza volume foarte mari de informații și poate reacționa mai rapid decât un operator uman în anumite situații.
În același timp, apar riscuri majore.
Un sistem AI poate interpreta greșit o situație, poate identifica incorect o persoană drept țintă sau poate lua o decizie bazată pe date incomplete. Într-un mediu de război, o astfel de eroare poate avea consecințe grave, inclusiv victime civile.
O problemă fundamentală este responsabilitatea.
Dacă un sistem autonom ia o decizie greșită și provoacă moartea unor persoane, apare întrebarea: cine este responsabil? Producătorul sistemului, programatorul, comandantul militar care l-a desfășurat sau statul care îl utilizează? Cu cât intervenția umană este mai redusă, cu atât această problemă devine mai dificilă.
Există și riscul unei curse tehnologice între state.
Dacă o țară dezvoltă arme autonome foarte performante, alte state pot considera că trebuie să dezvolte tehnologii similare pentru a nu rămâne în urmă. Acest lucru ar putea accelera dezvoltarea și utilizarea unor sisteme militare din ce în ce mai autonome.
Un alt pericol este proliferarea.
Spre deosebire de armele tradiționale care necesită infrastructură și personal specializat, unele tehnologii autonome pot deveni mai accesibile pe măsură ce componentele hardware și software se ieftinesc. Dronele autonome, de exemplu, pot utiliza tehnologii care provin parțial din industria civilă, ceea ce face mai dificil controlul răspândirii lor.
Din aceste motive, există dezbateri internaționale privind necesitatea menținerii unui control uman semnificativ asupra utilizării forței letale. Problema centrală nu este doar dacă o mașină poate lua o decizie, ci dacă societatea ar trebui să permită unei mașini să decidă singură când și împotriva cui este folosită forța letală.
Astfel, armele autonome reprezintă unul dintre cele mai serioase exemple ale faptului că dezvoltarea inteligenței artificiale nu este doar o problemă tehnologică. Ea implică responsabilitate, drept internațional, securitate, etică și control uman, iar modul în care aceste tehnologii vor fi reglementate poate avea consecințe importante asupra viitoarelor conflicte militare.