Inteligența artificială este folosită din ce în ce mai mult pentru crearea unor imagini, videoclipuri și înregistrări audio false, în care persoane publice, politicieni sau chiar oameni obișnuiți sunt prezentați în situații care nu au avut niciodată loc în realitate. Prin intermediul tehnologiilor de tip deepfake, fața unei persoane poate fi înlocuită, vocea poate fi imitată, iar expresiile și mișcările pot fi modificate astfel încât materialul rezultat să pară autentic. În unele cazuri, este posibilă chiar generarea unei persoane sau a unei situații care nu a existat niciodată.
Problema este că aceste materiale pot deveni foarte greu de diferențiat de conținutul real, mai ales pentru utilizatorii care nu verifică informația din mai multe surse. Un videoclip fals în care un politician pare să facă o declarație controversată, de exemplu, poate fi distribuit de mii sau milioane de persoane înainte ca acesta să fie verificat și demonstrat ca fiind fals.
Răspândirea rapidă a acestor materiale pe rețelele sociale amplifică problema. Algoritmii platformelor favorizează adesea conținutul care generează reacții puternice, iar materialele șocante, controversate sau emoționale au șanse mai mari să fie distribuite. Astfel, o informație falsă poate ajunge la un număr foarte mare de persoane într-un timp extrem de scurt, chiar înainte ca instituțiile, jurnaliștii sau specialiștii să poată verifica autenticitatea acesteia.
Consecințele pot fi importante. Deepfake-urile pot afecta imaginea și reputația unei persoane, pot influența opinia publică, pot fi utilizate în campanii electorale, pot alimenta conflicte politice sau sociale și pot fi folosite în fraude. În cazul unor conflicte militare sau al unor situații de criză, un material fals poate provoca panică și poate determina oamenii să ia decizii pe baza unor informații inexistente.
Un alt efect important este pierderea încrederii în informațiile reale. Pe măsură ce oamenii devin conștienți că aproape orice fotografie, videoclip sau înregistrare audio poate fi generată ori modificată cu ajutorul inteligenței artificiale, poate apărea fenomenul numit „liar’s dividend”: persoane care sunt surprinse în materiale reale pot susține că acestea sunt false sau generate de AI. În acest fel, tehnologia nu este folosită doar pentru a crea minciuni, ci poate fi folosită și pentru a pune sub semnul întrebării adevărul.
Prin urmare, inteligența artificială reprezintă atât un instrument cu numeroase aplicații pozitive, cât și o provocare majoră pentru societatea informațională. Combaterea dezinformării generate cu AI necesită verificarea informațiilor din surse independente, educație digitală, instrumente de detectare a conținutului artificial și o mai mare responsabilitate din partea platformelor online și a utilizatorilor.