IA poate face cunoștințele mai accesibile, inclusiv cunoștințe despre cum se creează arme biologice. Această lucrare arată cum GPT-4 poate ajuta studenții fără cunoștințe de știință să creeze un agent patogen pandemic:
Într-o oră, chatboții au sugerat patru potențiali agenți patogeni pandemici, au explicat cum pot fi generați din ADN sintetic folosind genetica inversă, au furnizat numele companiilor de sinteză a ADN-ului care este puțin probabil să examineze comenzile, au identificat protocoale detaliate și cum să le depaneze și au recomandat ca oricine nu are abilitățile necesare pentru a efectua genetică inversă să angajeze o unitate centrală sau o organizație de cercetare contractuală.
Acest tip de cunoștințe nu a fost niciodată atât de accesibil și nu avem măsurile de siguranță necesare pentru a face față potențialelor consecințe.
În plus, unele modele de inteligență artificială pot fi utilizate pentru a proiecta agenți patogeni periculoși complet noi. Un model numit MegaSyn a proiectat 40.000 de noi arme chimice/molecule toxice într-o oră. Modelul revoluționar AlphaFold poate prezice structura proteinelor, ceea ce este, de asemenea, o tehnologie cu dublă utilizare. Prezicerea structurilor proteinelor poate fi utilizată pentru a „descoperi mutații care cauzează boli folosind secvența genomului unui individ”. Oamenii de știință creează acum chiar și laboratoare chimice complet autonome, unde sistemele de inteligență artificială pot sintetiza singure noi substanțe chimice.
Pericolul fundamental este că, datorită inteligenței artificiale, costul proiectării și aplicării armelor biologice este redus cu ordine de mărime.