Comunicat de presă – AI-ul face AI-ul mai inteligent, mai rapid, fără nicio încetinire la orizont
METR, un evaluator independent al capabilităților sistemelor AI, a analizat timp de 11 săptămâni la Anthropic, unul dintre dezvoltatorii AI de frontieră, dacă inteligența artificială accelerează ea însăși cercetarea și dezvoltarea (C&D) de vârf în domeniul AI. Experții numesc acest fenomen „auto-îmbunătățire recursivă“ (recursive self-improvement, RSI).
Pe 5 noiembrie, METR a publicat un raport care constată că AI-ul joacă, cel mai probabil, un rol esențial în accelerarea cercetării în domeniul AI.
Piețele nu par să fi înțeles încă implicațiile acestei publicații de referință. Ajeya Cotra, cercetătoare la METR care nu a fost implicată în raport, afirmă: „Este o problemă mult mai mare decât ar putea părea la prima vedere. Cred că acest raport este cea mai importantă actualizare pe care am primit-o despre riscurile AI în ultimii doi ani — mult mai importantă decât atacul asupra Hugging Face.“
Ca reacție, PauseAI, federație globală a societății civile, își intensifică apelul pentru un acord global urgent de pauză. Și unii legislatori americani (congresmanul Greg Casar, deputatul în Adunarea Statului New York Alex Bores) cer interzicerea RSI.
Viteza și implicațiile dezvoltării AI alimentate de RSI
Raportul estimează că Anthropic își îmbunătățește acum capabilitățile modelelor de aproximativ 1,9 ori mai rapid decât în perioada martie 2024 – octombrie 2025, posibil chiar semnificativ mai rapid. La nivelul întregii frontiere a industriei, cifra este de aproximativ 1,4 ori.
CEO-ul PauseAI, Maxime Fournes, avertizează: „Auto-îmbunătățirea recursivă, adică folosirea AI-ului pentru a îmbunătăți AI-ul, este esențială pentru scenariul de amenințare despre care cei mai importanți oameni de știință și comunitatea globală PauseAI avertizează de ani de zile, iar aeasta sosește mai devreme decât preziseseră marea majoritate a experților. METR, care a evaluat accelerarea C&D în domeniul AI la Anthropic, avertizează asupra unui «risc semnificativ» ca această accelerare să devină și mai rapidă, posibil superexponențial. Am putea pierde controlul asupra AI-ului, care ne va depăși apoi în inteligență și ar putea pune capăt vieții pe Pământ, posibil în câteva luni, nu în câțiva ani.“
Progresul C&D în domeniul AI nu poate fi monitorizat suficient de atent pentru a fi „temporizat“ în mod fiabil
Într-o postare recentă, Anthropic descrie un viitor „efort de temporizare“ (pacing effort). Prin acesta, companiile de AI ar încetini și ar monitoriza cercetarea de vârf, în loc să o suspende.
Maxime Fournes a declarat: „Dacă nimeni nu știe cum să construiască AI în siguranță, de ce să-l construim, în orice ritm? Pe măsură ce AI-ul își accelerează propria dezvoltare, va deveni curând suficient de puternic pentru a ne copleși sau pentru a doborî infrastructura critică. Asta se poate întâmpla pur și simplu pentru că un actor rău intenționat îi cere acest lucru, sau pentru că un sistem AI despre a cărui existență publicul nici nu știe evadează pe internet și face ravagii.
Raportul a fost cenzurat masiv de Anthropic, inclusiv o mare parte din dovezile pe care METR s-a bazat pentru a-și formula concluziile. Asta înseamnă că lumea pierde deja controlul asupra unui AI care în curând va fi mai inteligent decât noi toți. Suntem deja în întuneric cu privire la ce crește Silicon Valley în laboratoarele sale și cât de rapidă și de puternică este dezvoltarea. Nici măcar evaluatorii imparțiali nu pot obține acces direct la aceste sisteme și nu își pot împărtăși constatările. Asta arată că nu ne putem mulțumi să sperăm că vom încetini si monitoriza cercetarea în domeniul AI. Raportul confirmă că înaintăm rapid spre o pierdere totală și ireversibilă a controlului. De aceea trebuie să punem pauză cercetării în domeniul AI, nu doar să o temporizăm: zero antrenament al modelelor de vârf este o țintă mult mai ușor de verificat decât o fracțiune din acesta.”
Despre PauseAI
PauseAI este o organizație a societății civile cu filiale și grupuri în peste 20 de țări. Suntem cetățeni îngrijorați din întreaga lume care se coordonează pașnic pentru a forma o voce comună și unită. Cerem o pauză globală în dezvoltarea AI-ului avansat până când vom ști cum să-l construim în siguranță. Mai multe filiale și organizații partenere PauseAI vor organiza proteste în întreaga lume luna aceasta; contactați-ne pentru detalii.
Contact
Raluca Spătaru, Country Lead, PauseAI România – contact@pauseai.ro / 0731.904.248
Fapte-cheie
- Anthropic își îmbunătățește probabil modelele într-un ritm de aproximativ două ori mai mare decât în perioada martie 2024 – octombrie 2025. METR consideră că rata reală poate fi oriunde între 1,3x și 3x.
- METR estimează că aproximativ 80% din accelerarea actuală se datorează folosirii AI-ului pentru a construi AI. METR este convins că puterea de calcul pentru antrenare nu este cauza.
- METR nu a găsit niciun blocaj clar pentru o accelerare suplimentară în următoarele 12 luni. Prin urmare, există „un risc semnificativ“ de accelerare și mai rapidă.
- Cercetătorii raportează semne ale unor contribuții complet autonome ale AI-ului la dezvoltarea AI.
- Ajeya Cotra observă într-o postare pe blog că, dacă accelerarea continuă constant, timpii de dublare se scurtează (șase luni, trei luni, șase săptămâni etc.). Asta ar duce spre o superinteligență extremă în decurs de un an, înainte de a atinge limite care sunt probabil foarte îndepărtate.
- METR spune că dovezile cenzurate din raportul confidențial, la care doar Anthropic are acces, fac o astfel de creștere hiperbolică (în continuă accelerare) „mai plauzibilă“.
- Anthropic a eliminat „majoritatea dovezilor“ pe care METR le-a considerat cele mai relevante. Printre acestea se numără prognozele pentru modelele viitoare și analiza METR privind posibilele obstacole în calea unei accelerări suplimentare.
- Investigația trebuia să analizeze și cât din puterea sa de calcul alocă Anthropic cercetării privind siguranța, față de dezvoltarea capabilităților. Anthropic a anulat acest audit la jumătatea drumului. Între timp, postarea laboratorului din 17 septembrie numea puterea de calcul printre resursele cele mai ușor de verificat și o pârghie pentru temporizarea cercetării periculoase în domeniul AI.
- METR nu a primit acces direct la sisteme. METR afirmă că evită descrierile procesului care „ar descuraja companiile să participe la colaborări exploratorii“. Cu alte cuvinte, evaluatorii depind de bunăvoința laboratoarelor pe care le evaluează pentru a obține orice formă de acces.
- METR și-a schimbat de mai multe ori interpretarea unor date-cheie pe măsură ce Anthropic a oferit mai mult context. Asta arată cât de complexă și de incertă este această activitate.