Un cercetător al Anthropic, Jacob Coxon, a demisionat și a lansat un avertisment important privind laboratoarele Anthropic și OpenAI (pentru care a lucrat în trecut) și spune că ambele sunt într-o cursă reală spre superinteligență, cu capacitatea de a se îmbunătăți singură, fără ca riscurile să fie suficient de bine înțelese sau controlate.
Jacob le-a cerut celorlalți cercetători să facă o pauză și să reflecteze înainte de a lansa sisteme pe care nu le înțeleg pe deplin, pe fondul creșterii îngrijorărilor interne privind siguranța, alimentate de competiția intensă din domeniu.
El a dezvăluit că mulți directori și cercetători de rang înalt se tem în privat că AI ar putea duce la dispariția omenirii până la sfârșitul acestui deceniu. Această perspectivă este împărtășită și de Evan Hubinger, responsabilul de cercetare în domeniul alinierii AI la Anthropic, care estimează riscul la peste 10%.
Pe scurt:
- AI va deveni în curând suprauman în tot mai multe domenii;
- Va putea automatiza hacking-ul, cercetarea și accesul la resurse la o intensitate fără precedent;
- Cercetătorii și managerii din industrie iau în serios posibilitatea ca AI să devină o amenințare existențială;
- O problemă reală este că fiecare companie se teme de concurență și dacă ea încetinește ceilalți vor continua, iar cursa devine astfel aproape imposibil de oprit.
Poate că cea mai importantă întrebare despre AI nu mai este „cât de repede putem construi?”, ci „cât de repede putem învăța să controlăm ceea ce construim?”