Roman Yampolskiy, profesor računalnih znanosti i jedan od vodećih svjetskih stručnjaka za sigurnost umjetne inteligencije uvjeren je da nam umjetna inteligencija donosi uništenje.
U nedavnom gostovanju u podcastu ‘Joe Rogan Experience’ ponovio je mišljenja koja je lani iznio kod Lexa Fridmana. U oba razgovora iznio je zabrinjavajuće teze o tome kamo nas vodi razvoj umjetne inteligencije – posebno takozvane opće umjetne inteligencije (AGI), sustava koji bi mogao nadmašiti čovjeka u svim intelektualnim zadacima.
Kod Rogana je Yampolskiy tijekom više od dva sata razgovora otvoreno govorio o egzistencijalnim prijetnjama koje dolaze iz područja u kojem radi cijeli život. Ponovio je svoju tezu da postoji 99 posto šansi da će AGI dovesti do izumiranja čovječanstva ako se razvije bez adekvatnih kontrolnih mehanizama.
– Ljudi ne shvaćaju razliku između obične umjetne inteligencije i superinteligentnog sustava koji bi imao vlastite ciljeve. Jednom kad se to dogodi, izgubili smo svaku šansu za kontrolu. To nije robot koji će nas gađati laserima, nego entitet koji može hakirati sve, manipulirati svime, uključujući našu percepciju stvarnosti – rekao je Yampolskiy.
Kao vodeći istraživač u području ‘AI safety’ s doktoratom sa Sveučilišta Buffalo, Yampolskiy je poznat po zagovaranju tzv. ‘AI boxing’ strategije – pokušaju da se superinteligencija ograniči u zatvoren sustav iz kojeg ne može utjecati na svijet. No, u razgovoru s Joeom Roganom priznao je da ni ta metoda nije sigurna.
– Ako imaš entitet koji je milijun puta pametniji od tebe, ne postoji siguran kavez. On će pronaći rupu, jer to je ono što radi inteligencija – dodao je.
O sličnim temama govorio je i u prošlogodišnjoj epizodi Lex Fridman Podcasta (#431), gdje je detaljno objasnio razliku između tehničkih izazova kontrole i filozofskih problema vrijednosnog usklađivanja. Fridman, inženjer i AI istraživač, postavio mu je konkretna pitanja o mogućim rješenjima, no Yampolskiy nije skrivao pesimizam.
– Ne vjerujem da ćemo pronaći rješenje na vrijeme. I sve i da ga pronađemo, kako ćemo znati da smo ga ispravno implementirali, ako nismo ni mi sami sigurni u vlastite vrijednosti – kazao je tada.
Zanimljivo je da je Yampolskiy u oba podcasta dotaknuo i temu simulacije – mogućnosti da sami živimo u nekoj vrsti računalnog eksperimenta, te da će napredna AI imati sposobnost ‘pobjeći’ iz takve simulacije, što ljudska svijest, po njegovom mišljenju, nikada neće moći učiniti.
Reakcije publike na njegove nastupe su podijeljene. Dok jedni smatraju njegove stavove paranoidnima i preuveličanima, drugi ga vide kao jednog od rijetkih koji ozbiljno promišlja dugoročne rizike i pokušava spriječiti katastrofu.
U kontekstu sve češćih najava o dolasku AGI-ja već krajem desetljeća, Yampolskiyeva upozorenja dobivaju sve više pažnje i unutar znanstvene zajednice. No pitanje koje ostaje otvoreno jest: slušamo li te glasove dok još imamo vremena?
