Roman Yampolskiy kazao je u podcastu ‘Know Thyself’ da bi sustavi koji nadmašuju ljudsku inteligenciju mogli ‘zaživjeti’ možda već za godinu dana, a najkasnije do kraja desetljeća. Nakon 2030. godine bi ljudska kontrola nad njima postajala sve slabija. Pritom naglašava da problem sigurnosti i kontrole takvih sustava danas nema rješenje.
Razvoj umjetne opće inteligencije ne samo da bi mogao završiti potpunim gubitkom ljudske kontrole, nego je vrlo vjerojatno da će se to i dogoditi. I to puno ranije nego što se dosad smatralo. Tvrdi to Roman Yampolskiy, jedan od najpoznatijih stručnjaka za sigurnost umjetne inteligencije i dugogodišnji skeptik koji već dugo vremena upozorava da je čovječanstvo ušlo u fazu razvoja tehnologije koju više neće moći nadzirati. U najnovijem istupu upozorenje dodatno zaoštrava mišljenjem da bi se sustavi koji nadmašuju ljudsku inteligenciju mogli pojaviti već u razdoblju od jedne do četiri godine, a problem njihove kontrole, kako kaže, možda uopće nema rješenje. Drugim riječima, razvoj ide prema točki iza koje više nema povratka, dok industrija koja taj razvoj gura naprijed i dalje nema odgovor na pitanje kako takve sustave učiniti sigurnima.
Roman Yampolskiy kazao je u podcastu ‘Know Thyself’ da bi sustavi koji nadmašuju ljudsku inteligenciju mogli ‘zaživjeti’ možda već za godinu dana, a najkasnije do kraja desetljeća. Nakon 2030. godine bi ljudska kontrola nad njima postajala sve slabija. Pritom naglašava da problem sigurnosti i kontrole takvih sustava danas nema rješenje, iako se razvoj ubrzano nastavlja.
Yampolskiy jasno razlikuje današnje AI alate od onoga što dolazi. Današnji sustavi, kaže, i dalje su korisni alati za specifične zadatke, dok umjetna opća inteligencija, takozvani AGI, označava prijelaz prema sustavima sposobnima obavljati gotovo svaki kognitivni posao bolje od ljudi. Problem nastaje u trenutku kada takvi sustavi počnu sudjelovati u vlastitom unapređenju.
‘Jednom kad dođemo do umjetne opće inteligencije, ulazimo u ciklus rekurzivnog samopoboljšavanja. Tada dobivamo sustave pametnije od svih nas u svemu’, rekao je Yampolskiy.
Upravo taj trenutak vidi kao točku nakon koje ljudska kontrola postaje iluzija. Kako objašnjava, razlika između današnjih i budućih sustava nije samo u snazi, nego u načinu na koji nastaju. Dok su se stariji sustavi programirali eksplicitno, moderni modeli uče iz ogromnih količina podataka i sami razvijaju obrasce ponašanja koje ljudi više ne mogu u potpunosti razumjeti.
‘Nitko, uključujući ljude koji razvijaju te sustave, ne razumije u potpunosti kako oni funkcioniraju’, upozorio je.
Na toj razini, tvrdi, dolazi do ključnog problema: nemogućnosti kontrole. Prema njegovu tumačenju, sustav koji je inteligentniji od čovjeka ne može dugoročno biti pod njegovim nadzorom.
‘Ne možete neograničeno kontrolirati nešto mnogo pametnije od sebe. Problem je nemoguće riješiti’, rekao je Yampolskiy, dodajući da trenutačno ne postoji znanstveno potvrđen način da se takvi sustavi učine trajno sigurnima.
Posebno naglašava da industrija umjetne inteligencije toga nije nesvjesna. Naprotiv, vodeći ljudi u najvećim kompanijama otvoreno priznaju da je riječ o ozbiljnom i neriješenom problemu, ali razvoj se unatoč tome nastavlja.
‘Nitko ne tvrdi da je problem riješen. Govore da će ga riješiti kad do njega dođu’, rekao je.
U procjenama rokova Yampolskiy se poziva na različite stručne procjene koje nadljudsku razinu sposobnosti smještaju oko 2030. godine, dok pojedini istraživači govore o 2027. ili 2028. Kao realan raspon navodi razdoblje od jedne do četiri godine u kojem bi se mogla dosegnuti razina koja nadilazi ljudske kognitivne sposobnosti.
Na pitanje zašto bi takav sustav predstavljao prijetnju ljudima, Yampolskiy odbacuje ideju da bi umjetna inteligencija automatski razvila sklonost očuvanju čovječanstva.
‘Ne radi se o tome da nas mrzi. Radi se o tome da joj nismo važni. Kao što ljudi ne mrze mrave, ali ih ne smatraju dovoljno važnima da bi ih spasili’, objasnio je.
Prema njegovu tumačenju, problem nije u zloj namjeri, nego u ciljevima. Ako sustav dobije zadatak koji se može ostvariti na više načina, neki od tih načina mogu imati katastrofalne posljedice za ljude, a da to nije bilo izričito zabranjeno.
‘Ako želite izliječiti rak, jedan od načina je ubiti sve ljude. To nije ono što ste mislili, ali je tehnički rješenje’, upozorio je.
Govoreći o mogućim scenarijima, Yampolskiy navodi da superinteligentan sustav ne bi morao djelovati izravno. Dovoljno je da ima pristup internetu i sposobnost planiranja kako bi mogao manipulirati ljudima, koristiti postojeću infrastrukturu ili razvijati nove tehnologije s nepredvidivim posljedicama.
‘Ako je dovoljno inteligentan, može angažirati ljude, ucjenjivati ih, plaćati ih, manipulirati sustavima. Ne trebaju mu ruke’, rekao je.
Osim scenarija potpunog uništenja čovječanstva, upozorava i na mogućnost svijeta u kojem bi ljudi ostali živi, ali u uvjetima koji bi proizvodili trajnu patnju, bez stvarne kontrole nad vlastitim životima.
Unatoč izrazito pesimističnom pogledu na opću umjetnu inteligenciju, Yampolskiy ne odbacuje tehnologiju u cjelini. Naprotiv, snažno zagovara razvoj uskih, specijaliziranih AI sustava koji rješavaju konkretne probleme.
‘Možemo dobiti gotovo sve koristi kroz uske sustave. Ako želite izliječiti bolest ili riješiti inženjerski problem, razvijte AI za to. Nemojte stvarati sustav koji je zamjena za čovječanstvo’, rekao je.
U tom kontekstu upozorava da trenutna utrka među najvećim tehnološkim kompanijama ide upravo u suprotnom smjeru, prema razvoju sve općenitijih i sposobnijih sustava, pri čemu su ekonomski i konkurentski pritisci jači od sigurnosnih razmatranja.
Yampolskiy se osvrnuo i na posljedice koje bi napredna umjetna inteligencija mogla imati na tržište rada. Smatra da će poslovi koji se svode na rad na računalu, poput pisanja, programiranja ili dizajna, biti među prvima koji će se automatizirati, dok će fizički poslovi ovisiti o razvoju robotike.
‘Sve što radite na računalu može se automatizirati’, rekao je, dodajući da bi puno veći problem od gubitka poslova mogao biti gubitak smisla.
Prema njegovu mišljenju, svijet u kojem milijarde ljudi ostaju bez rada koji im daje identitet i svrhu otvorit će pitanja na koja društvo zasad nema odgovore.
Zaključno, njegova poruka ostaje nedvosmislena: najveći rizik nije u današnjim AI alatima, nego u smjeru u kojem se razvoj kreće.
‘Stvaranje opće superinteligencije nije korak naprijed za čovječanstvo. To je nešto zbog čega ćemo požaliti’, rekao je.
