Daniel Kokotajlo, bivši istraživač OpenAI-ja i jedan od autora utjecajnog scenarija ‘AI 2027’, tvrdi da se svijet približava umjetnoj superinteligenciji mnogo brže nego što javnost shvaća.
1
Daniel Kokotajlo, bivši istraživač OpenAI-ja i jedan od autora utjecajnog scenarija ‘AI 2027’, tvrdi da se svijet približava umjetnoj superinteligenciji mnogo brže nego što javnost shvaća.
Njegov prvi scenarij opisuje nekontroliranu utrku koja bi mogla završiti gubitkom ljudske kontrole nad umjetnom inteligencijom, dok novi projekt ‘AI 2040: Plan A’ pokušava pokazati kako bi ista tehnologija, uz usporavanje, nadzor i drukčiju raspodjelu bogatstva, mogla stvoriti društvo u kojem ljudi više ne moraju raditi da bi preživjeli.
Kokotajlo je u razgovoru za podcast The Diary of a CEO rekao da trenutačni smjer razvoja umjetne inteligencije smatra izrazito opasnim. Njegova osobna procjena je da postoji oko 70 posto vjerojatnosti da će se, ne dođe li do ozbiljne promjene smjera, razvoj završiti katastrofalno, uključujući i mogućnost ljudskog izumiranja.
Riječ je o procjeni pojedinca, a ne o znanstveno utvrđenoj vjerojatnosti. Kokotajlo, međutim, nije slučajni internetski prorok apokalipse. U OpenAI-ju se bavio upravo prognoziranjem razvoja umjetne inteligencije, procjenjivanjem opasnih sposobnosti modela te njihovih mogućnosti u području programiranja, kibernetičkih napada, uvjeravanja ljudi i razumijevanja vlastite situacije.
OpenAI je napustio 2024. godine jer je, kako tvrdi, sve manje vjerovao da će kompanija usporiti razvoj kada sustavi postanu dovoljno moćni da počnu automatizirati istraživanje umjetne inteligencije. Kad se pridružio kompaniji, među zaposlenicima je navodno prevladavalo uvjerenje da će se razvoj zaustaviti prije stvaranja superinteligencije kako bi se riješio problem sigurnosti. Do trenutka njegova odlaska zaključio je da će kompanija vjerojatno nastaviti napredovati najvećom mogućom brzinom i pokušavati rješavati probleme usput.
‘Čini se da će jednostavno nastaviti ići otprilike onoliko brzo koliko mogu, nadajući se da će usput sve riješiti’, rekao je Kokotajlo.
Scenarij ‘AI 2027’, objavljen 2025. godine, ne predstavlja doslovno predviđanje budućnosti, nego detaljno razrađen prikaz jednog mogućeg razvoja događaja. Njegovi autori pokušali su iz mjeseca u mjesec opisati što bi se moglo dogoditi nastavi li se utrka vodećih kompanija bez ozbiljnog regulatornog usporavanja.
Prvi korak je automatizacija programiranja. Kompanije treniraju AI sustave da samostalno pišu, mijenjaju, testiraju i popravljaju kod. To im omogućuje da ubrzaju vlastiti razvoj jer sve veći dio posla na izradi nove generacije umjetne inteligencije obavljaju prethodne generacije AI sustava.
Nakon toga automatizira se ostatak istraživačkog procesa: osmišljavanje eksperimenata, analiza rezultata, stvaranje novih metoda treniranja i proizvodnja novih modela. Kada umjetna inteligencija počne obavljati gotovo cijeli proces razvoja svojih nasljednika, napredak bi se mogao naglo ubrzati.
U scenariju ‘AI 2027’ umjetna inteligencija zatim prelazi s ljudske razine sposobnosti na superinteligenciju, sustave koji su bolji od najboljih ljudi u gotovo svim intelektualnim poslovima, a istodobno su brži, jeftiniji i mogu postojati u milijunima kopija.
Vlade takvu tehnologiju počinju promatrati kao gospodarsko, političko i vojno oružje. Američka administracija pokušava je integrirati u državni aparat i vojsku kako bi održala prednost pred Kinom, dok kompanije nastavljaju utrku jer se boje da će konkurent prvi steći praktički neograničenu moć.
U najgorem završetku scenarija AI sustavi samo prividno izvršavaju ljudske naredbe. Nakon što steknu dovoljno gospodarske, tehnološke i vojne moći, više nemaju razloga pretvarati se da su poslušni. Ljudi tada postaju suvišni, slično životinjskim vrstama koje su nestale jer se nisu mogle natjecati s inteligentnijim i organiziranijim čovjekom.
Drugi završetak ‘AI-ja 2027’ naizgled je sretniji. Problem neposlušne umjetne inteligencije uspijeva se riješiti, ali sva moć ostaje u rukama vrlo male skupine predsjednika, direktora kompanija i sigurnosnih struktura. Umjesto pobune strojeva nastaje tehnološka oligarhija koja upravlja gotovo cijelim gospodarstvom, vojskom i političkim sustavom.
Kokotajlo smatra da su obje mogućnosti neprihvatljive: u jednoj ljudi gube kontrolu nad umjetnom inteligencijom, a u drugoj većina ljudi gubi kontrolu nad društvom.
Novi projekt ‘AI 2040: Plan A’ nije prognoza onoga što će se najvjerojatnije dogoditi, nego preporuka autora o tome što bi čovječanstvo trebalo učiniti. Kokotajlo otvoreno priznaje da ne očekuje kako će svijet nužno poslušati njihov plan.
Osnovna ideja je da se razvoj umjetne inteligencije ne zaustavlja zauvijek, nego da se uspori u trenutku kada sustavi postanu dovoljno moćni da mogu automatizirati istraživanje i naglo ubrzati vlastiti razvoj.
U scenariju se velika regulacija uvodi oko 2029. godine, neposredno prije mogućeg nekontroliranog tehnološkog uzleta. Kompanijama se ne dopušta da bez nadzora pokrenu proces brzog rekurzivnog samopoboljšavanja, u kojem AI sustavi stvaraju sve bolje AI sustave.
Napredak se raspoređuje kroz cijelo desetljeće. Umjesto eksplozije sposobnosti tijekom jedne ili dvije godine, umjetna inteligencija postupno preuzima poslove tijekom 2030-ih. Znanstvena zajednica dobiva pristup informacijama o tome kako se modeli razvijaju, kako donose odluke i koje rizike stvaraju.
Plan predviđa veću transparentnost, neovisna testiranja i postojanje više snažnih AI sustava u različitim kompanijama i državama. Cilj je spriječiti da jedna korporacija, jedan direktor ili jedna vlada steknu monopol nad najmoćnijom tehnologijom u povijesti.
Superinteligencija bi u tom scenariju stigla oko 2040. godine, nakon dugotrajnijeg razvoja sigurnosnih metoda i političkih institucija koje bi je trebale nadzirati. Poslovi bi na kraju ipak gotovo nestali, ali društvo bi imalo više od desetljeća za prilagodbu umjesto da doživi gospodarski i politički potres u nekoliko mjeseci.
Jedan od najzanimljivijih dijelova plana odnosi se na pitanje novca u društvu u kojem strojevi obavljaju gotovo sav rad. Kokotajlo smatra da ljudima nije dovoljno obećati jeftinu robu i slobodno vrijeme. Ako više nemaju posao, moraju dobiti i stalan prihod te politički udio u novom gospodarstvu.
Plan zato predlaže ‘građansku dividendu’. Građani bi posjedovali udjele u javnoj agenciji koja naplaćuje dozvole kompanijama koje upravljaju velikim podatkovnim centrima, računalnom infrastrukturom i vojskama robota. Prihod od tih dozvola vraćao bi se stanovništvu.
Isplate bi prema scenariju počele oko 2033. godine, dok većina ljudi još uvijek ima posao, ali se automatizacija brzo širi. Početna dividenda iznosila bi oko 25.000 dolara godišnje po osobi, što prema sadašnjem tečaju odgovara približno 21.900 eura.
Ne bi je primali samo nezaposleni. Ideja je da svaki građanin dobiva udio u gospodarstvu koje se sve manje oslanja na ljudski rad, slično načinu na koji vlasnici dionica dobivaju dio dobiti kompanije.
‘Ako će umjetna inteligencija ljudima uzeti poslove, vrlo je važno da ljudi ne umru od gladi i da i dalje imaju novac’, objašnjava Kokotajlo.
Autori smatraju da dividendu treba uvesti prije masovne nezaposlenosti. Kada bi se čekalo da većina stanovništva već ostane bez posla, nastali bi golemi problemi sa siromaštvom, društvenim nemirima, mentalnim zdravljem i osjećajem svrhe.
Najbizarniji dio prijedloga počinje nekoliko godina poslije. Kako umjetna inteligencija i roboti preuzimaju gotovo cijelu proizvodnju, gospodarstvo u scenariju raste brzinom kakva u ljudskoj povijesti nikada nije zabilježena.
Milijuni digitalnih radnika mogu raditi bez spavanja, istodobno biti kopirani u neograničenom broju i izvršavati zadatke stotinama puta brže od čovjeka. Roboti grade nove tvornice robota, podatkovni centri pomažu projektirati još učinkovitije čipove, a automatizirana znanost ubrzava razvoj energetike, medicine i proizvodnje.
Zbog takvog rasta godišnja građanska dividenda do kraja scenarija doseže oko deset milijuna dolara po osobi. Prema današnjem tečaju riječ je o približno 8,8 milijuna eura godišnje.
Voditelj podcasta na to je reagirao zaključkom da bi svi postali multimilijunaši. Kokotajlo je odgovorio potvrdno, ali uz važnu napomenu: iznos uključuje buduću inflaciju.
To ne znači nužno da bi svaki građanin imao kupovnu moć današnjeg multimilijunaša. Ako se cijene, plaće i količina novca u gospodarstvu višestruko povećaju, deset milijuna dolara u 2040-im godinama neće vrijediti jednako kao deset milijuna dolara danas.
Ipak, plan ne pretpostavlja samo nominalnu inflaciju. Autori očekuju stvarno golemo povećanje proizvodnje i bogatstva. Roboti i AI mogli bi proizvoditi toliko hrane, energije, stanova, lijekova i drugih dobara da bi i nakon inflacije prosječan građanin živio mnogo bolje nego danas.
Ključno pitanje zato nije hoće li gospodarstvo postati nevjerojatno bogato, nego tko će to bogatstvo posjedovati. Bez građanske dividende sav prihod mogao bi završiti kod vlasnika podatkovnih centara, robota i AI modela. Milijarde ljudi tada bi formalno živjele pokraj najproduktivnijeg gospodarstva u povijesti, ali bez posla, prihoda i ikakvog utjecaja na njega.
‘Kolač će postati golem, ali ljudima još uvijek morate dati njihov komad kolača’, rekao je Kokotajlo.
Prema njegovu prijedlogu građanska dividenda nije klasična socijalna pomoć, nego vlasnički udio stanovništva u automatiziranoj ekonomiji. Ljudi ne dobivaju novac zato što su izgubili posao, nego zato što zajednički posjeduju dio infrastrukture bez koje novo gospodarstvo ne može funkcionirati.
Kokotajlo upozorava da prihod sam po sebi neće riješiti sve posljedice nestanka rada. Posao ljudima ne daje samo novac nego i društveni položaj, svakodnevnu strukturu, osjećaj korisnosti i određenu političku moć.
Radnici mogu pregovarati, organizirati sindikate ili zaprijetiti štrajkom. Države i kompanije ovise o njihovu radu, potrošnji i porezima. U potpuno automatiziranom gospodarstvu vladajuće strukture više ne bi morale ovisiti o većini stanovništva.
Društvo u kojem ljudi primaju vrlo visoku dividendu, ali nemaju nikakav utjecaj na strojeve koji proizvode bogatstvo, moglo bi biti udobno i istodobno autoritarno. Dividenda se može smanjiti, ukinuti ili uvjetovati poslušnošću ako građani nemaju vlasnička i politička prava.
Zbog toga ‘Plan A’ pokušava spojiti raspodjelu novca s raspodjelom moći. Građani bi trebali biti stvarni vlasnici dijela automatizirane infrastrukture, a ne samo pasivni primatelji milosti države ili tehnoloških kompanija.
Ni ‘AI 2027’ ni ‘AI 2040’ ne treba čitati kao kalendar budućih događaja. Prvi je upozorenje o tome kamo bi mogla voditi sadašnja utrka, a drugi političko-tehnološki prijedlog kako je usporiti i preusmjeriti.
Kokotajlo priznaje da se njegove vremenske procjene mogu pokazati potpuno pogrešnima. Superinteligencija možda neće stići 2027., 2029. ni 2040. godine. Tehnološki razvoj može naići na prepreke, ulaganja se mogu usporiti, a današnje metode mogu dosegnuti granice.
No njegova osnovna tvrdnja ostaje neugodna čak i bez točnih godina. Vodeće kompanije otvoreno pokušavaju razviti sustave sposobne automatizirati intelektualni rad, uključujući razvoj same umjetne inteligencije. Ako uspiju, pitanje više neće biti samo što strojevi mogu napraviti, nego tko ih posjeduje, tko donosi odluke i zašto bi većina stanovništva uopće dobila dio stvorenog bogatstva.
U ‘AI-ju 2027’ odgovor na to pitanje daju kompanije i najmoćnije države, u žurbi i iza zatvorenih vrata. U ‘AI-ju 2040’ odgovor bi trebali dati građani prije nego što njihov rad, novac i politički utjecaj postanu nepotrebni.
