Nije problem što smo izumili oružje za planetarno uništenje nego što je AI u rukama majmuna

Planetu je uhvatila AI paranoja i odjednom svi pričaju o mračnim scenarijima koji završavaju s apokalipsom i istrebljenjem ljudske vrste, ali čitajući između redaka teško se oteti dojmu da najbliža opasnost možda uopće nije u AI koja će jednog mamurnog jutra bez kave razviti mržnju prema Homo sapiensu i terminirati nas, nego u Homo sapiensu.

Jedna obična ljudska osoba s prosječnom inteligencijom i dovoljno bolesti u glavi više je nego dovoljna za početak kraja civilizacije. Dovoljno je da bude u prilici upravljanja s rojem sposobnih digitalnih pripravnika koji mogu raditi 24 sata dnevno, ne spavaju, ne jedu i ne umaraju se. A sada znamo da postoje. Nakon onog prvog bijega OpenAI modela i napada na Hugging Face, o čemu će se ako preživimo snimati filmovi, civilizacija je postala svjesna da te AI stvari lako mogu krenuti po zlu. Da svijetom drmaju psihopati i da su se baš lijepo rasporedili po strateškim položajima od Sjeverne Koreje do Sjeverne Karoline, znali smo i prije toga.

Prateći AI vijesti, čitajući objave velikih kompanija i njihovih lidera, slušajući njihove kritičare, stručnjake za sigurnost i zviždače, teško je ne steći dojam da više šansi imamo mi ljudi da rasturimo sebe i sve oko sebe, nego AI. Izgleda da je puno realnije da će ljudi napraviti sranje zahvaljujući sve sposobnijim AI alatima, nego da će AI zamrziti ljudski rod i krenuti u istrebljenje naše vrste. Neće stići, čak i ako bude htjela igrati ulogu Terminatora.

Ljudi upravo sada, dok ovo čitate, određuju AI agentima ciljeve, daju im pristup sustavu, osiguravaju gomilu love za infrastrukturu i naređuju im bilo što dok se natječu s konkurencijom za još bolji, jači i napredniji alat koji će špijunirati, provoditi cyber operacije, hakirati i krasti, djelovati na bojnom polju, birati vojne i civilne žrtve ili krstariti raketama svih kalibara i brzina među svim našim meridijanima i paralelama.

Mi ne znamo zašto su se točno baš sada i odjednom raskokodakali likovi poput šefa Anthropica, je li to zbog burze, konkurencije, straha, poslovne strategije, marketinga, ali znamo da su AI agenti sve autonomniji i da se Homo sapiens polagano udaljava od početne pozicije na kojoj je čovjek radio po pitanju AI sve ključne poteze. Sada čovjek samo zadaje cilj i stisne ‘enter’ nakon čega AI sustav samostalno donese 50.000 odluka koje nitko nije predvidio, niti je to mogao, niti je moguće znati što će iz tih odluka proizaći.

Naša najveća opasnost je u tome da imamo majmune na vlasti, vrlo moćne AI alate i bezbroj mogućnosti da razjebemo sebe i sve oko sebe. Lošim namjerama, glupim odlukama pa čak i dobrim namjerama, svejedno je. Jer i put prema paklu počinje s dobrim namjerama. Znate onaj vic o grezom bogatašu koji je rekao da će dovršiti sve ratove i dobiti Nobela za mir?

Dosta je jedna obična, nečija fiks ideja, jedna luda minuta i neka idealno posložena geopolitička scena da krene nezaustavljivi armagedonski domino efekt, pojačan autonomijom rojeva AI agenata koje nitko više neće moći kontrolirati, a oni će se množiti i multiplicirati svoje sposobnosti.

Sudeći po onome što dopire do nas smrtnika u javnom prostoru, SF scenarij u kojem umjetna inteligencija s predumišljajem radi genocid nad nama nije baš izgledan ovoga trena, a to je, nemojte zamjeriti, u neku ruku iak pomalo razočaravajuće za nas kao vrstu.

Jer čovječanstvo je na vrhuncu razvoja dobilo priliku da ga uništi superinteligencija koju je stvorilo, a postoji prilično realna mogućnost da će joj reći, ‘bjež mala’ i pokazati kako to radimo majstori mi. Za nas nije toliko problem što smo izumili to super oružje za planetarno uništenje nego to što smo majmunima dali da se njime igraju.