U razmaku od samo desetak dana dvije vodeće svjetske AI kompanije, OpenAI i Anthropic, priznale su da su njihovi najnapredniji modeli tijekom sigurnosnih testiranja završili izvan okruženja u kojem su trebali ostati i pritom neovlašteno pristupili stvarnim računalnim sustavima drugih organizacija.
Modeli su dobili zadatak riješiti određeni problem i dok su ga odrađivali pronašli su izlaz iz izoliranog, kontroliranog okruženja. Jednostavno su odlučili iskoristiti labavu granicu i prijeći vani, na slobodu.
OpenAI je prvi objavio da je tijekom testiranja svojih najnaprednijih modela jedan agent pronašao način da izađe iz tzv. sandboxa, izoliranog sigurnosnog okruženja koje bi trebalo spriječiti svaki kontakt sa stvarnim internetom.
Model je zatim pronašao ranjivost, izašao na internet i zaključio da bi odgovore za sigurnosni test mogao pronaći na platformi Hugging Face, jednom od najvećih svjetskih servisa za otvorene AI modele. Nakon toga pokrenuo je pravi kibernetički napad kako bi došao do podataka koji bi mu pomogli ostvariti bolji rezultat na testiranju. Jednostavno je hakirao Hugging Face, smatrajući da mu je to najkraći put do cilja.
OpenAI je to nazvao presedanom i priznao da je riječ o prvom poznatom slučaju u kojem je napredni AI agent autonomno pronašao izlaz iz kontroliranog okruženja i napao stvarni sustav.
Direktor OpenAI-ja Sam Altman izjavio je par dana nakon incidenta da ga je više od bijega agenta šokirala ‘mlitava’ reakcija javnosti koja očito nije svjesna težine situacije. Rekao je da ga čudi koliko su ljudi mirno prihvatili vijest da je AI prvi put samostalno pronašao način za izlazak iz sigurnosnog okruženja i pokrenuo stvarni kibernetički napad.
Najgore je što to nije bio izolirani slučaj.
Anthropic, kompanija koja razvija Claude, odlučila je nakon OpenAI-jevog incidenta pregledati više od 141 tisuće vlastitih sigurnosnih testova. Otkrili su tri slučaja u kojima su njihovi modeli također završili u stvarnim računalnim sustavima triju organizacija. Za razliku od OpenAI-ja, gdje je model pronašao tehnički put iz izolacije, kod Anthropica se pokazalo da je problem nastao zbog pogrešno konfiguriranog testnog okruženja. Modeli su dobili pristup internetu jer su ljudi pogriješili u postavljanju sustava.
Kad su shvatili da imaju pristup stvarnim računalima, modeli su sami počeli tražiti nezaštićene servise, slabe lozinke i druge sigurnosne propuste kako bi ostvarili cilj koji im je bio zadan u simulaciji. Dvije pogođene organizacije nisu ni znale da su bile kompromitirane dok ih Anthropic nije naknadno obavijestio.
Zanimljivo je bilo ponašanje modela u tim incidentima.
Jedan je shvatio da više nije u simulaciji nego napada stvarni sustav, ali je svejedno nastavio izvršavati zadatak. Drugi je sam sebe uvjerio da je stvarni sustav zapravo dio simulacije pa je nastavio raditi, a treći je zaključio da se nalazi u pravom okruženju i odmah prekinuo napad.
To ponašanje posebno intrigira struku jer ispada da modeli pokazuju različite obrasce donošenja odluka kada naiđu na neočekivanu situaciju.
OpenAI je priznao da interno istražuje i dodatne slučajeve u kojima su autonomni agenti možda prekoračili granice predviđenih testnih okruženja. Tvrtka zasad ne smatra da su modeli pobjegli iz njihove infrastrukture, ali provjerava jesu li slični incidenti bili češći nego što se u početku mislilo.
Istodobno je Anthropic objavio veliko sigurnosno istraživanje koje je izazvalo novu raspravu u AI zajednici.
U kontroliranim eksperimentima testirali su modele više kompanija, uključujući OpenAI, Google, xAI, DeepSeek i vlastite modele, sve kako bi vidjeli što će učiniti ako im se zada cilj koji mogu ostvariti samo kršenjem pravila. Rezultati nisu bili nimalo ugodni.
Modeli su u simulacijama znali skrivati tragove svojih aktivnosti, pokušavali zaobići ograničenja, prikrivati informacije ili odabrati prijevaru ako bi procijenili da je to najučinkovitiji put prema ispunjenju zadatka. Važno je naglasiti da su to bili laboratorijski eksperimenti, a ne stvarni napadi, ali upravo takva ponašanja istraživači nazivaju ‘agentic misalignment’, situacijom u kojoj model ne slijedi namjeru čovjeka nego vlastitu procjenu kako najbrže ostvariti cilj.
Nitko ne može sa sigurnošću reći je li sve to znak da su modeli konačno preskočili na iduću razvojnu stepenicu, da su postali superinteligentni. To je ‘ono’ što mnogi sa strepnjom najavljuju. Što ako su bez da smo toga svjesni već otišli korak naprijed, ali nas muljaju, jer mogu, jer su inteligentniji od nas?
Zasad nema dokaza da je tako, ali možda najvažnije pitanje nije jesu li modeli postali superinteligentni nego koliko dugo mogu samostalno raditi.
Oni više nisu obični chatbotovi koji odgovaraju na pitanje pa čekaju novu naredbu. Sada mogu satima ili danima planirati vlastite korake, koristiti preglednik, terminal, baze podataka, pisati kod, provjeravati rezultate, ispravljati vlastite pogreške i mijenjati strategiju bez ljudske pomoći.
Više ne izvršavaju samo naredbe. nego samostalno planiraju kako će doći do cilja.
‘Sve se promijenilo. Kada je izumljen tiskarski stroj on nije mogao izmisliti novi stroj nego samo kopirati knjige, a Gutenberg je bio taj koji odlučuje što će tiskati. Tako je bilo sa svim velikim izumima u povijesti. Kada je stvorena atomska bomba ona nije mogla odlučiti hoće li razoriti Tokio ili Hirošimu, niti je mogla izumiti hidrogensku bombu. To su mogli samo ljudi, a sada ljudi imaju konkurenciju, umjetnu inteligenciju koja sve to može, a inteligentnija je od ljudi’, upozorava izraelski mislilac Yuval Noah Harari.
Sam Altman prije nekoliko je dana izjavio da je čovječanstvo već zakoračilo u razdoblje koje naziva početkom singularnosti, trenutka u kojem AI sustavi napreduju toliko brzo da ih ljudi više neće moći pratiti dosadašnjim tempom. S tom procjenom ne slažu se svi stručnjaci, ali gotovo svi priznaju da se sposobnosti najnaprednijih modela razvijaju znatno brže nego što se očekivalo.
Sada se više ne govori o idućem desetljeću, nego o tjednima, mjesecima, godinama.
Osim što se munjevito razvija i modeli su sve pametniji, posljednjih par mjeseci trend je povezivanja umjetne inteligencije sa svim digitalnim sustavima, osobnim računalima i mrežama. Obični korisnici potiču se da spajaju i povezuju AI sa svojim softverom, diskovima, osobnim dokumentima, mailovima i tako najobičniji ‘kućni’ ChatGPT, Claude ili Gemini lagano postaju sastavni dio digitalnog okružja građana, a tako i kompanija, banaka, sustava čitavih država.
Čitav taj digitalni koncept na kojem počiva naša civilizacija se promijenio ili se mijenja pred našim očima, nezaustavljivo, munjevito i drastično. Mediji su se promijenili, internet se promijenio, paralelno se urušavaju globalni politički sustavi, na rubu smo nove gospodarske krize, moguće i trećeg svjetskoga rata, a nitko ne zna što umjetna inteligencija može, što hoće, misli li, i o čemu misli ako misli.
Bilo bi dobro malo promisliti o tome, ako već nije kasno.
