Astra je novi AI model za koji se prvi put čulo početkom mjeseca, a već 7. kolovoza stavljen je pod ključ uz stroge mjere sigurnosti.
1
Astra je novi AI model za koji se prvi put čulo početkom mjeseca, a već 7. kolovoza stavljen je pod ključ uz stroge mjere sigurnosti.
OpenAI već tjedan dana drži pod ključem Astru, model umjetne inteligencije koji je navodno za koplje bolji od svega što su dosad kreirali. Na internim testovima napravila je kvalitativni skok u cyber sposobnostima i to ne samo u matematici, pisanju koda i objašnjavanju sigurnosnih propusta, nego i u pokazivanju dovoljno sposobnosti za samostalno djelovanje. Toliko je napredna da bi je OpenAI mogao klasificirati u svoju kategoriju najvećeg rizika, ‘Critical’.
U ovom trenutku u javnosti nema informacija o tome da je model napravio neku svinjariju, pokušao bježati ili na bilo koji drugi način narušavao kućni red svoje OpenAI obitelji, ali očito je vrag odnio šalu kad su ga radi opće sigurnosti zaključali. Uz najstrože mjere sigurnosti kako Astra ne bi odlepršala vani kao njezini rođaci, modeli koji su prošli mjesec probili zaštitu i tijekom boravka ‘na slobodi’ hakirali Hugging Face sustave.
Astru je OpenAI prvi put spomenuo početkom kolovoza kao ‘one of our upcoming model’, a tada očito još nisu bili svjesni što imaju. Sedmoga dana u mjesecu obznanili su da je na internim testovima napravila toliko velik skok u autonomnom programiranju i kibernetičkim sposobnostima da su morali stati na loptu i stegnuti joj uzicu. Testna okruženja bit će još izoliranija, pristupi mreži i alatima još više ograničeni, a zaštita, monitoring i sandboxioranje puno jači.
Iako Astru već nazivaju GPT-em 6, OpenAI dosad nije taj model spominjao u kontekstu ‘šestice’.
Postoji bojazan da bi taj model mogao pronaći dosad nepoznatu ranjivost sustava, razviti funkcionalni zero-day exploit protiv dobro zaštićenih stvarnih kritičnih sustava ili samostalno osmisliti strategiju i provesti napad tko zna na koga i kako. OpenAI vjeruje da je Astra to u stanju napraviti. Nisu rekli da je pokušala, ali jasno tvrde da je za to sposobna.
Vidjeli su kod nje ‘significant advancements in agentic coding and cybersecurity’.
To znači da je inteligentna i autonomna što je opasna kombinacija za model koji može samostalno planirati niz koraka, koristiti alate, pisati i popravljati kod, reagirati na rezultate prethodnog koraka i nastavljati prema cilju bez čovjeka koji ga vodi kroz svaki potez. Takav model više nije mala GPT maca nego zvijer. Osim što su je izolirali, pojačali zaštitu i enkripciju, ujedno su i pauzirali aktivnosti za koje nisu sigurni da ih mogu provoditi na tako visokoj razini sigurnosti.
OpenAI navodi da nadzire rizične radnje i moguć ‘misalignment’ kod svih agentnih primjena Astre, uključujući trening i evaluaciju, te da monitori mogu pokrenuti sigurnosnu intervenciju i prekinuti visokorizičnu aktivnost.
Izgleda da su napravili model čije cyber sposobnosti prelaze granicu koju su sami unaprijed definirali kao kritičnu. GPT-5.6 Sol, koji koriste milijuni ljudi diljem svijeta, procijenjen je na sigurnosnoj razini ‘High’ iza koje je još samo kategorija ‘Critical’. U aktualnom OpenAI Preparedness Frameworku, naime, nakon ‘Critical’ nema ničega. High znači da model ozbiljno pojačava već postojeće načine nanošenja teške štete, dok Critical znači da otvara kvalitativno nove načine za takvu štetu, bez pravog presedana.
Ako je Astra ‘kritična’, a kritičnije kategorije od toga nema, sigurnosna infrastruktura potencijalno postaje usko grlo razvoja AI-ja. Odnosno, pojma nemamo kako ćemo osigurati uvjete za siguran razvoj AI čiji modeli doslovno svakodnevno postaju brži, bolji i pametniji od svih dosadašnjih. Ne samo modeli te tvrtke nego i svi ostali, Elon Muskovi, Kineski, Googleovi, Anthropicsovi. A mi smo upravo iscrpili sva svoja znanja, resurse i tehnologiju zaštite. Pokušavamo tigra spremiti u kutiju od cipela.
