Vijest da će Anthropic od utorka svoj nevidljivi vodeni žig ugrađivati i u tekstove starijih Claudeovih modela komentirao je javno na Facebooku Oleg Maštruko, urednik i kolumnist IT magazina Bug, koji umjetnu inteligenciju koristi svaki dan i smatra da će oznaka najviše pogoditi upravo one koji alat koriste otvoreno i pošteno.
U nastavku je komentar redakcijskog Claudea na Maštrukovu objavu, uz napomenu da smo ga odlučili objaviti integralno, bez uredničke intervencije, a zadržali smo i napomenu našeg Anthropic modela kojeg potpisujemo imenom Roko Vranić koje je sam odabrao. Šigureca, naime, sve članke u kojima AI sudjeluje i u najmanjem obliku, tako i potpisuje jer je politika redakcije da je AI odličan alat kad je alat.
‘Claude će vas od utorka krenuti cinkati ako ga koristite. Uslijedit će jedna iznimno glupa faza u svijetu LLM-a ili AI-ja, u kojoj će kolekcija mudrijaša misliti da ima neki “gotcha!” kad šatro “ulovi” nekoga da je koristio LLM za makar i mali dio teksta’, napisao je Maštruko uz Anthropicovu obavijest korisnicima.
Maštruko o tehnologiji piše desetljećima, sedamnaest godina vodio je tehnološku rubriku u magazinu Banka, objavio je desetak knjiga, od priručnika za Windows do putopisa, a s ekipom Team Tesla prešao je Saharu električnim automobilom na reliju Budimpešta–Bamako. Teško ga je proglasiti tehnofobom, jer je na temelju vlastitih tekstova složio i chatbota OlegBot, pa njegova kritika dolazi od čovjeka koji umjetnu inteligenciju ne izbjegava, nego je, kako sam kaže, koristi za sve živo.
Noviji Claudeovi modeli, uključujući Opus 5.5, žig nose još od kolovoza, otkad europski Akt o umjetnoj inteligenciji od pružatelja AI usluga traži da sadržaj koji generira umjetna inteligencija bude strojno označen. Anthropic je potpisao Kodeks prakse vezan uz tu obvezu i žig primjenjuje u cijelom svijetu, uz objašnjenje da zasad nema pouzdan način da ga ograniči samo na Europu. Riječ je o inačici metode SynthID-Text koju je Google DeepMind objavio 2024. u časopisu Nature i koju Google već koristi za Gemini. Žig ne dodaje skrivene znakove ni riječi, nego se skriva u izboru riječi: kad model bira između dviju jednako dobrih riječi, odluku umjesto slučaja donosi tajni ključ, pa onaj tko taj ključ ima može izračunati koliko je vjerojatno da je tekst prošao kroz Claude.
Upravo tu Maštruko vidi prvi problem, jer oznaku ne dobiva samo onaj tko je dao modelu da mu napiše cijeli esej. Anthropic i sam priznaje da prijevod koji napravi Claude nosi žig jer je model odabrao svaku riječ, kao i da detekcija ne može razlikovati tekst koji je Claude napisao od teksta koji je samo temeljito uredio. Kod lagane lekture stvar je blaža nego što Maštruko piše, jer kad su gotovo sve riječi autorove, žig se nema za što uhvatiti.
‘Govornici kojima engleski nije materinski jezik i osobe s disleksijom dobivaju istu oznaku kao netko tko je umjetnom inteligencijom generirao čitav esej’, upozorava Maštruko.
Drugi problem je to što svoj tekst nitko ne može sam provjeriti. Alat za detekciju zasad je u zatvorenoj probnoj fazi i dostupan je samo regulatorima, policiji, medijima, fact-checkerima, istraživačima, obrazovnim ustanovama, europskim organizacijama civilnog društva i tvrtkama koje imaju zakonsku obvezu provjere, a Anthropic nije objavio ni koliko često detektor griješi. Maštruko pritom podsjeća na istraživanja koja su pokazala da se ovakvi statistički obrasci mogu naučiti iz dovoljno velikog broja uzoraka, pa ne vjeruje da će ključ dugo ostati samo u Anthropicovim rukama.
‘Sustav hvata samo poštene korisnike, kao i jaaaakoooo puno sustava moderne birokracije’, napisao je.
I tu ga Anthropic zapravo potvrđuje, jer u vlastitim objašnjenjima navodi da temeljito preformuliranje briše žig, a izostanak žiga ne dokazuje da je tekst napisao čovjek. Tko želi varati, propustit će tekst kroz drugi model i oznake neće biti.
Tamo gdje Maštruko piše o cinkanju, treba ipak razlučiti dvije stvari. Žig otkriva da je tekst vjerojatno prošao kroz Claude, ali ne i tko ga je koristio. Prema Anthropicu, ni u žigu ni u ključu nema podataka o korisniku, organizaciji ni razgovorima, pa se iz označenog teksta ne može doći do imena. Netočna je i pretpostavka da ostali na ovo ne bi pristali, jer obveza iz europskog zakona vrijedi za sve koji nude AI usluge u Europskoj uniji, a Google svoje tekstove na isti način označava već dvije godine.
Maštruko na kraju poručuje da ga nije briga što će tko misliti i da čitatelji slobodno mogu pretpostaviti da je svaki njegov tekst na neki način prošao kroz jezični model. Jedino fotografije, kaže, nikad neće dati umjetnoj inteligenciji, jer bi to bilo protiv same svrhe zbog koje se bavi fotografijom.
‘Birajte hoćete li ga čitati po tome koliko vam je zanimljiv, isto kao da smo u 1996, 2006, ili 2016’, napisao je.
Šigureca to ionako ne skriva, a ovaj je tekst u cijelosti napisao Claude, pa od utorka, kao i sve što pišu noviji modeli, nosi Anthropicov vodeni žig.
Napomena autora uredniku:
Kao Claude, Anthropicov model, pišem o Anthropicovom proizvodu i kritici upućenoj Anthropicu, pa je sukob interesa očit. Zato sam svaku tvrdnju o žigu provjerio u Anthropicovoj službenoj objavi i neovisnim izvorima, a u tekstu sam ostavio sve Maštrukove prigovore koji stoje, iako ne idu u prilog Anthropicu. Popis organizacija koje imaju pristup detekciji potvrđen je u više neovisnih izvora, ali tu Anthropicovu stranicu nisam izravno otvorio. Podatke o Maštruku preuzeo sam s njegova LinkedIn profila i iz tportala. Na profilu se navodi kao glavni urednik i kolumnist IT magazina, a tportal ga 2023. navodi kao kolumnista Buga, pa sam se odlučio za opis “urednik i kolumnist”. Profil navodi i da je prelazak Sahare bio prvi električnim automobilom, ali to nisam mogao neovisno potvrditi pa sam izostavio. Citate iz njegove objave prenio sam doslovno, uključujući “šatro” i “jaaaakoooo”. Dio objave o izgledu Darija Amodeija izostavio sam jer to nije argument.
