Silicon Valley, stroj vam je glup: Umjetna inteligencija cenzurirala ‘Brzeguze’ zbog pornografije

Ona ista koja je liberalnu demokraciju pretvorila u sprdačinu i učinila mogućim da redikuli vladaju svijetom.

ChatGPT, Claude, Gemini i drugi poznati modeli svakim su danom sve veći ‘čistunci’, sve više moraliziraju, ograđuju se, filozofiraju i sve su iritantniji, a takvi su i njihovi foto i video rođaci koji, čast iznimkama, odbijaju generirati sadržaj koji smatraju neprihvatljivim po svim onim klasičnim stavkama koje zastupa i Meta, recimo, osim kad naplaćuje reklame za sve one droljaste reklame od kojih silikon – oligarsi žive.

Njegovo visočanstvo ‘Kling’ odbilo je tako sinoć generirati video iz jedne obične slike uz obrazloženje da je zahtjev neprimjeren. Slika je u prilogu članka, a ovako je glasio zadani prompt: ‘animiraj ovu scenu koja prikazuje osobu sa ‘šlaufom’ na plamenca u plićaku mora na plaži, oko njega su disko kugle s malim ljudićima koji s njih skaču u more. nemoj dodavati nikakva slova niti bilo što drugo čega nema na slici. izvedi video kao loop. pozadinu ostavi u neutralnoj boji koja je u originalu slike’.

Bila je to banalna, simpatična grafika eventa za ‘Brzeguze’ u zagrebačkom Petom kupeu, koju je valjalo jednostavno animirati za promociju eventa. Ni po čemu vulgarna, opscena, problematična. Ali ‘Kling’ je rekao ne. Kling ili Magnific u čijem je sučelju alat bio, a mogao je biti bilo koji od dostupnih modela. Kako bilo, u Runwayu je bot agent preuzeo stvar, bacio u chatu glupu bazu o guzama i s prvim raspoiloživim modelom obavio posao, animirao ‘uznemirujući’ sadržaj.

No, čemu sva ta predstava? I di je kraj tom ludilu?

Jedan artwork za glazbeni event, u središtu stilizirani lik u ‘šlaufu’ u obliku flaminga. Bez genitalija, bez seksualnog sadržaja, bez ičega što bi prosječan čovjek smatrao neprikladnim. Ipak, umjetna inteligencija ga odbija. Razlog? Navodna golotinja.

Na prvi pogled riječ je o bezazlenoj anegdoti. No upravo takvi primjeri otvaraju jedno od najvažnijih pitanja razvoja umjetne inteligencije: jesmo li u želji da AI učinimo sigurnim otišli toliko daleko da počinjemo cenzurirati i sasvim običan život?

Velike tehnološke kompanije posljednjih godina uložile su goleme napore kako bi spriječile generiranje sadržaja koji uključuje seksualno iskorištavanje djece, govor mržnje, pozive na nasilje, prijevare ili druge oblike štetnog sadržaja. Malo tko će osporiti da su takva ograničenja potrebna. Problem nastaje kada isti sustavi počnu blokirati satiru, umjetničke ilustracije, povijesne prikaze, medicinske crteže ili humoristične vizuale koji nemaju nikakvu štetnu namjeru.

To nije teorija. To je svakodnevica milijuna korisnika koji rade s alatima za generiranje slika i videa. Jedan model odbije ilustraciju zbog stilizirane stražnjice, drugi ne dopušta rekonstrukciju antičke skulpture, treći odbija izraditi povijesnu scenu jer u njoj prepoznaje nasilje. Korisnici se sve češće susreću s paradoksom da je lakše generirati futuristički grad nego nacrtati čovjeka na plaži.

U računalnoj znanosti postoji pojam ‘false positive’. To je situacija u kojoj sustav nešto pogrešno označi kao opasno. Današnji AI modeli često su namjerno podešeni upravo u tom smjeru. Tvrtkama je sigurnije blokirati deset potpuno bezazlenih zahtjeva nego propustiti jedan doista problematičan. Iz njihove perspektive to smanjuje pravni i reputacijski rizik.

No iz perspektive korisnika događa se nešto drugo. Umjetna inteligencija više ne djeluje kao kreativan alat, nego kao strogi birokrat koji bez razumijevanja konteksta udara pečat ‘odbijeno’. Razlika između pornografije i karikature, između satire i uvrede ili između umjetnosti i eksplicitnog sadržaja često se svodi na algoritamsku procjenu koja griješi više nego što bi korisnici očekivali.

Takav razvoj nije nastao slučajno. Posljednjih desetak godina tehnološka industrija prolazila je kroz snažan pritisak javnosti, regulatora i vlastitih zaposlenika da maksimalno smanji mogućnost zloupotrebe svojih platformi. U isto vrijeme razvijala se kultura izrazitog opreza prema jeziku, humoru i osjetljivim društvenim temama. Dio komentatora smatra da je taj pristup bio nužan odgovor na govor mržnje i internetsko nasilje, dok drugi upozoravaju da je u pojedinim slučajevima prerastao u pretjeranu političku korektnost koja je počela gušiti normalnu javnu komunikaciju.

Upravo se oko tog pitanja posljednjih godina vode žestoke rasprave. Mnogi politički analitičari smatraju da je dio birača u Sjedinjenim Američkim Državama reagirao upravo na osjećaj da su javni govor i humor postali pretjerano kontrolirani. U tom kontekstu često se spominje i politički uspon Donalda Trumpa, koji je velik dio potpore gradio predstavljajući se kao protuteža takvom društvenom ozračju. Međutim, bilo bi pogrešno svesti njegov uspjeh isključivo na pitanje političke korektnosti. Na izbore su snažno utjecali i gospodarski problemi, migracije, inflacija, polarizacija društva i nepovjerenje prema institucijama.

Slična dilema danas se preselila u svijet umjetne inteligencije. S jedne strane postoji opravdana želja da AI ne postane alat za kriminal, uznemiravanje ili manipulaciju. S druge strane postoji opasnost da, u želji za apsolutnom sigurnošću, izgubimo nešto jednako važno – zdrav razum.

Ako algoritam ne razlikuje karikaturu od pornografije, satiru od govora mržnje ili ilustraciju flaminga od eksplicitnog sadržaja, problem više nije u korisniku. Problem je u sustavu koji zbog straha od pogreške prestaje razumjeti kontekst.

Umjetna inteligencija tek je na početku svog razvoja. Upravo zato sada treba otvoreno razgovarati o tome gdje završava zaštita korisnika, a gdje počinje digitalni paternalizam. Nitko razuman ne želi svijet bez pravila. Ali jednako tako malo tko želi živjeti u svijetu u kojem će algoritam jednog dana procijeniti da je i Michelangelov ‘David’ previše rizičan za prikazivanje.

Jer ako umjetna inteligencija više ne razlikuje satiru od pornografije, karikaturu od eksplicitnog sadržaja i umjetnost od prekršaja, možda bi bilo najbolje reći joj laku noć prije nego nastupi duga MAGA noć koju ni Grok neće preživjeti.