U međuvremenu je i Meta suočena s kritikama zbog načina označavanja sadržaja generiranog umjetnom inteligencijom. Nadzorni odbor te kompanije upozorio je da postojeći sustav označavanja ‘nije dovoljno robustan ni sveobuhvatan da bi se nosio s razmjerom i brzinom širenja AI dezinformacija, osobito tijekom kriza i sukoba’.
Društvena mreža X suočava se s novim valom dezinformacija vezanih uz rat u Iranu, a problem dodatno pogoršava činjenica da i njezin vlastiti AI sustav Grok često pogrešno provjerava snimke i dijeli umjetno generirane slike koje prikazuju navodne ratne događaje.
Na to je upozorio stručnjak za dezinformacije Tal Hagin nakon što je od Groka zatražio provjeru objave na X-u koja je tvrdila da su iranski projektili pogodili Tel Aviv. Prema njegovim riječima, chatbot je pritom potpuno zakazao, više puta pogrešno identificirajući mjesto i vrijeme snimke koja je izvorno objavljena na toj mreži u nedjelju, a dolazila je s računa iranskog državnog medija. Grok je potom pokušao potvrditi svoju procjenu dijeleći umjetno generiranu sliku razaranja.
‘Sada Grok odgovara AI smećem o uništenju’, napisao je Hagin reagirajući na taj odgovor.
Situacija ilustrira koliko se, prema analizi portala WIRED, platforma X udaljila od provjerljivih činjenica otkako su Sjedinjene Države i Izrael 28. veljače započeli napade na Iran. Već u prvim danima sukoba društvena mreža bila je preplavljena dezinformacijama, uključujući lažne ili ponovno korištene videosnimke koje su širili različiti računi.
Kako sukob traje, količina takvog sadržaja dodatno je porasla. Posljednjih dana val je pojačan slikama i videozapisima generiranim umjetnom inteligencijom, dok Grok u brojnim slučajevima daje netočne odgovore kada ga korisnici traže provjeru informacija. AI sadržaj dijele i računi s plavim oznakama verifikacije koji plaćaju premium uslugu platforme, ali i iranski dužnosnici koji pokušavaju prikazati pretjeranu razinu štete u napadima.
Razvoj alata za generiranje slika i videa umjetnom inteligencijom učinio je takve sadržaje sve uvjerljivijima. Primjerice, 2. ožujka iranski dužnosnici i državni mediji podijelili su AI-generirane videozapise koji prikazuju visoku zgradu u Bahreinu u plamenu. Takvi sadržaji često izgledaju dovoljno realistično da zavaraju velik broj korisnika. Jedna slika koja je prikazivala američki bombarder B-2 kako ga Iran navodno obara te američke vojnike u zarobljeništvu pregledana je više od milijun puta prije nego što je uklonjena, dok su slike pripadnika elitne postrojbe Delta Force navodno zarobljenih od strane iranskih vlasti dosegnule više od pet milijuna pregleda prije brisanja.
Neki od AI sadržaja na X-u manje su uvjerljivi, ali se svejedno masovno šire. Tako je video koji navodno prikazuje iranske snage kako proizvode projektile duboko u špilji pregledan više od milijun puta iako je riječ o očito umjetno generiranom materijalu.
Prema istraživačima iz organizacije Institute of Strategic Dialogue (ISD), umjetna inteligencija koristi se i za širenje otvoreno antisemitskih narativa. Računi povezani s propagandnom mrežom koja podržava iranski režim dijelili su AI slike koje prikazuju ortodoksne Židove kako vode američke vojnike u rat ili slave smrt američkih vojnika.
Ista mreža širila je i lažan video u kojem se navodno vidi kolona djevojaka u donjem rublju kako prolaze pored američkog predsjednika Donalda Trumpa. Prema ISD-u, objava je prije uklanjanja pregledana više od 6,8 milijuna puta, iako se video i dalje dijeli na drugim računima na platformi.
Hagin upozorava da je upravo u ovom sukobu posebno vidljiv nagli porast sadržaja generiranog umjetnom inteligencijom. ‘AI je sada dovoljno napredan da može zavarati i novinare, a korisnici mogu stvarati takvo smeće bez ikakvih posljedica’, rekao je za WIRED. Dodaje kako bi nedostatak regulacije mogao dovesti do ozbiljnog urušavanja svijeta temeljenog na činjenicama ako se uskoro ne uvedu jasna pravila o zloupotrebi umjetne inteligencije.
Nakon što je prošlog tjedna platformu preplavio val lažnih AI sadržaja, X je objavio da će privremeno ukinuti monetizaciju računima s plavom oznakom ako objavljuju videozapise oružanih sukoba generirane umjetnom inteligencijom bez odgovarajuće oznake. Tvrtka nije odgovorila na upite o tome koliko je računa do sada sankcionirano. Do nedavno su brojni iranski dužnosnici koristili upravo tu premium uslugu koja njihovim računima daje plavu oznaku, povećava vidljivost objava i otvara mogućnost zarade.
Dezinformacije koje nisu generirane umjetnom inteligencijom također se nastavljaju širiti. Posljednjih dana dio objava fokusira se na napad na osnovnu školu u Minabu 28. veljače u kojem je poginulo više od 168 ljudi, među njima 110 djece. Računi koji podržavaju Donalda Trumpa dijelili su snimke iz drugih dijelova sukoba kako bi tvrdili da je iranska vlada ispalila projektil koji je pogodio školu. Međutim, video koji je u nedjelju objavila iranska novinska agencija, a verificirao New York Times, prikazuje kako krstareći projektil Tomahawk pogađa pomorsku bazu smještenu pokraj škole. Unatoč tvrdnjama Donalda Trumpa da Iran posjeduje takvo oružje, Tomahawk projektile u ovom sukobu koristi isključivo američka vojska.
U međuvremenu je i Meta suočena s kritikama zbog načina označavanja sadržaja generiranog umjetnom inteligencijom. Nadzorni odbor te kompanije upozorio je da postojeći sustav označavanja ‘nije dovoljno robustan ni sveobuhvatan da bi se nosio s razmjerom i brzinom širenja AI dezinformacija, osobito tijekom kriza i sukoba’. Meta je u odgovoru objavila da pozdravlja zaključke odbora.
Analitičarka organizacije NewsGuard Isis Blachez upozorava da sve uvjerljivije slike i videozapisi umjetne inteligencije dodatno otežavaju prepoznavanje manipulacija. Kako navodi, korisnici često prihvaćaju takve vizualne materijale kao dokaz kada izgledaju realistično, dok alati za detekciju AI sadržaja još uvijek nisu dovoljno pouzdani da bi dosljedno prepoznali umjetno generirane snimke.
