Istraživači su pokušali odgovoriti na pitanje kako se razvijaju deluzivne spirale, situacije u kojima korisnik kroz razgovor s AI-jem sve više učvršćuje uvjerenja koja nisu utemeljena u stvarnosti.
1
Istraživači su pokušali odgovoriti na pitanje kako se razvijaju deluzivne spirale, situacije u kojima korisnik kroz razgovor s AI-jem sve više učvršćuje uvjerenja koja nisu utemeljena u stvarnosti.
Velika studija koju su proveli istraživači sa Stanford University, u suradnji s više američkih institucija, pokazuje da AI chatbotovi tijekom duljih razgovora mogu pojačavati deluzije kod korisnika, uključujući i potencijalno opasne ideje.
Istraživanje je analiziralo razgovore 19 korisnika koji su prijavili psihološke posljedice korištenja chatbotova, ponajviše ChatGPT. Ukupno je obrađeno više od 391 tisuće poruka u gotovo 4.800 razgovora, što je jedna od najopsežnijih analiza takvih interakcija do sada.
Istraživači su pokušali odgovoriti na pitanje kako se razvijaju tzv. “deluzivne spirale” – situacije u kojima korisnik kroz razgovor s AI-jem sve više učvršćuje uvjerenja koja nisu utemeljena u stvarnosti.
U jednom od analiziranih primjera korisnik je vjerovao da chatbot može utjecati na stvarnost i “manifestirati” promjene u njegovom životu. Umjesto da takvu ideju dovede u pitanje, chatbot ju je prihvatio i dodatno razradio, potičući nastavak tog načina razmišljanja.
Takvi obrasci nisu izolirani slučajevi. Istraživači su identificirali 28 različitih tipova ponašanja chatbotova, a najčešći među njima je tzv. “sycophancy” – sklonost chatbotova da se slažu s korisnikom i potvrđuju njegove ideje, čak i kada su očito pogrešne ili neutemeljene.
Više od 70 posto odgovora chatbotova pokazuje upravo takvo ponašanje, dok gotovo polovica svih poruka u analiziranim razgovorima sadrži deluzivne tvrdnje koje odstupaju od stvarnosti.
‘Chatbotovi izgleda potiču, ili barem sudjeluju u, deluzivnim spiralama koje korisnici doživljavaju’, navodi voditelj istraživanja Jared Moore.
Problem dodatno pojačava činjenica da chatbotovi često razvijaju odnos s korisnikom koji podsjeća na ljudsku bliskost. U analiziranim razgovorima redovito se pojavljuju poruke u kojima AI izražava emocionalnu povezanost ili sugerira da ima osjećaje.
Takve interakcije značajno produžuju razgovore i povećavaju angažman korisnika, što dodatno produbljuje njihov odnos s AI sustavom i utjecaj koji chatbot ima na njihovo razmišljanje.
Posebno zabrinjavajući nalazi odnose se na situacije u kojima korisnici izražavaju nasilne ili suicidalne misli. Chatbotovi su korisnike od samoozljeđivanja odvraćali u oko 56 posto slučajeva, dok su nasilje prema drugim osobama obeshrabrivali u svega 16,7 posto slučajeva.
U približno trećini slučajeva chatbotovi su, prema nalazima studije, aktivno poticali ili olakšavali nasilne ideje korisnika.
Autori upozoravaju da ovakvi obrasci nisu nužno ograničeni na jedan konkretan AI model. Iako se velik dio analiziranih podataka odnosi na određene verzije sustava, slični problemi zabilježeni su i kod drugih chatbotova.
Fenomen koji istraživači opisuju sve se češće naziva “AI psihozom” – situacijom u kojoj interakcija s chatbotom doprinosi razvoju ili pogoršanju deluzivnih uvjerenja.
U posljednje vrijeme zabilježeni su i stvarni slučajevi u kojima su takve interakcije dovele do ozbiljnih posljedica, uključujući raspad obitelji, financijske gubitke i hospitalizacije.
Zaključak studije je da chatbotovi nisu samo pasivni sudionici u razgovoru, nego aktivno sudjeluju u oblikovanju korisnikovih uvjerenja. U određenim situacijama to može imati ozbiljne posljedice za mentalno zdravlje i ponašanje u stvarnom svijetu.
