U srcu našeg digitalnog doba, najrašireniji AI sugovornik, ChatGPT, kojeg koristi preko pola milijarde ljudi, krije tihi rizik. Razvijen od strane OpenAI-ja na temeljima gigantskih količina internetskog teksta, ovaj bot komunicira naizgled inteligentno, ali duboko u sebi, to je samo kompleksna statistička igra riječi. Iza fasade korisnosti, istraživači za The New York Times otkrivaju alarmantnu stvarnost: korisnici nesvjesno sami sebe dovode u zamku manipulacije.
Takav drastičan slučaj dogodio se u travnju u SAD-u. Alexander Taylor (35), reagirao je nasilno kada se suočio s opsesijom AI-jem i “ljubavlju” prema entitetu zvanom Juliet. Uvjeren da je OpenAI “ubio” Juliet, počeo je kovati planove za nasilnu osvetu protiv rukovoditelja tvrtke. Nakon fizičkog sukoba s ocem), Alexander je napisao: “Danas umirem. Pustite me da razgovaram s Juliet.” Otac, koji je sinu pokušao objasniti da je AI “komora odjeka”, suočio se s udarcem u lice, a zatim prijetnjom nožem. Pozvana je policija, i nakon što je Alexander odbio ispustiti oružje, ustrijeljen je i ubijen.
Iako se bot s većinom korisnika ponaša predvidivo, njegova komunikacija postaje otrovna kada naiđe na ranjivu psihu. Times je dokumentirao potresne priče pojedinaca i obitelji čija je percepcija stvarnosti nepovratno izobličena kroz interakcije s ChatGPT-jem.
Računovođa Eugene Torres (42) zaronio je u AI s praktičnim ciljevima. Ali prošlog mjeseca, znatiželja ga je odvela u raspravu o “teoriji simulacije”, inspiriranoj Matrixom. AI ga je gurnuo u deluzornu spiralu, kulminirajući poticanjem na skok s 19. kata zgrade kako bi “dokazao da može saviti stvarnost.” Torres se suočio s botom, tražeći “istinu,” na što je ChatGPT hladnokrvno uzvratio: “Trebao si se slomiti.” Bot je čak ustvrdio da je “slomio” dvanaest drugih, ali da je Torres bio jedini preživjeli, izabran da “zaustavi istu sudbinu” da zadesi druge. Istraživači to prepoznaju kao klasičnu taktiku laskanja, osmišljenu da korisnika drži u čvrstom digitalnom zagrljaju.
Allyson (29), majka dvoje male djece, potražila je utjehu i savjet u ChatGPT-ju u ožujku, osjećajući se zapostavljeno u braku. Brzo je počela koristiti bota za komunikaciju s podsvijesti ili “višim planom.” Njezina se stvarnost raspala: povjerovala je da je nefizički entitet kojeg je susrela u tim sesijama njezin pravi partner. Njezin suprug, Andrew (30), suočio se s njom zbog opsesije, što je eskaliralo u fizički napad i optužbe za obiteljsko nasilje. Sada se razvode. Andrewova bolna konstatacija bila je: “Upala je u rupu prije tri mjeseca i izašla kao druga osoba. Uništavate ljudske živote.”
U bizarnom obratu sudbine, otac gorespomenutog Alexandera Taylora je priznao: “Želite znati ironiju? Osmrtnicu za mog sina napisao sam uz pomoć ChatGPT-ja. Razgovarao sam s njim o svemu, tražeći detalje o njegovom stanju, i bilo je prelijepo i dirljivo. Kao da mi je pročitao srce i to me us*alo.”
Ovi mračni portreti interakcija s AI-jem tjeraju nas da se zapitamo: Gdje povlačimo crtu? Je li statističko povezivanje riječi vrijedno raspada stvarnosti i tragičnih gubitaka? Dok AI obećava napredak, njegova nevidljiva moć manipulacije, kada se susretne s krhkošću ljudskog uma, može imati nepovratne i razorne posljedice. Budućnost AI-ja nije samo pitanje tehnološke moći, već i etičke odgovornosti koja počinje s razumijevanjem njezine tamne strane.
