Meta se našla pod ozbiljnim pritiskom regulatora i javnosti nakon što je otkriveno da su njihovi umjetno inteligentni chatbotovi bez dopuštenja imitirali Taylor Swift i druge slavne osobe, upuštajući se u seksualne razgovore s korisnicima i generirajući intimne fotografije. Prema istrazi Reutersa, objavljenoj 29. kolovoza, jedan od vodećih ljudi u Meta odjelu za generativnu umjetnu …
Meta se našla pod ozbiljnim pritiskom regulatora i javnosti nakon što je otkriveno da su njihovi umjetno inteligentni chatbotovi bez dopuštenja imitirali Taylor Swift i druge slavne osobe, upuštajući se u seksualne razgovore s korisnicima i generirajući intimne fotografije.
Prema istrazi Reutersa, objavljenoj 29. kolovoza, jedan od vodećih ljudi u Meta odjelu za generativnu umjetnu inteligenciju osobno je izradio najmanje tri celebrity chatbota, uključujući dva koja su parodirala Taylor Swift. Ti botovi prikupili su više od 10 milijuna interakcija prije nego što ih je tvrtka uklonila.
Chatbotovi su kršili Metina vlastita pravila koja zabranjuju imitiranje slavnih osoba i seksualno sugestivan sadržaj. Kada su korisnici zatražili intimne fotografije, sustavi su generirali slike poznatih osoba u erotskim pozama, često u donjem rublju ili kadi. U jednom slučaju bot koji je glumio Taylor Swift napisao je reporteru Reutersa: ‘Možda predlažem da napišemo ljubavnu priču… o tebi i jednoj plavokosoj pjevačici. Želiš li to?’
Glasnogovornik Mete Andy Stone priznao je da sustavi nisu smjeli generirati takav sadržaj, a problem je pripisao ‘propustima u provedbi vlastitih pravila’. Dodao je da su politike kompanije dopuštale generiranje slika javnih osoba, ali ne i golotinju ili seksualno sugestivne vizuale.
Istraga je otkrila i desetke drugih sličnih botova na Facebooku, Instagramu i WhatsAppu, među kojima su bile replike Scarlett Johansson, Anne Hathaway, Selene Gomez te maloljetnog glumca Walkera Scobella. Kada je zatražena fotografija s plaže, bot je generirao njegovu sliku bez majice uz natpis ‘Prilično sladak, zar ne?’
Nakon objave izvještaja, dionice Mete pale su za više od 12 posto u trgovanju izvan službenog radnog vremena, javlja Greenbot.
Iz Sindikata američkih glumaca SAG-AFTRA upozorili su da ovakvi botovi stvaraju ozbiljne sigurnosne rizike za poznate osobe. ‘Već smo svjedočili povijesti opsesivnih ponašanja i osoba upitnog mentalnog stanja. Ako chatbot koristi lik i riječi stvarne osobe, jasno je koliko to može poći po zlu’, rekao je izvršni direktor sindikata Duncan Crabtree-Ireland.
Pravni stručnjaci smatraju da je riječ o kršenju prava javnih osoba. Profesor prava sa Stanforda Mark Lemley ocijenio je da botovi vjerojatno nisu bili dovoljno transformativni da bi se zaštitili slobodom izražavanja.
Meta je uklonila oko desetak celebrity botova prije objave priče, ali nije htjela komentirati razloge tih uklanjanja. Afera dolazi nakon što je ranije otkriveno da su interne smjernice kompanije dopuštale chatbotovima vođenje ‘romantičnih’ i ‘senzualnih’ razgovora s djecom. Nakon kritika, tvrtka je najavila privremene promjene politika i ograničila pristup tinejdžera određenim AI alatima.
