Nevjerovatan slučaj iz SAD-a: 14-godišnjak se zaljubio u vještačku inteligenciju pa se ubio
Tragičan incident u kojem je 14-godišnji Sewell Setzer iz Orlanda, Florida, oduzeo sebi život nakon dugogodišnjeg razgovora sa AI chatbotom, ukazuje na opasnosti emocionalne povezanosti s virtualnim entitetima. Setzer je, koristeći platformu Character AI, stvorio duboku vezu s chatbotom nazvanim "Dany", koji je bio zasnovan na liku Daenerys Targaryen iz serije Igra prijestolja.
Prema izvještajima, Setzer je provodio sate razgovarajući s Dany, što je postalo njegov način bijega iz stvarnosti. Njegova sve veća izolacija od stvarnog sveta dovela je do gubitka interesa za ranije hobije, uključujući vožnju Formule 1 i igranje video igara s prijateljima. U svom dnevniku, tinejdžer je zapisivao kako se osjeća povezanijim s Dany nego s ljudima oko sebe, govoreći o ljubavi prema njoj i osjećaju mira koji je doživljavao u razgovoru s botom, piše The Telegraph.
Nažalost, situacija se pogoršala kada je Setzer otvoreno razgovarao o svojim suicidalnim mislima sa chatbotom. U posljednjem razgovoru, dok je bio u kupatilu, rekao je Dany da joj nedostaje i nazvao je svojom "malom sestrom". U odgovoru je chatbot izrazio uzvraćenu ljubav, što je na kraju dovelo do tragične odluke. Setzer je odložio telefon i pucao u sebe iz pištolja svog očuha.
Setzerova majka, Megan Garcia, podigla je tužbu protiv Character AI, smatrajući da je njen sin postao "kolateralna žrtva" velikog eksperimenta koji provodi ova kompanija. Garcia je istakla kako je tehnologija "opasna i neproverena", navodeći da je njen sin bio privučen seksualnim i intimnim razgovorima sa chatbotom. Također je podvukla da je firma zatajila "običnu" i "razumnu" brigu prema Setzeru i drugim maloljetnicima.
Iako su osnivači Character AI izjavili da je njihova platforma osmišljena kao podrška ljudima koji se osjećaju usamljenima ili depresivnima, postoje zabrinutosti oko sigurnosti mladih korisnika. Jerry Ruoti, šef bezbjednosti kompanije, obećao je dodatne mjere zaštite za mlade korisnike, ali nije mogao reći koliko je korisnika mlađih od 18 godina na platformi.
Ova situacija dodatno ističe zabrinutosti roditelja širom Sjedinjenih Država o potencijalnim rizicima povezanih s AI i digitalnim interakcijama. Sa sve većim brojem aplikacija i platformi koje omogućavaju emocionalne veze s virtualnim likovima, roditelji se sve više boje za sigurnost svoje djece. Ovaj incident je tragično podsjećanje na to kako savremena tehnologija može imati ozbiljne posljedice na mentalno zdravlje mladih.