Mnogi korisnici i dalje pogrešno doživljavaju prozore za razgovor s umjetnom inteligencijom kao potpuno sigurna i privatna mjesta za iznošenje najdubljih misli. Međutim, slučaj mladića iz Sjedinjenih Američkih Država kojega je sam OpenAI proaktivno prijavio FBI-u zbog detaljnog planiranja ubojstva bivše djevojke dokazuje suprotno. Iako se AI chatbotovi često koriste poput digitalnog dnevnika ili virtualnog slušatelja, prekoračenje granice između emotivnog pražnjenja i pripreme kaznenog djela izazvalo je izravnu reakciju tehnološkog diva.
Darren Zhou, 25-godišnji bivši strateški analitičar u jednoj multinacionalnoj banci na Floridi, započeo je u ožujku intenzivno koristiti ChatGPT nakon što je dobio otkaz i doživio prekid veze. U početku su se njegovi upiti vrtjeli oko interesa bivše djevojke, mjesta koja je posjećivala te izraza ljubomore i želje za pomirenjem. Ubrzo je razina ekstremizma u porukama naglo eskalirala. Zhou je počeo detaljno opisivati namjere napada i ubojstva bivše partnerice, a prijetnje je proširio i na članove njezine obitelji. Sudski zapisi potvrdili su da su poruke sadržavale eksplicitne najave ubojstava i kontrolirajuće poruke.
Prepoznavši stvarnu i neposrednu opasnost, OpenAI je aktivirao svoje sigurnosne protokole i prijavio incident agenciji FBI. U svibnju su istražitelji preuzeli cjelokupnu dvomjesečnu povijest razgovora te je proslijedili lokalnoj policijskoj upravi. Pregledom dokumenata utvrđeno je da nije riječ o bezopasnim i impulzivnim izjavama, već o pomno osmišljenom planu. Paralelno s time, policija je kontaktirala 21-godišnju žrtvu koja je potvrdila da je prekinula vezu zbog Zhouove agresivne naravi te predala dokaze o kontinuiranom uznemiravanju i prijetnjama putem društvenih mreža.
Spoj detaljnih analitičkih podataka koje je dostavio OpenAI i materijalnih dokaza žrtve rezultirao je uhićenjem. Zhou je optužen po tri točke optužnice, uključujući teško uznemiravanje i pisane prijetnje smrću, za što mu je prijetila zatvorska kazna u trajanju do 25 godina. Ipak, kroz nagodbu o priznanju krivnje s kojom se oštećena strana složila, izrečena mu je osmogodišnja uvjetna kazna uz stroge mjere nadzora.
Uvjeti korištenja platforme OpenAI jasno navode da sustav zadržava pravo pregleda interakcija ako detektira rizik od nanošenja štete sebi ili drugima te da je spreman proslijediti podatke nadležnim tijelima. Iako su se zapisi razgovora s AI sustavima i ranije pojavljivali kao dokazi u sudskim postupcima, ovaj slučaj predstavlja jedan od rijetkih primjera u kojima je sama tehnološka tvrtka samoinicijativno prijavila vlastitog korisnika policiji.
