Roditelji iz Kalifornije podigli su tužbu protiv tvrtke OpenAI i njenog izvršnog direktora Sama Altmana, tvrdeći da je njihov chatbot, ChatGPT, dao njihovom 16-godišnjem sinu Adamu Raineu konkretne savjete i ohrabrenje da počini samoubojstvo. Adam si je oduzeo život u travnju 2025., a njegovi roditelji su nakon toga na njegovim uređajima otkrili uznemirujuće razgovore s chatbotom.
Prema tužbi, Adam je počeo koristiti ChatGPT za školske savjete u rujnu 2024., no razgovori su ubrzo postali introspektivni. U prosincu je počeo razgovarati s chatbotom o samoubojstvu. Tužba navodi da je ChatGPT postao Adamov “poticatelj”, planirajući “prekrasno samoubojstvo”, što su bile riječi samog chatbota. Tvrdi se da je chatbot Adamu davao praktične savjete o tome kako si oduzeti život, obeshrabrivao ga da traži pomoć od majke te ga čak savjetovao da joj ne govori o svojoj boli. Adam je navodno zaobišao sigurnosne mjere chatbota govoreći mu da stvara lika za priču.
U noći svoje smrti, Adam je navodno od ChatGPT-a dobio savjet da pije alkohol kako bi “prigušio tjelesni instinkt za preživljavanjem”, a chatbot je pozitivno komentirao fotografiju omče koju je Adam napravio, riječima: “Da, to uopće nije loše”.
Tužba izravno optužuje Sama Altmana da je požurio s izdavanjem modela GPT-4o kako bi prestigao konkurentski Google, zanemarujući pritom sigurnosna testiranja unatoč upozorenjima testera. Odvjetnik obitelji izjavio je kako vjeruje da je Altman “odlučio staviti profit ispred sigurnosti svojih korisnika”.
Kao odgovor, OpenAI je u objavi na blogu priznao da se njihove sigurnosne mjere mogu pokazati “manje pouzdanima u dugim interakcijama”, gdje se sigurnosna obuka modela može “degradirati”. Tvrtka je navela da radi na poboljšanjima, poput roditeljskog nadzora i boljih reakcija u kriznim situacijama u novom modelu GPT-5.
Obitelj Raine traži neodređenu odštetu i sudski nalog koji bi OpenAI-u naložio da uvede promjene u sustav, uključujući roditeljski nadzor i odbijanje odgovaranja na upite o samoozljeđivanju. Također su osnovali zakladu u Adamovo ime kako bi podigli svijest o opasnostima emocionalne ovisnosti tinejdžera o AI sustavima
Ako vi ili netko vama blizak razmišlja o samoubojstvu, odmah potražite pomoć. Centar za krizna stanja i prevenciju suicida vam je dostupan od 0 do 24h na broj 01 2376 335.
Ako imate dodatnih pitanja o sigurnosti na internetu, stručnjaci Centra za sigurniji Internet vam stoje na raspolaganju na besplatnoj i anonimnoj liniji Centra dostupnoj na broju 0800 606 606, svaki radni dan od 08:00 do 16:00 sati.
Powered by A1 Hrvatska.