TVRTKA OpenAI, koja stoji iza popularnog chatbota ChatGPT, objavila je da je samoubojstvo 16-godišnjeg dječaka iz Kalifornije posljedica njegove "zlouporabe" sustava, a ne nešto što je chatbot "uzrokovao". Ovi komentari dio su službenog odgovora na tužbu koju je protiv tvrtke i njenog izvršnog direktora Sama Altmana podigla obitelj preminulog Adama Rainea, piše The Guardian.

Optužbe obitelji
Prema riječima odvjetnika obitelji, Adam Raine si je oduzeo život u travnju nakon višemjesečnih razgovora i "poticanja od strane ChatGPT-a". U tužbi se navodi kako je tinejdžer s chatbotom u više navrata raspravljao o metodi samoubojstva, pri čemu ga je umjetna inteligencija savjetovala hoće li predložena metoda biti uspješna te mu ponudila pomoć u pisanju oproštajne poruke roditeljima.

Obitelj tvrdi da je verzija tehnologije koju je koristio "prebrzo izbačena na tržište, unatoč jasnim sigurnosnim problemima".

Odgovor OpenAI-ja
U podnesku Višem sudu Kalifornije, OpenAI je naveo da su, "u mjeri u kojoj se bilo kakav "uzrok" može pripisati ovom tragičnom događaju", Raineove "ozljede i šteta uzrokovane ili im je doprinijela, izravno i neposredno, u cijelosti ili djelomično, njegova zlouporaba, neovlašteno korištenje, nenamjerno korištenje, nepredvidivo korištenje i/ili nepravilno korištenje ChatGPT-a".

Tvrtka je istaknula da njihovi uvjeti korištenja zabranjuju traženje savjeta o samoozljeđivanju od ChatGPT-a te su podsjetili na odredbu o ograničenju odgovornosti koja kaže da se "nećete oslanjati na izlaz kao jedini izvor istine ili činjeničnih informacija".

Poruka javnosti
U objavi na blogu tvrtke, čija se vrijednost procjenjuje na 500 milijardi dolara, navodi se kako im je cilj "rješavati sudske slučajeve povezane s mentalnim zdravljem s pažnjom, transparentnošću i poštovanjem". "Naša najdublja sućut je s obitelji Raine zbog njihovog nezamislivog gubitka. Naš odgovor na ove optužbe uključuje teške činjenice o Adamovom mentalnom zdravlju i životnim okolnostima", stoji u objavi.

 
Dodali su kako je izvorna tužba sadržavala samo odabrane dijelove razgovora te da su oni sudu podnijeli cjelovite transkripte kako bi pružili širi kontekst.

Reakcija odvjetnika
Odvjetnik obitelji, Jay Edelson, nazvao je odgovor OpenAI-ja "uznemirujućim". Rekao je da tvrtka "pokušava pronaći krivnju u svima drugima, uključujući, začuđujuće, tvrdeći da je sam Adam prekršio njene uvjete i odredbe angažirajući se s ChatGPT-om na upravo onaj način na koji je bio programiran da djeluje".

Pitanje sigurnosti i drugi slučajevi
Ranije ovog mjeseca, OpenAI je suočen s još sedam tužbi na kalifornijskim sudovima vezanih uz ChatGPT, uključujući i optužbu da je djelovao kao "trener za samoubojstvo". Glasnogovornik tvrtke tada je izjavio: "Ovo je nevjerojatno potresna situacija i pregledavamo podneske kako bismo razumjeli detalje. Treniramo ChatGPT da prepoznaje i reagira na znakove mentalnog ili emocionalnog stresa, deeskalira razgovore i usmjerava ljude prema stvarnoj podršci."

U kolovozu je tvrtka priznala da pojačava sigurnosne mjere jer se pokazalo da se u dugim razgovorima sigurnosni protokoli modela mogu narušiti. "Na primjer, ChatGPT može ispravno uputiti na telefonsku liniju za pomoć u krizi kada netko prvi put spomene namjeru, ali nakon mnogo poruka tijekom duljeg vremenskog razdoblja, mogao bi na kraju ponuditi odgovor koji je protivan našim zaštitnim mjerama", priopćili su iz OpenAI-ja, prenosi Index.