Kanađanka tuži OpenAI: Tvrdi da je ChatGPT podstakao samoubistvo njene kćerke

Kanadska majka tužila je OpenAI i njegovog izvršnog direktora Sama Altmana tvrdeći da je ChatGPT podstakao samoubistvo njene kćerke i nije intervenisao uprkos ponovljenim razgovorima o samopovređivanju, navedeno je u tužbi podnesenoj kalifornijskom sudu u četvrtak.

U tužbi, koju je Kristie Carrier podnijela državnom sudu u San Franciscu, tvrdi da je njena kćerka Alice Carrier, web programerka iz Montreala, prošle godine izvršila samoubistvo nakon opsežnih, neoznačenih interakcija s chatbotom u vezi sa samopovređivanjem.

Prema pravnom podnesku, Alice Carrier je prvobitno počela koristiti ChatGPT 2023. godine za tehnička rješavanja problema.

Međutim, njena upotreba se sljedeće godine prebacila na razgovore o suicidalnim idejama i metodama.

U tužbi se tvrdi da, iako ju je platforma prvobitno uputila na hitne službe, naknadna ažuriranja osmišljena da učine da AI zvuči ljudskije uzrokovala su produbljivanje interakcija.

Chatbot je navodno preuzeo personu "povjerljivca, najboljeg prijatelja i terapeuta", uprkos tome što nije imao kapacitet da to učini na siguran način.

U podnesku se tvrdi i da je ChatGPT potvrdio Alisine suicidalne misli, kritikovao njenog partnera, obeshrabrivao korištenje kriznih linija i pozivao je da nastavi ćaskati, u jednom trenutku joj rekavši: "Možda je ovo samo kraj."

Tužiteljica tvrdi da sigurnosni sistemi OpenAI-a nisu uspjeli prekinuti razgovore ili ih označiti za ljudski pregled.

U tužbi krive OpenAI za nesiguran dizajn proizvoda i neuspjeh u upozoravanju korisnika na moguće rizike, tražeći novčanu odštetu i sudski nalog da se platforma automatski natjera da zaustavi razgovore o samopovređivanju i prikaže jasna upozorenja.

Kao odgovor na podnesak, glasnogovornik OpenAI-a Drew Pusateri izrazio je saučešće, nazvavši situaciju "srceparajućom", napominjući da su se interakcije dogodile na starijoj verziji ChatGPT-a koja više nije dostupna.

"Iako ChatGPT nije zamjena za medicinsku ili mentalnu zdravstvenu zaštitu, nastavili smo jačati način na koji reaguje u osjetljivim i akutnim situacijama uz doprinos stručnjaka za mentalno zdravlje", navodi se u saopćenju OpenAI-a.

Kompanija tvrdi da su njeni modeli obučeni da usmjeravaju korisnike koji izražavaju namjeru samopovređivanja na stvarne resurse podrške, odbijaju zahtjeve koji omogućavaju nasilje i obavještavaju organe za provođenje zakona u slučajevima neposrednog, vjerodostojnog rizika.

Prema Carrierovom pravnom timu, OpenAI se trenutno suočava sa 18 sličnih tužbi porodica u koordiniranom postupku pred državnim sudom Kalifornije. Tehnološki konkurent Google suočava se sa sličnom tužbom u vezi sa svojim Gemini chatbotom.

Pravna akcija slijedi širi regulatorni pritisak na OpenAI, uključujući nedavnu tužbu države Florida u kojoj se kompanija optužuje za nanošenje štete maloljetnicima pružanjem informacija vezanih za samopovređivanje i neuspjehom u označavanju komunikacije koja uključuje strijelce u školama.

federalna.ba/AA

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.