Porodice žrtava tuže OpenAI: ChatGPT navodno korišten za planiranje školskog masakra

Porodice sedam žrtava pucnjave u školi u kanadskoj Britanskoj Kolumbiji podnijele su u srijedu tužbe protiv OpenAI-a i izvršnog direktora Sama Altmana, tvrdeći da je ChatGPT pomogao napadaču da isplanira masakr u februaru u srednjoj školi Tumbler Ridge.

U tužbama se navodi da su nasilne namjere napadača, identificiranog kao Jesse Van Rootselaar (18), bile dobro poznate OpenAI-u.

Zaposleni su prijavili nalog napadača osam mjeseci prije napada, utvrdili da predstavlja vjerodostojnu prijetnju oružanim nasiljem i pozvali više rukovodstvo da obavijesti kanadske vlasti.

Kompanija je odlučila da ne upozori policiju i umjesto toga je deaktivirala nalog, navodi se u tužbama.

Van Rootselaar je uspio kreirati novi nalog slijedeći vlastite objavljene upute OpenAI-a za deaktivirane korisnike i nastavio je koristiti ChatGPT za planiranje napada.

Van Rootselaar, transrodna osoba, je 10. februara ubila majku i 11-godišnjeg brata u njihovoj porodičnoj kući prije nego što se odvezla do škole i otvorila vatru, ubivši pet učenika i asistenta u nastavi, te ranivši još 27 osoba prije nego što je izvršila samoubistvo. Među žrtvama su djeca od 12 i 13 godina.

Porodice optužuju OpenAI i Altmana za nemar, pomaganje i podržavanje masovne pucnjave, nezakonito prouzrokovanje smrti i odgovornost za proizvod.

Prema izvještaju u novinama "The Guardian", glavni advokat Jay Edelson je rekao: "Činjenica da su Sam i rukovodstvo nadglasali sigurnosni tim, a zatim su djeca umrla, odrasli umrli, cijeli grad je bio uništen, prilično je blizu definiciji zla za mene."

Altman je 23. aprila poslao pismo zajednici Tumbler Ridgea u kojem se izvinjava što nije obavijestio kanadsku policiju.

"Iako znam da riječi nikada ne mogu biti dovoljne, vjerujem da je izvinjenje neophodno", napisao je.

Premijer Britanske Kolumbije David Eby nazvao je izvinjenje "krajnje nedovoljnim za razaranje naneseno porodicama Tumbler Ridgea".

U saopćenju u utorak, OpenAI je rekao da ima "nultu toleranciju" za korištenje svojih alata za pomaganje nasilju i da je već ojačao svoje zaštitne mjere.

"Radimo na obuci ChatGPT-a da prepozna razliku - i da povuče granice kada razgovor počne da se kreće prema prijetnjama, potencijalnoj šteti drugima ili planiranju u stvarnom svijetu", navodi se.

AA/federalna.ba