ChatGPT optužen da ugrožava djecu i pomaže masovnim ubicama

Savezna država Florida postala je prva američka država koja je tužila kompaniju OpenAI zbog dizajna i sigurnosnih aspekata njenog ChatGPT sistema umjetne inteligencije. Tužbu je podnio državni tužilac Floride, James Uthmeier, navodeći da OpenAI i njegov izvršni direktor Sam Altman ugrožavaju djecu, stvaraju ovisnost o tehnologiji, pomažu masovne ubice i podstiču korisnike na samoubistvo u cilju ostvarivanja profita.

U građanskoj tužbi također se nastoji lično pozvati na odgovornost Sama Altmana zbog navodnog „nesavjesnog i namjernog ponašanja“, uključujući „potpuno zanemarivanje rizika po ljudske živote izazvanog djelovanjem njegove kompanije“. OpenAI se tereti za obmanjujuće i nepoštene poslovne prakse, nemar, kršenje zakona o odgovornosti za proizvode, lažno predstavljanje i izazivanje javne štete.

Veza sa nasilnim incidentima

U tužbi se spominju incidenti poput pucnjave na Državnom univerzitetu Floride, te ubistva dvoje doktoranata Univerziteta Južne Floride, gdje je osumnjičeni navodno postavljao ChatGPT-u pitanja o načinima odlaganja ljudskih tijela, prema navodima tužilaštva.

„Sam Altman i ChatGPT izabrali su utrku u razvoju umjetne inteligencije umjesto sigurnosti naše djece. Izabrali su profit umjesto javne sigurnosti i mi to nećemo tolerirati u Floridi. Pozvat ćemo ih na odgovornost“, izjavio je Uthmeier.

OpenAI je odgovorio da je uveo vodeće zaštitne mjere i politike u industriji. Kompanija ističe da je svjesna tragedija gubitka života i da umjetna inteligencija zahtijeva posebnu zaštitu maloljetnika, zbog čega postoje sistemi za procjenu starosne dobi korisnika i alati za roditeljski nadzor.

„Svjesni smo da ove mjere ne mogu vratiti izgubljeni život, ali ostajemo posvećeni tome da ovaj sistem učinimo što sigurnijim“, saopćio je glasnogovornik OpenAI-ja.
Pravna praksa u porastu

Tužba Floride dolazi u trenutku kada se OpenAI suočava s nizom drugih sudskih postupaka koji osporavaju sigurnosne prakse ChatGPT-a. Tužbe tvrde da je AI djelovao kao „savjetnik za samoubistvo“ ili poticao štetne zablude kod korisnika. Slične tužbe podnijeli su i roditelji žrtava u Kanadi.

Tehnologija i odgovornost

Pravni izazovi nisu ograničeni na OpenAI. Kompanije poput Meta, Snap, TikTok i YouTube također se suočavaju s tužbama saveznih država i pojedinaca zbog dizajna svojih proizvoda koji izazivaju ovisnost.

U martu su Meta i Google proglašeni odgovornim za štetu koju je pretrpio 20-godišnji tužitelj, što predstavlja značajan zaokret u pravnoj praksi. Kompanije godinama tvrde da ne mogu biti odgovorne za sadržaj kreiran od strane korisnika, ali slučajevi zasnovani na odgovornosti za dizajn proizvoda sve više dobijaju na značaju.

Uthmeier i guverner Floride, Ron DeSantis, često su bili u sukobu s kompanijama iz oblasti umjetne inteligencije, naglašavajući potrebu zaštite djece i javne sigurnosti. Florida je nedavno predložila „Povelju o pravima u oblasti umjetne inteligencije“ kako bi ojačala zaštitu privatnosti i građana od mogućih negativnih posljedica razvoja AI tehnologija.

Fena/federalna.ba