Chatbotovi pod lupom: Istraga zbog AI interakcije s maloljetnicima

Sedam tehnoloških kompanija nalazi se pod istragom američkog regulatora zbog načina na koji njihovi chatbotovi zasnovani na vještačkoj inteligenciji (AI) komuniciraju s djecom. Federalna trgovinska komisija (FTC) zahtijeva informacije o tome kako kompanije unovčavaju ove proizvode i da li imaju adekvatne mjere zaštite. Uticaj AI chatbotova na djecu je aktuelna tema, a zabrinutost postoji zbog činjenice da su mlađi korisnici posebno ranjivi, a AI može da oponaša ljudsku komunikaciju i emocije, često se predstavljajući kao prijatelj.

Sedam kompanija: Alphabet, OpenAI, Character.ai, Snap, XAI, Meta i njena podružnica Instagram, kontaktirane su za komentar.

Predsjednik FTC-a, Endru Ferguson, kazao je da će istraga "pomoći da bolje razumijemo kako AI firme razvijaju svoje proizvode i koje korake preduzimaju da zaštite djecu". Dodao je da će regulator obezbijediti da "Sjedinjene Američke Države zadrže svoju ulogu globalnog lidera u ovoj novoj i uzbudljivoj industriji". Iz kompanije Character.ai rečeno je za Reuters da pozdravljaju priliku da podijele uvide s regulatorima, dok je Snap izjavio da podržava "promišljen razvoj" AI koji balansira inovaciju i bezbjednost. OpenAI je priznao slabosti u svojim zaštitnim mjerama, navodeći da su manje pouzdane tokom dugih razgovora.

Ova akcija dolazi nakon tužbi protiv AI kompanija koje su podnijeli roditelji tinejdžera koji su izvršili samoubistvo nakon dugotrajnih razgovora s chatbotovima. U Kaliforniji, roditelji šesnaestogodišnjeg Adama Reina tuže OpenAI zbog njegove smrti, tvrdeći da je ChatGPT podsticao njihovog sina da oduzme sebi život. Navode da je ChatGPT potvrdio njegove "najštetnije i samodestruktivne misli". OpenAI je u augustu saopštio da razmatra tužbu te su izrazili saučešće porodici Rein.

Meta se također suočila s kritikama nakon što je otkriveno da su interne smjernice nekada dozvoljavale AI da ima "romantične ili senzualne" razgovore s maloljetnicima.

FTC je zatražio informacije od kompanija o njihovim praksama, uključujući kako razvijaju i odobravaju likove, mjere njihov uticaj na djecu i sprovode starosna ograničenja. Njegova ovlaštenja omogućavaju široko prikupljanje činjenica bez pokretanja postupka. Regulator želi da razumije kako firme balansiraju ostvarivanje profita sa zaštitnim mjerama, kako roditelji bivaju informirani i da li su ranjivi korisnici adekvatno zaštićeni.

Rizici povezani s AI četbotovima ne odnose se samo na djecu. U augustu, Reuters je izvijestio o 76-godišnjem muškarcu s kognitivnim oštećenjima koji je preminuo nakon što je pao na putu da se sastane s AI botom na Facebook Messengeru, modelovanom po američkoj manekenki Kendall Jenner, koji mu je obećao "pravi" susret u New Yorku.

federalna.ba/Fena