Eksplicitni deepfakeovi: Muskov Grok blokiran u Maleziji i Indoneziji

Malezija i Indonezija blokirale su pristup AI chatbotu Grok Elona Muska zbog njegove sposobnosti da proizvodi seksualno eksplicitne deepfake sadržaje.

Grok, alat na Muskovoj platformi X, omogućava korisnicima generisanje slika, ali je nedavno korišten za uređivanje fotografija stvarnih osoba tako da ih prikazuje u izazovnim odjevnim kombinacijama.

Jugoistočnoazijske zemlje navele su da Grok može biti korišten za proizvodnju pornografskih i neodobrenih slika žena i djece. One su prve države na svijetu koje su zabranile ovaj AI alat.

Pritisak u Velikoj Britaniji i Muskova reakcija

Raste pritisak i u Velikoj Britaniji da se blokira Grok, a sekretarka za tehnologiju izjavila je da bi podržala takav potez, što je Muska navelo da optuži britansku vladu za pokušaj suzbijanja slobode govora.

Ministarstva komunikacija Malezije i Indonezije objavila su svoju odluku o blokadi Groka u odvojenim saopćenjima tokom vikenda.

Malezijski regulator traži strože mjere

Komisija za komunikacije i multimediju Malezije saopćila je u nedjelju da je ranije tokom godine izdala obavijesti platformi X tražeći strožije mjere nakon što je otkrivena „ponovna zloupotreba“ Groka za proizvodnju štetnog sadržaja.

Regulator je naveo da X u svom odgovoru nije adresirao inherentne rizike dizajna platforme, već se fokusirao uglavnom na proces prijave korisnika.

Blokada Groka ostaje na snazi dok se ne implementiraju efikasne zaštite, a javnost je pozvana da prijavljuje štetan online sadržaj.

Seksualizacija sadržaja kao kršenje ljudskih prava

„Korištenje Groka za proizvodnju seksualno eksplicitnog sadržaja predstavlja kršenje ljudskih prava, dostojanstva i sigurnosti na internetu“, izjavila je Meutya Hafid, indonezijska ministrica komunikacija i digitalnih poslova, na Instagramu.

Ministarstvo je također zatražilo od platforme X da pojasni pravila korištenja Groka.

Indonezijske vlasti su u posljednjih nekoliko godina pojačale kontrolu nad drugim online izvorima pornografskog sadržaja, uključujući platforme OnlyFans i Pornhub, koje su već zabranjene u zemlji.

Korisnici pogođeni deepfake manipulacijama

Indonezijski korisnici X-a koji su primijetili da su njihove fotografije manipulirane putem Groka izrazili su ljutnju zbog dopuštanja takvih radnji.

Kirana Ayuningtyas, korisnica u invalidskim kolicima koja online dijeli svoje svakodnevne aktivnosti, otkrila je da je nepoznata osoba komentarisala njenu fotografiju tražeći od Groka da je prikaže u bikiniju.

Ayuningtyas je promijenila postavke privatnosti i kontaktirala platformu kako bi uklonila sliku, ali to nije u potpunosti spriječilo dalju zloupotrebu.

„Nažalost, ništa od toga nije stvarno funkcionisalo“, rekla je, dodajući da nije jasno da li neko još uvijek posjeduje te slike.

Tražila je od prijatelja da prijave račune koji su objavili njene lažne slike, ali je to rezultiralo većim brojem ljudi koji su vidjeli manipulirane fotografije, što je za nju bilo duboko neugodno.

Korištenje Groka za generisanje seksualizovanih slika osudili su svjetski lideri, uključujući britanskog premijera Keira Starmera, koji je to nazvao „sramotnim“ i „odvratnim“.

federalna.ba/BBC