Zvaničnica UN Women: Seksualni deepfake sadržaji dovode online nasilje nad ženama do prelomne tačke
Vještačka inteligencija omogućava jednostavniju i jeftiniju izradu i širenje seksualnih deepfake sadržaja čije su mete žene, dovodeći online nasilje do prelomne tačke, izjavila je visoka zvaničnica UN Women.
Kalliopi Mingeirou, šefica Odjela UN Women za okončanje nasilja nad ženama, rekla je da vlade i tehnološke kompanije moraju učiniti više kako bi spriječile nasilje prije nego što se fotografije počnu širiti.
"Online nasilje nije počelo s vještačkom inteligencijom, ali ona omogućava da se ono zastrašujuće lako provodi u velikim razmjerama i umnožava. Upravo to ga čini zaista zastrašujućim jer je sadržaje lakše, brže i jeftinije proizvesti", kazala je u ekskluzivnom intervjuu.
Upozorila je da generativna vještačka inteligencija pojačava postojeće oblike online nasilja, omogućavajući počiniocima da izrađuju uvjerljive seksualizirane fotografije i videosnimke u dosad nezabilježenim razmjerama.
"Online nasilje nad ženama, posebno u javnoj sferi, zaista je dostiglo prelomnu tačku", rekla je.
Dodala je da, nakon što se montirana fotografija podijeli, drugi je mogu kopirati i dalje širiti, često anonimno, zbog čega je teško ograničiti štetu ili utvrditi ko je odgovoran.
Upozorenje dolazi u trenutku kada se Evropa suočava sa sve većim talasom seksualnih sadržaja generisanih vještačkom inteligencijom bez pristanka osoba koje su na njima prikazane. Mete su političarke, novinarke, članice kraljevskih porodica i druge istaknute osobe, što pojačava pozive na snažniju zakonsku zaštitu i veću odgovornost tehnoloških kompanija.
Mingeirou je istakla da sve veća dostupnost alata generativne vještačke inteligencije znači da svaka žena ili djevojčica može postati meta, bez obzira na to je li javna ličnost ili ima značajno prisustvo na internetu.
Sedam od deset žena doživjelo online nasilje
Istraživanje UN Women iz 2025. godine pokazalo je da je sedam od deset anketiranih žena među spisateljicama, novinarkama i braniteljicama ljudskih prava doživjelo online nasilje tokom obavljanja svog posla.
Mingeirou je rekla da nalazi pokazuju razmjere nasilja s kojim se suočavaju žene koje koriste digitalne platforme kako bi izrazile svoje stavove, izvještavale o javnim pitanjima ili branile ljudska prava.
Među ženama koje su doživjele online nasilje, svaka četvrta navela je da je u tome bila uključena vještačka inteligencija, a pet posto reklo je da su bile meta deepfake sadržaja ili drugih manipuliranih fotografija i videosnimaka.
Mingeirou je kazala da su brzi razvoj generativne vještačke inteligencije i širenje aplikacija za manipulaciju fotografijama i videosnimcima dramatično snizili prepreke za izradu seksualiziranih lažnih sadržaja.
Za izradu jednominutnog pornografskog deepfake videosnimka neke osobe, koristeći samo jednu jasnu fotografiju njenog lica, može biti potrebno manje od 25 minuta, a takva izrada ne mora ništa koštati, dodala je.
"Ovo je zaista alarmantnih razmjera", rekla je, govoreći o dostupnosti alata koji mogu generisati i distribuirati manipulirane seksualne fotografije.
Od deepfake materijala obuhvaćenog istraživanjima na koja se Mingeirou pozvala, 98 posto bilo je pornografskog sadržaja, a žene su bile meta u 99 posto slučajeva.
Među metama evropski parlamentarci i članovi kraljevskih porodica
Sve veće razmjere seksualnog nasilja generisanog vještačkom inteligencijom postale su posebno vidljive širom Evrope, gdje su među metama bile žene u politici i javnim institucijama.
Istraživanje njemačke organizacije civilnog društva Agora Digitale Transformation pokazalo je da je 50 članova Evropskog parlamenta, među kojima 46 žena i četiri muškarca, prikazano u pornografskim deepfake sadržajima ili dovedeno u vezu s njima.
Prema izvještaju, to čini približno jednu od šest žena u Evropskom parlamentu.
U Belgiji su društvenim mrežama kružile lažne nage fotografije kraljice Mathilde i njene kćerke, prijestolonasljednice Elisabeth. Meta su, prema izvještajima, bile i druge Belgijanke, među kojima političarke i supruge članova vlade.
Sličnom nasilju bila je izložena i italijanska premijerka Giorgia Meloni.
Ona je 2024. godine pokrenula građansku parnicu protiv muškarca sa Sardinije osumnjičenog za izradu i distribuciju pornografskih deepfake fotografija na kojima je korišteno njeno lice. Također je podnijela zahtjev Uredu Evropske unije za intelektualno vlasništvo da zaštiti svoj glas registracijom žiga, kako bi se zaštitila od neovlaštenih imitacija pomoću vještačke inteligencije.
Poziv na proaktivno djelovanje vlada i tehnoloških kompanija
U takvim okolnostima Mingeirou je pozvala vlade i tehnološke kompanije da poduzmu proaktivnije mjere, umjesto da teret odgovornosti prebacuju na žrtve.
Žene koje su meta online nasilja često su prepuštene same sebi, pa moraju pronaći sporni sadržaj, prijaviti ga platformama ili policiji i pokrenuti pravne postupke, rekla je.
"Potreban nam je suštinski zaokret u pristupu, prema kojem postoji obaveza dužne pažnje", kazala je.
Prema tom pristupu, tehnološke kompanije morale bi od samog početka u svoje proizvode i usluge ugrađivati sigurnosne mjere, umjesto da samo reaguju nakon što je nasilni sadržaj već izrađen i distribuiran.
Mingeirou je taj pristup opisala kao "sigurnost po dizajnu", naglašavajući da bi platforme trebale procjenjivati rizike povezane sa svojim tehnologijama još u najranijim fazama razvoja.
UN Women također poziva na snažniju saradnju tehnoloških platformi, vlada, agencija za provođenje zakona i organizacija civilnog društva.
Manje od 40 posto zemalja ima odgovarajuću zakonsku zaštitu
Mingeirou je rekla da i dalje postoje značajni nedostaci u nacionalnim zakonodavstvima i provođenju postojećih zakona.
Prema izvještaju Svjetske banke iz 2024. godine, manje od 40 posto zemalja u svijetu ima zakone koji štite žene od uznemiravanja na internetu ili cyberstalkinga.
Čak i u zemljama u kojima takvi zakoni postoje, policiji i sudovima često nedostaju resursi ili stručnost za istragu prijava i pokretanje sudskih postupaka, rekla je.
Mingeirou je istakla da vlasti moraju ojačati kapacitete za istragu online nasilja, identifikaciju počinilaca i osiguravanje pristupa pravdi za žrtve.
Naglasila je i da je saradnja vlada i tehnoloških kompanija od ključne važnosti jer prekogranična priroda digitalnih platformi može otežati rješavanje nasilja isključivo putem nacionalnih pravnih sistema.
EU priprema zabranu aplikacija za digitalno skidanje odjeće pomoću AI
Evropska unija uvela je mjere za suzbijanje seksualnog nasilja generisanog vještačkom inteligencijom kroz svoj Akt o vještačkoj inteligenciji, uključujući zabranu sistema namijenjenih generisanju seksualno eksplicitnih i intimnih fotografija bez pristanka prikazanih osoba.
Portparol Evropske komisije rekao je u pisanom odgovoru da Akt o vještačkoj inteligenciji zabranjuje sisteme koji generišu seksualno eksplicitan i intiman sadržaj bez pristanka ili materijal seksualnog zlostavljanja djece, uključujući aplikacije koje pomoću vještačke inteligencije digitalno uklanjaju odjeću s prikazanih osoba.
Portparol je naveo da je zabrana uvedena kroz paket pojednostavljenja propisa o vještačkoj inteligenciji (AI Omnibus) i da će stupiti na snagu 2. decembra.
Komisija je dodala da provođenje Akta o vještačkoj inteligenciji obuhvata istražne i sankcione mjere koje su na raspolaganju i Komisiji i nacionalnim vlastima.
Mingeirou je pozdravila zahtjeve Akta o vještačkoj inteligenciji u pogledu transparentnosti.
"Ovo su zaista pozitivni koraci, ali moraju biti praćeni konkretnim provođenjem propisa i pravnim djelovanjem", rekla je.
Zemlje poput Danske, Kipra, Belgije, Nizozemske i Njemačke također razmatraju ili uvode mjere za zaštitu pojedinaca od neovlaštenih digitalnih imitacija njihovih lica, glasova i drugih identifikacijskih obilježja.
Danska je, naprimjer, predložila izmjene zakona o autorskim pravima kako bi zaštitila pojedince od neovlaštenog javnog distribuiranja njihovih digitalnih replika, uz izuzetke za parodiju, satiru i kritiku.
Za Mingeirou je ključni izazov osigurati da zaštita žena i djevojčica prati brz razvoj tehnologije, uz djelovanje vlada i tehnoloških kompanija na sprečavanju nasilja, umjesto prepuštanja žrtava da se same suočavaju s njegovim posljedicama.
federalna.ba/AA
Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.