Antiimigrantski sadržaj među AI-generisanim objavama na TikToku ostvaruje milijarde pregleda

Prema izvještaju, stotine TikTok računa ostvaruju milijarde pregleda objavljujući AI-generisani sadržaj, uključujući antiimigrantske i seksualizirane materijale. Istraživači su otkrili 354 računa fokusirana na AI, koja su objavila ukupno 43.000 postova pomoću generativnih AI alata, sakupljajući 4,5 milijardi pregleda tokom jednog mjeseca, prenosi The Guardian.

Neki od ovih računa pokušavaju manipulirati TikTok algoritmom – koji određuje koji sadržaj korisnici vide – objavljujući ogroman broj postova u nadi da će postati viralni. Jedan račun je objavljivao i do 70 puta dnevno u isto vrijeme, što ukazuje na automatizaciju, a većina računa je pokrenuta početkom godine.

Prošlog mjeseca TikTok je otkrio da platforma sadrži najmanje 1,3 milijarde AI-generisanih postova, dok se svakodnevno objavi preko 100 miliona sadržaja, što pokazuje da AI materijal čini mali dio ukupnog kataloga TikToka. TikTok korisnicima sada nudi opciju smanjenja količine AI sadržaja koju vide.

Seksualizacija žena, lažne vijesti i nedovoljno označavanje

Polovina najaktivnijih računa fokusirala se na sadržaj vezan uz žensko tijelo. „Ove AI žene su uvijek stereotipno privlačne, sa seksualiziranom odjećom ili dekolteom“, navodi izvještaj.

AI Forensics je otkrio da računi nisu označili polovinu sadržaja, a manje od 2% nosilo je TikTok oznaku za AI sadržaj, što povećava potencijal za obmanjivanje korisnika. Računi ponekad izbjegavaju TikTok moderaciju mjesecima, iako objavljuju sadržaj zabranjen pravilima platforme.

Neki postovi su bili u formi lažnih vijesti s antiimigrantskim narativima ili seksualiziranim prikazom ženskih tijela, uključujući maloljetnice. Polovina najaktivnijih računa bila je fokusirana na kategoriju ženskog tijela, dok su neki lažni news postovi koristili poznate medijske brendove poput Sky News i ABC.

Slop, viralnost i izazovi regulacije AI sadržaja

Najpopularniji računi dijelili su i tzv. „slop“ sadržaj – besmisleni, bizarni AI materijal dizajniran da zatrpa društvene mreže, poput životinja koje učestvuju u olimpijskom skakanju u vodu ili beba koje pričaju. Neki od tih sadržaja bili su zabavni i „slatki“, ali TikTok pravila zabranjuju prikazivanje lažnih autoriteta, maloljetnika ili odraslih koji nisu javne osobe.

Istraživači navode da se granica između autentičnog ljudskog i AI-generisanog sadržaja sve više briše, što signalizira porast AI sadržaja u feedovima korisnika. Neki sadržaji pokušavaju i monetizaciju kroz lažne influensere, promociju viralnog AI alata i traženje sponzorstava.

AI Forensics pozdravlja odluku TikToka da korisnici mogu ograničiti količinu AI sadržaja, ali upozorava da označavanje mora biti jasnije i sistematičnije. Preporučuju čak razmatranje kreiranja funkcije samo za AI sadržaj kako bi se odvojio od ljudski kreiranog materijala.

federalna.ba