Kampanja vrijedna 46,5 miliona dolara: Izrael pokušao oblikovati odgovore AI sistema o ratu u Gazi

Izrael je potrošio desetine miliona dolara na digitalnu kampanju čiji je cilj bio utjecati na način na koji sistemi umjetne inteligencije odgovaraju na pitanja o ratu u Gazi, navodi se u izvještaju objavljenom u mediju Drop Site News.

Prema izvještaju, bivši šef predizborne kampanje američkog predsjednika Donalda Trumpa Brad Parscale i njegova kompanija Clock Tower X izgradili su mrežu internet stranica u okviru ugovora vrijednog 46,5 miliona dolara s izraelskom vladom.

Cilj kampanje, prema navodima izvještaja, bio je promovirati izraelske stavove i utjecati na platforme umjetne inteligencije poput ChatGPT-a, Claudea, Geminija i Perplexityja.

Dokumenti koje citira Drop Site News navode da je kompanija Clock Tower X proizvela stotine članaka objavljenih na različitim internet stranicama, a koji su se bavili ratom u Gazi, izraelskim vojnim operacijama i odnosima SAD-a i Izraela.

Prema izvještaju, kampanja je bila usmjerena na oblikovanje odgovora velikih jezičkih modela (LLM) tako što je stvarala sadržaj prilagođen indeksiranju internet pretraživača i mogućem uključivanju u baze podataka koje koriste AI sistemi.

Ova praksa se ponekad naziva "trovanje LLM modela" (LLM poisoning).

Ciljana publika bili su i AI sistemi, a ne samo korisnici

Iako su neke od stranica privlačile mali broj direktnih posjetilaca, njihov cilj, prema izvještaju, nije bio prvenstveno privlačenje ljudi, već omogućavanje da ih pretraživači i sistemi za obuku umjetne inteligencije analiziraju.

Među stranicama koje se povezuju s kampanjom navode se Allyvia.org, FactSignal.org i Paxpoint.org

Prema izvještaju, ove stranice promovirale su bližu vojnu saradnju SAD-a i Izraela, branile izraelske vojne operacije u Gazi, osporavale optužbe protiv izraelskog djelovanja i predstavljale proizraelske stavove.

Drop Site News navodi da su pojedini AI sistemi već koristili sadržaj ovih stranica.

U jednom testiranju, platforma Perplexity je navodno citirala Allyvia.org u odgovoru na pitanje o vojnoj saradnji SAD-a i Izraela, dok je Microsoftov Copilot također koristio izvore povezane s kompanijom Clock Tower X.

Izvještaj dodaje da je sadržaj ove mreže mogao ući u skupove podataka za obuku umjetne inteligencije putem servisa Common Crawl, velike internet arhive koju koriste razvijači velikih jezičkih modela.

Upozorenje na mogućnost manipulacije AI odgovorima

Prema izvještaju, deset internet stranica povezanih s Clock Tower X indeksirano je putem Common Crawla stotine puta između januara i juna, što je moglo povećati njihovu vidljivost u odgovorima generiranim umjetnom inteligencijom.

Herve Letoqueux, izvršni direktor organizacije Check First koja se bavi borbom protiv digitalnih dezinformacija, rekao je da se Common Crawl često koristi za obuku velikih jezičkih modela, zbog čega može postati meta pokušaja utjecaja na njihove rezultate.

– Common Crawl se široko koristi u svijetu podatkovne nauke za obuku LLM modela, što znači da postoje akteri koji žele manipulirati odgovorima u svoju korist – rekao je Letoqueux.

Nakon pregleda stranica povezanih s Clock Tower X, ocijenio je da bi njihov umjereniji ton i pozivanje na izvore mogli povećati njihovu učinkovitost, jer chatbotovi često pokušavaju prikazati više strana određene rasprave.

Letoqueux je naveo da bi takve stranice mogle biti posebno korisne u oblikovanju odgovora na pitanja poput: "Da li Izrael čini genocid?", jer bi chatbotovi mogli ponavljati izraelske stavove kao jednu od strana u debati.

Izvještaj također navodi da je podrška Izraelu među građanima SAD-a značajno opala od početka rata u Gazi, uključujući i među grupama koje su tradicionalno bile među najčvršćim saveznicima Izraela. Prema navodima izvještaja, u ratu u Gazi poginulo je više od 73.000 Palestinaca.

federalna.ba/AA

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.