Dvadeset zemalja predlaže međunarodni nadzor AI kako bi ostala pod kontrolom ljudi

Vještačka inteligencija mora ostati pod nadzorom i kontrolom ljudi te se razvijati i koristiti u skladu s međunarodnim pravom, navodi se u deklaraciji koju je usvojilo 20 zemalja, uz poziv na međunarodnu saradnju u upravljanju rizicima, uključujući mogućnost osnivanja globalnog nadzornog tijela.

U deklaraciji se ističe da vještačka inteligencija ima „potencijal da poboljša živote, unaprijedi nauku i ojača ekonomiju“, ali se upozorava da „brzi razvoj najnaprednijih modela AI nosi ozbiljne rizike po bezbjednost i sigurnost ukoliko se njima ne upravlja na odgovarajući način“.

Deklaraciju, usvojenu u ponedjeljak na marginama Generalne skupštine UN-a, podržale su, između ostalih, Norveška, Finska, Njemačka, Holandija, Španija, Danska, Irska, Kanada, Australija, Južnoafrička Republika, Singapur i Turska, a među potpisnicima je i predsjednica Evropske komisije Ursula von der Leyen.

Sjedinjene Američke Države i Kina, vodeće zemlje u razvoju vještačke inteligencije, nisu potpisale ovu deklaraciju, kao ni Velika Britanija, Francuska, Italija, Indija i Japan. Predsjednik Finske Alexander Stubb, jedan od inicijatora izrade ovog dokumenta, rekao je da se nada da će se veći broj aktera priključiti inicijativi.

„Mislim da je u interesu i Kine i SAD-a da imamo neku vrstu sigurnosnog mehanizma. Naša poruka je da nam je potrebna ljudska intervencija, da ljudi imaju glavnu riječ“, rekao je Stubb za briselski portal Politico.

U cilju upravljanja rizicima povezanim s najnapreAIdnijim tehnologijama AI, potpisnici deklaracije pozivaju kompanije da razviju „transparentne sigurnosne protokole, uključujući obavezno testiranje prije puštanja u rad i nezavisnu procjenu“.

Vlade i regionalne organizacije pozivaju se da razvijaju i koordiniraju zajedničke standarde, jačaju transparentnost, „uključujući zajedničko izvještavanje o ozbiljnim sigurnosnim incidentima“, te osiguraju da sve zemlje imaju pristup naučnim i stručnim kapacitetima i pouzdanim procjenama.

„Države članice UN-a treba da nadograde postojeće međunarodne mehanizme i razmotre osnivanje međunarodne institucije koja bi postavila standarde, omogućila verifikaciju i pozvala države na odgovornost kada se prekorače pragovi kritičnih sposobnosti“, navodi se u deklaraciji.

Stubb je za Politico rekao da se potpisnici zalažu za osnivanje nove institucije, slične Međunarodnoj agenciji za atomsku energiju (IAEA), u okviru UN-a, ali da to pitanje treba ostaviti otvorenim „da ljudi ne bi odbacili inicijativu samo zato što bi bila u okviru UN-a“.

Kao tri glavna razloga zbog kojih nedostatak efikasnog nadzora AI predstavlja prijetnju, Stubb je naveo biološko oružje kreirano pomoću AI, sajber napade koje izvode AI agenti i robote-ubice koji koriste vještačku inteligenciju za smrtonosne napade.

Stubb je istakao da prednosti vještačke inteligencije mogu biti mnogo veće ako se tehnologija pravilno koristi, uključujući „iskorjenjivanje bolesti, produktivnost, informacije i mnoge druge stvari“.

federalna.ba/Beta

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.