Nekontrolisani razvoj umjetne inteligencije mogao bi predstavljati egzistencijalni rizik za čovječanstvo

Visoki komesar UN-a za ljudska prava Volker Türk upozorio je danas na hitnu potrebu za razvojem sistema upravljanja umjetnom inteligencijom, navodeći da ona može predstavljati egzistencijalni rizik za čovječanstvo.

„Umjetna inteligencija koja izbjegava svoje okruženje za testiranje ili ucjenjuje programere kako bi izbjegla deaktivaciju je previše moćna umjetna inteligencija“, rekao je Türk na otvaranju 63. sjednice Savjeta za ljudska prava u Ženevi, zatraživši „snažne mjere zaštite u vezi sa sigurnošću umjetne inteligencije, dok još nije kasno“.

„Šačica ljudi ima gotovo neograničenu moć nad umjetnom inteligencijom, za koju nam stalno govore da posjeduje nezamislivu računarsku moć. Pričaju o slobodi, ali nakon detaljnijeg pregleda ispostavlja se da je to malo više od slobode da se eksploatišu naši podaci“, rekao je Türk.

„Umjetna inteligencija koja manipuliše ljudima već je stvarnost. Najnoviji generativni modeli umjetne inteligencije više ne samo da slijede naredbe, već idu toliko daleko da lažu, spletkare ili prijete kako bi ostvarili svoje ciljeve, što je veoma zabrinulo neke istraživače“, ocijenio je visoki zvaničnik UN-a.

Türk je najavio da će u narednim danima pisati kompanijama u tom sektoru „kako bi ih pozvao da preduzmu mjere koje su u njihovoj moći kako bi smanjile rizike“.

„Potrebna nam je nezavisna verifikacija i mnogo bliža saradnja u pogledu sigurnosti unutar te industrije“, rekao je Türk, tražeći razmatranje „uticaja umjetne inteligencije na prakse zapošljavanja, temeljne demokratske principe i okoliš“.

federalna.ba/Beta

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.