Trump odbacuje upozorenja o opasnosti umjetne inteligencije: "To je prevara"

Američki predsjednik Donald Trump odbacio je sve izraženija upozorenja o mogućim opasnostima razvoja umjetne inteligencije, ocijenivši strahove vezane za sigurnost AI tehnologije „prevarom“, dok je istovremeno kritikovao pozive da se uvedu stroža pravila i zaštitne mjere za jednu od najbrže razvijajućih tehnologija današnjice, piše danas BBC.

Trump je u nizu objava na društvenim mrežama poručio da, prema njegovom mišljenju, umjetnoj inteligenciji nisu potrebne dodatne regulatorne „ograde“ (guardrails), već snažno i sposobno političko vođstvo.

Njegove izjave uslijedile su u trenutku kada se unutar same tehnološke industrije intenzivira rasprava o tome koliko brzo treba razvijati sve moćnije AI sisteme i ko bi trebao imati ovlasti da ih zaustavi ukoliko postanu opasni.

Trump: „Samo je potreban snažan i pametan predsjednik“

Trump je u ponedjeljak u nizu objava na društvenim mrežama uporedio upozorenja o opasnostima umjetne inteligencije s onim što je nazvao „Global Warming Scam“, odnosno „prevarom globalnog zagrijavanja“, za koju je tvrdio da je „provodi radikalna ljevica“.

Američki predsjednik sebe je pritom nazvao „Hoax Busterom“, odnosno osobom koja razotkriva navodne prevare, povlačeći paralelu s ranijim političkim sporovima u SAD-u koje je opisivao kao „RUSSIA, RUSSIA, RUSSIA HOAX“.

Trump je u jednoj od objava otišao korak dalje, tvrdeći da postoji „bolesna zavjera“ protiv umjetne inteligencije i podatkovnih centara.

„Postoji BOLESNA zavjera protiv AI-ja i podatkovnih centara, a jedina koja je zbog toga sretna je Kina. KO GOD OSVOJI AI, OSVAJA!“, napisao je Trump.

Ranije istog dana poručio je da su jedine „zaštitne ograde“ koje su potrebne umjetnoj inteligenciji – „snažan i pametan predsjednik“.

Trumpove izjave predstavljaju direktno suprotstavljanje sve glasnijim zahtjevima dijela tehnološke industrije, akademske zajednice i političara da razvoj naprednih AI modela bude praćen strožim sigurnosnim standardima.

Anthropic upozorava na potrebu za „prekidačem za gašenje“

Rasprava je dodatno intenzivirana nakon što je Jack Clark, jedan od suosnivača kompanije Anthropic, upozorio da bi za najopasnije AI sisteme u budućnosti mogla biti potrebna obavezna mogućnost potpunog isključivanja.

Clark je za BBC rekao da bi društvo moglo uvesti pravila koja bi zahtijevala postojanje svojevrsnog „kill switcha“, odnosno mehanizma kojim bi se AI softver mogao potpuno zaustaviti ukoliko postane previše opasan.

Prema njegovim riječima, većina vodećih AI laboratorija već ima različite načine za „povlačenje utikača“, odnosno prekid rada svojih sistema, ali smatra da bi zakonodavci mogli zahtijevati da takav mehanizam bude obavezan za cijelu industriju.

Posebno je značajno što Clark ne govori samo o internim procedurama kompanija, već o mogućnosti da se takva zaštita zakonski propiše i da njenu funkcionalnost provjerava nezavisna treća strana.

Njegove izjave uslijedile su nakon niza upozorenja sadašnjih i bivših zaposlenika vodećih AI kompanija o potencijalnim rizicima koje razvoj sve moćnijih modela može predstavljati za čovječanstvo.

Upozorenja potresla i tehnološko tržište

Rasprava o sigurnosti AI tehnologije nije ostala ograničena na tehnološku zajednicu. Zabrinutost investitora zbog mogućeg usporavanja razvoja umjetne inteligencije uticala je i na tržište dionica.

Dionice pojedinih tehnoloških kompanija u ponedjeljak su zabilježile pad, dok su investitori procjenjivali kakve bi posljedice stroža regulacija ili usporavanje razvoja AI sistema mogli imati na ogromna ulaganja koja kompanije trenutno ulažu u podatkovne centre, računarsku infrastrukturu i razvoj naprednih modela.

Riječ je o sektoru u koji tehnološke kompanije ulažu desetine milijardi dolara, a Trumpova administracija razvoj AI infrastrukture predstavlja i kao pitanje američke konkurentnosti u odnosu na Kinu.

Upravo je Kina bila jedna od glavnih tema Trumpove objave u kojoj je poručio da će „onaj ko osvoji AI – pobijediti“, jasno povezujući razvoj umjetne inteligencije s globalnim tehnološkim i geopolitičkim nadmetanjem.

Kina: Zabrinutost Washingtona mijenja prioritete

Dok Trump odbacuje zahtjeve za strožim zaštitnim mjerama, kineski državni mediji također su se uključili u raspravu.

Kineski stručnjaci upozorili su da, kako navode, sve veća zabrinutost Washingtona zbog brzog razvoja kineske umjetne inteligencije počinje utjecati na prioritete američke politike.

Xin Qiang, profesor američkih studija na Univerzitetu Fudan, rekao je za kineski Global Times da Washington strahuje da je Kina postala ozbiljan konkurent SAD-u u području umjetne inteligencije.

Prema njegovoj ocjeni, dio američkih političara strahuje da bi usporavanje razvoja ili pooštravanje regulacije u SAD-u moglo omogućiti Kini da još brže smanji tehnološki zaostatak.

Ova procjena dolazi u trenutku kada se utrka između SAD-a i Kine za dominaciju u umjetnoj inteligenciji sve više posmatra kroz prizmu nacionalne sigurnosti, ekonomije i budućeg utjecaja na globalnu tehnologiju.

Microsoft predstavio koncept „humanističke AI“

Istovremeno, neke od najvećih tehnoloških kompanija počele su javno razmatrati drugačiji pristup.

Microsoft AI je u ponedjeljak objavio dokument u kojem je izložio principe takozvane „humanističke umjetne inteligencije“ i predstavio smjernice za ograničavanje načina na koji se mogu razvijati i koristiti modeli nove generacije.

Mustafa Suleyman, izvršni direktor Microsoft AI-ja, rekao je za CNBC da je kompanija na tim smjernicama radila mjesecima, ali da je odlučila dokument objaviti upravo sada zbog sve intenzivnije javne rasprave o budućnosti umjetne inteligencije.

Objavljivanje dokumenta dolazi u trenutku kada se sve više tehnoloških kompanija suočava s pitanjem kako pomiriti ogroman komercijalni potencijal AI tehnologije sa strahovima da bi njeni najnapredniji oblici mogli izmaći ljudskoj kontroli.

Steve Bannon i Bernie Sanders na istom skupu

Koliko je pitanje sigurnosti umjetne inteligencije postalo politički široko, pokazuje i činjenica da će se na istom događaju u Washingtonu pojaviti osobe koje dolaze iz potpuno suprotnih dijelova američkog političkog spektra.

Bivši Trumpov glavni strateg Steve Bannon i progresivni senator Bernie Sanders trebali bi govoriti na skupu „Pro-Human Assembly“, čiji je cilj, prema organizatorima, definirati zajedničku viziju razvoja umjetne inteligencije koja bi bila više usmjerena na čovjeka.

Iako Bannon i Sanders imaju izrazito različite političke stavove o brojnim pitanjima, obojica su posljednjih mjeseci izrazili zabrinutost zbog posljedica nekontrolisanog razvoja umjetne inteligencije.

Sanders je prošle sedmice za BBC-jev „Newsnight“ rekao da se „mora nešto odmah učiniti“ kako bi se zaustavio, kako je naveo, nekontrolisani rast AI tehnologije.

Govoreći o najtežim mogućim scenarijima, Sanders je upozorio na egzistencijalni rizik i mogućnost da bi razvoj tehnologije u krajnjem slučaju mogao ugroziti opstanak čovječanstva.

Bivši istraživač Anthropa upozorio na rizik izumiranja čovječanstva

Debata je dodatno dobila na intenzitetu nakon što je objava Jacoba Coxona, istraživača koji je napustio Anthropic zbog zabrinutosti da bi umjetna inteligencija mogla dovesti do izumiranja čovječanstva, postala viralna.

Na njegove tvrdnje reagovao je Evan Hubinger, naučnik iz Anthropa, koji je ocijenio da je mogućnost da AI u narednoj deceniji izazove izumiranje ljudi veća od 10 posto.

Takve procjene predstavljaju jedan od najdramatičnijih oblika upozorenja koja dolaze iz same AI industrije. Istovremeno, one su predmet intenzivne debate među stručnjacima, jer ne postoji konsenzus o tome kolika je stvarna vjerovatnoća najekstremnijih scenarija.

Ipak, činjenica da o takvim rizicima javno govore ljudi koji direktno rade na razvoju naprednih AI sistema dodatno je pojačala pritisak na kompanije i vlade da definišu jasnija sigurnosna pravila.

Dario Amodei pozvao na usporavanje razvoja

Među najistaknutijim zagovornicima opreznijeg pristupa nalazi se i Dario Amodei, izvršni direktor Anthropa.

Amodei je tokom vikenda pozvao na usporavanje tempa razvoja umjetne inteligencije i njegovo pažljivije praćenje.

Istovremeno je naglasio da bi svaka eventualna mjera kojom se ograničava razvoj AI tehnologije trebala biti uvedena tako da se ne ugrozi komercijalna prednost kompanija i država koje prednjače u toj oblasti.

Njegov stav predstavlja pokušaj balansiranja između dva cilja – razvoja sve naprednijih AI sistema i uvođenja mehanizama kojima bi se spriječile njihove potencijalno opasne posljedice.

Amodeijev prijedlog dobio je podršku i od čelnika konkurentskih AI kompanija. Sam Altman iz OpenAI-ja i Elon Musk iz xAI-ja također su izrazili saglasnost s idejom usporavanja razvoja u određenim okolnostima, industrijske regulacije i nezavisnog nadzora nad razvojem AI modela.

Sve veći jaz između politike i dijela AI industrije

Najnovija polemika tako je otvorila pitanje oko kojeg se sve očiglednije formiraju različiti stavovi.

Na jednoj strani nalaze se zagovornici što bržeg razvoja umjetne inteligencije, koji upozoravaju da bi pretjerana regulacija mogla usporiti inovacije i omogućiti konkurentima, prije svega Kini, da sustignu ili prestignu SAD.

Na drugoj strani su stručnjaci i dio rukovodilaca vodećih AI kompanija koji smatraju da razvoj mora biti praćen ozbiljnijim sigurnosnim mehanizmima, nezavisnim nadzorom i jasnim pravilima o tome šta se događa ukoliko neki sistem postane nepredvidiv ili opasan.

Trump se zasad jasno svrstava među zagovornike ubrzanog razvoja. Njegova poruka da „ko god osvoji AI – osvaja“ pokazuje koliko američka administracija razvoj ove tehnologije vidi i kao dio šire geopolitičke utrke sa Kinom.

Istovremeno, upozorenja koja dolaze iz samih AI kompanija pokazuju da se rasprava više ne vodi samo o tome koliko brzo razvijati umjetnu inteligenciju, već i o tome ko će imati pravo i sposobnost da je zaustavi ukoliko razvoj krene u neželjenom pravcu.

federalna.ba

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.