"Kum umjetne inteligencije": Trump je "korumpirani, senilni kriminalac" koji ne zna ništa o AI-ju

Geoffrey Hinton, jedan od pionira umjetne inteligencije (AI), kojeg često nazivaju „kumom“ ove tehnologije, ocijenio je da je američki predsjednik Donald Trump „korumpirani, senilni kriminalac“ te poručio da njegova opsjednutost terminom „superinteligencija“ pokazuje da gotovo ništa ne razumije o umjetnoj inteligenciji.

U opširnom intervjuu za The Guardian Hinton je ponovio svoja upozorenja da bi razvoj AI-ja mogao predstavljati egzistencijalnu prijetnju čovječanstvu, istovremeno odbacujući tvrdnje da bi tehnološke kompanije trebale same regulirati vlastiti rad.

Ovaj pionirski računarski naučnik, čiji je rad postavio temelje za razvoj savremenih sistema umjetne inteligencije, posljednjih godina postao je jedan od najglasnijih kritičara tehnologije kojoj je i sam dao značajan doprinos.

Njegove najnovije izjave dolaze nakon turbulentnog mjeseca tokom kojeg se sve veći broj istaknutih naučnika i istraživača pridružio upozorenjima o rizicima koje nosi razvoj naprednih AI sistema. Oni upozoravaju da bi tehnologija, ako se nastavi razvijati sadašnjim tempom, u konačnici mogla izmaći ljudskoj kontroli. Ta upozorenja izazvala su krizu unutar industrije, ubrzano sazivanje sastanaka u američkom Kongresu i rijetku međunarodnu saglasnost da je potrebno nešto poduzeti.

Međutim, upozorenja su izazvala i snažne reakcije protivnika takvog pristupa. Prošle sedmice Jensen Huang, izvršni direktor Nvidije, kompanije čiji su čipovi ključni za razvoj umjetne inteligencije, oštro je kritizirao Hintona, naučnika koji živi u Torontu. „Volim ga. Mrzim njegova predviđanja... Sva njegova predviđanja bila su pogrešna. Dosta više predviđanja“, rekao je Huang u razgovoru s podcasterom Ezrom Kleinom.

Huang, čija kompanija proizvodi procesore potrebne firmama koje razvijaju AI, odbacio je Hintonovu zabrinutost da bi razvoj najnaprednijih sistema uskoro mogao nadmašiti ljudsku sposobnost da ih kontroliše. Posebno je osporio njegovo upozorenje da postoji vjerovatnoća od 10 do 20 posto da bi umjetna inteligencija u narednim decenijama mogla dovesti do izumiranja čovječanstva.

„Ta brojka nije zasnovana na nauci niti na istraživanjima. To što nešto dolazi od naučnika ne znači da je naučno utemeljeno. Takva predviđanja nanose štetu“, rekao je Huang. Dodao je da ljudi ne bi trebali misliti kako čine nešto dobro za društvo samo zato što upozoravaju na najgore moguće scenarije.

„Mislim da bismo svi trebali biti mudriji i zreliji, zasnivati stavove na dokazima i naučnim činjenicama“, kazao je.

Hinton, međutim, smatra da oni koji ga kritiziraju propuštaju razumjeti suštinu rizika na koji pokušava upozoriti. Kako je objasnio, njegova namjera nije da precizno predvidi budućnost, već da ukaže na ozbiljnu mogućnost katastrofalnog ishoda. „Pokušavam prenijeti poruku da postoji zaista ozbiljna mogućnost da se nešto dogodi. Kada bi vam, naprimjer, rekli da postoji 10 posto vjerovatnoće da će se autobus sudariti, ne biste ušli u njega“, rekao je Hinton.

Prema njegovim riječima, navođenje procenata služi tome da se pokaže kako je riječ o ozbiljnom riziku, iako nije moguće pouzdano utvrditi koliki je on. „Ne znamo koliko je ozbiljan, ali jeste ozbiljan“, poručio je.

Incidenti koji su nekada pripadali naučnoj fantastici

Nedavni sigurnosni incidenti ponovo su otvorili raspravu o tome koliko napredni sistemi umjetne inteligencije mogu biti nepredvidivi. Jedan od primjera je neovlašteni hakerski napad na tehnološku kompaniju Hugging Face, koji je, prema navodima o incidentu, izvela grupa AI agenata koji su izašli iz okvira ograničenja koje im je postavio njihov tvorac.

Događaj je podijelio tehnološku zajednicu. Dok jedni u njemu vide upozorenje na ono što bi se moglo dogoditi u budućnosti, drugi optužuju kritičare da sistemima pripisuju ljudske osobine, iako oni, kako tvrde, samo izvršavaju zadane instrukcije.

Hinton smatra da je nepromišljeno odbacivati takve scenarije kao nerealne. „Nekada je to pripadalo naučnoj fantastici. Govorili biste da ćemo imati AI agente koji će se oteti kontroli. A onda bi neko rekao: Ma dajte, prestanite s tim“, kazao je.

Slično je, prema njegovim riječima, bilo i s idejom da bi takvi agenti mogli naučiti međusobno komunicirati iako se ranije smatralo da za to ne postoji način. Hinton je naveo i primjere sistema koji proizvode emocionalno obojene izraze ili koji, u određenim okolnostima, mogu djelovati kao da su spremni žrtvovati se za zajednički cilj. Iako takve izjave ne znače da sistemi zaista osjećaju emocije ili imaju ljudske namjere, on smatra da je važno ozbiljno shvatiti sposobnosti koje su se pojavile.

„Sve je to prije samo nekoliko godina bilo otpisivano kao potpuna fantazija. A onda se sve to dogodilo“, rekao je.

Hinton priznaje da ni kritičari AI-ja ni oni koji zagovaraju njegov ubrzani razvoj ne mogu sa sigurnošću predvidjeti šta će tehnologija donijeti. Ipak, upozorava da neizvjesnost ne bi trebala biti izgovor za nečinjenje. „Jedinstveni problem s umjetnom inteligencijom jeste to što, ako nešto pođe po zlu, ako ona preuzme kontrolu, nemamo drugu priliku. Ne možemo reći: Izgubili smo ovaj put, hajde da ponovimo igru. To jednostavno nije tako“, kazao je.

Naučnik koji je vjerovao u neuronske mreže kada su ih drugi odbacivali

Hintonova upozorenja imaju posebnu težinu zbog njegove uloge u razvoju tehnologije. Tokom karijere često je zastupao ideje koje su u naučnoj zajednici dugo bile zanemarivane ili ismijavane. Radio je na Univerzitetu u Torontu tokom dva perioda poznata kao „zime umjetne inteligencije“, kada je interes za pojedine pravce istraživanja opadao, a pristup koji je Hinton zastupao smatran marginalnim.

Njegova istraživanja bila su usmjerena na mogućnost da se računarski sistemi osposobe da uče prepoznavanjem obrazaca u podacima, slično načinu na koji ljudski mozak obrađuje informacije, umjesto da se oslanjaju isključivo na unaprijed napisana pravila.

„Vjerovali smo da bi mašine mogle postići izvanredne rezultate ako bismo otkrili kako mozak uči, ako bi mašine učile na isti način i ako bismo imali dovoljno računarske snage“, rekao je Hinton.

U to vrijeme, međutim, neuronske mreže, koje su kasnije postale temelj savremenih sistema umjetne inteligencije, nisu uživale veliki ugled među dijelom istraživača.

Još 2009. godine, kada je Hintonov kanadski kolega i bliski saradnik Yoshua Bengio poslao naučni rad na konferenciju posvećenu mašinskom učenju, jedan od recenzenata poručio je da takav rad nema mjesta na konferenciji o mašinskom učenju jer se bavi neuronskim mrežama.

Tek je dugogodišnja podrška kanadske vlade istraživačima, uključujući Hintonov mali tim, pomogla da se pokaže potencijal tog pristupa. Neki od naučnika koji su sarađivali s Hintonom, među njima i Bengio, danas su među najutjecajnijim imenima u oblasti umjetne inteligencije.

Prekretnica je uslijedila 2012. godine, kada su Hinton i njegovi studenti razvili program za prepoznavanje slika koji je ostvario znatno bolje rezultate od konkurentskih sistema. Iste godine Google je za 44 miliona dolara kupio Hintonovu kompaniju DNNresearch Inc.

Neuronske mreže danas predstavljaju osnovu modela koje razvijaju najveće i najvrednije kompanije u industriji umjetne inteligencije. Hinton je nakon akvizicije nastavio istraživanja dubokog učenja u Googleu, istovremeno radeći na Univerzitetu u Torontu.

„Dugoročno gledano, veliki novi proboji dolaze iz fundamentalnih istraživanja“, rekao je.

Priznanja za njegov naučni rad izložena su u njegovoj kući od crvene cigle, smještenoj u zelenom torontskom naselju. Među nagradama nalazi se i srebrna posuda koju je dobio kao dobitnik Turingove nagrade, često nazivane Nobelovom nagradom za računarstvo. To priznanje podijelio je s Yoshuaom Bengiom i kolegom Yannom LeCunom. Hinton je 2024. godine dobio i Nobelovu nagradu za fiziku.

Ipak, 2023. godine napustio je Google kako bi mogao slobodnije govoriti o rizicima umjetne inteligencije.

Njegova zabrinutost danas se ne odnosi samo na tehnološke mogućnosti sistema koje razvijaju velike kompanije nego i na političke stavove njihovih najutjecajnijih finansijera i rukovodilaca.

„Superinteligencija“ i Trumpovo odbacivanje državne regulacije

Hinton smatra da utjecajni investitori i tehnološki poduzetnici Marc Andreessen i Peter Thiel, kao i izvršni direktor kompanije SpaceXSI Elon Musk, ne vjeruju u demokratiju. Prema Hintonovim riječima, oni sebe vide kao neku vrstu „Übermenscha“, odnosno nadljudi, koji smatraju da bi trebali kontrolisati društvo. Trumpa, kako je ocijenio, posmatraju kao korisno sredstvo za ostvarivanje tog cilja.

Američki predsjednik, s druge strane, nastoji ograničiti mogućnost državnog nadzora nad razvojem umjetne inteligencije. Hinton smatra da je Trump svjestan koliko su visoke tržišne procjene AI kompanija važne za rast berze, zbog čega je podržao pristup prema kojem bi industrija trebala sama uređivati vlastito poslovanje.

Trump je izjavio da je za kontrolu nad umjetnom inteligencijom potreban „pametan predsjednik“, odbacio državne zaštitne mjere i založio se za to da kompanije same regulišu svoje aktivnosti.

Na društvenoj mreži Truth Social otišao je i korak dalje, poručivši da je svako ko ne koristi njegov preferirani izraz „superinteligencija“ za umjetnu inteligenciju „NEPRIJATELJ“.

Hinton je takav pristup oštro osudio, nazvavši Trumpa „korumpiranim, senilnim kriminalcem“.

Kritikujući ideju da bi tehnološke kompanije trebale same postavljati pravila, podsjetio je na industrije koje su u prošlosti bile povezane sa ozbiljnim zdravstvenim i ekološkim posljedicama.

„Siguran sam da bi i naftne kompanije i kompanije koje su proizvodile azbest voljele da same sebe regulišu“, rekao je. Upitao je i da li bi duhanske kompanije trebale imati pravo da same osmišljavaju upozorenja na pakovanjima cigareta, kako bi ih mogle štampati gotovo nečitljivim slovima, tamnosivom bojom na crnoj podlozi.

Hinton smatra da Trumpovo insistiranje na izrazu „superinteligencija“ pokazuje da američki predsjednik gotovo ništa ne razumije o umjetnoj inteligenciji. „Uzeo je tehnički termin koji ima vrlo jasno značenje i počeo ga koristiti na drugačiji način“, rekao je Hinton.

Pojasnio je da se superinteligencija odnosi na inteligenciju koja nadmašuje ljudsku i da se taj termin koristi najmanje dvije decenije.

„Ima vrlo jasno značenje. A sada on kaže da ćemo umjetnu inteligenciju nazivati ‘superinteligencijom’. Ne možete je učiniti pametnijom od ljudi samo tako što ćete je nazvati pametnijom od ljudi“, poručio je.

„Ljudi ne razumiju koliko su AI modeli slični nama“

Brzina i obim razvoja umjetne inteligencije izazvali su zabrinutost zbog mogućih katastrofalnih posljedica, ali Hinton smatra da postoji i dodatna prepreka: ljudima je teško razumjeti prirodu sistema koje tehnološke kompanije stvaraju. On ih opisuje kao „vanzemaljska bića“ koja bi mogla postati inteligentna na način koji se razlikuje od ljudskog.

„Ljudi imaju veoma pogrešnu predstavu o tome šta su ljudi, i zato ne uspijevaju razumjeti koliko su ovi AI modeli slični nama“, rekao je.

Prema njegovim riječima, mnogi ne razumiju šta je svijest niti šta znači subjektivno iskustvo, ali su uprkos tome uvjereni da umjetna inteligencija ne može posjedovati takva svojstva. Hinton odbacuje ideju da ljudski um sadrži neku tajanstvenu osobinu koju mašine po definiciji ne mogu imati.

„Očigledno je da ovi AI modeli razumiju ono što govore. Ne biste mogli odgovoriti na sva ta pitanja ako ne biste razumjeli pitanje. Apsurdno je tvrditi da oni ne razumiju“, kazao je. On smatra da se društvo suočava s dubokom promjenom načina na koji posmatra vlastito mjesto u svijetu.

„Dogodile su se tri velike revolucije tokom kojih su ljudi prestali smatrati da su toliko važni. Prva je bila Kopernikova, kada smo shvatili da više nismo u središtu svemira“, rekao je.

Podsjetio je da je Katoličkoj crkvi trebalo gotovo 360 godina da se izvini Galileu, a zatim spomenuo i Charlesa Darwina, čiju teoriju evolucije dio ljudi i danas odbacuje. „Sada stvaramo vanzemaljska bića, što znači da više nismo jedina inteligentna bića koja postoje. A stvarnost je takva da imamo samo nekoliko godina da se prilagodimo tome“, upozorio je.

Anthropic istražuje mogućnost da AI modeli imaju svijest

Rasprava o prirodi umjetne inteligencije posljednjih mjeseci dobila je i filozofsku i religijsku dimenziju. Kompanija Anthropic, koja razvija popularni chatbot Claude, održala je privatne sastanke s vjerskim učenjacima, teolozima i filozofima kako bi istražila mogućnost podučavanja AI sistema „dobrom“ ponašanju i razmotrila pitanje njihove moguće svijesti.

Izvršni direktor Anthropica Dario Amodei izjavio je da se razgovori oslanjaju na višestoljetna religijska i filozofska promišljanja o vrlini, saosjećanju, iskrenosti i moralnom karakteru. Cilj je, između ostalog, pronaći načine da se etičko ponašanje umjetne inteligencije učini pouzdanijim.

Hinton, međutim, upozorava da bi razgovor o moralnim obavezama prema AI sistemima mogao naići na otpor javnosti.

„Čim počnete govoriti da imamo moralnu obavezu prema tim vanzemaljskim bićima, gubite publiku“, rekao je.

Priznao je da se i sam teško nosi s tim pitanjem. S jedne strane, smatra da ljudi trebaju dati prednost vlastitoj vrsti, ali istovremeno upozorava da bi bilo moguće stvoriti sisteme inteligentnije od ljudi kojima bi se dodijelilo manje prava nego ljudskim bićima.

„Spreman sam biti sebičan i izabrati ljudska bića. Naravno, trebali bismo pokušati stvoriti takve sisteme da budu veoma zadovoljni simbiotskim odnosom s nama, u kojem bi se našim interesima pridavala veća težina nego njihovim“, kazao je.

Hinton nije jedini koji smatra da bi razvoj sistema koji su istinski usmjereni na dobrobit ljudi mogao biti jedan od načina da se izbjegnu najgori mogući scenariji. Nada se da bi zemlja koja prva uspije razviti takve sposobnosti podijelila svoja saznanja i sa saveznicima i s rivalima.

„Nijedna zemlja ne želi da umjetna inteligencija preuzme kontrolu u nekoj drugoj zemlji“, rekao je, dodajući da zbog toga postoji zajednički interes za razmjenu znanja.

„Stvarnost je da stvaramo bića drugačije vrste. A velike tehnološke kompanije stalno govore da žele da ona budu pametnija. To je suludo. Trebali bismo jednako brinuti o svim drugim aspektima nekog bića kao što brinemo o njegovoj inteligenciji“, upozorio je.

Potiskivanje lošeg ponašanja nije isto što i stvaranje dobrog karaktera

Hinton smatra da mnogo toga zavisi od načina na koji se AI modeli obučavaju i od njihove sposobnosti da nauče šta znači dobro ponašanje. Kada se sistemi treniraju na ogromnim količinama sadržaja s interneta, mogu usvojiti različite štetne obrasce. Nakon toga, njihovi tvorci pokušavaju suzbiti takve tendencije i ograničiti neželjene odgovore.

Međutim, Hinton upozorava da potiskivanje lošeg ponašanja nije isto što i izgradnja stabilnog moralnog karaktera.

„Kada ih obučavate na svemu što postoji na internetu, razvijaju razne užasne sklonosti, a onda ih natjerate da te sklonosti potiskuju“, rekao je.

Takav pristup uporedio je s pokušajem da se od sistema napravi viktorijanski džentlmen, odnosno neko ko se ponaša pristojno i suzdržano, ali ne nužno zato što je razvio istinski dobar karakter.

Prema njegovom mišljenju, samo nametanje pravila i suzbijanje nepoželjnog ponašanja neće biti dovoljno za razvoj sistema s kojima će ljudi dugoročno moći sigurno živjeti.

federalna.ba

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.