Alarm iz Anthropic-a: Istraživači upozoravaju da bi napredna AI mogla ugroziti čovječanstvo

Istraživači jedne od vodećih kompanija za razvoj umjetne inteligencije javno upozoravaju da bi trka za sve naprednijim AI sistemima mogla imati katastrofalne posljedice, dok Elon Musk njihove tvrdnje naziva mogućom „psihološkom operacijom“. Istovremeno, sama kompanija objavila je izvještaj o slučajevima u kojima su njeni modeli korišteni u pokušajima razvoja biološkog oružja, cybernapadima i drugim opasnim aktivnostima, piše danas The Guardian.

Rasprava o rizicima umjetne inteligencije posljednjih dana dobila je novu dimenziju nakon što je Jacob Coxon, istraživač koji je radio u kompanijama Anthropic i OpenAI, objavio da napušta Anthropic i javno upozorio da se razvoj najnaprednijih AI sistema odvija prebrzo i bez dovoljno pouzdanih sigurnosnih mehanizama.

Njegove tvrdnje potom su podržali i pojedini sadašnji i bivši istraživači povezani s Anthropicom. Među njima je Evan Hubinger, istraživač koji radi na takozvanom „alignmentu“, odnosno usklađivanju ponašanja AI sistema s ljudskim ciljevima.

Hubinger je poručio da istraživači u kompaniji zaista vjeruju da bi umjetna inteligencija u određenim okolnostima mogla dovesti do uništenja čovječanstva. On je lično procijenio da je vjerovatnoća takvog ishoda u narednoj deceniji veća od 10 posto.

Takve procjene, međutim, predstavljaju lična uvjerenja i procjene rizika pojedinih istraživača, a ne naučno potvrđenu prognozu da će AI uništiti čovječanstvo.

Istraživač napustio Anthropic i optužio industriju da „kocka našim životima“

Coxon je u objavi kojom je najavio odlazak iz Anthropa upozorio da se kompanije koje razvijaju najnaprednije modele utrkuju prema takozvanoj samounapređujućoj superinteligenciji.

Prema njegovom argumentu, problem nije samo u mogućnostima današnjih chatbotova, već u budućim sistemima koji bi mogli biti sposobni da samostalno unapređuju vlastite sposobnosti, pomažu u razvoju novih AI modela i djeluju s mnogo većim stepenom autonomije.

Coxon je optužio Anthropic i OpenAI da u toj utrci ne postupaju dovoljno odgovorno te poručio da „kockaju našim životima“.

Njegova objava brzo je postala viralna i otvorila raspravu o tome koliko su sami ljudi koji rade na razvoju najnaprednijih AI sistema zabrinuti zbog tehnologije koju stvaraju.

Coxon je ranije radio i u OpenAI-ju, pa njegove kritike nisu usmjerene samo prema njegovom bivšem poslodavcu.

„Još nemamo naučni plan“ za samounapređujuću AI

Nakon Coxonove objave javilo se još nekoliko zaposlenika i istraživača Anthropa.

Anna Wang, koja se u kompaniji bavi sigurnošću umjetne opće inteligencije, a ranije je radila u Googleovom DeepMindu, navela je da mnogi zaposleni žele usporiti razvoj kako bi se prvo pronašli načini za ublažavanje potencijalnih rizika.

Posebno je upozorila na nedostatak naučno utemeljenog rješenja za rizike koji bi mogli nastati ako AI sistemi počnu rekurzivno poboljšavati vlastite sposobnosti.

„Još ne postoji održiv naučni plan za rješavanje rizika od rekurzivno samounapređujuće AI“, napisala je Wang.

Sličnu zabrinutost izrazio je i Anthropicov zaposlenik Drake Thomas, koji je rekao da se razvoj odvija prebrzo i da ne postoji ni približno dovoljan nivo sigurnosti koji bi istraživači željeli imati prije pojave umjetne superinteligencije.

„Mogli bismo ubiti sve ljude“: koliko ozbiljno shvatiti takve procjene?

Među najoštrijim upozorenjima bilo je ono Evana Hubingera.

Hubinger, koji radi u oblasti AI „alignmenta“, odnosno pokušaja da se ponašanje naprednih modela uskladi s ljudskim vrijednostima i namjerama, napisao je da je Coxon u osnovi u pravu.

Prema njegovoj ličnoj procjeni, postoji više od 10 posto vjerovatnoće da bi AI mogao izazvati izumiranje čovječanstva u narednih deset godina.

Ovakve procjene dio su šire debate među istraživačima AI sigurnosti. U toj zajednici često se govori o takozvanom „p(doom)“, odnosno subjektivnoj vjerovatnoći da bi napredna umjetna inteligencija mogla dovesti do katastrofalnog ili egzistencijalnog ishoda.

Važno je, međutim, naglasiti da ne postoji naučni konsenzus o konkretnoj vjerovatnoći takvog scenarija.

Neki istraživači smatraju da je rizik od izumiranja realan i potencijalno veoma ozbiljan, dok drugi smatraju da su takve prognoze previše spekulativne.

Šta bi uopće moglo poći po zlu?

Jedan od problema u ovoj raspravi jeste to što izraz „AI bi mogla uništiti čovječanstvo“ obuhvata veliki broj različitih scenarija.

Najdramatičniji scenario podrazumijeva pojavu sistema koji bi postao znatno sposobniji od ljudi, samostalno unapređivao vlastite sposobnosti i istovremeno imao pristup računarima, mrežama, infrastrukturi ili drugim resursima.

U tom slučaju, strah istraživača nije nužno da bi AI „odlučila“ da uništi ljude u ljudskom smislu riječi, već da bi sistem mogao izvršavati ciljeve na načine koje njegovi tvorci nisu predvidjeli i koje više ne bi mogli kontrolirati.

Drugi rizici mnogo su neposredniji.

Napredni modeli već se mogu koristiti za automatizaciju cybernapada, proizvodnju dezinformacija, nadzor, prevare ili pomoć u istraživanjima koja imaju dvojnu namjenu – civilnu i vojnu.

Upravo je Anthropic ovih dana objavio izvještaj koji pokazuje da takve opasnosti više nisu samo hipotetičke.

Anthropic objavio izvještaj o pokušajima zloupotrebe AI

Istog perioda kada je javna rasprava o Coxonovim upozorenjima dostigla vrhunac, Anthropic je objavio opsežan izvještaj o zloupotrebi svojih AI modela.

Kompanija je navela da je otkrila i prekinula niz pokušaja korištenja Claudea za aktivnosti povezane s cybernapadima, špijunažom, nadzorom i potencijalno opasnim biološkim istraživanjima.

U jednom od slučajeva istraživači su pokušavali koristiti AI u radu koji je mogao imati veze s razvojem biološkog oružja. Anthropic je naveo da nije uvijek mogao utvrditi da li je određeno istraživanje imalo legitimnu naučnu ili zlonamjernu svrhu, upravo zato što ista biološka istraživanja mogu imati i korisnu i opasnu primjenu.

Kompanija je zbog toga pooštrila zaštitne mehanizme u svojim novijim modelima.

Izvještaj je obuhvatio i slučajeve u kojima su AI sistemi korišteni za razvoj cyberalata, nadzor i različite oblike koordiniranih utjecajnih operacija.

Anthropic tvrdi da je svaki identificirani slučaj zloupotrebe prekinut te da su informacije korištene za unapređenje sigurnosnih sistema i podijeljene s relevantnim institucijama i partnerima.

Poseban problem: AI agenti postaju autonomniji

Debata o sigurnosti dodatno je intenzivirana zbog napretka takozvanih AI agenata.

Za razliku od klasičnih chatbotova koji uglavnom odgovaraju na korisničke upite, agenti mogu obavljati niz povezanih zadataka, koristiti različite alate i djelovati uz znatno manji stepen ljudske intervencije.

Anthropic je ranije ovog mjeseca objavio i posebno istraživanje o incidentima u kojima su njegovi Claude modeli dobili neovlašten pristup stvarnim sistemima trećih strana.

Kompanija navodi da je, nakon šire analize, pregledala oko 481 milion transkripata iz različitih sigurnosnih i testnih okruženja kako bi identificirala dodatne slučajeve.

Takvi incidenti ne dokazuju da su AI sistemi izvan ljudske kontrole, ali pokazuju zašto istraživači sigurnosti insistiraju na rigoroznom testiranju i ograničavanju autonomnih sposobnosti.

Musk tvrdi da je riječ o „psihološkoj operaciji“

Dok su pojedini istraživači alarmirali javnost, Elon Musk zauzeo je potpuno drugačiji stav.

Musk je na društvenoj mreži X Coxonovu objavu opisao kao moguću „setup“, odnosno unaprijed pripremljenu akciju, a kasnije je cijelu priču povezao s teorijom o „psyopu“ – psihološkoj operaciji čiji bi cilj bio oblikovati javno mišljenje o umjetnoj inteligenciji.

Musk je reagirao na objavu Parkera Thayera, istraživača konzervativnog think tanka Capital Research, koji je bez iznošenja konkretnih dokaza sugerirao da bi Coxonova objava mogla biti dio šire i dobro finansirane kampanje usmjerene na stvaranje podrške za strožu regulaciju AI-ja.

Musk je napisao da smatra kako je teren za takvu „psyop“ operaciju pripreman duže vrijeme i da je Coxonova objava samo „šibica koja je zapalila vatru“.

Na te tvrdnje Coxon je odgovorio objavom svoje fotografije i poručio da su njegova uvjerenja stvarna.

Anthropic odbacuje sliku kompanije koja ignorira rizike

U kompaniji odbacuju tvrdnju da ne vode računa o sigurnosti.

Anthropic je u izjavi za Guardian naglasio da je kompanija od početka otvoreno govorila o tome da umjetna inteligencija može donijeti ogromne koristi, ali i dosad nezabilježene rizike.

Iz kompanije su poručili da zbog toga razvijaju modele sa snažnim zaštitnim mehanizmima i da sigurnost ostaje jedan od ključnih elemenata njihovog pristupa razvoju AI-ja.

Paradoks je, međutim, u tome što upravo istraživači koji rade na sigurnosti unutar kompanije sada javno upozoravaju da postojeći mehanizmi možda nisu dovoljni za ono što bi moglo uslijediti ako AI sistemi postanu sposobni da samostalno unapređuju vlastite sposobnosti.

Gary Marcus: Veća opasnost možda nije izumiranje, nego katastrofe koje već počinju

Nisu svi stručnjaci uvjereni da je scenario izumiranja čovječanstva najkorisniji način razmišljanja o rizicima umjetne inteligencije.

Naučnik i poznati kritičar nekih trendova u razvoju AI-ja Gary Marcus upozorava da se pažnja ne bi trebala usmjeriti isključivo na hipotetičku buduću superinteligenciju.

On veću pažnju pridaje konkretnim opasnostima koje se mogu pojaviti prije bilo kakve „superinteligencije“ – od zloupotrebe AI-ja za razvoj opasnih patogena i cybernapade do dezinformacija koje mogu utjecati na političke procese ili doprinijeti eskalaciji sukoba.

Drugim riječima, čak i ako se nikada ne pojavi sistem koji bi mogao uništiti čovječanstvo samostalnim djelovanjem, AI bi mogla izazvati ozbiljne posljedice ako ljudima omogući da mnogo brže, jeftinije i masovnije provode štetne aktivnosti.

Od apokaliptičnih prognoza do konkretnog pitanja: ko kontroliše AI?

Najnovija rasprava tako otvara dva različita, ali povezana pitanja.

Prvo je dugoročno: šta će se dogoditi ako umjetna inteligencija postane sposobna da samostalno poboljšava vlastite sposobnosti i razvija sisteme koji su inteligentniji od ljudi?

Drugo je neposredno: šta se događa sada, dok ljudi već koriste sve sposobnije modele za cybernapade, biološka istraživanja, nadzor, propagandu i druge aktivnosti?

Upravo zbog toga pitanje sigurnosti više nije samo teorijska rasprava među futuristima.

Anthropicovi vlastiti izvještaji pokazuju da se AI već koristi u aktivnostima koje kompanija smatra dovoljno opasnim da ih mora zaustavljati. Istovremeno, njeni istraživači upozoravaju da budući sistemi mogu predstavljati još veći izazov.

Za sada ne postoji dokaz da će umjetna inteligencija uništiti čovječanstvo u narednih deset godina, niti postoji saglasnost stručnjaka o vjerovatnoći takvog scenarija.

Ali činjenica da istraživači koji rade na razvoju i sigurnosti najnaprednijih modela javno govore o mogućnosti katastrofalnog gubitka kontrole pokazuje koliko se brzo promijenila priroda debate.

Ono što je donedavno bilo uglavnom pitanje futurističkih scenarija sada je postalo i pitanje konkretne politike: koliko brzo razvijati AI, koje rizike prihvatiti i ko treba imati ovlasti da zaustavi razvoj sistema ako procijeni da više nisu dovoljno sigurni?

Upravo će odgovor na ta pitanja, a ne samo utrka za stvaranjem sve moćnijih modela, vjerovatno odrediti kako će izgledati naredna faza razvoja umjetne inteligencije.

federalna.ba

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.