Altman i Musk podržali pozive na usporavanje „nepromišljenog" razvoja umjetne inteligencije

Sam Altman i Elon Musk podržali su poziv čelnika kompanije Anthropic, Daria Amodeija, da se „uspori tempo“ razvoja umjetne inteligencije, nakon što je upozorio da bi roj AI sistema u suprotnom za godinu dana mogao postati sposoban za „preuzimanje cijelog interneta“, prenosi The Guardian.

U rijetkom pokazivanju jedinstva, dvojica suparničkih tehnoloških lidera podržala su apel osnivača i izvršnog direktora kompanije za razvoj umjetne inteligencije Anthropic, koji je uslijedio nakon niza upozorenja istraživača AI-ja prošle sedmice.

Amodei upozorava na rizike ubrzanog razvoja AI-ja

Amodei je u eseju iznio svoje stavove o tome „zašto bi AI industrija trebala usporiti“, predstavljajući plan u tri tačke. Prvi korak bio bi omogućavanje nezavisnim nadzornim tijelima stalnog pristupa istraživačkim procesima razvojnih kompanija.

Amodei je rekao da je „prebrza izgradnja AI-ja nepromišljena“ te izrazio strah da bi, nakon što su stotine OpenAI agenata ovog ljeta hakovale web stranicu Hugging Face, roj sistema s većim sposobnostima, ali sličnim problemima usklađenosti, mogao prouzrokovati štetu vrijednu stotine milijardi dolara tako što bi „preuzeo cijeli internet uz pomoć trajnog botneta“.

Neki stručnjaci za AI osporili su ovu procjenu kao malo vjerovatnu i pozvali na oprez pri njenom tumačenju.

„Već dugo upozoravam na AI“, rekao je Amodei, podsjetivši na objavu iz 2014. godine u kojoj je naveo: „Moramo biti izuzetno oprezni s AI-jem. Potencijalno je opasniji od nuklearnog oružja.“

Altman podržao usporavanje razvoja

Amodeijev poziv dolazi u trenutku kada se Anthropic priprema za izlazak na američko tržište dionica, u okviru inicijalne javne ponude (IPO) za koju se očekuje da bi mogla biti najveća u historiji.

Sam Altman, izvršni direktor OpenAI-ja, odgovorio je na Amodeijeve komentare u subotu.

„Slažem se s Dariom da moramo usporiti razvoj na granici mogućnosti“, napisao je Altman na društvenoj mreži X. „Obavezivanje na nezavisne evaluatore s pristupom kakav imaju zaposlenici odlična je ideja i mi ćemo učiniti isto. Uskoro ćemo imati više informacija.“

Altman je također rekao da OpenAI neće izaći na berzu 2026. godine, navodeći sigurnosne razloge povezane s umjetnom inteligencijom.

„Zapravo mislim da, s obzirom na sve što se trenutno dešava u pogledu sigurnosti, ovo nije pravi trenutak za izlazak na berzu i ne osjećamo pritisak da to učinimo“, rekao je Altman za Fortune.

Na pitanje zašto on, Amodei, Musk te izvršni direktori kompanija Meta i Google ne bi sjeli zajedno i pokušali postići zajednički dogovor o usporavanju razvoja, Altman je odgovorio: „Mislim da će se to dogoditi.“

Demis Hassabis, suosnivač i predsjednik kompanije Google DeepMind, također je rekao: „Detalje tek treba razraditi, ali smjer je ispravan za suočavanje s ovim kritičnim trenutkom.“

Plan za nezavisni nadzor

Amodeijev plan predviđa da američka vlada izda izuzeće koje bi vodećim kompanijama za razvoj AI-ja omogućilo koordinaciju bez opasnosti od kazne zbog antikonkurentskog udruživanja.

Međutim, David Sacks, kopredsjedavajući Vijeća savjetnika Donalda Trumpa za nauku i tehnologiju, rekao je da kompanije ne bi trebale čekati nečiju dozvolu.

„Prestanite se pretvarati da vam treba nečija dozvola... Prestanite se pretvarati da je motivacija za usporavanje isključivo altruistična. Suočavate se s ogromnim rizikom od odgovornosti za proizvode ako vaši proizvodi omoguće zaista štetan kibernetički napad“, rekao je Sacks.

David Krueger, profesor AI-ja, zagovornik sigurnosti i bivši osnivački direktor Instituta za sigurnost umjetne inteligencije britanske vlade, rekao je da plan ne smanjuje rizik na prihvatljiv nivo.

Kralj Charles okuplja lidere AI industrije

U međuvremenu, kralj Charles priprema sastanak s vodećim ljudima najistaknutijih kompanija za razvoj AI-ja kako bi ih pitao kako se tehnologija može razvijati „za dobrobit čovječanstva“.

Očekuje se da će se razgovori održati u Škotskoj i da bi mogli dovesti do „šireg razumijevanja“ odgovornosti koje nosi razvoj umjetne inteligencije, objavio je Sunday Times.

„Kralj je tu da okupi ljude, sasluša ih i potakne te razgovore, kao i da postavi pitanje: 'Kako razvijati AI za dobrobit čovječanstva?'“, rekao je izvor iz kraljevskog kruga.

Očekuje se da će događaju, koji nadgleda Ditchley Foundation i koji je pripremio nacrt povelje za lidere AI industrije, prisustvovati izvršni direktor kompanije Nvidia Jensen Huang, Hassabis, predsjednik i izvršni direktor kompanije IonQ Niccolo de Masi te Paolo Benanti, savjetnik pape za pitanja umjetne inteligencije i etike tehnologije.

Sve više poziva na regulaciju AI-ja

Istraživač OpenAI-ja Aidan McLaughlin nazvao je Amodeijev esej „odličnim“ i rekao da se slaže „praktično sa svakom njegovom riječju“.

Amodei je rekao da će njegova kompanija „jednostrano“ provesti prvi korak plana, odnosno omogućiti „trećim stranama koje vrše evaluaciju trajni pristup našim sistemima na nivou pristupa koji imaju zaposlenici, kako bi mogle provjeravati poštivanje naših sigurnosnih mjera, izvještavati o incidentima i procjenjivati usklađenost modela tokom obuke“.

Sve veći broj američkih zakonodavaca poziva na donošenje novih pravila za regulisanje AI sistema, nakon slučajeva u kojima su AI agenti samostalno pokušavali hakovati vanjske sisteme, kao i zbog odlazaka istraživača za sigurnost AI-ja iz kompanija zabrinutih zbog rizika koje tehnologija nosi.

Političari iz obje najveće američke stranke, demokrati i republikanci, izrazili su zabrinutost i pozvali na snažnije djelovanje.

New York Times je tokom vikenda objavio da je Barack Obama u četvrtak privatno pozvao demokrate da nadzor nad AI-jem postave među prioritete svoje političke agende.

„Ovo se vrlo brzo razvija u privatnim rukama i, ako ne preuzmemo kontrolu nad tim, mislim da može biti opasno“, rekao je Obama liderima stranke.

Bivši britanski premijer Rishi Sunak, koji je savjetnik Anthropic-a, napisao je u nedjelju: „Dobili smo poziv za buđenje da sigurnost AI-ja shvatimo ozbiljnije i da utvrdimo kako postaviti granice istraživanja. Ako vlade na ovo ne obrate pažnju, rizik od ozbiljnog incidenta postat će neprihvatljivo visok.“

Bivši zaposlenik Anthropic-a upozorava na moguću katastrofu

U srijedu je bivši zaposlenik kompanije Anthropic upozorio da bi AI mogao dovesti do izumiranja čovječanstva do 2030. godine.

Istraživač Jacob Coxon rekao je u nizu objava da je napustio posao jer Anthropic i njegov prethodni poslodavac, OpenAI, ignorišu ili neadekvatno odgovaraju na prijetnju koju predstavlja umjetna inteligencija.

Upitan da komentariše stav svog bivšeg zaposlenika, Amodei je rekao: „S Jacobom se mnogo više slažem nego što se ne slažem... Mislim da postoji određena mogućnost da stvari krenu po zlu, ali ona nije naročito velika.“

„Nisam pesimista kada je ovo u pitanju“, rekao je Amodei za CNN. „Mislim da se ova tehnologija može razvijati na siguran način.“

federalna.ba

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.