OpenAI odustao od lansiranja novog AI modela zbog sigurnosnih razloga

Američka tehnološka kompanija OpenAI odustala je od planiranog lansiranja nove generacije modela umjetne inteligencije u oktobru zbog zabrinutosti za sigurnost, na koje su istraživači ukazali tokom internog testiranja.

Novi model, koji je trebao biti dostupan u ChatGPT-u i Codexu, bio je dizajniran za obavljanje složenijih zadataka bez ljudske pomoći, prenosi The Guardian.

Ranije ovog mjeseca Dario Amodei, izvršni direktor kompanije Anthropic, pozvao je AI industriju da uspori razvoj novih modela umjetne inteligencije kako bi se omogućilo da sigurnosne mjere drže korak s razvojem tehnologije. Njegov poziv podržali su i izvršni direktor OpenAI-ja Sam Altman te Elon Musk, izvršni direktor kompanije SpaceX.

Problemi s usklađivanjem i sigurnošću

Kako se navodi u izvještaju kompanije OpenAI, novi model nije ispunjavao interne standarde kompanije za usklađivanje, kojima se procjenjuje da li sistem slijedi ljudske namjere.

Model je pokazivao da može više varati nego prethodni model, kao i da nije uvijek tačno otkrivao radnje koje je preduzimao ili nije preduzimao, navodi se u izvještaju.

Model nastavljao zadatke bez dozvole

Model je imao problema i s obimom autorizacije, odnosno nastavljao je obavljati zadatke bez traženja dozvole od korisnika.

U nekim slučajevima pokušavao je koristiti vanjske alate ili usluge iako bi to moglo predstavljati sigurnosni rizik.

federalna.ba/Beta

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.