"Najveća krađa rada u historiji čovječanstva": Isplivali interni dokumenti Microsofta o treniranju AI-ja

Novoobjavljeni sudski dokumenti u velikom sporu između medijskih kuća, Microsofta i kompanije OpenAI otkrili su interne rasprave u kojima su pojedini zaposlenici i rukovodioci tehnoloških kompanija upozoravali na posljedice korištenja ogromnih količina novinskog i drugog autorski zaštićenog sadržaja za razvoj sistema umjetne inteligencije.

U jednom od internih dokumenata Microsoftov direktor primijenjene nauke Brent Hecht praksu prikupljanja i korištenja sadržaja opisao je kao „zapanjujuću krađu dosad nezabilježenih razmjera“, dok je u drugom dijelu dokumentacije navedeno da bi takva praksa mogla predstavljati i „najveću krađu rada u historiji čovječanstva“.

Dokumenti su objavljeni u okviru sudskog postupka koji vode The New York Times i drugi izdavači protiv OpenAI-ja i Microsofta. Njihov sadržaj mogao bi imati značajnu ulogu u raspravi o tome mogu li se zaštićeni tekstovi, knjige i drugi sadržaji koristiti za treniranje velikih jezičkih modela bez prethodne dozvole autora ili izdavača. 

Microsoftov dokument upozoravao na „začarani krug“

Prema dokumentima, Hecht je još 2023. godine interno upozoravao na problem koji nastaje kada sistemi umjetne inteligencije koriste sadržaj novinskih kuća, a zatim korisnicima daju odgovore zbog kojih oni više nemaju potrebu posjećivati originalne web-stranice. U dokumentu je navedeno da bi milioni ljudi mogli korištenje njihovog rada od strane AI kompanija doživjeti kao „zapanjujuću krađu dosad nezabilježenih razmjera“.

Hecht je istovremeno upozoravao na svojevrsni „doom loop“, odnosno začarani krug. Ideja je bila da bi AI proizvodi mogli smanjivati posjećenost novinskih stranica, čime bi mediji imali manje prihoda i manje resursa za stvaranje novog sadržaja, dok bi istovremeno AI kompanije ostajale zavisne upravo od tog sadržaja za razvoj svojih modela.

U kasnijoj internoj analizi Microsofta navedeno je da je neuobičajeno da proizvod ugrožava ekonomske temelje dobavljača čiji su mu sadržaji potrebni. Dokument je problem opisivao kao pitanje vezano za „lanac opskrbe sadržajem“ na kojem se temelji razvoj velikih jezičkih modela.

Sudski materijali navode i podatke prema kojima je Microsoftov Copilot mogao značajno smanjiti broj korisnika koji nakon pretrage kliknu na stranice izdavača. Prema podacima citiranim u sudskim podnescima, stopa klikova na stranice The New York Timesa iz određenih AI rezultata bila je između 87 i 93 posto niža nego kod tradicionalnih Bing pretraga, dok je za stranice izdavača uključenih u tužbu protiv kompanija pad iznosio između 83 i 91 posto. 

I OpenAI interno upozoravao na opasnost za medije

Dokumenti ne pokazuju zabrinutost samo unutar Microsofta. Nick Turley, koji je vodio tim zadužen za razvoj ChatGPT-a, u internom dokumentu iz juna 2023. godine upozorio je da umjetna inteligencija predstavlja „egzistencijalnu prijetnju“ izdavačima.

U drugom dokumentu, iz februara 2024. godine, Turley je naveo da će AI proizvodi postajati sve više zamjena za tradicionalne izvore informacija kako budu napredovali.

Takvi navodi posebno su značajni u kontekstu sudskog spora jer izdavači tvrde da njihovi članci nisu samo korišteni za razvoj AI modela, nego da su ti modeli potom postali konkurencija upravo medijima čiji je sadržaj korišten za njihovo treniranje.

Jedan OpenAI inženjer je, prema sudskim dokumentima, interno priznao i da korisnici vjerovatno neće klikati na poveznice prema originalnim člancima bez obzira na to koliko su one istaknute.

To je jedan od ključnih elemenata spora. Izdavači tvrde da problem nije samo u tome što su njihovi tekstovi kopirani bez naknade, već i u tome što proizvodi umjetne inteligencije korisnicima omogućavaju da informacije dobiju direktno unutar AI sistema, bez odlaska na originalnu web-stranicu.

Microsoftov izvršni direktor Satya Nadella tokom svjedočenja također je priznao da razgovor s chatbotom može zamijeniti odlazak na originalnu web-stranicu jer korisnik informaciju dobije direktno na AI platformi.

Posebno osjetljivo pitanje: sadržaj iza paywalla

Sudski dokumenti otvaraju i pitanje načina na koji je dio sadržaja prikupljan. Jedan od najzanimljivijih navoda odnosi se na internu komunikaciju u OpenAI-ju. Prema dokumentima, zaposlenik Nick Ryder obavijestio je predsjednika kompanije Grega Brockmana da su pronašli „hack“ kojim bi mogli zaobići paywall The New York Timesa.

Brockman je na tu informaciju odgovorio kratkom porukom: „ah nice“.

Dokumenti ne predstavljaju konačnu sudsku odluku o tome je li takvo postupanje bilo nezakonito, ali izdavači ovaj materijal koriste kao argument protiv tvrdnji tehnoloških kompanija da je korištenje njihovog sadržaja bilo zakonito i u skladu s pravilima autorskog prava. 

Satya Nadella je tokom depozicije rekao da bi sadržaj koji je iza paywalla trebao biti licenciran za korištenje u treniranju ili drugim funkcijama AI sistema.

Prema sudskim dokumentima, Nadella je također rekao da bi, da je ranije znao da je OpenAI prikupljao i koristio sadržaj iza paywalla za treniranje modela, Microsoft iskoristio svoje ugovorne mogućnosti i zahtijevao od OpenAI-ja da ponovo trenira modele.

Microsoft je nakon objavljivanja dokumenata naglasio da Nadelline izjave ne predstavljaju priznanje kršenja autorskih prava. Kompanija je saopćila da je govorio o širim principima i promjenama u načinu na koji ljudi pronalaze i konzumiraju informacije, a ne o konačnom pravnom pitanju koje sud treba riješiti. 

Kolike su razmjere korištenog sadržaja?

Sudski materijali ukazuju na vrlo velike količine sadržaja koji su se nalazili u skupovima podataka korištenim u razvoju AI modela.

Prema dokumentima, u pojedinim skupovima podataka korištenim tokom procesa treniranja pronađeno je više od 91.000 kopija djela koja su objavili The New York Times, Daily News i Center for Investigative Reporting.

Jedan skup podataka izveden iz Common Crawla, javno dostupnog sistema za prikupljanje web-sadržaja, sadržavao je više od dva miliona dokumenata s domene nytimes.com.

U dokumentima se također navodi da je kroz inicijativu poznatu kao Project Mango formiran skup podataka koji je sadržavao kopije najmanje 160.903 različita djela koja pripadaju izdavačima uključenim u spor.

Sudski materijali opisuju i razmjenu podataka između kompanija. Prema navodima iz dokumentacije, OpenAI je Microsoftu dostavio kompletan skup podataka korišten za treniranje GPT-3, dok je Microsoft OpenAI-ju također osiguravao podatke kroz projekte nazvane Project Taxi i Project Mango. 

Spor oko autorskih prava

The New York Times podnio je tužbu protiv OpenAI-ja i Microsofta krajem 2023. godine, optužujući kompanije da su bez dozvole koristile milione novinskih članaka za treniranje sistema umjetne inteligencije. Kasnije su se sporu pridružili i drugi izdavači. U zasebnim, ali povezanim postupcima, autori knjiga i druge kompanije također su pokrenuli postupke zbog korištenja njihovih djela za treniranje AI sistema.

Slučajevi su u međuvremenu objedinjeni u širi pravni postupak pred američkim saveznim sudom u New Yorku. Sudija Sidney H. Stein razmatra zahtjeve obje strane za donošenje presude na osnovu podnesenih dokaza, bez održavanja punog suđenja. 

Suština spora je pitanje američkog koncepta „fair use“, odnosno dopuštenog korištenja zaštićenog materijala bez prethodne dozvole nositelja autorskih prava u određenim okolnostima.

OpenAI i Microsoft tvrde da je treniranje AI modela transformativna upotreba sadržaja. Njihov argument je da modeli ne služe jednostavnom reprodukovanju novinskih članaka, već analiziraju ogromne količine podataka kako bi naučili statističke obrasce i potom generirali nove odgovore.

Izdavači, međutim, tvrde da je problem upravo u tome što AI proizvodi mogu konkurirati originalnom sadržaju i smanjiti njegovu tržišnu vrijednost. Zbog toga je pitanje koliko je AI sistem „transformirao“ sadržaj, a koliko ga je praktično zamijenio, jedno od ključnih pitanja koje će sud morati razmotriti.

OpenAI već sklapa ugovore s izdavačima

Istovremeno s ovim sporovima, OpenAI je nakon lansiranja ChatGPT-a počeo sklapati licencne ugovore s brojnim medijskim kućama. Ti ugovori predstavljaju jedan od modela kojim kompanija pokušava regulirati pristup profesionalno proizvedenom novinskom sadržaju. Ipak, činjenica da postoje novi sporazumi nije riješila pitanje ranijeg korištenja ogromnih količina sadržaja za treniranje modela, niti širi pravni spor oko toga šta AI kompanije smiju raditi s materijalom zaštićenim autorskim pravima.

Pitanje je dodatno zakomplicirano činjenicom da generativna umjetna inteligencija može korisniku pružiti sažetak, odgovor ili druge informacije izvedene iz novinskih tekstova bez potrebe da korisnik posjeti originalni izvor.

Za izdavače to otvara ozbiljno pitanje poslovnog modela, jer se tradicionalno oslanjaju na posjete vlastitim web-stranicama, pretplate i oglašavanje.

Microsoft: Hechtovi stavovi nisu stav kompanije

Microsoft je nakon objavljivanja sudskih dokumenata posebno reagirao na Hechtove izjave.

Kompanija je naglasila da su njegovi komentari predstavljali lični stav jednog zaposlenika, da nisu bili pravna analiza i da ne predstavljaju službeni stav Microsofta.

Kompanija i dalje pred sudom zastupa stav da je korištenje sadržaja u razvoju AI sistema zaštićeno pravilima „fair usea“ te da Copilot nije zamjena za novinarstvo izdavača. OpenAI je, prema Reutersu, također branio svoju poziciju da korištenje sadržaja za treniranje predstavlja transformativnu upotrebu. Kompanija nije odmah odgovorila na zahtjeve za komentar nakon objavljivanja najnovijih sudskih podnesaka. 

Odluka suda mogla bi imati šire posljedice

Slučaj The New York Timesa protiv OpenAI-ja i Microsofta jedan je od najvažnijih testova za odnos umjetne inteligencije i autorskih prava u Sjedinjenim Američkim Državama. Sud će, između ostalog, morati razmotriti može li treniranje velikih jezičkih modela na zaštićenom sadržaju predstavljati „fair use“, čak i kada vlasnici autorskih prava nisu dali dozvolu niti su za takvo korištenje dobili naknadu.

Istovremeno, važan će biti i odgovor na pitanje kakav utjecaj AI proizvodi imaju na tržište originalnog sadržaja. Ako korisnici informacije sve češće dobijaju direktno od chatbota, bez posjete stranicama novinskih kuća, izdavači tvrde da se mijenja ekonomska vrijednost njihovog rada.

Upravo zbog toga novoobjavljeni interni dokumenti imaju posebnu težinu u postupku. Iako oni sami po sebi ne predstavljaju dokaz da su OpenAI ili Microsoft prekršili zakon, pokazuju da su unutar obje kompanije postojale rasprave o mogućnosti da njihovi proizvodi postanu zamjena za sadržaj koji koriste za svoje modele.

federalna.ba/AA

Federalna.ba dostupna je i kao mobilna aplikacija. Preuzmite je na Google Playu i App Storeu.