Brzo odrastanje ChatGPT-a i ostale inteligentne bratije uz neusklađen roditeljski nadzor SAD-a i EU

U svibnju je Audible – Amazonova platforma za audioknjige – najavio proširenje svog kataloga uvođenjem vlastite tehnologije temeljene na umjetnoj inteligenciji (u originalu artificial intelligence - AI) za naraciju i prijevod s krajnjim ciljem učiniti svaku knjigu dostupnom na svakom jeziku. Izdavačima nude dva modela suradnje – potpuno upravljanu produkciju i samostalno korištenje njihovih alata. Trenutno je dostupno više od stotinu AI glasova na engleskom, španjolskom, francuskom i talijanskom jeziku, s dijalektalnim varijantama, a najavljena je i beta verzija AI prijevoda, uključujući i modele "tekst-tekst" te "govor-govor".

Audible ističe kako planira proširiti ponudu na dodatne jezike i dijalekte, a sve u suradnji s autorima i izdavačima kako bi se zadržali profesionalni standardi i kvaliteta. Na prvu to lijepo zvuči, ali...  autori su podijeljeni, pa dok neki, osobito neovisni pisci s manjim produkcijskim budžetima (u kontekstu tzv. self-publishinga iliti samoizdavaštva) AI alate vide kao korisnu priliku za širenje publike i smanjenje troškova produkcije, veći broj pisaca izražava ozbiljne sumnje u vrijednost takvog sadržaja. AI naracije često se ocjenjuju kao emocionalno plitke i tehnički ukočene, bez nijansi koje donosi ljudski glas, i nerijetko slušatelji  vraćaju takve audioknjige jer im umanjuju doživljaj.

No, Audibleove inovacije samo su jedan u nizu primjera napretka digitalnih platformi i alata. Danas je svijet fasciniran (djelomično i uplašen) zbog nevjerojatno brzog razvoja sve brojnijih velikih jezičnih modela kao što su ChatGPT, DeepSeek, Claude, Gemini i drugi, što je mnoge pisce i prevoditelje (ali i fotografe, dizajnere, glazbenike i druge profesionalce iz kulturnog i kreativnog sektora) navelo na javne istupe i pozive zakonodavcima na hitnu intervenciju.

Podsjetimo, Europska unija je 13. ožujka 2024. godine glasovanjem u Europskom parlamentu s 523 glasa za, 46 protiv i 49 suzdržanih usvojila Akt o umjetnoj inteligenciji. Nakon toga, 21. svibnja 2024., Europsko vijeće ga je jednoglasno odobrilo , objavljen je u Službenom listu Europske unije 12. srpnja 2024. godine, a stupio na snagu 1. kolovoza 2024. godine.

Odredbe Akta o umjetnoj inteligenciji primjenjivat će se u cijelosti od 2. kolovoza 2026., ali uz prijelazna razdoblja i iznimke:

>> od 2. veljače 2025. primjenjuju se:

• - zabrane stavljanja na tržište, stavljanja u uporabu ili uporabe AI sustava koji predstavljaju neprihvatljiv rizik;
• - obveze u pogledu osposobljavanja i stjecanja vještina pismenosti u području umjetne inteligencije.

>> od 2. kolovoza 2025. primjenjuju se:

• - obveze pružatelja modela umjetne inteligencije opće namjene (GPAI), uključujući zahtjeve za tehničku dokumentaciju, transparentnost i objavu sažetaka o korištenim podacima za treniranje;
• - za modele opće namjene koji su stavljeni na tržište prije 2. kolovoza 2025., navedene obveze primjenjuju se najkasnije 2. kolovoza 2027.

>> od 2. kolovoza 2027. primjenjuju se:

• - obveze koje se odnose na visokorizične AI sustave ugrađene u proizvode obuhvaćene sektorskim zakonodavstvom EU-a, u slučajevima kada su ta zakonodavna pravila predvidjela dulje prijelazno razdoblje.

U međuvremenu su se nizale reakcije i iskazi zabrinutosti. Tako je u proljeće ove godine, na Svjetski dan knjige i autorskih prava (23. travnja), objavljena važna zajednička izjava koju su pod naslovom „Poziv na transparentnost u vezi s knjigama generiranima umjetnom inteligencijom“ objavili EWC (Europsko vijeće pisaca), CEATL (Europsko vijeće udruženja književnih prevoditelja) i FEP (Federacija europskih izdavača). Zabrinuti zbog sve češće pojave AI-knjiga koje imitiraju ljudsko stvaralaštvo – osobito romana, pjesama, ilustracija – potpisnici su jasno poručili da se takvi proizvodi ne smiju smatrati umjetničkim djelima. Umjetnost je, ističu, isključivo ljudska djelatnost, a knjige koje je generirala umjetna inteligencija „lažni su, a često i štetni proizvodi“ koji prijete prihodima stvarnih autora, prevoditelja i izdavača, ali i cijelom knjiškom ekosustavu jer potkopavaju povjerenje u književnost kao kulturnu vrijednost.

U izjavi se pozivalo na konkretne mjere: uvođenje obveznog označavanja AI-generiranih knjiga; izuzimanje takvih proizvoda iz javnog financiranja (npr. programi Kreativne Europe) te edukaciju potrošača o razlikama između ljudskog i automatiziranog stvaralaštva

„Europska unija mora postaviti primjer u zaštiti ljudske kulture“, navodi se, „i prepoznati temeljnu ulogu koju knjige imaju u očuvanju demokracije, empatije i slobode izražavanja.“
 

U svibnju 2025. u Europskom parlamentu na poziv pojedinih europarlamentaraca okupili su se predstavnici kreativnih i kulturnih sektora iz cijele Europe, brojne istaknute osobe iz europske kreativne zajednice, uključujući suosnivača ABBA-e i predsjednika CISAC-a Björna Ulvaeusa, Oliviera Nussea (Universal Music France), Christiana van Thilla (DPG Media), Anne-Sylvie Bameule (Actes Sud) i Jesúsa Badenesa del Ría (Planeta). Događanje je privuklo i brojne autore i izvođače, pokazujući količinu zabrinutosti i jedinstvo unutar sektora.

Sudionici, govoreći u ime široke koalicije autora, izvođača, nakladnika, producenata i poduzeća u kulturi, izrazili su ozbiljnu zabrinutost zbog trenutnog smjera provedbe politika vezanih uz umjetnu inteligenciju u EU. Naglasili su nužnost značajnijeg uključivanja kreativnog sektora u oblikovanje standarda koji će regulirati razvoj i upotrebu umjetne inteligencije, osobito kada je riječ o kreativnom sadržaju.

Anne-Sylvie Bameule, predsjednica grupe Actes Sud, tom je prilikom upozorila da će "lažna transparentnost umjetne inteligencije, kako je trenutačno predlaže Europska komisija, omogućit AI tvrtkama da nekažnjeno nastave s krađom milijuna knjiga. Tržište knjiga već je preplavljeno lažnim knjigama koje ne samo da ugrožavaju najveći kulturni sektor u Europi, već i predstavljaju prijetnju potrošačima. Europski zakonodavac jasno je rekao 'dosta', sada je vrijeme da Komisija provede ono što zakon propisuje."

Ukratko,  europskim zakonodavcima poručeno je da se moraju pridržavati načela transparentnosti, pristanka i zaštite prava stvaratelja dok se umjetna inteligencija integrira u kulturni i kreativni sektor.
 

Nešto kasnije, 30. srpnja 2025., četrdeset je europskih organizacija kulturnog sektora potpisalo zajedničku izjavu kojom izražavaju neslaganje s čl. 53 Akta o umjetnoj inteligenciji, kao i s Kodeksom prakse umjetne inteligencije opće namjene i Smjernicama za umjetnu inteligenciju opće namjene, koje smatraju štetnim za europski kulturni i kreativni sektor. Ni Akt, pa ni Kodeks, ni na koji način ne štite autorska prava u novom kontekstu generativne umjetne inteligencije. Štoviše, mnogi u kulturnom sektoru imaju dojam da se tehnološkim kompanijama koje razvijaju umjetnu inteligenciju dopušta uporaba djela zaštićenih autorskim pravima za obuku modela UI-ja gotovo bez ograničenja.

Treba dodati i da je cijeli proces, tj. konzultacije za Kodeks prakse opće namjene, bio prilično netransparentan: ignorirali su se glasovi kreativaca, čije su organizacije nakon svakog novog nacrta glasno izražavale nezadovoljstvo i neslaganje i upozoravale da se ugrožavaju prava i primanja svih dionika europske kreativne i kulturne industrije (koja čini više od 5% BDP-a Europske unije). Osim toga, kreativci ističu da je proces vrlo očito bio naklonjen tehnološkim kompanijama koje razvijaju AI.

Pred ljeto ove godine administracija američkog predsjednika Donalda Trumpa smijenila je Shiru Perlmutter, ravnateljicu američkog Ureda za autorska prava, samo dva dana nakon što je njezin ured objavio izvješće koje upozorava na pravne probleme vezane uz korištenje autorskih djela za treniranje AI sustava. Iako to izvješće nije bilo pravno obvezujuće, ono očito nije bilo po volji tehnološkim tvrtkama i smatra se da je Perlmutter smijenjena jer se nije htjela prikloniti interesima moćnih tehnoloških aktera poput Elona Muska. Dodatnu zabrinutost izazvala je i prethodna smjena njezine nadređene, knjižničarke Kongresa Carle Hayden, što otvara ozbiljna pitanja o neovisnosti institucija i mogućem političkom pritisku na regulatore u korist tehnoloških divova.

Nakon toga Perlmutter je pokrenula sudski postupak protiv njezina smjenjivanja od strane administracije Donalda Trumpa, kao i zahtjev za izdavanjem privremene zabrane koja bi omogućila njezin povratak na funkciju dok traje sudovanje, no potkraj srpnja savezni je sudac Timothy Kelly odbio taj njezin zahtjev. Dakle, slučaj i dalje traje, dok se ne donesu odluke i oko trajnog imenovanja vodstva Knjižnice Kongresa i Ureda za autorska prava.

U trenutku kad se u SAD-u ponovno preispituje koncept "poštene uporabe" (fair use), s očitim ciljem da se nekim AI modelima omogući besplatno korištenje tuđih zaštićenih djela, sve je izvjesnije da će se borba za autorska prava zaoštriti, prodirući u pravne, političke, ekonomske i etičke okvire.

Sredinom srpnja 2025. senatori Josh Hawley i Richard Blumenthal predočili su američki Senatu svoj prijedlog zakona ("AI Accountability and Personal Data Protection Act") koji je usmjeren na jačanje odgovornosti tehnoloških kompanija za korištenje tuđeg intelektualnog vlasništva i osobnih podataka u treniranju AI modela. Glavne odredbe zakona uključuju sljedeće:

• - zabranu korištenja zaštićenih djela ili osobnih podataka bez izričitog pristanka za treniranje AI sustava;
• - mogućnost podnošenja građanske tužbe kojom se traži naknada štete, odnosno pravni lijek zbog povrede prava koji omogućuje pojedincima da tuže kompanije za neovlašteno korištenje njihovih djela ili podataka;
• - obvezuje tvrtke da budu transparentne u pogledu dijele li podatke s trećim stranama;
• - propisuje se stroge kazne i sudske mjere, uključujući financijske kazne i zabrane daljnjeg korištenja.

Ali, treba imati na umu da se o takvim prijedlozima u Senatu ne odlučuje brzo, cijeli postupak može trajati mjesecima, pola godine pa i dulje od toga, no ono što je specifično za ovu inicijativu jest da iza njega stoje republikanski senator iz Republike Missouri (Hawley) i demokratski senator iz Connecticuta (Blumenthal), što pokazuje da postoji zajednička želja, neopterećena "strančarenjem" za regulacijom AI-ja. Zakon je svojevrsna "kontra" Trumpovoj “AI akcijskoj strategiji” koja je fokusirana na gospodarski i nacionalni rast i u kojoj je problem autorskih prava na margini interesa, tako da pozitivne reakcije dolaze i od autora i drugih dionika kulturnih i kreativnih industrija koji zakon smatraju prijeko potrebnim za njihovu zaštitu.

Sukladno obvezi koja proizlazi iz EU Akta o umjetnoj inteligenciji, krajem 2024. godine Ministarstvo pravosuđa, uprave i digitalne transformacije dostavilo je Europskoj komisiji popis nadležnih tijela javne vlasti ili javnih tijela nadležnih za nadzor i provedbu obveza vezanih uz zaštitu temeljnih prava pri korištenju visokorizičnih sustava umjetne inteligencije.

Republika Hrvatska odredila je sljedeća tijela kao nadležna:

• - Pučka pravobraniteljica,
• - Pravobraniteljica za djecu,
• - Pravobraniteljica za ravnopravnost spolova,
• - Pravobraniteljica za osobe s invaliditetom,
• - Agencija za zaštitu osobnih podataka,
• - Državno izborno povjerenstvo, i
• - Agencija za elektroničke medije, voditelj Odjela pravnih i kadrovskih poslova.

U svibnju 2025. godine na sjednici Vlade predstavljen je Prijedlog Odluke o pokretanju izrade Nacionalnog plana za razvoj umjetne inteligencije za razdoblje do 2032. godine te pripadajući Akcijski plan za provedbu Nacionalnog plana za razvoj umjetne inteligencije za razdoblje od 2026. do 2028. godine.

Nacionalni plan će počivati na tri stupa:

• - prvi stup odnosi se na formuliranje i provedbu javnih politika u području umjetne inteligencije; 
• - drugi stup se odnosi na pitanje ulaganja u područje umjetne inteligencije;
• - treći stup se odnosina stvaranje uvjeta za učinkovitu primjenu umjetne inteligencije.

Sam Nacionalni plan sadržavat će nekoliko ključnih aspekata kao što su obrazovanje i razvoj vještina za upravljanje umjetnom inteligencijom, digitalizacija, rast i razvoj gospodarstva i industrije, poticaji za istraživanje, inovacije i novoosnovana poduzeća („start-up“) te zaštita privatnosti i sigurnosti građana.

U radnu skupinu za izradu navedenih planova, osim članova radne skupine koja se odnosi na transponiranje samog Akta o umjetnoj inteligenciji, bit će uključena i akademska zajednica, privatni sektor te stručni ljudi iz Ministarstva i drugih tijela državne uprave.

Imajući u vidu kojom se brzinom u Hrvatskoj donose i provode pojedini strateški dokumenti (prisjetimo se npr. sudbine Nacionalne strategije poticanja čitanja) lako je moguće da će brzina razvoja AI-ja višestruko nadmašivati "brzinu" pilagodbe Hrvatske izazovima koje pred svijet postavljaju moćne tehnološke kompanije kojima državne administrativne granice i pojedinačne pravne regulacije nisu niti do sada predstavljali veći problem (plaćanje čak i visokih kazni uračunato je valjda kao dio projektnih troškova).

Utoliko su barem u reakciji brže pojedine hrvatske strukovne udruge pisaca, prevoditelja, filmaša, glazbenika... koje izražavaju svoju zabrinutost načinom kako se donosi bitne zakonske regulative kao i njihovim sadržajem, i koje javno reagiraju ne samo kao zasebne organizacije već i kao članice širih europskih mreža organizacija kulturnih i kreativnih industrija.

No, postavlja se pitanje na čiju pomoć i zaštitu one uopće mogu računati. Svojih domicilnih država? Europske unije? Realno, u ovom trenutku teško je dati neki optimističan odgovor.

** Ovaj članak je višestruko proširena i dorađena autorova kolumna prvotno objavljena u prilogu za knjigu BestBook tjednika Express.