Moderna vremena

Pogledaj... sve je puno knjiga.

Ilustracije: John Tenniel
Preporuka • Piše: Ante Nenadić • 21.04.2023.

Stuart Russel : Kao čovjek

Ljudi imaju kompliciran odnos s umjetnom inteligencijom. Razlozi toga su naravno višestruki. Od samog imena koje pretpostavlja sposobnosti koje su kroz povijest bile rezervirane za čovjeka, preko potencijalne opasnosti koju razvoj takve tehnologije nosi, pa sve do gotovo univerzalnog stava o mogućim brojnim dobrim i korisnim primjenama tehnologije umjetne inteligencije u ljudskom društvu i životu. Ukoliko se osvrnemo samo na povijest reprezentacije umjetne inteligencije, recimo na filmskom platnu, stvari postaju još zanimljivije. U kolektivno pamćenje najdublje su se utisnuli oni filmovi koji mahom upućuju na moguće probleme u primjeni. Sjetimo se samo HAL-a 9000 iz filma 2001: Odiseja u svemiru, koji pretpostavlja svoj programirani cilj ljudskom životu, odmetnutih, odviše humanih replikanata iz Blade Runnera, terminatora, neuništivih kiborga ubojica koje iz budućnosti šalje Skynet, antagonistička umjetna inteligencija ili budućnosti kako je prikazana u serijalu The Matrix, u kojoj čovječanstvo izumom umjetne inteligencije samo sebe osudi na okove i čamu pod kontrolom samosvjesnih strojeva u nekom obliku virtualne stvarnosti. Užas.
 

I'LL BE BACK

Kao čovjek Russell Stuart Jonathan

Sve ima svoje lice i naličje, to je nepobitno, ali u zadnje vrijeme vrlo aktualna priča o razvoju umjetne inteligencije pokazuje da se na ovom polju ta dvostranost ili dvostrukost moguće interpretacije potvrđuje ponešto „pliće“ nego što smo navikli, u smislu da se medalja okreće izvanredno brzo i pokazuje svoje strane gotovo istodobno.  Umjetna inteligencija je dobila veliki zamah, to je jasno svima. Svjedočimo zapanjujućim mogućnostima ChatGPT-a ili Midjourneyja, a već nam se serviraju vrlo pompozni planovi za razvoj „umjetne opće inteligencije“ i svega što nakon nje slijedi. Kako će se sve to što dolazi odraziti na društvo i čovječanstvo općenito? Očekuje li nas u ovom stoljeću konačno uobličenje društva blagostanja zasnovanog na računici koja će s lakoćom iznositi teleološki aspekt utilitarizma, postizanje maksimalnog dobra, ili ćemo vremenom izgubiti svako uzde i prepustiti „prijestolje svijeta“ umjetnoj superinteligenciji koja bi nas u bilo kojem trenutku mogla proglasiti zastarjelima i beskorisnima?

Knjiga "Kao čovjek" (Planetopija, 2022., preveo Vinko Zgaga) sveučilišnog profesora računarstva i uglednog stručnjaka za umjetnu inteligenciju Stuarta Jonathana Russella podnaslovljena je upravo netom spomenutom dvojbom: Umjetna inteligencija – napredak ili prijetnja? Na nešto više od tristo stranica naslućuje se intencija preusmjeravanja debate o toj dvojbi prije nego li njezinog pokretanja ili oživljavanja. Razumljiv je to potez zbog toga što je umjetna inteligencija predmet opće rasprave jako dugo i zaista se čini da bi još jedna knjiga koja bi s mrtve točke pokušavala pokrenuti nešto što odavno i nije na mrtvoj točki bila suvišna. Rasprava o umjetnoj inteligenciji živa je vatra koja polariziranjem prijeti kredibilitetu intelektualne zajednice. Russell tvrdi da takav tip nemilosrdne i stroge podjele, praktički na neku vrst intelektualnih plemenskih skupina (za i protiv) bitno ugrožava opstojnost nužnog srednjeg puta koji karakterizira konstruktivna suradnja. Takav je Russellov ton, otvoreno polemički prema profesionalnim kolegama koji su po njegovim riječima itekako skloni zauzimati ekstremne stavove.

TEZAURUS

No, idemo redom. Prvih nekoliko poglavlja knjige ipak nalikuju nečemu što bi moglo stajati kao uvod u opću terminologiju rasprave, a i uopće u osnovne aspekte umjetne inteligencije. Umjetna inteligencija s kojom sada dolazimo u doticaj i o kojoj de facto većinu vremena raspravljamo uska je, specifična umjetna inteligencija poput programa za igranje šaha ili goa AlphaZero, sustava za obradu jezika poput ChatGPT-a ili programa za generiranje slika iz opisa poput DALL-E-ja i Midjourneyja. To su i dalje sustavi u kojima je inteligencija, ukoliko je promatramo kao kompleksnu odliku čovjeka, usko postavljena za rad u krutim i determiniranim okolišima. Prije spomenuta „umjetna opća inteligencija“ (Artificial general intelligence), oko koje će se sigurno sve češće lomiti koplja, od specifične umjetne inteligencije razvojno je udaljena svjetlosnim godinama. Umjetna opća inteligencija, tvrdi Russell, imat će mogućnost nadilaženja cjelokupnih kognitivnih sposobnosti čovjeka u smislu da bi trebala moći odgovoriti na probleme koji će se javljati u najrazličitijim mogućim okolišima, a čije bi zakonitosti slojevito organizirala koristeći smisaone podrutine, nešto što je uvriježeno kao osnova ljudskog djelovanja.

Uz ovu važnu distinkciju Russell samostalno izvodi još jednu koja se tiče pristupa „programiranju“ buduće umjetne opće inteligencije. Standardnom modelu koji odlikuje programiranje umjetne inteligencije za fiksnu svrhu ili s fiksnim ciljem suprotstavlja mnogo neutralniji i oprezniji model dokazivo blagotvorne umjetne inteligencije koji se zasniva na obrnutom (inverznom) pojačanom učenju, a koji bi rezultirao stvaranjem strojeva koji bi zaista ispunjavali naše ciljeve (indvidualne i kolektivne), a ne isključivo fiksno postavljene, konsenzualno određene ciljeve. Jasno je da mnogo toga može poći po zlu u drugonavedenoj varijanti. Primjerice, umjetna inteligencija s fiksnim ciljem smanjenja ljudske patnje u svijetu mogla bi biti sklona pribjeći i radikalnim rješenjima poput istrebljenja čitavog čovječanstva, a potencijalni problem leži i u prvom postupku takvog stroja koji bi mogao biti onemogućenje vlastitog isključenja jer je teško ispuniti zadatak kad si mrtav.

Naredna dva poglavlja su ona „nužna“, koja kao da moraju biti, od kojih jedno sadrži pobrojene mogućnosti dobre primjene umjetne inteligencije poput povećanja sigurnosti u prometu (samovozeći automobili), efikasnosti i personalizacije obrazovanja ili pomoći u svakodnevnom životu, a drugo pobrojane moguće zloporabe umjetne inteligencije poput korištenja u svrhe razvoja autonomnog oružja (!), provale u sferu privatnog (stalni nadzor) ili eventualne kontrole ponašanja (što se u nekom obliku već i danas događa na društvenim mrežama na krilima agresivnih algoritama za preporuku sadržaja).
 

NESIGURNA INTELIGENCIJA

No, Russell se ubrzo vraća sustavnoj gradnji svog modela. Njegova osnovna tri principa su: 1. jedini cilj stroja je maksimizirati ostvarivanje ljudskih preferencija, 2. stroj isprva nije siguran koje su to preferencije i 3. najbolji izvor informacija o ljudskim preferencijama je ljudsko ponašanje. Russell tvrdi da bi se pridržavanjem tih triju principa prilikom razvoja umjetne inteligencije uvelike smanjio rizik od eskalacije s negativnim posljedicama uslijed pogrešno usklađenih vrijednosti između strojeva i ljudi. Strojevi bi ljudske preferencije (odabiri koji nose veću vrijednost za individuu) izvodili sakupljanjem, sortiranjem, pamćenjem i organizacijom informacija iz okoliša vlasnika u sustavnu sliku svijeta koja bi po prilici trebala biti umnogome sličnija stvarnoj, terenskoj od one konsenzualno određene standardnim modelom. Na taj način bi se lakše izbjegle neželjene posljedice u procesu ispunjenja ciljeva, koji po sebi nije obvezujuće moralan, i može se odviti tako da djelomično izađe van okvira bilo kojeg ljudskog preferencijskog sustava.

Čini se da je Russell u pravu kad setu ljudskih osobina koje bi trebala posjedovati umjetna inteligencija dodaje i tu famoznu nesigurnost jer to zaista i jest nešto i suviše ljudsko. Priroda ljudske želje je toliko promjenjiva da tako reći iziskuje umjetnu inteligenciju koja će svoje postupke konstantno propitkivati i to sve zbog stalnih sitnih izvedbenih varijacija u ljudskom ponašanju. Međutim, sve navedeno zvuči prilično jednostavno i izvedivo sve dok u jednadžbu ne uvedemo i druge aktere. E onda kontinuirana kalibracija vlastitih postavki umjetne inteligencije mora, osim stanja preferencija osobe koja je njezin vlasnik, u obzir uzimati i preferencije drugih. Problem je što se ljudske preferencije često međusobno kose. Što ako je vlasnik sadist ili je bekrupulozni, sebični gad, ubojica ili jednostavno zao čovjek?

SREDNJI PUT

U pokušaju pronalaska rješenja za taj problem Russell se ne libi, pa ni od samog početka knjige, zagrabiti iz izvora društvenih i humanističkih znanosti. Po njegovoj vokaciji bilo je moguće pretpostaviti s kojim će se tradicijama, disciplinama i metodama „konzultirati“. Prirodno mu se otvaraju etika, napose utilitaristička, propozicijska logika i logika prvog reda, empirizam i teorija ekonomije. Russellov je popis literature očito vrlo pragmatičan, svrsishodan i metodološki precizan, što ipak nikako nije opravdanje za čestu prezasićenost teksta tehničkim vokabularom. Previše je tu termina koji neprofesionalcu (u koje i sebe ubrajam) neće odmah biti jasni, a koji zbog prirode svojih „materinskih“ disciplina jednostavno ne ostavljaju dovoljno prostora čak ni za kontekstualno određivanje značenja.

Zbog toga što je pod svoje okrilje uzeo „najtehničkije“ moguće, gotovo terminološki matematski precizne  humanističke i društvene discipline nekako na kraju ostaje visjeti i natuknuto moguće dobro rješenje za problem, a to je potreba za temeljitim pokušajem preodgoja ljudi u preferencijskom i vrijednosnom smislu. Potencijalni krunski argument ovdje je zamijećen, ali ostaje nekako misaono plitak i nedorečen, samo kao fusnota o nekom prijeko potrebnom novom kulturnom pokretu.

U prenošenju ideja i argumenata Russell manverira između začudnih prostora analogije, anegdote, fiktivne dijaloške igre i primjera putem kojih kao da provodi neku gigantsku indukciju, ali bez izvođenja općeg zakona. Fiktivna dijaloška igra između robota Robija i žene Ljudice koja vremenom poprima značajke nadrealističke drame, uz bezbrojne primjere pokusnih situacija i mogućih posljedica koje iz njih mogu proizaći doprinosi neobičnoj atmosferi teksta, povremeno čak i bizarnoj i bajkovitoj, kao da se nalazimo u nekom čudesnom svijetu čijim žilama teku neke druge, nepoznate zakonitosti, a čiji žitelji ne prepoznaju čaroliju tih istih zakonitosti. I pregršt poglavlja koja presijecaju tekst pridonose osjećaju inkonkluzivnosti, samo djelomično raspršenoj načelno dobrim nastojanjem koje se nazire u tekstu, a gotovo cijelim sadržanim u načinu via positiva, aditivnom principu opisa osnovnih načela izgradnje i funkcioniranja buduće umjetne inteligencije. Obrnuto pojačano učenje trebalo bi joj omogućiti da o svom kontekstu uči pribrajajući primijećene znakove inteligentnog ponašanja koji se nadaju kao svojevrsni indeksi sustava vrijednosti i preferencija čovjeka.

Mora se reći da dokazivo blagotvorna umjetna inteligencija ipak zvuči bolje od terminatora. Russellov „srednji put“ može se promatrati i kao podsjetnik na važnost čuvanja hladne glave i izbjegavanja esktremnih pozicija u debati oko nečega što bi moglo postati Kao čovjek, ali nikad čovjek sam. Ljudi ne mogu kvantifikacijom obuhvatiti razmjere svoje svijesti, ono bitno ljudsko ne krije se u broju neuronskih veza ili svođenju života na ukupan broj mišićnih aktivacija. Umjetna inteligencija nikad neće postati svjesna, njen razvoj ne znači ništa u umjetnosti (jedino nešto znači u „poslu“ umjetnosti), a priroda jezika, s mišlju isprepletena, rasipa joj se kroz ruke. Međutim, zaista postoji mogućnost da nas ta tehnologija košta izumiranja, ali to ne želimo, za to još nije vrijeme, a i zašto bi to bilo naših ruku djelo.

* Ovaj članak objavljen je u sklopu projekta "Knjige kontra mainstreama" koji je sufinanciran sredstvima Agencije za elektroničke medije iz Fonda za poticanje pluralizma i raznovrsnosti elektroničkih medija.

Stuart Jonathan Russell

Kao čovjek : Umjetna inteligencija - napredak ili prijetnja?

  • Prijevod: Vinko Zgaga
  • Planetopija 09/2022.
  • 344 str., meki uvez
  • ISBN 9789532575125

Stuart Russell, ugledni britanski znanstvenik i jedan od najcjenjenijih stručnjaka za umjetnu inteligenciju briljantnim analogijama i lucidnom prozom objašnjava kako nam umjetna inteligencija može nemjerljivo unaprijediti život, ali i koje prijetnje se u njoj kriju ako čvrsto ne postavimo nadzor kako bismo bili sigurni da strojevi neće ispunjavati svoje, umjesto naših ciljeva. 

– Povezani sadržaj –

– Pretraži sve članke –