Od opasnih bioloških oružja do nuklearnog rata i društvenog raspada, stručnjaci upozoravaju da najveći rizik možda nije u tome što će AI razviti mržnju prema ljudima, nego u tome što će moćna tehnologija ostvarivati ciljeve koje joj ljudi nisu pravilno zadali.
Rasprava o umjetnoj inteligenciji posljednjih je tjedana dobila novu dimenziju nakon upozorenja pojedinih ljudi iz same AI industrije da bi razvoj sve naprednijih sustava mogao predstavljati ozbiljan rizik za čovječanstvo.
Istraživač umjetne inteligencije Jacob Coxon nedavno je napustio Anthropic, a pritom je upozorio da ljudi koji razvijaju AI ozbiljno smatraju mogućim scenarij u kojem bi tehnologija do kraja desetljeća mogla dovesti do katastrofalnih posljedica. Sličan stav iznio je i Evan Hubinger, također povezan s Anthropicom, koji je govorio o dvoznamenkastoj vjerojatnosti takvog ishoda u sljedećih deset godina.
Kako bi takav scenarij uopće mogao izgledati?
Kako piše Guardian, AI apokalipsa ne mora nužno izgledati kao scena iz znanstvenofantastičnog filma. Autor Toby Walsh izdvaja pet mogućih scenarija, od onih koje je najteže predvidjeti do konkretnijih oblika katastrofe.
1. Jednostavno ne bismo znali što superinteligencija može učiniti
Prvi problem je upravo u tome što je teško predvidjeti ponašanje sustava koji bi bio inteligentniji od ljudi.
Današnji AI modeli mogu biti iznimno uspješni u pojedinim zadacima, ali to još ne znači da posjeduju opću inteligenciju koja nadilazi ljudsku u svim područjima. Ipak, sposobnosti umjetne inteligencije brzo napreduju, uključujući i rješavanje vrlo složenih matematičkih problema.
Ako bi se jednog dana pojavila prava superinteligencija, ljudi bi mogli imati problem predvidjeti njezine poteze jednostavno zato što ne bi mogli u potpunosti razumjeti način na koji takav sustav razmišlja.
2. AI koji savršeno izvršava pogrešan cilj
Jedan od najpoznatijih hipotetskih primjera je takozvani „problem spajalica“.
Zamislimo superinteligentni sustav kojem je zadatak proizvoditi što više spajalica za papir. Ako mu se ne postave odgovarajuća ograničenja, mogao bi zaključiti da je gotovo sve što postoji, uključujući ljudska bića i prirodne resurse – potencijalni materijal za ostvarivanje tog cilja.
Poanta ovog scenarija nije da bi AI „mrzio“ ljude. Upravo suprotno. Problem bi mogao nastati zato što sustav nema ljudske vrijednosti i ne razumije zašto je čovječanstvo važnije od cilja koji mu je zadan.
Ipak, postoji važna prepreka: inteligencija sama po sebi ne znači i neograničenu moć. Čak i iznimno sposoban sustav morao bi djelovati unutar fizičkog i društvenog svijeta punog ograničenja.
3. Biološko oružje koje razvija umjetna inteligencija
Jedan od konkretnijih strahova odnosi se na mogućnost da napredni AI olakša razvoj novih bioloških prijetnji.
Ako bi umjetna inteligencija jednog dana mogla vrlo precizno dizajnirati nove patogene ili pomoći ljudima da ih proizvedu, posljedice bi mogle biti ozbiljne. Autor podsjeća i na nedavne eksperimente u kojima su istraživači koristili genetske AI modele za dizajniranje novih virusa.
No postoji i važna biološka prepreka. Virus koji se iznimno lako širi često nije istodobno i izrazito smrtonosan. Ako patogen ubija zaražene ljude vrlo brzo, može imati manje prilika za daljnje širenje.
To ne znači da je rizik zanemariv, nego da je scenarij potpunog uništenja čovječanstva biološki puno složeniji nego što se na prvi pogled čini.
4. Umjetna inteligencija pokreće nuklearni rat
Još opasniji scenarij uključuje prodor AI sustava u vojne strukture i sustave odlučivanja povezanih s nuklearnim oružjem.
Problem ne mora biti u tome da AI samostalno „odluči uništiti svijet“. Dovoljna bi bila pogrešna procjena, lažna informacija ili manipulirani podaci koji bi vojnom sustavu sugerirali da je protivnički napad već započeo.
Povijest pokazuje da su ljudi već nekoliko puta bili vrlo blizu nuklearnoj eskalaciji zbog pogrešnih procjena i tehničkih problema. Napredni AI mogao bi takve rizike dodatno povećati ako bi se njegovim procjenama pridala prevelika važnost.
Kako piše Guardian, posljedice velikog nuklearnog sukoba ne bi se odnosile samo na izravne žrtve eksplozija. Dugotrajni poremećaji proizvodnje hrane i posljedice takozvane nuklearne zime mogli bi izazvati glad i dodatne milijunske žrtve.
5. Najveća opasnost možda smo ipak mi
Posljednji scenarij ne uključuje robote koji love ljude niti superinteligenciju koja izravno odlučuje eliminirati čovječanstvo.
Umjesto toga, AI bi mogao dodatno pogoršati probleme koje ljudi već imaju.
Masovni gubitak radnih mjesta, širenje dezinformacija, sve veća politička polarizacija i zamjena stvarnih međuljudskih odnosa umjetnim društvom mogli bi postupno oslabiti institucije i društvene veze.
U najcrnjem scenariju, društvo bi se toliko fragmentiralo da više ne bi bilo sposobno održavati sustave potrebne za normalan život velikog broja ljudi.
Trebamo li se bojati AI apokalipse?
Autor ne tvrdi da je uništenje čovječanstva neizbježan ishod razvoja umjetne inteligencije. Naprotiv, nekoliko opisanih scenarija suočeno je s ozbiljnim praktičnim i znanstvenim preprekama.
Međutim, zajednička poruka svih pet scenarija jest da rizik ne treba promatrati samo kroz pitanje može li AI postati „zloban“. Puno važnije pitanje može biti što se događa kada vrlo sposobnim sustavima damo velike ovlasti, a pritom ne možemo u potpunosti predvidjeti njihove odluke i posljedice.
Zato se rasprava o budućnosti umjetne inteligencije sve više usmjerava na kontrolu, sigurnost i način na koji ljudi postavljaju granice tehnologiji koja postaje sve sposobnija.
Walsh zaključuje da postoje razlozi za oprez, ali i da nema potrebe automatski pretpostaviti najgori mogući ishod.
