Sljedeći globalni sukob ili rat između svjetskih velesila mogao bi početi – slučajno. Tako barem razmišlja dio stručnjaka i političara u Kini koji se pribojavaju umjetne inteligencije kao potencijalne prijetnje globalnom miru. Kinezi ulažu velike resurse u istraživanje i razvoj tehnologije, a to se pogotovo odnosi na razvoj umjetne inteligencije te upravo Kina i SAD dominiraju na ovom polju.
Jedna od čestih primjena umjetne inteligencije jest i u vojsci, a s daljnjim razvojem i porastom autonomnije vojnih vozila i dronova te promjenom u načinu komunikacije (jer ćemo u budućnosti sve više komunicirati s umjetnom inteligencijom) postoji ozbiljna opasnost da zbog nekakvog nesporazuma ili djelovanja autonomnih vozila započne ozbiljan konflikt ili čak rat.
O takvim scenarijima govori se u nedavnom izvještaju CNAS-a (Centra za novu američku sigurnost), koji je dijelom baziran na informacijama iz Kine. Kao okidač potencijalnog sukoba posebno se ističu dronovi, odnosno bespilotne letjelice koje se sve češće koriste u vojnim djelovanjima. Razlika između SAD-a i Kine jest u tome što su Kinezi razvili veću razinu autonomnije – dok američki dronovi imaju mogućnost osnovnog autopilota, kineski dronovi skoro pa sami odlučuju o napadima u sukobima.
Problem je što nije poznato kako će se “interpretirati određena ponašanja” koja uključuju uporabu autonomne opreme. Kako je riječ o bespilotnim letjelicama, vojske su spremne riskirati s njihovim korištenjem i poslati ih na područja na koja nikada ne bi slali vojnike jer nema rizika od ljudskih žrtava. No ako autonomna letjelica završi na mjestu na kojem ne bi smjela, pitanje je kako će to druga strana prihvatiti, a kako je riječ o dronu u kojem nema ljudi, možda se odluče za rušenje takvih letjelica.
Pitanje je što će se dogoditi ako autonomna letjelica prepozna opasnost te zapuca i ubije nekoga? To neće biti odluka koju su donijeli vojnici ili zapovjednici, već umjetna inteligencija, te bi takav napad mogao pokrenuti brzi vojni odgovor i rat.
Kako bi se takve stvari u budućnosti izbjegle, a moguće su i zaista predstavljaju prijetnju, potrebno je već sada definirati pravila oružanih sukoba za autonomne sustave. Jasno je da će rizik od navedenih scenarija i početka slučajnog rata biti sve veći i jedna bi akcija umjetne inteligencije možda mogla pokrenuti lavinu i sukob koji bi utjecao na stotine milijuna ljudi, prenosi Zimo.
