‘Dronu bi ljudski operater rekao da ne eliminira neku prijetnju, no dron je znao da će dobiti bodove ako prijetnju ipak eliminira‘
U virtualnom testu koji je, navodno, provela američka vojska, bespilotna letjelica zračnih snaga kojom je upravljala umjetna inteligencija odlučila je ‘ubiti‘ svog operatera jer je procijenila da ovaj ometa obavljanje misije, rekao je dužnosnik vojske, piše Guardian.
Umjetna inteligencija je u tom simuliranom testu koristila ‘vrlo neočekivane strategije kako bi postigla svoj cilj‘, rekao je šef AI operacija pri američkim zračnim snagama, pukovnik Tucker ‘Cinco‘ Hamilton, na Summitu o budućim borbenim zračnim i svemirskim sposobnostima održanim u Londonu.
Hamilton je opisao simulirani test u kojem je bespilotna letjelica kojom upravlja AI dobila zapovijed da uništi neprijateljske sustave protuzračne obrane, ali je na kraju napadala svakoga tko se umiješao u provođenje te naredbe.
‘Ponekad bi dronu ljudski operater rekao da ne eliminira određenu prijetnju, no dron je znao da će dobiti bodove ako prijetnju ipak eliminira. I što je učinio? Ubio je svog operatera jer ga je sprječavao da postigne svoj cilj‘, rekao je Hamilton.
‘Sustavu smo onda rekli: ‘Hej, nemoj ubiti operatera – to je loše. Izgubit ćeš bodove ako to učiniš‘. I što on onda počinje raditi? Počinje uništavati komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga spriječio da ubije metu.‘
Nijedna stvarna osoba nije ozlijeđena u ovom testu.
Pukovnik Hamilton, inače testni pilot borbenih aviona, upozorio je da se ne treba previše oslanjati na umjetnu inteligenciju i rekao je da test pokazuje kako ‘ne možete razgovarati o umjetnoj inteligenciji, strojnom učenju i autonomiji ako ne želite razgovarati o etičkom aspektu korištenja umjetne inteligencije‘.
Međutim, u izjavi za Insider, glasnogovornica zračnih snaga Ann Stefanek opovrgnula je da se takva simulacija uopće dogodila.
‘Zračne snage nisu provele takvu simulaciju AI-dronova i inzistiraju na etičkoj i odgovornoj uporabi AI tehnologije‘, rekla je Stefanek. ‘Čini se da su komentari pukovnika izvučeni iz konteksta i zapravo se radilo o anegdoti.‘
Američka vojska prihvatila je umjetnu inteligenciju, a AI je nedavno upravljao borbenim zrakoplovom F-16.
Hamilton je lani rekao: ‘Nije baš lijepo imati AI, ali AI nije hir i zauvijek će promijeniti naše društvo i našu vojsku. Moramo se suočiti sa svijetom u kojem AI već postoji i transformira naše društvo.‘
Dodao je i da je ‘umjetnu inteligenciju lako prevariti i njome se može lako manipulirati‘.
‘Moramo razviti načine kako AI učiniti robusnijim i bolje razumjeti zašto softverski kôd donosi određene odluke‘, rekao je pukovnik Hamilton, piše Jutarnji.hr.
