Geoffrey Hinton kaže da postoji 10% do 20% šanse da će umjetna inteligencija dovesti do izumiranja ljudi za tri desetljeća, jer se promjene brzo kreću.
Britansko-kanadski informatičar često hvaljen kao “kum” umjetne inteligencije skratio je izglede da AI uništi čovječanstvo u sljedeća tri desetljeća, upozoravajući da je tempo promjena u tehnologiji “puno brži” od očekivanog.
Profesor Geoffrey Hinton, koji je ove godine dobio Nobelovu nagradu za fiziku za svoj rad u umjetnoj inteligenciji, rekao je da postoji “10% do 20%” šanse da će umjetna inteligencija dovesti do izumiranja ljudi u sljedeća tri desetljeća.
Prethodno je Hinton rekao da postoji 10% šanse da tehnologija izazove katastrofalan ishod za čovječanstvo.
Upitan u emisiji Today na BBC Radiju 4 je li promijenio svoju analizu potencijalne AI apokalipse i šanse jedan od 10 da se to dogodi, rekao je: “Ne baš, 10% do 20%.”
Hintonova procjena potaknula je urednika Todaya, da mu kaže “ideš prema gore”, na što je Hinton odgovorio: “Ako išta. Vidite, nikada se prije nismo morali baviti stvarima koje su inteligentnije od nas.”
Dodao je: “A koliko primjera znate da inteligentniju stvar kontrolira manje inteligentna stvar? Primjera je jako malo. Tu su majka i beba. Evolucija je uložila mnogo truda da dopusti bebi da kontrolira majku, ali to je otprilike jedini primjer za koji znam.”
Hinton, rođen u Londonu, profesor emeritus na Sveučilištu u Torontu, rekao je da bi ljudi bili poput male djece u usporedbi s inteligencijom vrlo moćnih AI sustava.
“Volim o tome razmišljati kao: zamislite sebe i trogodišnjaka. Bit ćemo trogodišnjaci”, rekao je.
AI se može slobodno definirati kao računalni sustavi koji obavljaju zadatke koji obično zahtijevaju ljudsku inteligenciju.
Prošle godine Hinton je dospio na naslovnice nakon što je dao ostavku na posao u Googleu kako bi otvorenije govorio o rizicima koje nosi nesputani razvoj umjetne inteligencije, navodeći zabrinutost da bi “loši glumci” koristili tehnologiju da naude drugima.
Ključna zabrinutost boraca za sigurnost umjetne inteligencije je da bi stvaranje opće umjetne inteligencije ili sustava koji su pametniji od ljudi moglo dovesti do toga da tehnologija predstavlja egzistencijalnu prijetnju izbjegavanjem ljudske kontrole.
Razmišljajući o tome do čega će razvoj umjetne inteligencije dovesti kada je tek počeo raditi na tehnologiji, Hinton je rekao: “Nisam mislio da će biti tu gdje [jesmo] sada. Mislio sam da ćemo u nekom trenutku u budućnosti stići ovdje.”
Dodao je: “Budući da je situacija u kojoj se sada nalazi takva da većina stručnjaka na tom području misli da ćemo jednom, vjerojatno u sljedećih 20 godina, razviti umjetnu inteligenciju koja je pametnija od ljudi. A to je vrlo zastrašujuća pomisao.”
Hinton je rekao da je tempo razvoja “vrlo, vrlo brz, mnogo brži nego što sam očekivao” i pozvao je na vladinu regulaciju tehnologije.
“Brinem se da nas nevidljiva ruka neće zaštititi. Stoga samo prepuštanje profitnom motivu velikih tvrtki neće biti dovoljno da se osigura siguran razvoj umjetne inteligencije,” rekao je. “Jedina stvar koja može natjerati te velike tvrtke da više istražuju sigurnost je državna regulativa.”
Hinton je jedan od trojice “kumova umjetne inteligencije” koji su za svoj rad osvojili nagradu ACM AM Turing – računalni ekvivalent Nobelove nagrade. Međutim, jedan od trojca, Yann LeCun, glavni znanstvenik za umjetnu inteligenciju u Meti Marka Zuckerberga, umanjio je egzistencijalnu prijetnju i rekao da bi umjetna inteligencija “zapravo mogla spasiti čovječanstvo od izumiranja”, prenosi Guardian.