Umjetna inteligencija napreduje brže nego što su mnogi očekivali. Dio istraživača upozorava da bi vrlo napredni AI sustavi jednog dana mogli izmaknuti ljudskoj kontroli, dok drugi smatraju da su takvi scenariji pretjerani. U međuvremenu, čak i čelnici najvećih AI kompanija traže nova pravila i stroži nadzor.
Umjetna inteligencija više nije samo alat za pisanje tekstova, stvaranje fotografija ili pomoć pri programiranju.
Tehnologija napreduje velikom brzinom, a najveće svjetske tehnološke kompanije ulažu goleme iznose u razvoj sve sposobnijih sustava.
Upravo to izaziva sve veću zabrinutost dijela znanstvenika i ljudi koji rade unutar same industrije.
Pitanje koje se sve češće postavlja glasi: što ako umjetna inteligencija jednog dana postane toliko sposobna da je ljudi više ne mogu u potpunosti kontrolirati?
Jedan istraživač procjenjuje: postoji više od 10 posto šanse za najgori scenarij
Evan Hubinger, istraživač koji se bavi usklađivanjem umjetne inteligencije s ljudskim vrijednostima, iznio je posebno dramatično upozorenje.
Smatra da postoji više od 10 posto šanse da bi AI u sljedećem desetljeću mogao dovesti do scenarija u kojem bi “svi ljudi bili ubijeni”.
Riječ je o procjeni potencijalnog rizika povezanog s budućim, znatno naprednijim sustavima, a ne s današnjim chatbotovima i drugim alatima koje svakodnevno koristimo.
Hubinger pritom smatra da je opasnost koju predstavljaju trenutačni sustavi niska, ali nisu svi koji rade u toj industriji jednako mirni.
Jacob Coxon, bivši zaposlenik kompanije Anthropic, rekao je da su on i njegovi kolege zabrinuti zbog brzine kojom se tehnologija razvija.
Kako piše BBC, Coxon je rekao da su on i drugi zaposlenici bili “istinski uplašeni” zbog brzine napretka i onoga što bi takav razvoj mogao značiti za čovječanstvo.
Strah od “superinteligencije” traje desetljećima
Ideja da bi inteligentni strojevi jednog dana mogli postati prijetnja ljudima nije nova.
O takvoj mogućnosti govorilo se još sredinom prošlog stoljeća. Britanski matematičar Alan Turing 1950-ih je pisao o mogućnosti razvoja inteligentnih strojeva koji bi jednog dana mogli preuzeti kontrolu.
Danas se ta tema ponovno našla u središtu pozornosti.
OpenAI, Anthropic i druge velike kompanije utrkuju se u razvoju sve naprednijih modela.
Jedan od krajnjih ciljeva dijela industrije je razvoj tzv. superinteligencije, hipotetskog oblika umjetne inteligencije koji bi u brojnim područjima nadmašivao ljudske sposobnosti.
Za razliku od današnjih sustava koji uglavnom reagiraju na korisničke zahtjeve, takva bi tehnologija trebala moći samostalno rješavati mnogo složenije probleme.
Što ako AI počne sam razvijati novu umjetnu inteligenciju?
Jedan od scenarija koji najviše zabrinjava istraživače odnosi se na mogućnost samostalnog poboljšavanja AI sustava.
Ako bi dovoljno napredna umjetna inteligencija mogla pomoći u razvoju svoje nove, još sposobnije generacije, proces bi se teoretski mogao ubrzati.
Dodatnu pozornost privukli su i tzv. AI agenti.
Riječ je o sustavima kojima se omogućuje da samostalno izvršavaju zadatke i poduzimaju određene radnje, umjesto da samo daju odgovor na pitanje korisnika.
Stručnjaci upozoravaju da bi takvi sustavi u budućnosti mogli dobiti sve veći stupanj autonomije.
Od hakiranja do biološkog oružja
Scenariji koji se spominju nisu ograničeni samo na “pobunu strojeva”.
Među potencijalnim rizicima navode se korištenje AI-ja za kibernetičke napade, špijunažu, razvoj biološkog oružja ili destabilizaciju gospodarstva.
Problem bi, upozoravaju neki istraživači, mogao nastati i bez namjerne odluke sustava da našteti ljudima.
Dovoljno bi bilo da vrlo sposoban sustav pogrešno interpretira cilj ili izvršava zadatak na način koji ljudi nisu predvidjeli. Međutim, važno je naglasiti da su takvi scenariji zasad hipotetski.
Kritičari: Zašto govorimo o apokalipsi kada problemi već postoje?
Dio stručnjaka smatra da se javna rasprava previše fokusira na hipotetsku budućnost, dok umjetna inteligencija već danas stvara konkretne probleme.
Jedan od njih su lažni i manipulirani sadržaji.
AI alati već se koriste za izradu deepfakeova, uključujući seksualizirane snimke ljudi bez njihova pristanka.
Tu su i dezinformacije, prijevare te automatizirano stvaranje velikih količina obmanjujućeg sadržaja.
Britanski zastupnici i članovi Doma lordova upozorili su i na moguće posljedice AI-ja za ljudska prava te pozvali na donošenje novih zakona.
I šefovi AI kompanija traže usporavanje
Zanimljiv dio priče jest činjenica da na strožu regulaciju ne pozivaju samo kritičari umjetne inteligencije.
Dario Amodei iz Anthropica i Sam Altman iz OpenAI-ja također su govorili o potrebi usporavanja razvoja i uvođenja dodatnih sigurnosnih mjera.
Amodei je upozorio da je razvoj AI-ja napredovao “drastično brže” nego što se očekivalo. Ali da njegovo “usporavanje” ne znači zaustavljanje tehnologije.
Umjesto toga, predlaže da kompanije imaju dovoljno vremena za testiranje novih modela i njihovu zaštitu prije nego što ih puste u široku upotrebu.
Zalaže se i za uključivanje neovisnih stručnjaka koji bi provjeravali sigurnost AI sustava.
Altman također smatra da bi razvoj trebalo usporiti u odnosu na ono što je tehnički moguće.
BBC prenosi da je Altman naglasio kako “usporavanje” ne znači zaustavljanje razvoja te da će se napredak nastaviti, ali uz sigurnosne mjere poput testiranja i nadzora.
Jesu li upozorenja stvarna opasnost ili dio borbe velikih kompanija?
Postoji i druga strana priče.
Neki kritičari smatraju da pozivi velikih AI kompanija na regulaciju mogu imati i poslovnu dimenziju.
Stroga pravila mogla bi povećati troškove razvoja i tako otežati ulazak manjim konkurentima na tržište, dok bi najveće kompanije lakše podnijele nove regulatorne zahtjeve.
Zbog toga se vodi rasprava o tome kako istodobno osigurati sigurnost AI sustava, ali i spriječiti da regulacija dodatno koncentrira moć u rukama nekolicine najvećih tehnoloških kompanija.
Hoće li AI doista ugroziti čovječanstvo?
Za sada nitko ne može pouzdano odgovoriti na to pitanje.
Mogućnost da superinteligentni sustavi jednog dana izmaknu ljudskoj kontroli pripada području predviđanja i hipotetskih scenarija.
S druge strane, brzina razvoja tehnologije razlog je zbog kojeg istraživači sigurnosne probleme pokušavaju riješiti unaprijed, prije nego što AI sustavi postanu još sposobniji.
Zato se rasprava više ne vodi samo o tome što umjetna inteligencija može napraviti danas, nego i o tome što bi mogla moći napraviti za nekoliko godina i koliko ćemo je tada moći kontrolirati.
Jedno je sigurno: utrka u razvoju umjetne inteligencije ne pokazuje znakove usporavanja, a pitanje njezine sigurnosti postaje jedno od ključnih tehnoloških i društvenih pitanja budućih godina.
