Sustav ANON, razvijen za automatsku anonimizaciju sudskih presuda, trebao je štititi osobne podatke. No u objavljenim dokumentima ostaju imena, prezimena i drugi detalji koji mogu otkriti identitet maloljetnih žrtava. Unatoč upozorenjima, problem nije riješen.
Umjetna inteligencija trebala bi pomoći pravosuđu u zaštiti osobnih podataka, no u Hrvatskoj se pokazalo da automatizacija ne jamči sigurnost. Sustav ANON, namijenjen anonimizaciji sudskih odluka prije njihove objave, prema istraživanju portala Women in Adria ostavlja brojne tragove koji mogu omogućiti identifikaciju maloljetnih žrtava, ali i drugih sudionika sudskih postupaka.
Posebno zabrinjava činjenica da je riječ o predmetima koji uključuju seksualno nasilje nad djecom, obiteljsko nasilje i druga kaznena djela u kojima je zaštita identiteta žrtava od iznimne važnosti.
Kako otkriva Women in Adria, problem nije ograničen na pojedinačne propuste. Pregledom nekoliko desetaka kaznenih presuda u kojima su oštećenici maloljetnici pronađene su informacije koje bi mogle omogućiti prepoznavanje osoba čiji bi identitet trebao ostati zaštićen.
Sustav plaćen 160.000 eura, održavanje još 127.000 eura
ANON je razvijen kako bi automatski uklanjao osobne podatke okrivljenika, žrtava i svjedoka iz sudskih odluka. Za njegovu je izradu izdvojeno 160.000 eura iz Nacionalnog plana oporavka i otpornosti, dok je za održavanje dosad potrošeno dodatnih 127.000 eura.
Ukupni trošak tako doseže 287.000 eura, no rezultati otvaraju ozbiljna pitanja o učinkovitosti sustava i načinu na koji se kontrolira kvaliteta objavljenih presuda.
Prema nalazima koje donosi Women in Adria, sustav uglavnom uspješno uklanja osnovne identifikacijske podatke iz zaglavlja presuda, uključujući imena, prezimena, adrese i osobne identifikacijske brojeve. Problemi nastaju u obrazloženjima presuda, gdje se osobni podaci često pojavljuju u drukčijem kontekstu.
Imena u različitim padežima, nadimci, prezimena spomenuta u iskazima svjedoka te podaci o školama, mjestima stanovanja i članovima obitelji mogu ostati neanonimizirani.
Drugim riječima, čak i kada su najvidljiviji osobni podaci uklonjeni, kombinacija preostalih informacija može biti dovoljna da se otkrije o kome je riječ.
Jedna rečenica može biti dovoljna za otkrivanje identiteta
Koliko propusti mogu biti ozbiljni, pokazuje primjer iz presude povezane sa seksualnim deliktom nad djetetom. U obrazloženju je ostao navod okrivljenika iz kojeg se moglo zaključiti ime maloljetne žrtve.
U istom su dokumentu bili dostupni i dodatni podaci o školi koju su pohađali uključeni u slučaj te o ugostiteljskom objektu povezanom s obitelji počinitelja.
Women in Adria navodi i druge primjere u kojima su, unatoč uklanjanju imena iz početnog dijela presude, u njezinu obrazloženju ostali podaci o prezimenima obitelji, imenima spomenutima u iskazima svjedoka i školama koje su pohađala djeca.
U pojedinim slučajevima navedeni su i detalji o ustanovama u kojima su djeca boravila, zaposlenju počinitelja ili obiteljskim gospodarstvima.
Takvi podaci sami po sebi možda ne otkrivaju identitet, no njihovo povezivanje može znatno suziti krug mogućih osoba. Posebno je to problematično u manjim sredinama, gdje informacije o školi, radnom mjestu ili obiteljskim vezama mogu biti dovoljne za prepoznavanje žrtve.
Na problem je upozoreno još prošle godine
Prema informacijama koje je objavila Women in Adria, Ministarstvo pravosuđa upozoreno je na problem krajem prošle godine. Ured pravobraniteljice za djecu potvrdio je da je preporučio dodatnu anonimizaciju presuda u predmetima koji se odnose na kaznenopravnu zaštitu djece te na prava i interese djece u obiteljskim postupcima.
Preporuka je da se nakon automatske obrade sustavom ANON provede i dodatna provjera, u skladu s pravilima koja uređuju anonimizaciju, objavu i pretraživanje sudskih odluka.
Problem, međutim, nije nestao. Kako navodi Women in Adria, i nakon upozorenja objavljivane su presude iz kojih se moglo zaključiti tko su maloljetne žrtve ili druge osobe uključene u postupke.
Pravilnik koji uređuje anonimizaciju sudskih odluka predviđa i mogućnost dodatnog uklanjanja podataka na temelju kojih bi se mogao otkriti identitet osobe koju treba zaštititi.
Prema odgovoru Ureda pravobraniteljice za djecu, Vrhovni sud izdavao je i dodatne upute za anonimizaciju, no one očito nisu bile dovoljne da se spriječe svi propusti.
Zašto se presude objavljuju ako sustav nije potpuno pouzdan?
Dodatnu zabrinutost izaziva način na koji je ANON projektiran. Prema dokumentaciji koju je pregledala Women in Adria, sustav nije bio zamišljen tako da uklanja baš sve informacije koje bi mogle dovesti do identifikacije osobe. U projektnim zahtjevima, kako se navodi u istraživanju, nije posebno obuhvaćena zaštita podataka u citatima i obrazloženjima presuda.
Dokumentacija je predviđala razinu točnosti od 90 posto za propisani dio anonimizacije.
Takav postotak može zvučati prihvatljivo u nekim tehničkim primjenama, ali u pravosuđu posljedice pogreške mogu biti dalekosežne. Jedna presuda sadrži brojne osobne podatke i ponavljanja imena, prezimena, adresa i drugih detalja. Stoga se predviđena stopa točnosti ne može jednostavno tumačiti kao jamstvo da će devet od deset presuda biti potpuno sigurno za objavu.
Dodatni je problem automatska objava. Prema odgovoru Ministarstva pravosuđa organizaciji GONG iz ožujka ove godine, sustav preuzima presude iz eSpisa i objavljuje ih 15 dana nakon otpreme, uz određene iznimke za pojedine vrste odluka.
Ako se dokument objavi bez temeljite ljudske provjere, pogreška u anonimizaciji može postati javno dostupna informacija prije nego što je itko primijeti i ispravi.
Pravobraniteljica upozorava na povredu prava djece
Ured pravobraniteljice za djecu upozorio je da objavljivanje podataka na temelju kojih se može izravno ili neizravno utvrditi identitet djeteta predstavlja ozbiljno zadiranje u njegova prava.
Prema stajalištu Ureda, sustav anonimizacije gubi svoju svrhu ako ne uspijeva zaštititi dijete čiji bi identitet trebao ostati skriven. Zbog toga je naglašena potreba za žurnim rješavanjem problema.
Jedno od predloženih rješenja jest uvođenje dodatnih pravila i ručnog pregleda presuda prije objave, barem u postupcima koji se odnose na prava, interese i kaznenopravnu zaštitu djece.
Takva bi kontrola mogla pomoći u prepoznavanju detalja koje automatizirani sustav ne prepoznaje kao osobne podatke, ali koji u određenom kontekstu mogu otkriti identitet osobe.
Ministarstvo pravosuđa bez odgovora
Women in Adria navodi da je Ministarstvu pravosuđa uputila pitanja o propustima sustava i načinu na koji se oni namjeravaju riješiti, no odgovor nije zaprimljen ni nakon pet dana čekanja u trenutku objave istraživanja.
Izostanak odgovora ostavlja otvorenima ključna pitanja: tko nadzire kvalitetu anonimizacije, zašto se presude objavljuju unatoč poznatim rizicima te koje će se mjere poduzeti kako bi se spriječilo ponavljanje sličnih slučajeva.
Sustav koji bi trebao štititi privatnost građana tako je postao predmet ozbiljnih pitanja o odgovornosti, javnoj potrošnji i granicama automatizacije u pravosuđu.
Kada tehnološka pogreška postane pitanje ljudskih prava
Slučaj ANON-a pokazuje da uvođenje umjetne inteligencije u javne institucije ne može završiti nabavom sustava i njegovim puštanjem u rad. Potrebni su jasni standardi, provjera rezultata, odgovornost za pogreške i ljudski nadzor ondje gdje propusti mogu imati ozbiljne posljedice.
Kod sudskih presuda koje uključuju djecu rizik nije samo tehničke prirode. Otkrivanje identiteta može ugroziti privatnost i sigurnost žrtava te dodatno opteretiti osobe koje su već prošle kroz traumatična iskustva.
Prema istraživanju Women in Adria, na problem se upozoravalo, a presude s potencijalno identifikacijskim podacima nastavile su se pojavljivati u javnosti. Zato pitanje više nije samo može li umjetna inteligencija dovoljno dobro anonimizirati sudske odluke, nego i zašto se njezinim rezultatima vjeruje bez dodatne provjere ondje gdje je cijena pogreške toliko visoka.
