Sve više ljudi koristi chatbotove temeljene na umjetnoj inteligenciji kako bi dobili odgovore na zdravstvena pitanja, no novo istraživanje upozorava da takvi alati mogu nenamjerno pojačavati stigmu prema osobama koje boluju od određenih bolesti.
Kako piše Science, istraživači su analizirali odgovore popularnih AI chatbotova (jednostavno rečeno, to je „pametni digitalni sugovornik“ kojem možete postavljati pitanja i dobivati odgovore) i otkrili da oni, iako često pružaju korisne informacije, u pojedinim slučajevima koriste formulacije koje mogu učvrstiti negativne stereotipe ili predrasude o ljudima s određenim zdravstvenim stanjima.
Stigma nije uvijek očita
Stigma ne mora biti otvorena uvreda ili diskriminacija. Dovoljno je da odgovor sugerira kako je osoba sama odgovorna za svoje stanje ili da se određena bolest povezuje s negativnim osobinama. Takve poruke mogu utjecati na način na koji ljudi doživljavaju oboljele, ali i na to kako oni doživljavaju sami sebe.
Naime, problem nastaje zato što modeli umjetne inteligencije uče iz golemih količina tekstova dostupnih na internetu. Ako su u tim podacima prisutne društvene predrasude, postoji mogućnost da će ih chatbot, barem djelomično, prenijeti i u svojim odgovorima.
Neke bolesti posebno su osjetljive
Istraživači upozoravaju da se najveći rizik pojavljuje kod zdravstvenih stanja koja su već dugo društveno stigmatizirana. To uključuje mentalne poremećaje, HIV, ovisnosti i druge bolesti koje su često praćene predrasudama ili osjećajem srama.
Upravo zato način na koji chatbot odgovara na pitanja o tim temama može imati velik utjecaj na korisnika. Osoba koja traži informacije očekuje objektivan odgovor, no čak i suptilne razlike u jeziku mogu ostaviti dojam osuđivanja ili potaknuti pogrešna uvjerenja.
Zašto je to važno?
Mnogi ljudi danas koriste umjetnu inteligenciju kao prvi izvor informacija o zdravlju jer je dostupna u svakom trenutku i omogućuje anonimno postavljanje pitanja. To je posebno važno kada je riječ o osjetljivim temama o kojima korisnici možda ne žele odmah razgovarati s liječnikom.
No stručnjaci upozoravaju da chatbotovi ne bi smjeli biti zamjena za zdravstvene djelatnike. Osim mogućnosti netočnih odgovora, postoji i rizik da način na koji predstavljaju određene bolesti dodatno pojača postojeće društvene predrasude. Ranija istraživanja također su pokazala da AI sustavi mogu reproducirati različite oblike pristranosti koji postoje u podacima na kojima su trenirani.
Potrebna su dodatna poboljšanja
Kako piše Science, autori istraživanja smatraju da bi razvojni timovi trebali sustavnije testirati chatbotove upravo na pitanjima vezanima uz stigmatizirana zdravstvena stanja. Cilj nije samo povećati točnost odgovora, nego i osigurati da način komunikacije bude empatičan, neutralan i bez diskriminatornih poruka.
Stručnjaci zaključuju da umjetna inteligencija ima velik potencijal u području zdravstva, ali samo ako se njezini odgovori kontinuirano provjeravaju i poboljšavaju. U protivnom postoji opasnost da tehnologija, umjesto smanjenja predrasuda, nesvjesno pridonese njihovu širenju.
Novo veliko istraživanje upozorava: Djeca mlađa od dvije godine ne bi smjela koristiti ekrane
