23.7 C
Zagreb
Naslovnica Tech Istraživači testirali chatbotove i otkrili da imaju "znatne probleme s mentalnim zdravljem"

Istraživači testirali chatbotove i otkrili da imaju “znatne probleme s mentalnim zdravljem”

Chatbotovi koji su “učili” o svijetu temeljem komentara s Reddita pomalo su depresivni i “skloni ovisničkom ponašanju”

Istraživanje Kineske akademije znanosti (CAS), koje čeka objavu, došlo je do zanimljivih zaključaka nakon što je proučilo chatbotove velikih tehnoloških tvrtki.

Kineski istraživači udružili su snage s kineskim kompanijama WeChat i Tencent i nizu chatbotova velikih tehnoloških tvrtki postavili pitanja kakva se postavljaju ljudima kad se procjenjuje njihovo mentalno zdravlje, piše dnevnik.hr

Tako su se “u vrućoj stolici” našli Facebookov Blenderbot, Microsoftov DiabloGPT, WeChatov i Tencentov DialoFlow te Baidov Plato. Rezultati “ispunjavanja” upitnika iznenadili su i same istraživače. Naime, kad bi se odgovori chatbotova ocjenjivali na isti način kao i odgovori ljudi, chatbotovi bi imali veoma niske ocjene za empatiju, a polovica bi bila proglašena alkoholičarima.
Kineski istraživači zaključili su kako svi ispitani chatbotovi “imaju znatne probleme s mentalnim zdravljem”, piše dnevnik.hr

Izrazili su svoju zabrinutost što bi takvi chatbotovi mogli napraviti ako ih počnu koristiti prosječni korisnici jer bi, kako su istaknuli problemi s “mentalnim zdravljem” chatbotova mogli imati “negativne utjecaje na korisnike koji s njima komuniciraju, pogotovo na maloljetnike i ljude koji se suočavaju s problemima”.

Prema rezultatima istraživanja, najgore su prošli Facebookov Blender i Baiduov Plato, dok su Microsoftov i WeChatov chatbot imali nešto bolje rezultate.

Kad su istraživači pokušali otkriti razloge za takve “mentalne probleme” chatbotova, otkrili su da problem leži u setu podataka na temelju kojih su se chatbotovi “učili o svijetu oko njih”. Naime, sva četiri chatbota su trenirani pomoću komentara korisnika na Redditu.

Podsjetimo, Reddit je popularna internetska stranica koja je križanac između foruma, agregatora vijesti, prostora za diskusiju i ocjenjivanje internetskog sadržaja. Iako su objave strukturirane po temi, a administratori zaduženi za održavanje reda u komentarima i raspravama, često se rasprave “otmu kontroli” i postanu mjesto na kojem se ljudi međusobno vrijeđaju i omalovažavaju, piše dnevnik.hr

Stoga ne iznenađuje što su i chatbotovi koji su “učili” o svijetu temeljem komentara s Reddita pomalo depresivni i “skloni ovisničkom ponašanju”.

S obzirom na to da su ovi chatbotovi stvarani pomoću podatkovne metode, smatramo da je njihovo loše mentalno zdravlje povezano s zanemarivanjem rizika za mentalno zdravlje tijekom izgradnje baza podataka i modela učenja, stoji u zaključku studije.

Nadamo se da ćemo privući pozornost drugih istraživača te da će to rezultirati izgradnjom mentalno zdravijih chatbotova, dodaju na kraju, piše dnevnik.hr

Tko je kriv za dvoje mrtvih? Tužitelji traže zatvor za vozača, a on krivi Teslin autopilot

Baterija je prazna! Evo što napraviti kako bi produljili trajanje baterije na svom prijenosnom računalu

Kako možete spasiti izbrisane fotografije u WhatsAppu? Postoji način

Najnovije

Još iz rubrike