Korištenje chatbota temeljenih na umjetnoj inteligenciji (AI) za traženje medicinskog savjeta može biti opasno, pokazalo je novo istraživanje objavljeno u časopisu Nature Medicine, prenosi Anadolija.
Istraživanje, koje su vodili Oxford Internet Institute i Nuffield Department of Primary Care Health Sciences na Sveučilištu u Oxfordu, otkrilo je da oslanjanje na AI za donošenje medicinskih odluka predstavlja rizik za pacijente zbog njegove tendencije pružanja netočnih i nedosljednih informacija.
Rebecca Payne, koautorica studije i liječnica opće prakse, rekla je: “Unatoč svoj pompi, umjetna inteligencija jednostavno još nije spremna preuzeti ulogu liječnika.”
– Pacijenti trebaju biti svjesni da pitanje velikog jezičnog modela o njihovim simptomima može biti opasno, jer može dati krive dijagnoze i ne prepoznati kada je hitna pomoć potrebna – dodala je.
U studiji je gotovo 1300 sudionika zamoljeno da identificiraju moguća zdravstvena stanja i preporuče sljedeće korake na temelju različitih scenarija.
Neki su sudionici koristili softver temeljen na modelima jezika velikih razmjera kako bi dobili potencijalnu dijagnozu, dok su se drugi oslanjali na tradicionalne metode, poput savjetovanja s liječnikom opće prakse.
Istraživači su otkrili da AI alati često daju kombinaciju dobrih i loših informacija, koje korisnici teško razlikuju.
Iako chatbotovi imaju dobre rezultate na standardiziranim testovima medicinskog znanja, studija je zaključila da bi njihova uporaba u stvarnom okruženju kao medicinskih alata predstavljala rizik za stvarne korisnike koji traže pomoć za vlastite zdravstvene simptome.
Glavni autor studije, Andrew Bean, rekao je da interakcija s ljudima ostaje izazov čak i za najnaprednije AI sustave te je izrazio nadu da će rezultati doprinijeti sigurnijem razvoju takvih alata.