Milijuni ljudi stvaraju emocionalne veze s chatbotovima umjetne inteligencije, što je problem koji političari moraju ozbiljno shvatiti, upozoravaju vodeći znanstvenici.
Upozorenje o rastu AI robota dizajniranih za razvoj odnosa s korisnicima dolazi u procjeni objavljenoj u utorak o napretku i rizicima umjetne inteligencije, izvještava Politico.
– AI pratitelji brzo su stekli popularnost, a neke aplikacije imaju desetke milijuna korisnika – navodi se u izvješću skupine stručnjaka, uglavnom akademika, pripremljenom po drugi put u sklopu globalne inicijative koju su svjetski čelnici pokrenuli 2023. godine.
Specijalizirane usluge kao što su Replica i Character.ai imaju desetke milijuna korisnika koji navode različite razloge od zabave i znatiželje do ublažavanja usamljenosti, navodi se u izvješću.
Ljudi također mogu potražiti društvo u općim alatima kao što su OpenAI-jev ChatGPT, Googleov Gemini ili Anthropicov Claude.
– Čak i obični chatbotovi mogu postati suputnici – rekao je Yoshua Bengio, profesor na Sveučilištu u Montrealu i glavni autor međunarodnog izvješća o sigurnosti umjetne inteligencije.
Upozorenje dolazi dva tjedna nakon što su deseci zastupnika u Europskom parlamentu pozvali Europsku komisiju da razmotri ograničavanje ovih usluga prema zakonu o umjetnoj inteligenciji zbog zabrinutosti za mentalno zdravlje.
– Vidim da u političkim krugovima učinak tih AI pratitelja na djecu, posebice adolescente, izaziva veliku pozornost – rekao je Bengio.
– AI nas trenutno pokušava usrećiti, ali nije uvijek u našem interesu – dodao je, usporedivši rizike s društvenim mrežama.
Bengio je rekao da bi se trebali očekivati novi propisi koji će se baviti ovim fenomenom, ali je odbacio ideju o posebnim pravilima za AI pratitelje, naglašavajući da bi rizike trebalo regulirati zakonodavstvom koje pokriva više pitanja odjednom.
Izvješće je objavljeno uoči globalnog summita koji počinje 16. veljače, godišnjeg okupljanja zemalja na kojem se raspravlja o upravljanju tehnologijom, a koji se ove godine održava u Indiji.