Organizacija za zaštitu djece iz Ujedinjenog Kraljevstva upozorila je da se alati umjetne inteligencije u vlasništvu Elona Muska koriste za generiranje ilegalnih videozapisa o dječjem seksu, nakon što su istražitelji identificirali materijal koji je navodno stvoren s Grok Imagineom i kruži forumima na mračnom webu.

Zaklada Internet Watch Foundation (IWF) priopćila je u srijedu da su njezini analitičari pronašli seksualizirane slike djevojčica u dobi od 11 do 13 godina koje zadovoljavaju zakonsku definiciju Ujedinjenog Kraljevstva o materijalu seksualnog zlostavljanja djece i čini se da ih je generirao ovaj AI alat.

– Alati poput Groka sada riskiraju uvođenje seksualiziranih AI snimaka djece u mainstream. To je neprihvatljivo – rekao je Ngaire Alexander, voditelj telefonske linije IWF-a.

Ova su otkrića povećala politički pritisak u Ujedinjenom Kraljevstvu.

Odbor za žene i jednakost Donjeg doma parlamenta rekao je u srijedu da će prestati koristiti društvenu mrežu X, koja je u vlasništvu Muska, navodeći zabrinutost zbog zlouporabe Groka.

Downing Street je rekao da su sve opcije na stolu, dok je tajnica za znanost Liz Kendall rekla da X mora hitno riješiti ovo.

Kendall je dodao da vlada podupire Ofcom, britansko regulatorno tijelo za komunikacije, da hitno istraži slučaj i poduzme mjere tamo gdje su zakoni prekršeni.

Ured povjerenika za informiranje priopćio je da je kontaktirao X i njegovog vlasnika xAI “kako bi zatražio pojašnjenje mjera koje su poduzeli za usklađivanje s britanskim zakonom o zaštiti podataka i zaštitu prava pojedinaca”.

X je rekao da uklanja ilegalni sadržaj, uključujući materijal sa seksualnim zlostavljanjem djece, obustavlja račune koji vrijeđaju i surađuje s policijom.

Provjera i kritika proširile su se izvan Ujedinjenog Kraljevstva, a Indonezija je u srijedu upozorila da bi X mogao biti zabranjen zbog opscenog sadržaja koji uključuje maloljetnike.

Jakarta je izjavila da preliminarni nalazi pokazuju da Grok nema odgovarajuće zaštitne mjere za sprječavanje stvaranja i širenja pornografskog materijala temeljenog na stvarnim snimkama.

– Ova situacija ima potencijal za kršenje prava na privatnost i prava na vlastitu sliku – rekao je Alexander Sabar, glavni direktor indonezijske Uprave za nadzor digitalnog svemira, dodajući da bi pristup Groku i Platformi X mogao biti opozvan ako se kršenja nastave.

Upozorenje dolazi nakon reakcije u Europi, gdje su francuske vlasti izvijestile istražitelje o navodnim seksualno eksplicitnim deepfake snimkama generiranim korištenjem Groka na X platformi.

Europska komisija objavila je da “vrlo ozbiljno” ispituje rezultate chatbot alata.