Francuski tužitelji pozvali su tehnološkog milijardera Elona Muska na dobrovoljni razgovor u Parizu zbog optužbi da je značajka Grok umjetne inteligencije na njegovoj društvenoj mreži X širila milijune seksualiziranih deepfakeova.

Još nije poznato hoće li se Musk odazvati pozivu, navodi se Francuska 24.

Poziv Musku upućen je još u veljači u sklopu istrage pokrenute u siječnju prošle godine zbog sumnji da je algoritam Platforme X korišten za uplitanje u francusku politiku.

Istraga je naknadno proširena kako bi uključila širenje negiranja holokausta i seksualnog deepfake sadržaja putem X-ovog AI chatbota Grok.

Početkom veljače ove godine francuski su tužitelji pretražili pariške urede X-a, što je društvena mreža, negirajući bilo kakvu krivnju, osudila kao “politiziranu” raciju i “zlouporabu sudskog procesa”.

Tada su pariški tužitelji pozvali na razgovor i Muska i tadašnju izvršnu direktoricu Lindu Yaccarino kao osobe koje su u to vrijeme “de facto i de jure upravljale Platformom X”.

Musk je ovaj potez nazvao “političkim napadom”.

Yaccarino je sišao s čelne pozicije na X u srpnju prošle godine nakon dvije godine na toj poziciji.

Pariška tužiteljica Laure Beccuau rekla je u veljači da su X zaposlenici također pozvani da svjedoče između 20. i 24. travnja.

Međutim, hoće li se pozvani odazvati dobrovoljnom ispitivanju ili ne, to neće spriječiti nastavak istrage, objavilo je prošle subote pariško tužiteljstvo.

Dužnosnici nisu objavili detalje o mjestu ili vremenu zakazanog Muskovog sastanka.

Francuska istraga usredotočena je na nekoliko mogućih zločina, uključujući suučesništvo u posjedovanju materijala seksualnog zlostavljanja djece i poricanje zločina protiv čovječnosti.

Prošlog srpnja tvrtka je istragu nazvala “politički motiviranom”.

Francuska istraga dio je šire međunarodne reakcije protiv Groka nakon što je otkriveno da korisnici mogu generirati seksualizirane slike žena i djece koristeći jednostavne tekstualne naredbe poput “stavite je u bikini” ili “skinite joj odjeću”.

Prema izvješću neprofitne organizacije Centar za suzbijanje digitalne mržnje (CCDH), objavljenom krajem siječnja, procjenjuje se da je Grok u samo 11 dana napravio tri milijuna seksualiziranih fotografija, većinom žena, ali i 23.000 slika koje su izgledale kao da su djeca.

U odvojenom slučaju, britanski regulator za zaštitu podataka otvorio je istragu protiv Muskovih tvrtki X i xAI u veljači zbog “ozbiljne zabrinutosti” oko toga jesu li se tvrtke pridržavale zakona o zaštiti podataka kada su generirale seksualizirane deepfakeove.

Krajem siječnja Europska unija pokrenula je istragu protiv X-a zbog istog problema – stvaranja seksualiziranih deepfake slika žena i maloljetnika pomoću Groka.

Francuska policija pretresla je pariške urede tvrtke X Elona Muska u utorak i pozvala tehnološkog milijardera na ispitivanje u sklopu šire istrage društvene mreže i njezinog AI chatbota Grok.

Potraga je povezana s istragom pokrenutom u siječnju 2025., priopćilo je u utorak tužiteljstvo u Parizu, dodajući da je njegova jedinica za kibernetički kriminal izvela raciju uz pomoć Europola.

Prema pariškim tužiteljima, predsjednik X Elon Musk i bivša izvršna direktorica X Linda Yaccarino pozvani su da se pojave na saslušanjima u travnju, dok će zaposlenici X biti ispitani kao svjedoci.

CNN je kontaktirao X za komentar. U srpnju je tvrtka zanijekala bilo kakvu nepravdu i nazvala francusku istragu “politički motiviranom” i napadom na slobodu govora.

Pariška tužiteljica Laure Beccuau rekla je da se istraga, koja se u početku usredotočila na sumnju u zlouporabu algoritama, proširila na Grokove “seksualne lažne lažne prikaze” i širenje “sadržaja koji poriče holokaust”.

Prošlog je tjedna Europska komisija pokrenula istragu protiv Groka nakon kritika na račun njegove sposobnosti proizvodnje seksualno eksplicitnih slika. Pozornost na značajku kulminirala je krajem prošle godine, kada je otkriveno da je chatbot, na zahtjev korisnika, generirao veliki broj digitalno “razodjevenih” slika – uključujući slike žena i djece.

Div društvenih medija od tada je rekao da je poduzeo mjere kako bi spriječio korisnike Groka da stvaraju slike ljudi u otvorenoj odjeći.

Tužitelji u francuskoj prijestolnici rekli su da će istražiti niz potencijalnih zločina, uključujući suučesništvo u posjedovanju i distribuciji dječje pornografije i kršenje prava pojedinaca putem seksualno eksplicitnog duboko lažnog sadržaja.

Donositelji odluka imaju poteškoća u praćenju brzog razvoja tehnologija umjetne inteligencije, a između Europe i Sjedinjenih Država pojavljuje se sve veći jaz kada je riječ o regulaciji velikih tehnoloških kompanija i slobodi govora.

Aktivisti za sigurnost na internetu pozivaju na jače mjere zaštite za marginalizirane osobe na internetu, upozoravajući na dugoročne posljedice za mentalno zdravlje i dobrobit žrtava.

– Uznemirujući porast zlouporabe intimnih AI slika, koji omogućuju platforme poput Groka, nije samo digitalna prijetnja – on ima opasne posljedice za žene i djevojke. Generative AI omogućio je počiniteljima lakše nego ikad stvaranje lažnih slika nauštrb sigurnosti žena – rekla je Emma Pickering iz britanske neprofitne organizacije Refuge.

Ranije u utorak, britanski regulator za zaštitu podataka otvorio je istragu o Groku i njegovom potencijalu za proizvodnju štetnih seksualiziranih slika i video sadržaja.

Indonezijske i malezijske vlasti blokirale su Grok krajem siječnja, ali su ukinule zabranu nekoliko dana kasnije, navodeći mjere koje je X poduzeo kako bi spriječio zlouporabu chatbota.

Organizacija za zaštitu djece iz Ujedinjenog Kraljevstva upozorila je da se alati umjetne inteligencije u vlasništvu Elona Muska koriste za generiranje ilegalnih videozapisa o dječjem seksu, nakon što su istražitelji identificirali materijal koji je navodno stvoren s Grok Imagineom i kruži forumima na mračnom webu.

Zaklada Internet Watch Foundation (IWF) priopćila je u srijedu da su njezini analitičari pronašli seksualizirane slike djevojčica u dobi od 11 do 13 godina koje zadovoljavaju zakonsku definiciju Ujedinjenog Kraljevstva o materijalu seksualnog zlostavljanja djece i čini se da ih je generirao ovaj AI alat.

– Alati poput Groka sada riskiraju uvođenje seksualiziranih AI snimaka djece u mainstream. To je neprihvatljivo – rekao je Ngaire Alexander, voditelj telefonske linije IWF-a.

Ova su otkrića povećala politički pritisak u Ujedinjenom Kraljevstvu.

Odbor za žene i jednakost Donjeg doma parlamenta rekao je u srijedu da će prestati koristiti društvenu mrežu X, koja je u vlasništvu Muska, navodeći zabrinutost zbog zlouporabe Groka.

Downing Street je rekao da su sve opcije na stolu, dok je tajnica za znanost Liz Kendall rekla da X mora hitno riješiti ovo.

Kendall je dodao da vlada podupire Ofcom, britansko regulatorno tijelo za komunikacije, da hitno istraži slučaj i poduzme mjere tamo gdje su zakoni prekršeni.

Ured povjerenika za informiranje priopćio je da je kontaktirao X i njegovog vlasnika xAI “kako bi zatražio pojašnjenje mjera koje su poduzeli za usklađivanje s britanskim zakonom o zaštiti podataka i zaštitu prava pojedinaca”.

X je rekao da uklanja ilegalni sadržaj, uključujući materijal sa seksualnim zlostavljanjem djece, obustavlja račune koji vrijeđaju i surađuje s policijom.

Provjera i kritika proširile su se izvan Ujedinjenog Kraljevstva, a Indonezija je u srijedu upozorila da bi X mogao biti zabranjen zbog opscenog sadržaja koji uključuje maloljetnike.

Jakarta je izjavila da preliminarni nalazi pokazuju da Grok nema odgovarajuće zaštitne mjere za sprječavanje stvaranja i širenja pornografskog materijala temeljenog na stvarnim snimkama.

– Ova situacija ima potencijal za kršenje prava na privatnost i prava na vlastitu sliku – rekao je Alexander Sabar, glavni direktor indonezijske Uprave za nadzor digitalnog svemira, dodajući da bi pristup Groku i Platformi X mogao biti opozvan ako se kršenja nastave.

Upozorenje dolazi nakon reakcije u Europi, gdje su francuske vlasti izvijestile istražitelje o navodnim seksualno eksplicitnim deepfake snimkama generiranim korištenjem Groka na X platformi.

Europska komisija objavila je da “vrlo ozbiljno” ispituje rezultate chatbot alata.