EU pojačava pritisak na X zbog nezakonitih deepfake sadržaja

Evropska komisija je intenzivirala istragu protiv platforme X zbog načina na koji se njen AI alat Grok koristi za generisanje nezakonitih i seksualizovanih deepfake sadržaja. Povod su ozbiljni izvještaji iz Francuske koji ukazuju na to da je alat stvarao eksplicitne materijale koji uključuju djecu, što je izazvalo reakciju pravosudnih organa u Parizu.

Prema navodima Komisije, riječ je o sadržaju koji je nedvosmisleno zabranjen evropskim zakonodavstvom. Portparol Komisije Thomas Regnier naglasio je da se ovdje ne radi o bezazlenim eksperimentima, već o teškim kršenjima zakona i osnovnih vrijednosti Evropske unije.

Ovo nije prvi put da se Grok našao pod lupom regulatora. Ranije su se pojavile optužbe o generisanju antisemitskog sadržaja i poruka koje se mogu smatrati negiranjem Holokausta. Zbog toga je Evropska komisija već u novembru uputila zvaničan zahtjev za dodatne informacije kompaniji X, čiji se odgovor trenutno analizira.

Komisija podsjeća da Digital Services Act (DSA) nije preporuka, već obavezujući okvir. Prethodno izrečene kazne drugim platformama, kako ističu iz Brisela, jasno pokazuju da kršenja imaju konkretne posljedice.

Pritisak na X ne dolazi samo iz Evrope. Regulatori u Ujedinjenom Kraljevstvu, Indiji i Maleziji također su pokrenuli istrage o radu Groka, dok se u pojedinim državama čak razmatra privremena blokada platforme. Za razliku od toga, američke vlasti za sada zauzimaju znatno oprezniji stav.

Evropska komisija očekuje da velike online platforme preventivno spriječe zloupotrebe, a ne da reaguju tek nakon što se šteta već dogodi.