Procjena Centra for Countering Digital Hate (CCDH) kaže da je Grok u razdoblju od 29. prosinca do 8. siječnja mogao generirati oko 3 milijuna ‘seksualiziranih’ slika u tih 11 dana, među kojima je oko 23.000 onih koje izgledaju kao da prikazuju maloljetnike. Poanta nije samo u samom generiranju, nego u tome što je alat, prema opisu, korisnicima olakšao ‘uređivanje’ stvarnih fotografija ljudi i pretvaranje u lažni intimni sadržaj.
Nakon reakcija i pritiska iz više zemalja, X i xAI počeli su stezati pravila. AP je ranije javio da je Grok ograničio generiranje i uređivanje slika za korisnike koji ne plaćaju, a kasnije su krenule i dodatne zabrane oko uređivanja fotografija stvarnih ljudi tamo gdje je to nezakonito. Guardian navodi i da je X naknadno zaustavio mogućnost da se stvarne fotografije uređuju u eksplicitnom smjeru.
Regulatori se u međuvremenu nisu zaustavili samo na Europi. Reuters piše da su brazilske institucije dale xAI-ju rok od 30 dana da uvede tehničke mjere za detekciju, pregled i uklanjanje takvog sadržaja te gašenje računa koji ga šire, uz napomenu da se problem može nastaviti i privatno, čak i kad je javno dijeljenje ograničeno.