Nos últimos dias vieram à tona denúncias de que o Grok, o robô de inteligência artificial do X (antigo Twitter), está criando sem consentimento conteúdos sexualizados a partir de imagens de crianças e mulheres.
O caso provocou reações em todo o mundo, com manifestações de repúdio e pedidos de explicação de autoridades de diversos países.
A Comissão Europeia anunciou que está analisando o caso de forma muito série e divulgou um comunicado público no qual se posiciona duramente contra a ferramenta:
“Isso é ilegal. Isso é revoltante. Isso é nojento. Isso não tem lugar na Europa”, disse Thomas Regnier, porta-voz da Comissão Europeia para assuntos digitais.
Posteriormente, a Comissão também ordenou ao X que retenha documentos internos e dados relacionados ao Grok até o fim deste ano. Este movimento não se configura como uma nova investigação forma contra o X, mas sim como uma extensão de uma ordem que já havia sido enviada à plataforma no ano passado por causa de algoritmos e distribuição de conteúdo ilegal.
Autoridades de outros países também se pronunciaram
A União Europeia não foi o único governo a se manifestar sobre o caso. No Brasil, a deputada federal Erika Hilton (Psol-SP) denunciou o Grok ao Ministério Público Federal e à Agência Nacional de Proteção de Dados, solicitando que o robô seja desabilitado.
🚨 Estou denunciando a inteligência artificial “Grok” e a rede social X ao Ministério Público Federal e à Agência Nacional de Proteção de Dados.
O motivo? Ambas estão gerando, e publicando abertamente, imagens eróticas de mulheres e CRIANÇAS reais, sem consentimento algum.…
— ERIKA HILTON (@ErikakHilton) January 4, 2026
A Ofcom, agência reguladora de comunicações do Reino Unido, afirmou preocupações sérias e disse ter entrado em contato com a X e a xAI pedindo explicações sobre o “dever legal [da empresa] de proteger os usuários do Reino Unido”.
A secretária de Tecnologia britânica, Liz Kendall, classificou o caso como “absolutamente chocante”.
Assim como a União Europeia, a Promotoria francesa anunciou que estendeu uma investigação contra o X, iniciada em julho de 2025, para incluir as acusações de que o Grok é usado para gerar e difundir pornografia infantil.
Autoridades da Índia deram um prazo de 72 horas para que o X remova o conteúdo ilegal. O prazo se encerrou na segunda-feira (5), mas até agora não há confirmação se o X cumpriu a determinação.
Malásia, Irlanda e Austrália também demonstraram preocupação e inciaram investigações. Nenhuma ação formal foi tomada nos Estados Unidos, mas veículos locais reportam que legisladores estão preocupados e se movimentam para tomar alguma medida.
Leia também | Princesa Leonor da Espanha vira vítima da IA: deepfakes estão sendo usados em golpes no TikTok
Entenda o que causou as reações
As denúncias sobre as imagens sexualizadas e não-consensuais criadas pelo Grok vieram à tona e ganharam força nos primeiros dias de 2026, mas toda a polêmica teve início há alguns meses.
Em agosto, a xAI lançou o Grok Imagine, uma ferramenta de geração de imagens a partir de texto usando a tecnologia do seu já conhecido robô de IA. Dentro do Grok Imagine há ainda um “modo picante”.
À época, o veículo especializado em tecnologia The Verge classificou a funcionalidade como “feita especificamente para criar vídeos sugestivos” e apontou que, em comparação com outros geradores de imagens de IA, o Grok Image é menos restritivo e encoraja os usuários a criar conteúdos sexualizados.
Mesmo com necessidades óbvias de restrição etária, na ocasião do lançamento o CEO do X e da xAI, Elon Musk, disse que o Grok Imagine era algo que as crianças adoram, porque ele também possibilita a criação de imagens a partir de comandos de voz.
Jornalista denunciou uso sem autorização de sua foto
Ainda que controverso, o Grok Imagine seguiu operando normalmente até que a jornalista britânica Samantha Smith viralizou ao denunciar que uma foto sua havia sido alterada pela IA sem seu consentimento, deixando-a sem roupas.
Outros relatos de usuários da rede social, em sua maioria mulheres, reportando o mesmo problema também repercutiram, chamando atenção para o problema.
O caso ganhou mais gravidade quando a organização Internet Watch Foundation (IWF) comprovou denúncias que recebeu de que a ferramenta estava criando imagens sexualizadas de menores de idade.
No Brasil, inúmeras mulheres também relataram terem sido alvo das manipulações não consensuais de imagem e a SaferNet também mapeou casos de adolescentes que tiveram suas fotos alteradas.
Leia também | Fotos de Maduro feitas com IA ou ‘recicladas’ invadem as redes – e o X é onde elas mais aparecem, diz ONG
O posicionamento do X
Em meio às críticas, a resposta da empresa veio, em um primeiro momento, por meio do próprio Grok, que afirmava que as imagens sexualizadas de menores foram geradas em decorrência de “falhas nos mecanismos de proteção”, e que a empresa estava trabalhando para corrigir o problema.
Posteriormente, a xAI emitiu um comunicado oficial:
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal.
Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”
A conta de segurança oficial do X também publicou um comunicado sobre o caso, prometendo tomar medidas contra quem divulgasse conteúdo ilegal:
We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.
Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO
— Safety (@Safety) January 4, 2026
Até o momento, o Grok Image segue ativo e a plataforma continua promovendo seu uso.
Na terça-feira (6), a xAI anunciou que conseguiu levantar US$ 20 bilhões em sua última rodada de busca por financiamento, contando com investidores de peso, como a NVidia, por exemplo.
Leia também | Tribunal de Paris condena 10 influenciadores que acusaram Brigitte Macron de ser transexual e pedófila
Leia também | Moderação frágil do Roblox está expondo crianças a conteúdo extremista como nazismo e terrorismo, diz estudo
Leia também | Grokipedia: ‘Muskpedia’ criada pelo dono do X para combater ‘viés ideológico’ da Wiki estreia sob críticas
