Em mais um capítulo do escândalo envolvendo produção de imagens de pornografia infantil geradas por IA, que se desenrola desde dezembro, o Grok, assistente de IA generativa da xAI, de Elon Musk, é alvo de um novo processo nos EUA.
Desta vez, quem moveu a ação foi a cidade de Baltimore, primeiro município do país a acionar a Justiça contra a inteligência artificial.
A cidade acusa o Grok de fazer uma espécie de “propaganda enganosa”. Segundo a ação judicial, protocolada na terça-feira (24), a xAI “vende” a IA como um assistente comum e o X como uma rede social segura, ao mesmo tempo que “inunda o feed de usuários” com imagens de pornografia infantil.
O processo se soma a outras ações movidas nos Estados Unidos e no exterior. Em uma das investigações, o escritório do X em Paris chegou a ser alvo de mandados de busca e apreensão.
A ação acontece na mesma semana em que a Meta e o Google perderam um processo considerado histórico, por condenar o design das plataformas considerado viciante e prejudicial a jovens e crianças.
Violação de proteções ao consumidor
Ao contrário de outros casos em curso nos EUA, que focam no dano causado às vítimas de manipulação de imagem, o processo de Baltimore foca na suposta violação do Grok às proteções do consumidor.
Segundo a ação, a produto da xAI foi vendido simplesmente como um assistente de IA, omitindo os possíveis riscos e danos da plataforma.
O enquadramento judicial é diferente, mas o cerne do processo é o mesmo das outros processos contra a empresa: a abertura para a exploração sexual infantil.
Em um comunicado divulgado à imprensa dos EUA, o prefeito de Baltimore, Brandon Scott, afirmou que os deepfakes gerados com ajuda da companhia têm “consequências traumáticas”.
A prefeitura da cidade alega que, já que o Grok faz anúncios e opera em Baltimore, a Justiça local tem poder de decidir sobre a empresa.
“Nossa cidade não ficará de braços cruzados enquanto isso acontece; é uma ameaça à privacidade, à dignidade e à segurança pública, e os responsáveis devem ser responsabilizado.”
Adolescentes também processaram Grok
Além do processo movido por Baltimore, outras ações judiciais contra as imagens geradas pelo Grok tramitam na Justiça dos EUA. Neste caso, duas adolescentes e uma jovem do Tennessee afirmam que a IA de Musk facilitou a criação de fotos pornográficas delas. O processo corre na Califórnia.
De acordo com as vítimas, o conteúdo sexual feito por usuários acabou divulgado nas redes sociais. Os advogados das vítimas alegam que o Grok aproveitou uma oportunidade de negócio e falicitou a disseminação de pornografia infantil.
Outra investigação está em curso na Europa
Além dos casos dos EUA, há mais de um processo ativo contra o Grok no Reino Unido e na França pelo mesmo motivo do processo movido na Califórnia.
No âmbito das investigações contra criação de fotos pornográficas e de imagens sexualizadas por parte do Grok, a polícia foi até a própria sede do X em Paris fazer buscas.
Autoridades francesas confirmaram que Elon Musk foi intimado a depor no âmbito da investigação. Linda Yaccarino, ex‑CEO do X, também recebeu intimação e deverá comparecer para esclarecimentos em abril. Até o momento, ambos depoimentos são considerados etapas formais do processo investigativo.
Leia também | IA chinesa DeepSeek e Grok de Musk são os chatbots mais bloqueados do mundo, revela pesquisa
Leia também | Musk sob pressão: polícia faz buscas na sede do X em Paris e Reino Unido investiga Grok por deepfakes
Leia também | Mãe de filho de Musk abre processo contra Grok por fotos eróticas criadas com recurso de ‘nudificação’
Imagens de abusos geradas por IA têm boom
O processo movido nos EUA e as investigações da Europa contra o Grok refletem um cenário global. Pesquisadores da organização britânica Internet Watch Foundation revelaram que, em 2025, encontraram um total de 8.029 fotos e vídeos criados ou manipulados com recursos de IA generativa mostrando crianças sendo abusadas sexualmente de forma realista.
O número é 14% maior do que o do ano anterior e meninas são a maioria das vítimas, aparecendo em 97% das imagens. Em um relatório alarmante divulgado na quarta-feira (24) eles apontaram que as imagens têm potencial de alimentar o interesse sexual em crianças, normalizar a violência extrema e aumentar o risco de crimes com contato físico.
Grok e sexualização
O Grok é um chatbot criado em 2023 pela xAI, de Elon Musk, e totalmente integrado à plataforma X. O bilionário comprou o X, antigo Twitter, em 2022. Em suas versões mais recentes, ele permite que usuários usem fotos como base para fazer fotos e vídeos realistas de outras pessoas.
O novo modo do Grok, porém, não foi o único problema da plataforma. Em 2025, a xAI lançou o Grok Imagine, ferramenta de criação de vídeos sem limites sobre os prompts dos usuários. Com isso, qualquer pessoa poderia pedir ao Grok vídeos ou fotos pornográficas.
De acordo com o Centro de Combate ao Ódio Digital, o Grok fez mais de 3 milhões de fotos sexualizadas, incluindo 23.000 de crianças, em 11 dias. Além de pessoas anônimas, foram vítimas da plataforma a vice-primeira-ministra da Suécia, Ebba Busch, a ex-vice-presidente dos EUA, Kamala Harris.
O que Musk já falou sobre o assunto
O bilionário usou o X para falar sobre atualizações do Grok e anunciar uma versão do “SuperGrok”. O serviço em questão oferece um pacote diferenciado de IA generativa pelo valor de US$ 10 (R$ 52) mensais.
Desde a terça-feira (24), quando a ação de Baltimore foi anunciada, Musk também usou as redes sociais para espalhar teorias sobre “racismo reverso” e para criticar o governo democrata.
Em ocasiões anteriores, ao receber questionamentos sobre outras ações, movidas na Europa, porém, ele disse que não sabia sobre fotos pornográficas geradas pelo Grok.
Em um post feito em janeiro, Musk disse que “o programa se recusará a produzir qualquer conteúdo ilegal”.
“O Grok não gera imagens espontaneamente, ele faz isso apenas de acordo com as solicitações do usuário.”
O que pode acontecer com as empresas de Musk?
As consequências potenciais para as empresas de Musk são severas e variam conforme o país. No caso da Europa, França e Reino Unido podem limitar o funcionamento da plataforma.
Na França, caso a disseminação de material ilegal se confirme, Musk e seus executivos podem enfrentar processos criminais. Esses processos envolvem, por exemplo, sanções penais e administrativas.
No Reino Unido, o Information Commissioner’s Office tem a autoridade para aplicar multas pesadas em caso de violação de leis de proteção de dados. Em última instância, por exemplo, ele pode até restringir ou limitar o funcionamento do Grok e do X no território britânico.
Além disso, a Ofcom — o regulador de comunicações do Reino Unido — recebeu autorização em janeiro para utilizar todos os seus poderes contra o Grok.
Entre os poderes está a possibilidade de solicitar ao Judiciário o bloqueio de acesso público à ferramenta para proteger o interesse público.
Embora Musk tenha se manifestado minimamente, alegando perseguição política, o cerco regulatório europeu se intensifica e poderá resultar em sanções financeiras e criminais de grande impacto.
Leia também | Redes, IA e mais: estudo de Oxford mostra como jovens se informam
Leia também | Imagens de abuso sexual infantil online geradas por IA avançam e 97% retratam meninas; diz relatório
