A xAI, empresa de inteligência artificial de Elon Musk, é alvo de três novos processos judiciais nos Estados Unidos por causa da sua tecnologia de IA generativa. Uma jovem e duas adolescentes da Califórnia processaram a empresa e afirmaram que o Grok facilitou a criação de fotos pornográficas delas.
De acordo com as vítimas, o conteúdo sexual feito por usuários acabou divulgado nas redes sociais. Para os advogados das vítimas, o Grok aproveitou uma oportunidade de negócio e falicitou a disseminação de pornografia infantil.
Vítima recebeu denúncia anônima
Uma das vítimas disse que descobriu os crimes por uma mensagem anônima no Instagram. De acordo com ela, as fotos pornográficas produzidas pelo Grok estavam disponíveis no Discord e uma delas usava a foto do anuário da escola dela.
No mesmo servidor onde estavam as fotos também estavam outras imagens, de ao menos 18 vítimas menores de idade, de acordo com a denúncia.
As vítimas apareciam nuas e em posições depreciativas nas fotos e vídeos. Os nomes das vítimas estão sob sigilo para segurança delas. Na denúncia, o advogado afirma que a xAI sabia do risco de sexualização das vítimas e, ainda assim, viu uma oportunidade de negócio no produto.
Suas vidas foram destruídas pela perda devastadora de privacidade, dignidade e segurança pessoal.
Defesa quer regulação das imagens
Apesar de ser movido em uma corte da Califórnia, as vítimas que acusaram o Grok de produzir fotos pornográficas são do estado do Tennessee.
Os advogados das vítimas não divulgaram o valor da indenização pedida no processo. Elas pedem, porém, que o Grok seja proibido de fazer fotos do tipo.
Grok e sexualização
O Grok é um chatbot criado em 2023 pela xAI, de Elon Musk, e totalmente integrado à plataforma X. O bilionário comprou o X, antigo Twitter, em 2022. Em suas versões mais recentes, ele permite que usuários usem fotos como base para fazer fotos e vídeos realistas de outras pessoas.
O novo modo do Grok, porém, não foi o único problema da plataforma. Em 2025, a xAI lançou o Grok Imagine, ferramenta de criação de vídeos sem limites sobre os prompts dos usuários. Com isso, qualquer pessoa poderia pedir ao Grok vídeos ou fotos pornográficas.
De acordo com o Centro de Combate ao Ódio Digital, o Grok fez mais de 3 milhões de fotos sexualizadas, incluindo 23.000 de crianças, em 11 dias. Além de pessoas anônimas, foram vítimas da plataforma a vice-primeira-ministra da Suécia, Ebba Busch, a ex-vice-presidente dos EUA, Kamala Harris, e as cantoras Selena Gomez e Taylor Swift.
O que Musk já falou sobre o assunto
Até o momento, o bilionário não se pronunciou sobre os processos movidos nos EUA. Questionado sobre outras ações, movidas na Europa, porém, ele disse que não sabia sobre fotos pornográficas geradas pelo Grok.
Em um post feito em janeiro, Musk disse que “o programa se recusará a produzir qualquer conteúdo ilegal”.
“O Grok não gera imagens espontaneamente, ele faz isso apenas de acordo com as solicitações do usuário.”
Investigação sobre Grok está em curso na Europa
Há processos ativos contra o Grok no Reino Unido e na França pelo mesmo motivo das ações movidas nos EUA. No âmbito das investigações contra criação de fotos pornográficas e de imagens sexualizadas por parte do Grok, a polícia foi até a própria sede do X em Paris fazer buscas.
Autoridades francesas confirmaram que Elon Musk foi intimado a depor no âmbito da investigação. Linda Yaccarino, ex‑CEO do X, também recebeu intimação e deverá comparecer para esclarecimentos em abril. Até o momento, ambos depoimentos são considerados etapas formais do processo investigativo.
Leia também | IA chinesa DeepSeek e Grok de Musk são os chatbots mais bloqueados do mundo, revela pesquisa
Leia também | Musk sob pressão: polícia faz buscas na sede do X em Paris e Reino Unido investiga Grok por deepfakes
Leia também | Mãe de filho de Musk abre processo contra Grok por fotos eróticas criadas com recurso de ‘nudificação’
O que pode acontecer com as empresas de Musk?
As consequências potenciais para as empresas de Musk são severas e variam conforme o país. No caso da Europa, França e Reino Unido podem limitar o funcionamento da plataforma.
Na França, caso a disseminação de material ilegal seja confirmada, Musk e seus executivos podem enfrentar processos criminais. Esses processos envolvem, por exemplo, sanções penais e administrativas.
No Reino Unido, o Information Commissioner’s Office tem a autoridade para aplicar multas pesadas em caso de violação de leis de proteção de dados. Em última instância, por exemplo, ele pode até restringir ou limitar o funcionamento do Grok e do X no território britânico.
Além disso, a Ofcom — o regulador de comunicações do Reino Unido — recebeu autorização em janeiro para utilizar todos os seus poderes contra o Grok. Entre os poderes está a possibilidade de solicitar ao Judiciário o bloqueio de acesso público à ferramenta para proteger o interesse público.
Embora Musk tenha se manifestado minimamente, alegando perseguição política, o cerco regulatório europeu se intensifica e poderá resultar em sanções financeiras e criminais de grande impacto.
Leia também | Grammarly desativa IA que imitava estilo de autores sem autorização após processo de jornalista de tecnologia
Leia também | Reino Unido aperta o cerco a redes sociais e cobra medidas para impedir acesso de crianças
Leia também | ‘Autoria Humana’: escritores britânicos criam selo para diferenciar livros não gerados por IA
