A influenciadora de direita americana Ashley St. Clair, mãe do 14º filho conhecido de Elon Musk, entrou com um processo judicial em Nova York contra a xAI do empresário pedindo indenização por sofrimento emocional e perda de privacidade, após ter sido uma das vítimas da ferramenta do Grok que permite criar imagens erotizadas a partir de fotos reais.
“O produto Grok da xAI, um chatbot de inteligência artificial (IA) generativa, usa a IA para despir, humilhar e explorar sexualmente as vítimas”, diz o processo.
Os advogados alegam que o Grok gerou e distribuiu “inúmeros conteúdos deepfake sexualmente abusivos, íntimos e degradantes” de St. Clair a pedido dos usuários, incluindo haters que teriam sido incentivados a fazer isso em meio a disputas públicas entre ela e o empresário.
Segundo o processo, ela notificou a xAI de que usuários estavam criando fotos deepfake ilícitas dela “quando criança, vestindo apenas um biquíni fio dental” e “como adulta em poses sexualmente explícitas” e solicitou que o serviço Grok fosse impedido de criar as imagens sem seu consentimento.
O processo foi protocolado na quarta-feira (14), mesmo dia em que o X anunciou que estaria implantando medidas que bloqueiam o Grok de remover roupas de pessoas reais e gerar imagens sexualizadas, mas usuários apontam que ainda é possível usar a ferramenta.
No dia seguinte, a xAI reagiu abrindo um processo contra a influenciadora em um tribunal federal no Texas , alegando que ela violou os termos de serviço da xAI e exigindo indenização superior a US$ 75.000.
A xAI afirmou em seu processo que reclamações judiciais contra a empresa devem ser apresentadas em um tribunal federal no Distrito Norte do Texas ou em tribunais estaduais no Condado de Tarrant, Texas.
Brigas vão além do Grok
Ashley St. Clair e Musk estão há quase um ano se desentendendo publicamente sobretudo em torno do filho. No início desta semana, Musk escreveu no X que pretende buscar a guarda total de Romulus, que nasceu em 2024.
No Dia dos Namorados de 2025 nos EUA (em fevereiro), St. Clair reconheceu publicamente a existência da criança e a paternidade de Musk, quebrando um suposto pedido de sigilo.
No mês seguinte ela foi filmada vendendo seu Tesla, o que, segundo ela, se devia à necessidade de compensar o corte de 60% em sua pensão alimentícia como punição imposta por Musk por sua “desobediência”. E em agosto entrou com um pedido de guarda total da criança.
Entenda o caso da ferramenta de nudificação do Grok
Em agosto, a xAI lançou o Grok Imagine, uma ferramenta de geração de imagens a partir de texto usando a tecnologia do seu já conhecido robô de IA. Dentro do Grok Imagine há ainda um “modo picante”.
À época, o veículo especializado em tecnologia The Verge classificou a funcionalidade como “feita especificamente para criar vídeos sugestivos” e apontou que, em comparação com outros geradores de imagens de IA, o Grok Image é menos restritivo e encoraja os usuários a criar conteúdos sexualizados.
Mesmo com necessidades óbvias de restrição etária, na ocasião do lançamento o CEO do X e da xAI, Elon Musk, disse que o Grok Imagine era algo que as crianças adoram, porque ele também possibilita a criação de imagens a partir de comandos de voz.
Jornalista denunciou uso sem autorização de sua foto
Ainda que controverso, o Grok Imagine seguiu operando normalmente até que a jornalista britânica Samantha Smith viralizou ao denunciar que uma foto sua havia sido alterada pela IA sem seu consentimento, deixando-a sem roupas.
Outros relatos de usuários da rede social, em sua maioria mulheres, reportando o mesmo problema também repercutiram, chamando atenção para o problema.
O caso ganhou mais gravidade quando a organização Internet Watch Foundation (IWF) comprovou denúncias que recebeu de que a ferramenta estava criando imagens sexualizadas de menores de idade.
No Brasil, inúmeras mulheres também relataram terem sido alvo das manipulações não consensuais de imagem e a SaferNet também mapeou casos de adolescentes que tiveram suas fotos alteradas.
Leia também | Fotos de Maduro feitas com IA ou ‘recicladas’ invadem as redes – e o X é onde elas mais aparecem, diz ONG
O posicionamento do X
Em meio às críticas, a resposta da empresa veio, em um primeiro momento, por meio do próprio Grok, que afirmava que as imagens sexualizadas de menores foram geradas em decorrência de “falhas nos mecanismos de proteção”, e que a empresa estava trabalhando para corrigir o problema.
Posteriormente, a xAI emitiu um comunicado oficial:
“Tomamos medidas contra conteúdos ilegais no X, incluindo Material de Abuso Sexual Infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário.
Qualquer pessoa que use ou incentive o Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se enviar conteúdo ilegal. Para mais informações sobre nossas políticas, consulte nossas páginas de ajuda para as Regras X completas e a variedade de opções de fiscalização.”
Mas a onda de reclamações continuou, e vários países anunciaram investigações e até bloqueios.
O bloqueio de imagens sexualizadas no Grok
Diante das pressões, na quarta-feira (14) a conta X Safety compartilhou um artigo anunciando as novas medidas para impedir a edição de imagens de pessoas reais. No texto, o braço de segurança da empresa afirma que o bloqueio se aplica a todos os usuários, incluindo assinantes pagos, mas que segundo relatos ainda não estão funcionando na prática.
A proibição não seria apenas de nudez completa ou para menores de idade. Segundo o X, a regra impedirá também a edição de pessoas reais com roupas reveladoras, como biquinis. E criação e a edição de imagens por meio da conta Grok na plataforma X ficaria disponíveis apenas para assinantes pagos, que poderiam ser ser responsabilizados.
Outra novidade é o bloqueio por meio de geolocalização para impedir que esse tipo de edição seja feita em locais onde é ilegal.
Leia também | Espanha aprova projeto de lei criminalizando deepfakes com foco em proteção de menores
Leia também | Transparência de influenciadores sobre quem financia sua cobertura política é limitada: por que isso importa?
Leia também | Princesa Leonor da Espanha vira vítima da IA: deepfakes estão sendo usados em golpes no TikTok
Leia também | Fotos de Maduro feitas com IA ou ‘recicladas’ invadem as redes – e o X é onde elas mais aparecem, diz ONG
