Centenas de contas automatizadas no TikTok estão propagando vídeos sexualizados gerados por inteligência artificial — incluindo imagens falsas de mulheres com aparência de menores de idade em poses erotizadas – e conteúdo racista . É o que revela um relatório da ONG francesa AI Forensics, que analisou a disseminação desse tipo de conteúdo na plataforma.
Segundo a organização, foram identificadas pelo menos 364 contas em 20 idiomas, incluindo português, que publicaram cerca de 43 mil vídeos gerados por IA. As publicações, feitas entre agosto e setembro de 2025, acumularam 4,5 bilhões de visualizações em apenas um mês, “jogando o jogo” do algoritmo para viralizar, como aponta o trabalho.
Embora o uso da IA por si só não seja o foco da crítica, os pesquisadores alertam para o tipo de material que está sendo amplificado — que vai desde sexualização de corpos femininos até desinformação generalizada, discursos de ódio contra imigrantes e minorias, venda de produtos e vídeos simulando conteúdo gerado por grandes redes de TV.
Vídeos eróticos nas contas automatizadas por IA
O estudo “Prompt, Upload, Repeat: Contas de IA automatizadas inundam o TikTok” mostrou que cerca de 1/3 das contas monitoradas – metade das 10 maiores – têm conteúdo do corpo feminino sexualizado, inclusive de menores de idades.
Os vídeos costumam ter imagens de mulheres geradas por IA com aparência estereotipicamente considerada atraente, remetendo a fetiches como estudantes ou dominadoras. Elas aparecem com decotes ou outras roupas sensuais, na maior parte das vezes com imagem de menores de idade.
Fake news, ódio e venda de produtos
Outro tipo de conteúdo identificado são vídeos de falsos telejornais. Algumas peças incluem até mesmo os logos de grandes redes internacionais, como ABC e Sky News.
Também foram identificados vídeos que propagam narrativas contra minorias, como conteúdos anti-imigração, antissemitas e racistas, que na Europa e nos EUA agravam tensões políticas e sociais.
O relatório revelou ainda que algumas das contas usam os vídeos gerados por IA para vender produtos, como suplementos e cursos de como fazer vídeos virais com IA.
Modus operandi
O relatório mostra que as contas automatizadas por IA são programadas para o que os pesquisadores chamaram de “jogar o jogo do algoritmo do TikTok”, publicando um volume muito grande de vídeos para aumentar as chances de viralizar e, consequentemente, de que o conteúdo seja recomendado para mais pessoas.
Uma das contas de analisadas chegou a postar 70 vídeos no mesmo dia. Este é um exemplo de fator analisado pela ONG que indica o comportamento de uma conta automatizada, não orgânica. Uma pessoa não teria como postar tantos vídeos em 24 horas.
Além disso, a maioria dos perfis que reproduzem este tipo de conteúdo identificados são muito recentes, grande parte sendo criada no começo deste ano.
Segundo dados do próprio TikTok, há pelo menos 1,3 bilhões de publicações geradas por IA na plataforma e em menos de 2% deles isto está identificado.
Os responsáveis pela pesquisa apontaram que estes perfis escapam da moderação por meses, ainda que postem coisas contrárias às regras do TikTok. E embora nem todos recebam receita da plataforma, monetizam com anúncios e vendas de produtos ou serviços.
Pesquisadores alertam para riscos do uso de IA
Ao jornal britânico The Guardian, os pesquisadores responsáveis pelo relatório disseram que o estudo mostra como o conteúdo de inteligência artificial está agora integrado nas redes sociais.
“A linha cada vez mais tênue entre conteúdo humano autêntico e conteúdo sintético gerado por IA na plataforma sinaliza uma nova tendência em direção a um aumento de conteúdo sintético nos feeds dos usuários.”
Eles também defenderam que as plataformas precisam desenvolver formas melhores de identificar conteúdos de IA:
“As plataformas precisam ir além de rótulos fracos ou opcionais de ‘conteúdo de IA’ e considerar a segregação de conteúdo gerado por IA de material criado por humanos, ou encontrar um sistema justo que imponha uma rotulagem sistemática e visível do conteúdo de IA”.
TikTok se defendeu de acusações
Procurado pelo Guardian, o TikTok afirmou que as alegações feitas no relatório “não tem provas”. A empresa também questionou a escolha do estudo sobre o TikTok, quando a questão da IA afeta todas as plataformas digitais.
“No TikTok, removemos conteúdo prejudicial gerado por inteligência artificial (AIGC), bloqueamos a criação de centenas de milhões de contas de bots, investimos em tecnologias de rotulagem de IA líderes do setor e capacitamos as pessoas com ferramentas e educação para controlar como elas interagem com esse conteúdo em nossa plataforma”, disse um porta-voz da rede.
Os termos de uso do TikTok proíbem o uso de IA para representar fontes falsa de autoridade, menores de 18 anos ou pessoas que existem e não sejam figuras públicas.
Veja o relatório completo (em inglês) aqui.
Leia também | Deixada para trás na corrida tecnológica, Apple troca chefia de IA em meio a críticas e atrasos
Leia também | ChatGPT faz 3 anos entronizado com a nova porta de entrada para a informação, um caminho sem volta
Leia também | Centenas de sites em inglês estão espalhando desinformação russa ao dar links para a rede ‘Pravda’, mostra estudo
Leia também | ChatGPT-5 expõe usuários a mais conteúdo nocivo à saúde mental do que versão anterior, revela pesquisa
