Um relatório produzido pela eSafety Commissioner, agência reguladora de segurança digital da Austrália, afirma que as big techs não fazem o suficiente para combater o abuso sexual infantil e as ameaças de extorsão na internet, principalmente contra jovens.
De acordo com a pesquisa, falhas de design e sistemas de detecção fracos são constantes em plataformas conhecidas por serem originadas de “mentes brilhantes”.
“Estas são algumas das empresas mais inovadoras do planeta, com algumas das melhores mentes; gostaríamos de ver parte dessa inovação aplicada ao desenvolvimento de novas tecnologias para enfrentar o que há de pior em termos de conteúdo online.”
O relatório divulgado nesta terça-feira (14) conversa diretamente com o pioneirismo que a Austrália vive em relação à segurança de adolescentes na internet.
Além de ser o primeiro país a proibir as redes sociais para menores, derrubando milhões de contas em um dia, as autoridades também prometeram pulso firme para conferir se as leis são cumpridas pelas redes sociais.
A pesquisa
O relatório da eSafety Commissioner tem como base 2.000 denúncias feitas entre julho e dezembro de 2025 na Austrália contra as big techs. Ele aponta que quem comete abuso sexual e extorsão contra jovens e crianças costuma usar o mesmo modus operandi na internet.
Primeiramente, os criminosos enganam as vítimas para que elas compartilhem imagens íntimas de si mesmas. Depois, com as imagens em mãos, eles exigem dinheiro para não compartilhar as imagens sexuais com amigos e familiares daquelas vítimas.
A comissária de segurança digital da Austrália, Julie Inman, afirmou que os atos trazem consequências psicológicas e financeiras para as famílias. De acordo com ela, mesmo com alertas, as big techs não fazem o suficiente para corrigir o problema.
“Em vários casos, fornecemos a essas plataformas evidências de como seus serviços estão sendo tomados por criminosos, com impactos devastadores, além de orientações claras sobre como conter esse tipo de abuso. Mesmo quando apresentamos tudo isso de forma clara, não vimos respostas adequadas.”
Homens jovens são os mais afetados
De acordo com o relatório da reguladora da Austrália, a maior parte das denúncias contra big techs partiu de homens com entre 18 e 24 anos.
Dados de uma pesquisa anterior, feita em parceria com o Instituto Australiano de Criminologia, apontam que adolescentes também estão entre as vítimas.
“11,35% dos adolescentes foram vítimas de extorsão sexual e, desses adolescentes, mais da metade (57,7%) havia sofrido isso antes dos 16 anos de idade.”
O projeto destacou que, no caso de crianças, extorsões do tipo também são consideradas uma forma de abuso sexual.
Tecnologia disponível é ignorada, diz relatório
Entre as tecnologias que as big techs escolhem ignorar, de acordo com o relatório, estão os scripts que detectam linguagens de coerção usadas pelos criminosos nas redes sociais.
Outro ponto preocupante, segundo a pesquisa, é que os sistemas de busca da plataforma focam em materiais de abusos que já existem em bancos de dados.
Ou seja: enquanto as redes se baseiam em bancos de dados para buscar imagens semelhantes que possam ser banidas, transmissões ao vivo e materiais inéditos de exploração sexual “passam batido”.
Por fim, o relatório alerta que os sistemas de denúncia das plataformas costumam ser complicados ou incompletos. Assim, as vítimas acabam desestimuladas a seguir adiante com suas queixas.
De formulários difíceis à inércia: os problemas das plataformas
A pesquisa da Austrália cita alguns exemplos práticos da inércia das big techs diante de casos de exploração sexual infantil e abuso.
Segundo os dados divulgados, o iMessage, da Apple, não usa análises de linguagem para detectar textos suspeitos de criminosos.
Além disso, as vítimas só conseguem denunciar os suspeitos quando eles já publicaram as fotos de nudez no chat, e não quando estão somente no campo das ameaças.
Por outro lado, o Snapchat usa a ferramenta de análise de linguagem, mas somente quando os usuários já foram denunciados. Para o eSafety Commissioner, falta proatividade para a plataforma.
O Discord, que se enquadra em “plataforma de alto risco”, de acordo com a pesquisa, foi criticado por descontinuar testes de análise de linguagem.
Ainda no campo da inércia, o órgão acusou o Whatsapp, da Meta, de não ter categorias específicas para denunciar material de abuso sexual infantil ou extorsão sexual dentro do aplicativo.
Já as ferramentas do Google, como o Meet, Chat e Messages, têm formulários de denúncia “longos e complicados”, que afastam os usuários. De acordo com o relatório, no período de seis meses analisado nenhuma vítima registrou denúncias nessas plataformas.
Entre todas as empresas mencionadas no estudo, o órgão australiano destacou que somente a Microsoft tem ferramentas para interromper abusos sexuais infantis ao vivo nas chamadas de vídeo.
Os riscos da IA para a exploração sexual infantil
O relatório da Austrália orienta que as big techs e outras redes operem para interromper as tentativas de usuários de gerar, acessar ou distribuir material de exploração sexual infantil. Essa orientação inclui aquelas imagens geradas com ajuda de inteligência artificial.
A preocupação é condizente com um relatório divulgado em março deste ano pela Internet Watch Foundation.
De acordo om o órgão, o aumento de imagens de abuso sexual infantil geradas por IA disponíveis online disparou 14% em 2025, com mais de 8 mil fotos manipuladas nas redes.
As meninas aparecem na maioria das imagens produzidas (97%). Além disso, o conteúdo circula não só na dark web, como também na internet aberta e com ajuda de algumas ferramentas, como o Grok.
Pioneira na proibição das redes para menores
A Austrália ganhou as manchetes após por em vigor, no fim de 2025, a proibição de redes sociais para menores de 16 anos. A lei Online Safety Amendment (Social Media Minimum Age) Act 2024 não só obrigava o fechamento de contas de menores existentes nas redes, como também proibia a criação de novas na maioria das plataformas.
A legislação não prevê punições diretas a pais ou crianças que descumprirem a lei, focando nas plataformas. A lista de proibições inclui gigantes como Instagram, Facebook, Snapchat e YouTube.
As multas para as big techs que descumprirem as regras podem chegar a US$ 25 milhões.
Os métodos permitidos para medir as idades incluem o uso de documentos governamentais, reconhecimento facial ou de voz, ou inferência de idade.
A última técnica que estima a idade com base em padrões de comportamento online. Não há previsão de exceção com base em consentimento dos pais.
Fiscalização ativa
Nos primeiros dias, as empresas derrubaram 4,7 milhões de contas, de acordo com a eSafety Commissioner. Apesar dos cancelamentos, adolescentes acharam formas de burlar a regra e o país alertou que as plataformas não faziam o suficiente para controlar esses acessos.
Uma investigação formal aberta em março analisa se as big techs deixaram de tomar ações para proteger os adolescentes. A, ministra das Comunicações da Austrália, Anika Wells, afirmou que o órgão controlador “reúne evidências para ir à Corte Federal e ganhar”.
Leia também | ‘Australia Plus’: Reino Unido veta redes para menores de 16, chatbots românticos para menores de 18 e mais
Leia também | Jovem admite culpa em tribunal e Austrália aplica pela primeira vez lei contra pornografia deepfake
Leia também | Pioneiras no veto a menores nas redes, Austrália e Indonésia endurecem com big techs por descumprimento das leis
