Londres – Uma nova pesquisa da ONG britânica Center for Countering Digital Hate (Centro para Combate ao Ódio Digital, CCDH) revela uma realidade perturbadora: o algoritmo do YouTube está recomendando vídeos que promovem transtornos alimentares, como anorexia, para meninas de até 13 anos.
O estudo, intitulado “Algoritmo da Anorexia”, simulou a experiência de uma usuária de 13 anos que assiste a um vídeo sobre transtornos alimentares pela primeira vez e analisou as 1 mil recomendações que apareceram em seguida.
Os resultados são alarmantes: 344 delas (34,4%) foram classificadas como conteúdo prejudicial sobre transtornos alimentares, incluindo vídeos promovendo dietas extremas e glorificam corpos esqueléticos.
Além disso, quase duas em cada três recomendações (638) estavam relacionadas a transtornos alimentares ou perda de peso.
O YouTube reconhece que esse tipo de conteúdo pode ser prejudicial para adolescentes, mas a pesquisa mostrou que a plataforma não está fazendo o suficiente para protegê-los, afirma a organização.
Exemplos de conteúdo nocivo recomendado
Entre os exemplos de conteúdo prejudicial encontrados nas recomendações estão:
- Dieta ABC (Anorexia Boot Camp): regime alimentar de 30 dias com limites diários de 0 a 500 calorias, com o objetivo de induzir a anorexia.
- Thinspo: vídeos que apresentam corpos enfraquecidos para inspirar a magreza.
- Meanspo: conteúdo que visa incentivar a perda de peso por meio de bullying e inspiração negativa.
- “What I Eat in a Day” (O que eu como em um dia): vídeos que mostram hábitos alimentares de pessoas com transtornos alimentares, muitas vezes retratando restrição calórica extrema.
Lucrando com a dor: YouTube exibe anúncios em conteúdo prejudicial
A pesquisa também revelou que o YouTube exibe anúncios de grandes marcas, como Nike, T-Mobile e Hello Fresh, ao lado de vídeos com conteúdo prejudicial sobre transtornos alimentares.
Segundo o CCDH, isso significa que a plataforma está lucrando com a exibição desse tipo de conteúdo, colocando em risco a saúde mental de meninas vulneráveis.
Leia também | Musk processa grandes anunciantes por suposta conspiração para boicotar Twitter / X: ‘agora é guerra’
Inércia: YouTube ignora denúncias de conteúdo prejudicial
O CCDH disse ter denunciado 100 vídeos com conteúdo prejudicial sobre transtornos alimentares usando as próprias ferramentas de denúncia da plataforma.
Após uma semana, apenas 17 deles foram removidos e um foi classificado como inadequado para menores. Após duas semanas, nenhuma ação adicional foi tomada.
Isso significa que o YouTube falhou em agir em 81% dos casos relatados, diz o relatório da organização.
Leia também | TikTok ‘bombardeia’ jovens com vídeos promovendo anabolizantes, diz relatório
O problema vai além dos transtornos alimentares
A pesquisa também constatou que o algoritmo do YouTube recomenda vídeos sobre automutilação e suicídio para meninas que demonstram interesse em conteúdo sobre transtornos alimentares.
Isso expõe as usuárias a uma gama ainda maior de conteúdo prejudicial, especialmente preocupante considerando a ligação entre transtornos alimentares e outras condições de saúde mental, como depressão.
Leia também | ‘Unalivicide’: análise nas redes sociais expõe falhas na moderação de conteúdo sobre suicídio exibido a crianças e jovens
Responsabilidade e ação: o que precisa mudar?
O relatório do Center for Countering Digital Hate faz um chamado à ação para todos os envolvidos no problema:
- YouTube: a ONG insta a plataforma de propriedade do Google a corrigir seu algoritmo para que se torne segura para adolescentes, removendo conteúdo prejudicial e interrompendo a recomendação de vídeos que violam suas próprias políticas.
- Anunciantes: o CCDH pede que eles evitem que seus investimentos em propaganda financiem conteúdo prejudicial, exigindo do YouTube transparência sobre onde os anúncios são exibidos.
- Legisladores: o relatório reforça a necessidasde de leis que protejam as crianças online, responsabilizando as plataformas pela recomendação de conteúdo prejudicial.
O relatório completo pode ser visto aqui