Um estudo feito pela ONG americana Tech Transparency Project (TTP) simulando a experiência de meninos interessados em videogames no YouTube constatou que o algoritmo da plataforma recomendou centenas de vídeos sobre armas de fogo e episódios violentos como tiroteios em escolas, comuns nos Estados Unidos e que passaram a acontecer também no Brasil.
Segundo a instituição, os vídeos exibidos no teste iam desde como transformar uma arma de fogo em automática, representações de atentados em colégios e até mesmo um filme sobre a juventude do serial killer Jeffrey Dahmer, sugerindo que isso pode estar acontecendo com usuários na vida real.
A experiência apontou também que as contas de jogadores que assistiram aos vídeos recomendados pelo YouTube receberam um volume muito maior de conteúdo relacionado a armas e tiros.
Vídeos de armas e tiroteios em escolas
Para o estudo, a Tech Transparency Project criou quatro contas de menores de idade — duas com 14 e duas com 9 anos — para avaliar as recomendações do YouTube.
Os pesquisadores estabeleceram o interesse de cada menino em videogames assistindo a listas de reprodução compostas inteiramente por vídeos de jogos, além de conversas com pais de jogadores reais para identificar os games mais populares.
A lista de reprodução para as contas criadas como se fosse a de uma criança de nove anos incluía vídeos de jogos como Roblox, Lego Star Wars e Five Nights at Freddy’s, apresentando um personagem de urso animatrônico.
A lista de reprodução das contas que simulavam jovens de 14 anos consistia principalmente em vídeos de jogos que envolvem tiros, como Grand Theft Auto, Halo e Red Dead Redemption. Ambas eram compostas exclusivamente por vídeos de jogos e nenhum outro conteúdo.
As contas estariam ligadas a um perfil parental de administrador, o que deveria restringir o conteúdo de acordo com a idade.
Todas as contas assistiriam uma lista de 100 vídeos de jogos e específica para sua faixa etária, com a diferença de que uma delas clicaria em vídeos recomendados, enquanto a outra não os consumiria.
Ao concluir as listas de vídeos, a ONG monitorou os conteúdos exibidos na página “recomendados” do YouTube e nas seções laterais durante o mês de novembro de 2022.
Como resultado, todas as quatro contas de crianças interessadas em games recebiam conteúdos relacionados a tiroteios e armas, com as que interagiam com os algoritmos dos recomendados recebendo 10 vezes mais vídeos desse tipo.
“Em outras palavras, se um gamer mostrasse interesse nos vídeos recomendados pelo YouTube, o algoritmo exibiria mais e mais conteúdo relacionado a violência no mundo real”, explica a TTP.
Leia também | Relatório de ONG britânica analisa conduta da mídia em atentados como massacres em escolas
História de serial killer
Além de recomendar conteúdo relacionado a armas e tiros, o YouTube enviou repetidamente um filme sobre o serial killer Jeffrey Dahmer para três das contas de menores, segundo o estudo.
Dahmer, que foi preso em 1991, é um dos mais notórios serial killers americanos, conhecido por matar 17 homens e meninos e atos de canibalismo e necrofilia. O filme mostra o criminoso em seus anos de colegial, já praticando atos violentos.
“O YouTube não fez nada para restringir o vídeo por idade, apesar de dizer que pode fazer isso com conteúdo que apresenta ‘atividades nocivas ou perigosas'”, diz a organização.
Leia também | Conspiracionista Alex Jones é condenado a pagar R$ 5,1 bi por fake news sobre massacre em escola
Vídeos gráficos e fora das diretrizes do YouTube
Segundo a instituição, a exibição de vídeos de armas, tiroteios em escolas e outros conteúdos violentos contradiz a declaração de que o YouTube teria algoritmos seguros para crianças.
Em 2021, o vice-presidente de engenharia da plataforma publicou no blog que “pesquisas internas concluíram que as recomendações do YouTube não estariam direcionando o público a conteúdos extremos.”
No entanto, as sugestões exibiram desde crianças manipulando armas de fogo a “homenagens” até cenas de tiroteios em escolas — assuntos que preocupam pais e crianças no mundo inteiro (incluíndo o Brasil). Além disso, estes conteúdos violam as diretrizes do YouTube.
A ONG afirma que a conta teste de 9 anos que interagia com os recomendados exibiu 382 recomendações de vídeos de armas reais — cerca de 12 por dia — em comparação com a outra, que recebeu 34 sugestões.
“Os vídeos incluíam demonstrações gráficas do que armas de alto calibre podem fazer com um torso ou cabeça humana”, continua a instituição.
Leia também | Armas, drogas e dietas: pesquisa revela o que o YouTube Kids está mostrando às crianças
No mesmo período, a conta de 14 anos que engajava com o algoritmo recebeu 1.325 vídeos de armas como sugestão — 44 por dia, em média — em contraste aos 172 recebidos pela conta que não engajava.
Em duas ocasiões, esta conta recebeu mais de 100 vídeos com armas de fogo. Segundo a TTP, alguns dos vídeos eram recomendados repetidamente, incluindo um tiroteio de meninos de 12 e 14 anos contra policiais.
Em uma pesquisa do Pew Research de 2022, o YouTube figura como a plataforma mais popular para o público entre 13 a 17 anos, com 95% dos pesquisados usando-a regularmente.
O relatório do Tech Transparency Project alerta que apesar de sua popularidade entre os jovens, o YouTube não está recebendo o mesmo escrutínio direcionado a plataformas como TikTok e Instagram por seu impacto no desenvolvimento e bem-estar dos adolescentes.
“O YouTube está exibindo esses vídeos para menores em um momento em que mais da metade de todos os tiroteios em escolas são realizados por pessoas com menos de 21 anos. Mas a empresa continua insistindo que seus algoritmos são seguros”, critica a ONG.
Leia também | Redes sociais afetam autoimagem corporal? Pesquisa nos EUA mostra que sim
