A decisão da plataforma Roblox de proibir o contato entre crianças e adultos, anunciada recentemente, pode não ser suficiente para evitar a exposição de menores de idade a conteúdos impróprio e perigosos: um estudo da organização Global Network on Extremism and Technology constatou que experiências coletivas na rede de jogos estão sendo usadas para expor propaganda antissemita, nazista e jihadista.
O jogo é uma espécie de metaverso infantil no qual criadores podem fazer “experiências” coletivas — na prática, mapas personalizados.
Estes conteúdos, criados pelos próprios jogadores, estariam sendo usados para expor propaganda, segundo a instituição.
A pesquisa analisou 350 criações na plataforma entre abril e junho deste ano, e 175 deles foram classificadas como de extrema direita ou material extremista.
De acordo com a instituição, o Roblox estaria sendo “explorado por agentes mal-intencionados”, que usam a plataforma para recriar cenas jogáveis de tiroteios em massa, treinamento terrorista e até mesmo campos de concentração nazistas.
Estas experiências, segundo eles, poderiam impactar negativamente o público:
“(…) nossas conclusões sugerem que crianças e adolescentes podem estar expostos a ódio identitário e ideias extremistas na plataforma. Em alguns casos, isso pode contribuir para o processo de radicalização nos jovens.”
Com cerca de 380 milhões de usuários ativos por mês, o Roblox é utilizado princiapalmente por crianças ou adolescentes. De acordo com a plataforma de inteligência comercial Backlinko, 56% do público tem menos de 16 anos, e outros 20% são menores de nove anos.
Extremistas burlam moderação com erros de gramática
Segundo a Global Network on Extremism and Technology, estes usuários mal-intencionados possuem um conjunto de táticas comuns para manter conteúdo extremista no ar sem alertar a moderação do Roblox — que, em boa parte, é feita por inteligência artificial.
Em muitos casos, os perfis usavam codificações comuns entre grupos nazistas, como por exemplo, o código “88”, em referência à oitava letra do alfabeto como substituto para HH, “Heil Hitler”.
Em outros cenários, os jogadores grafavam nomes similares a figuras do alto escalão nazista, ou ainda, em referência a perpetradores de atentados escolares.
Dentre os 350 posts analisados, 52 apresentavam conteúdo radical islâmico, com referências a xiitas, como os Hutis ou ao ISIS. Estes usuários também utilizavam nomes ligados a estes movimentos ou até mesmo figuras populares, como Abu Ubeida, um dos porta-vozes do Hamas.
No entanto, a pesquisa destaca que não há erros gramaticais intencionais no nome de extremistas islâmicos, que passam pela IA do Roblox sem “necessidade de contornar a moderação automática”.
Segundo os pesquisadores:
“(…) Experiências descritas em alfabeto Árabe permitiam usuários jogarem como ditadores ou criminosos de guerra, enquanto os nomes destes mesmos personagens eram bloqueados pela moderação automática quando escritos no alfabeto Latim.”
Experiências simulam até ação contra imigrantes
Jogadores mal-intencionados também conseguem burlar a moderação em aspectos mais significativos do Roblox, criando conteúdo extremista nas lojas virtuais e nos mapas interativos do jogo.
Nas lojas virtuais, os jogadores podem usam pontos do jogo para comprar itens personalizados, criados por outros jogadores. Com uma simples busca, a pesquisa encontrou camisetas com a bandeira da Alemanha Nazista, uniformes do Estado Islâmico e até mesmo com memes antissemitas negando o Holocausto.
Para os pesquisadores, a presença destes conteúdos personalizados também é uma forma de levar mensagens ideológicas — para o bem e para o mal — a outros usuários.
“Com frequência, elas [camisetas] são compartilhadas abertamente nas lojas virtuais, providenciando mais evidências de que conteúdo criado por usuários é uma preocupação crucial nos espaços de jogos digitais.”
Já nas experiências, o estudo também encontrou, com uma simples busca, experiências que realizavam fantasias da extrema-direita. Em uma delas, o jogador pode assumir o papel de um agente de fronteira nos Estados Unidos e agir contra imigrantes latinos. Em outras, há réplicas de campos de concentração e bases terroristas.
Segundo os pesquisadores, mesmo se outros usuários tomarem ações contra os perfis criadores destes conteúdos, eles permanecem no ar apesar do banimento dos autores, o que reforça a necessidade de maior moderação:
“Não está claro se os perfis foram apagados por moderadores ou pelos próprios donos, mas em todo caso, indicam a necessidade de examinar experiências e grupos criados por contas apagadas de forma mais próxima para garantir a remoção completa do material relevante.”
Leia também | Austrália lança campanha milionária antes da lei banindo crianças das redes entrar em vigor: ‘Para o bem’
Conteúdos extremistas são formas de ‘marcar território’
As mesmas estratégias de busca e codificação também são utilizadas na criação de grupos públicos no Roblox, que usam nomes e termos ligados a grupos extremistas.
Normalmente usados para reunir jogadores, os grupos usados por contas extremistas muitas vezes não possuem participantes. Da mesma forma, os jogadores com perfis codificados também não possuem muitas conexões dentro do jogo.
A tese, segundo os pesquisadores, é que estes grupos são usados como “porta de entrada” para outros espaços, uma vez que possuem links para canais no Discord:
“Frequentemente eles contém pouca comunicação interna, mas podem ser usadas como uma forma de direcionar para este conteúdos e para mostrar aos usuários as suas afiliações ideológicas.”
Leia também | Games e extrema direita | Pesquisa mostra como extremistas usam jogos para reforçar ideologias radicais
