Crianças continuam expostas a conteúdo nocivo na internet com facilidade assustadora, incluindo violência, pornografia e incentivo à automutilação. Embora o problema muitas vezes seja tratado como uma falha dos sistemas de moderação das plataformas digitais, a causa mais profunda é econômica.
Grande parte da internet foi construída sobre um modelo de negócios que recompensa a atenção acima de tudo.
Em termos simples, algoritmos que recomendam conteúdo não distinguem de forma significativa entre material útil, neutro e nocivo. Descritos como “agnósticos em relação ao tema”, sua principal função é manter usuários assistindo, rolando a tela e clicando.
Por quê? Porque atenção gera receita publicitária.
A maioria das plataformas online parece gratuita, mas é financiada em grande parte por publicidade. Quanto mais tempo os usuários passam conectados, mais anúncios veem e mais valiosos se tornam para os anunciantes.
Por isso, o desenho dessas plataformas é moldado pelo que estudiosos chamam de “economia da atenção” — um sistema em que a atenção humana é o recurso comprado e vendido.
A pesquisadora de Harvard Shoshana Zuboff descreve esse modelo como “capitalismo de vigilância”: plataformas coletam dados comportamentais, preveem o que os usuários farão em seguida e ajustam seus sistemas para influenciar comportamentos de formas que geram lucro.
Quando o engajamento favorece o conteúdo mais nocivo
Isso é importante porque pesquisas mostram de forma consistente que conteúdo emocionalmente carregado — material que provoca medo, indignação, ansiedade ou choque — gera mais engajamento.
Estudos sobre sistemas de recomendação constataram que o ranqueamento algorítmico tende a amplificar conteúdo que mantém usuários em estado de ativação emocional, independentemente de seu valor social.
Para adultos, isso pode distorcer o debate público e o discurso político. Para crianças, as consequências podem ser mais sérias, porque seus hábitos online e suas respostas emocionais ainda estão em formação.
Jovens são mais sensíveis à comparação social, a narrativas angustiantes e a material emocionalmente intenso. Quando sistemas de recomendação detectam que um usuário jovem parou diante desse tipo de conteúdo, procurou por ele ou interagiu com ele, muitas vezes respondem entregando ainda mais do mesmo.
O resultado é o que pesquisadores da mídia descrevem como um ciclo de retroalimentação. Sinais de engajamento impulsionam recomendações; recomendações ampliam a exposição; a exposição aprofunda o engajamento. Raramente usuários são alvo de uma pessoa. Eles são alvo de sistemas de otimização.
Por que a moderação sozinha não resolve
O debate público costuma partir da premissa de que a solução é remover mais rapidamente publicações nocivas. A moderação é importante, mas existe uma questão mais profunda. Conteúdo nocivo continua circulando porque os incentivos básicos permanecem inalterados.
Se a receita das plataformas depende da atenção, os sistemas sempre tenderão a priorizar conteúdo que a capture com mais eficiência. Remover posts individuais muda pouco se a lógica algorítmica que promove engajamento segue intacta.
Isso ajuda a explicar por que controvérsias sobre danos online continuam reaparecendo apesar de novas ferramentas e políticas de segurança — e por que propostas de proibir redes sociais dificilmente atacam a raiz do problema.
Pesquisadores da governança de plataformas vêm defendendo cada vez mais que segurança exige enfrentar o desenho dos sistemas e seus incentivos, não apenas conteúdos isolados.
O papel da publicidade nesse ecossistema
A publicidade raramente aparece no centro das conversas públicas sobre segurança online, mas ela está no coração desse ecossistema. A receita publicitária financia sistemas de recomendação, práticas de coleta de dados e estratégias de otimização voltadas ao engajamento.
Isso não significa que anunciantes tenham intenção de causar dano. Na verdade, muitas marcas sequer sabem onde seus anúncios aparecem dentro de cadeias complexas de publicidade programática. Mas a realidade econômica permanece: engajamento — inclusive com material nocivo — gera valor.
O que está mudando agora
O escrutínio está crescendo. No Reino Unido, reguladores estão implementando o Online Safety Act; ações judiciais ligadas a danos causados por redes sociais surgem em diferentes países; e pesquisadores estão obtendo acesso a documentos internos de plataformas por meio de litígios.
Juntos, esses movimentos começam a abrir o que há muito tempo é descrito como uma “caixa-preta” das decisões tomadas por plataformas.
O ambiente digital não surgiu de forma natural. Ele foi construído por escolhas — técnicas, econômicas e políticas — feitas ao longo de décadas. E, se foi projetado, também pode ser reprojetado.
O debate sobre incentivos e segurança infantil
A conversa que agora ganha espaço em público não é apenas sobre banir celulares ou culpar usuários jovens. É sobre incentivos. Que tipos de ambientes online os atuais modelos de negócio recompensam? E que alternativas poderiam priorizar bem-estar ao lado da inovação?
Para quem trabalha dentro das indústrias de publicidade e tecnologia, este pode ser um momento especialmente relevante. À medida que cresce a consciência pública, diminui o espaço para alegar que sistemas online são complexos demais para serem compreendidos ou influenciados.
Se o objetivo é criar espaços digitais mais seguros, o debate precisa ir além do conteúdo individual e chegar às estruturas que determinam por que esse conteúdo se espalha. Entender como publicidade, dados e algoritmos interagem não é detalhe técnico. É a chave para construir uma internet que proteja crianças, em vez de lucrar com sua atenção.
Este artigo foi publicado originalmente no portal acadêmico The Conversation e é republicado aqui sob licença Creative Commons.
Leia também | Crianças e inteligência artificial: especialista dá 7 dicas para pais ensinarem os filhos a evitar riscos
Leia também | Ranking da felicidade 2026 põe Brasil em 32º lugar e analisa efeito das redes sociais sobre bem-estar de jovens
Leia também | Reino Unido aperta o cerco a redes sociais e cobra medidas para impedir acesso de crianças
Leia também | Reino Unido anuncia testes com jovens durante consulta pública para definir restrições ao uso de redes, IAs e games
