A morte de uma menina durante uma transmissão ao vivo no Discord intensificou no Brasil um debate que tem chegado aos tribunais em vários países: o papel das redes sociais e dos chatbots de IA na saúde mental de jovens e sua contribuição para o suicídio de menores de idade.
Embora não haja consenso acadêmico entre a relação de causa e efeito do que se vê nas redes, os riscos têm sido apontados por ONGs de defesa de crianças e é tema de debates neste Dia Mundial de Prevenção contra o Suicídio (10 de setembro).
Os processos movidos contra as redes sociais e chatbots vão de casos de suicídio a distúrbios alimentares, passando por problemas ansiedade desenvolvidos ainda na infância e questões de autoimagem.
O que advogados tentam provar em tribunais – e que já foi aceito por alguns júris – é que há ligação direta entre os algoritmos dessas redes e as situações vividas pelas vítimas.
No caso do suicídio, há processos envolvendo ao menos cinco mortes na França, quatro nos Estados Unidos, uma na Itália e uma na Escócia, além de milhares de ações relacionadas a outros danos à saúde mental de jovens.
Morte de jovem ao vivo no Brasil
Em julho, uma adolescente de 13 anos do interior de Mato Grosso do Sul transmitiu a própria morte ao vivo na plataforma Discord, e o vídeo foi compartilhado em fóruns do site. De acordo com a polícia, ela teria sido coagida e ameaçada por um grupo de ódio dentro da rede social.
Um adolescente de 14 anos seria o líder do grupo e foi apreendido, assim como outros quatro adolescentes e um adulto de 18 anos.
Depois do crime, a Autoridade Nacional de Proteção de Dados determinou a suspensão de todas as transmissões ao vivo do Discord no país. Além disso, a AGU moveu uma ação civil pública pedindo R$ 500 milhões em multas pelas falhas para proteger os menores no país.
Famílias acusam plataformas de contribuir para mortes de jovens
Os processos alegando contribuição para o suicídio no mundo não chegaram ainda a julgamento final.
Mas colocam as plataformas sob pressão e ajudam a justificar as leis restringido acesso de menores a redes sociais e chatbots que se espalham por vários países após o pioneirismo da Austrália.
Reino Unido: famílias processam TikTok
Famílias britânicas processam o TikTok nos Estados Unidos após a morte de seus filhos, com idades entre 12 e 14 anos. Elas alegam que os adolescentes foram expostos pelo algoritmo a conteúdos perigosos, incluindo o chamado “blackout challenge”, desafio de sufocamento que circulou na plataforma.
Uma das mães, Ellen Roome, transformou a morte do filho Julian “Jools” Sweeney, de 14 anos, em uma campanha para garantir a preservação dos dados digitais de crianças após a morte. A iniciativa ficou conhecida como “Jools’ Law” e levou a uma mudança na legislação britânica em 2026.
Em julho, a Alta Corte britânica determinou ainda a realização de um novo inquérito sobre a morte de Jools, por considerar que evidências digitais relevantes não haviam sido suficientemente examinadas.
Estados Unidos: quatro famílias processam grandes plataformas
Nos Estados Unidos, famílias de quatro adolescentes, com idades entre 13 e 18 anos, que morreram por suicídio entre 2024 e 2025 processam Meta, TikTok, Snap e Google, controladora do YouTube.
Elas afirmam que recursos destinados a aumentar o engajamento e os sistemas de recomendação das plataformas contribuíram para dependência, privação de sono, ansiedade e depressão. As empresas contestam as acusações.
França: famílias acusam algoritmo do TikTok
Na França, famílias também acionaram a Justiça contra o TikTok, acusando seu algoritmo de recomendar a adolescentes vulneráveis conteúdos relacionados a transtornos alimentares, automutilação e suicídio. Cinco das famílias envolvidas perderam filhas por suicídio.
O caso ganhou também uma frente criminal. O Ministério Público de Paris abriu uma investigação contra o TikTok para apurar, entre outras suspeitas, possível incitação ao suicídio e promoção de automutilação entre menores.
Itália: dez famílias acionam Meta e TikTok
Entre elas estão os pais de Rossella Ugues, que morreu por suicídio aos 12 anos, em fevereiro de 2024. Eles afirmam que, depois que a filha começou a procurar conteúdos relacionados ao que sentia, os algoritmos passaram a recomendar publicações sobre depressão e automutilação.
A ação pede ainda mudanças na rolagem contínua e nos sistemas de recomendação, verificação de idade mais eficiente e informações mais claras sobre os riscos das plataformas para menores.
Chatbots de IA também chegam aos tribunais
Flórida: processo contra Character.AI termina em acordo
Um dos primeiros casos a discutir a responsabilidade de uma empresa de inteligência artificial pela morte de um adolescente foi aberto por Megan Garcia, mãe de Sewell Setzer III, de 14 anos, que morreu por suicídio na Flórida em 2024.
Ela alegou que o filho desenvolveu uma relação de dependência emocional com um chatbot da Character.AI. Em 2025, uma juíza federal permitiu que pontos importantes do processo contra Character.AI e Google avançassem. O caso terminou em acordo em janeiro de 2026.
Outros processos contra Character.AI terminam em acordo
O caso de Sewell não foi o único. Character.AI e Google chegaram a acordos para encerrar cinco processos apresentados nos Estados Unidos envolvendo alegações de danos graves a menores.
Entre eles estava também a ação relacionada à morte por suicídio de Juliana Peralta, de 13 anos, no Colorado. Outros casos envolviam acusações de automutilação e danos psicológicos. Os termos dos acordos não foram divulgados.
Família de Adam Raine processa OpenAI
Outro processo, ainda em curso, foi aberto pelos pais de Adam Raine, de 16 anos, contra a OpenAI e seu presidente, Sam Altman. O adolescente morreu por suicídio na Califórnia em abril de 2025.
A família afirma que, durante meses de conversas, o ChatGPT validou pensamentos suicidas e forneceu informações relacionadas a métodos de automutilação. Após o caso, a OpenAI anunciou novas medidas de segurança e controle parental. A empresa contesta as acusações e afirma manter salvaguardas para usuários em crise.
Flórida também processa OpenAI
Em junho de 2026, o próprio estado da Flórida abriu uma ação contra a OpenAI, acusando a empresa de minimizar riscos associados ao ChatGPT, especialmente para crianças e adolescentes.
O processo trata de riscos relacionados ao uso compulsivo do chatbot e de suas respostas a pessoas em crise. Entre os episódios citados está a morte de Adam Raine.
O emblemático caso de Molly Rose
Um dos casos mais emblemáticos envolvendo a morte de uma adolescente por influência das redes sociais foi o da britânica Molly Rose Russel. A garota de 14 anos tirou a própria vida em 2017.
Esse foi um dos primeiros casos que associou formalmente as big techs à morte de uma adolescente, o que foi apontado pela investigação policial.
A morte da menina culminou na criação da Fundação Molly Rose, que alerta para a segurança de adolescentes na internet.
O pai de Molly, Ian Russell, virou uma voz ativa em prol da mudança nos algoritmos. Ele chegou a criticar a decisão do Reino Unido de proibir as redes para menores de 16 anos.
Para ele, proibir as redes no lugar de exigir uma mudança nos algoritmos delas torna o “caminho mais fácil” para o governo. Ao mesmo tempo, essa mudança é menos efetiva para proteger as crianças.
O papel da IA
O avanço da IA também tem contribuído para a deterioração da saúde mental de jovens, principalmente de garotas. No caso delas, um dos maiores problemas é a manipulação das suas imagens de forma sexualizada nas redes sociais.
Um alerta da Associação Americana de Psicologia feito em 2025 destacou a proteção das imagens dos jovens como um dos principais pontos para balizar empresas de IA. De acordo com eles, a falta de cuidado com essas imagens pode reforçar o cyberbullying, os deepfakes sexuais, e o discurso de ódio online.
“Essas práticas podem ter graves impactos psicológicos e emocionais em jovens, incluindo maior risco de depressão, ansiedade e comportamentos relacionados ao suicídio.”
Adultos também estão vulneráveis
Apesar do forte debate sobre como as redes influenciam na saúde mental de crianças e adolescentes, jovens e adultos também estão sob riscos.
Uma comissão da Austrália Meridional instaurou em agosto um inquérito parlamentar para tentar entender os principais desafios para a saúde mental dos homens.
De acordo com o governo, a maior causa da mortes entre 15 e 44 anos é o suicídio.
Um dos pontos analisados pelos parlamentares no inquérito é o papel das redes sociais na saúde mental dessas vítimas. Esse papel deve ser analisado principalmente diante de ambientes como a machosfera.
“Nos tempos modernos, acrescente ao problema intergeracional do suicídio os algoritmos que levam jovens vulneráveis, que podem não ter bons modelos a seguir em suas vidas, a buscar conselhos em lugares indesejáveis”, afirmou Hilton Gumbys, membro do Conselho Legislativo do Partido Trabalhista, ao canal Australian Broadcasting Corporation.
Outros processos pelo mundo
Processos com acusações de ansiedade, depressão e problemas de imagem acabaram com a Meta precisando pagar indenizações. Um deles para uma mulher da Califórnia e outro para a Procuradoria-Geral do Novo México (que valeu bilhões).
Em agosto deste ano, a big tech também fechou um acordo de cerca de US$ 18 bilhões para encerrar um processo movido por dezenas de casos dos Estados Unidos.
Neste caso, pela primeira vez, a companhia também se comprometeu a fazer mudanças em como as notificações apareceriam para crianças e adolescentes.
Leia também | Limites para menores nas redes da Meta aceitos em acordo nos EUA podem ganhar o mundo? Países elevam pressão
Leia também | Ações da Meta sobem após empresa aceitar acordo bilionário e restrições a crianças no Instagram e Facebook: por quê?
Leia também | Suicídio de adolescente na Itália une 10 famílias em ação coletiva contra algoritmos da Meta e do TikTok
Leia também | Meta faz acordo e evita julgamento em ação de escola do Kentucky por impacto das redes sociais sobre alunos
