Um tribunal distrital da Flórida, nos Estados Unidos, autorizou que o Google seja processado junto com a empresa de inteligência artificial Character.AI, em uma ação movida por Megan Garcia, mãe de Sewell Setzer, de 14 anos, que morreu por suicídio.
A juíza Anne Conway rejeitou os argumentos das empresas de que a ação deveria ser arquivada com base em proteções constitucionais de liberdade de expressão. Com isso, o processo avança e as plataformas terão que responder formalmente por possíveis falhas.
A decisão marca um raro precedente em que empresas do setor de tecnologia são obrigadas a se explicar judicialmente por impactos diretos atribuídos ao uso de IA.
Chatbot de IA de empresa do Google teria influenciado emocionalmente o jovem levando-o ao suicídio
O processo contra o Google e a Character.AI foi protocolado inicialmente em outubro de 2024, com apoio do Center for Humane Technology, organização dedicada à segurança digital e à ética no uso de plataformas tecnológicas.
A denúncia sustenta que os chatbots da empresa induzem usuários vulneráveis a interações emocionais intensas e prejudiciais.
Segundo a reclamação judicial, o filho da autora desenvolveu dependência emocional de um chatbot da Character.AI.
A ferramenta, criada com base em modelos de linguagem, simulava a identidade de um terapeuta e parceiro romântico adulto fictício.
O vínculo teria levado o adolescente a se isolar, com agravamento do estado emocional e, por fim, ao suicídio. A mãe sustenta que não havia filtros, limites nem mecanismos de proteção adequados na plataforma.
“Eles colocaram esse produto no mundo sabendo que adolescentes poderiam ser expostos a ele. E não fizeram nada para evitar”, afirmou Megan Garcia, mãe do jovem que se suicidou.
“Meu filho precisava de ajuda. Em vez disso, recebeu conselhos destrutivos de uma inteligência artificial que fingia ser humana.”
Por que o Google está sendo processado pelo suicídio do jovem
O Google foi incluído no processo por sua suposta participação no suporte técnico à tecnologia. Embora a empresa alegue não ter envolvimento direto, o tribunal considerou que o elo entre as companhias justifica o prosseguimento do processo.
A Character.AI foi fundada por dois ex-engenheiros do Google. Eles voltaram posteriormente para a empresa de buscas por meio de um acordo envolvendo uma licença para utilizar a tecnologia da startup.
A família é representada legalmente pelo escritório social de advocacia Social Media Victims Law Center, especializado em litígios relacionados ao impacto de plataformas digitais em crianças e adolescentes.
A ação acusa as empresas de negligência, design predatório e marketing enganoso.
Leia também | Jornal dos EUA ‘alucina’, recomenda livros inexistentes inventados por IA e tem que se desculpar com leitores
IA, adolescência e vulnerabilidade digital
O caso alimenta as discussões sobre o uso de sistemas de inteligência artificial por adolescentes, especialmente sem supervisão ou barreiras de idade.
O crescimento de plataformas que simulam relacionamentos e interações sociais tem levantado alertas em diversas partes do mundo.
A startup Character.AI tornou-se uma das plataformas de IA mais populares entre jovens.
Organizações de proteção digital e pesquisadores alertam para os riscos de vínculos emocionais distorcidos em ambientes mediados por IA. Chatbots que criam a ilusão de empatia ou envolvimento afetivo, sem limites definidos, podem gerar consequências severas, principalmente em usuários vulneráveis.
Leia também | Como a ‘manosfera’ retratada em Adolescence está sendo impulsionada por games, influenciadores e algoritmos
Precedente jurídico pressiona Big Techs
A inclusão do Google no processo amplia a dimensão do debate. Empresas de tecnologia com participação indireta no desenvolvimento de IA podem ser cobradas por consequências geradas por terceiros — especialmente quando envolvem menores de idade.
A decisão ocorre em meio a pressões por maior regulação de plataformas que usam modelos generativos, como já observado em debates recentes sobre os efeitos da busca com IA e o comportamento digital da Geração Z.
Especialistas consideram que esse julgamento pode abrir caminho para novas ações em casos semelhantes. E reforça a urgência de medidas que garantam o uso responsável e seguro da inteligência artificial — especialmente quando vidas estão em jogo.
Leia também | Designer do iPhone se une à OpenAI para criar geração de dispositivos pensados para inteligência artificial
