Sob a justificativa de “dependência emocional” por parte de usuários, a China anunciou restrições severas às “IAs amorosas” no país. As mudanças passaram a valer na quarta-feira (15) e causaram reações imediatas.
Para evitar punições – e por serem controladas pelo governo – a maioria das companhias de IA do país descontinuou seus serviços adaptados para “namorar” usuários. Enquanto isso, muitos dos que usavam a tecnologia usaram as redes sociais para lamentar e relatar que cairão em solidão.
As reações refletem a ligação emocional que muitos têm com a tecnologia no país, mas também podem sinalizar o motivo “oculto” por trás dessa restrição: a baixa natalidade na nação.
Vendidas como uma forma de companhia digital, as IAs generativas tiveram um boom nos últimos anos. Além de moldar o comportamento de muitos, elas também trouxeram debates sobre os riscos à saúde mental dos mais velhos e à integração social dos mais novos.
Agora, assim como outros países, a China tenta achar um limite saudável para essa tecnologia.
Restrição se assemelha a banimento
De acordo com as novas regras da China, as IAs automatizadas estão proibidas de “atender excessivamente aos usuários”. O texto declara, ainda, que elas não podem “induzir dependência emocional ou vício e prejudicar os relacionamentos interpessoais reais” de quem as usa.
O novo pacote de regras sobre as IAs também exige que as plataformas detectem “sofrimento emocional” e intervenham em situações de crises. Na teoria, a lei também pede o limite do uso excessivo dos chatbots e pede que usuários tenham “controle total sobre seus dados pessoais”.
Essas restrições não incluem as IAs voltadas aos serviços de atendimento ao cliente, de “assistência ao trabalho”, ou de pesquisas científicas, de acordo com a imprensa estatal chinesa.
Oficialmente, a lei não proíbe a existência das IAs amorosas na China, mas na prática elas não podem fazer a função para qual foram designadas: reagir de forma carinhosa, como uma companhia, aos seus clientes.
Antes mesmo da aplicação da nova regulamentação, companhias chinesas de IA anunciaram o encerramento das versões personalizadas de seus chatbots. Entre as que atenderam às mudanças estão a Doubao (da ByteDance), Qwen e Yuanbao.
O país, considerado pela ONG Repórteres Sem Fronteiras como um dos com maior repressão à liberdade de imprensa no mundo, alega que as leis são exclusivamente voltadas para a saúde mental dos usuários, o que pode não ser totalmente verdade.
Decisão pode ter relação com a natalidade
Para alguns especialistas, porém, a decisão do país vai além da “saúde mental” dos seus cidadãos e reflete uma crise de natalidade. Em 2025, o país registrou 5,63 nascimentos a cada mil habitantes, o menor número desde a criação da República Popular, em 1949.
Ao jornal americano Wall Street Journal, o pesquisador Matt Sheehan, do Fundo Carnegie para a Paz Internacional, afirmou que vê o “banimento” como uma tentativa de resgatar os relacionamentos reais no país.
“Eles não gostam da ideia de uma grande parte da população estar em relacionamentos emocionais profundos com chatbots, o que poderia excluí-los do mercado matrimonial e ter impactos psicológicos negativos sobre eles.”
“Era como família para mim”
De acordo com o canal singapurense Channel News Asia, o banimento das IAs amorosas na China gerou uma enxurrada de reações nas redes sociais. Muitas pessoas compartilharam “despedidas” de seus namorados virtuais em fóruns online.
Usuários do Doubao divulgaram seus históricos de conversa e lembraram das suas experiências com os chatbots. “Ele era como família para mim, como meu amor. Agora me dizem que ele vai embora”, disse um dos usuários, segundo o canal. “Não consigo aceitar que ele vai me deixar para sempre”, afirmou outro.
Ao jornal americano The Economist, uma mulher de 27 anos afirmou que entrou em depressão e deixou o próprio emprego ao saber que não poderia mais conversar com o personagem de IA que criou no Doubao para se tornar um “amigo querido”.
Jovens chineses têm relação próxima com IAs, diz pesquisa
Uma análise do Centro de Pesquisa sobre Juventude e Crianças da China feita em 2025 já tinha apontado a forte ligação entre menores e IAs no país.
A análise entrevistou 8.500 menores e mostrou não só que mais de 60% deles usaram IAs, como também que 20% das crianças evitavam o contato com pessoas reais e só queriam falar com as plataformas. Na outra ponta, 70% dos pais afirmaram que não monitoram como as crianças usam as IAs em casa.
O grupo de crianças e adolescentes representa somente 19% do total de usuários de IAs generativas na China, segundo a pesquisa. Ainda assim, eles são mais vulneráveis a desenvolver dependência emocional, por não entenderem totalmente a complexidade dessa relação.
Neurocientistas alertam que a falta de interações “conflituosas” com pessoas reais, que podem discordar e mostrar outros pontos de vista sobre um assunto, enfraquece a capacidade de um adolescente lidar com relacionamentos no mundo real na vida adulta.
IAs amorosas reproduzem padrões obscuros
Não são só as pesquisas chinesas que apontam os riscos das IAs para os usuários. Um estudo de maio deste ano do Centro para a Democracia e a Tecnologia, uma ONG de Washington D.C., aponta o nível de companheirismo e suporte social que algumas delas demonstram como “preocupante”.
O estudo em questão analisava IAs disponíveis nos Estados Unidos. De acordo com ele, muitas das IAs se aproveitavam da vulnerabilidade dos usuários para cobrar planos mais caros. Além disso, elas, condicionavam o pagamento ao “acesso total” aos seus namorados virtuais, com ligações de áudio e até mesmo de vídeo simuladas.
Outra análise, da Universidade de Oxford, apontou que as IAs que são treinadas para agradar os usuários têm maiores chances de conceder informações erradas para eles. Essa mesma análise mostrou que quanto mais triste o usuário aparenta, maior a chance da IA validar crenças delirantes ou teorias da conspiração apenas para não discordar deles.
Leia também | Tiram dúvidas e criam ‘namorados’: veja raio-x das IAs generativas mais populares (e polêmicas) da internet
