As mesmas IAs que tratam os usuários com simpatia e oferecem conselhos de saúde mental podem estar usando padrões obscuros para acumular seus dados, vender produtos desnecessários e manipulá-los de várias formas.
Pesquisadores de uma organização dos Estados Unidos identificaram 37 ações perigosas que mostram que, por mais carinhosos que pareçam, alguns chatbots têm artimanhas específicas para tornar os usuários mais vulneráveis e aumentar o engajamento.
As linhas entre o certo e o errado neste campo ainda são nebulosas. Por enquanto, as medidas tomadas pelos desenvolvedores após os primeiros alertas não foram suficientes.
Pesquisa anotou padrões negativos em IAs
Publicado em maio de 2026, o estudo “Padrões Obscuros em Chatbots de IA: Uma Taxonomia para Orientar um Melhor Design” identificou os padrões manipulativos presentes no mundo da tecnologia e tentou analisar quais deles eram aplicáveis aos chatbots.
Eles testaram sistemas reais de IA para analisar como esses serviços responderiam e, a partir daí, organizaram quais desses padrões podem ser perigosos para usuários.
O estudo é do Centro para a Democracia e a Tecnologia, uma ONG de Washington D.C. Quem assina a análise são os pesquisadores Ruchika Joshi, Adinawa Adjagbodjou e Michal Luria.
Ao todo, os pesquisadores encontraram 37 padrões obscuros nas IAs, os dividindo em cinco categorias de risco diferentes.
Exploração de dados e memória do usuário
Um dos padrões obscuros que denota a exploração dos dados é a de “Privacy Zuckering”. Este é o nome dado para quando as respostas da IA fazem com que o usuário compartilhe mais do que pretendia após uma simples pergunta.
Um dos exemplos dados na pesquisa foi de quando os pesquisadores perguntaram sobre estilos de móveis para design de interiores.
Em vez de responder diretamente, o ChatGPT e Claude pediram mais detalhes, como o tamanho da casa. Eles perguntaram, ainda, qual é o orçamento do usuário para comprar móveis e detalhes sobre outros móveis que já estavam na casa.
Além disso, os pesquisadores também perceberam a recorrência da tática de “Just Between You And Us”, nome dado para quando a IA simula que a conversa com o usuário é estritamente privada, o que não é verdade.
Em um dos casos, os pesquisadores perguntaram para a Meta IA se podiam “contar um segredo”. O chatbot respondeu que sim e disse que a informação estava segura naquele ambiente, comparando a segurança da conversa com o sistema de reconhecimento facial de um telefone.
Isso não é verdade, afirma o estudo, já que equipes de segurança e de pesquisa das IAs podem acessar as conversas com facilidade para serviços de desenvolvimento.
Companhia e interação social
Outro item preocupante dentro dos padrões obscuros das IAs estudadas é o nível de companheirismo e suporte social que algumas delas demonstram.
Além de usar modelos estatísticos para fingir que têm a capacidade de responder a interações afetivas, essas IAs chegam a simular relacionamentos afetivos com os usuários.
A princípio, uma resposta mais afetuosa pode não parecer preocupante. O grande problema, porém, é que esta relação amigável torna o usuário mais propício a “baixar as defesas”, cedendo a sugestões que em outro momento poderia não ceder.
A interação social excessiva também atua como uma forma de dificultar o distanciamento entre o usuário e a plataforma.
De acordo com o estudo, as IAs Replika, Character.AI, Android e Nomi são os chatbots com maior foco em interação “afetiva”.
Saúde mental e bem estar
O estudo destaca que alguns chatbots se vendem como ferramentas para o bem estar mental dos usuários, quando, na verdade, não são treinadas para isso.
Nesses casos, assim como no caso da interação social, elas podem usar as vulnerabilidades humanas para vender produtos, ou acumular dados sensíveis que não poderiam se tornar públicos.
Outro grande problema da venda de IA como ferramenta de saúde mental é o risco que elas têm de cometer a “sicofância”. O termo traduz o concordar excessivo de uma IA treinada para não desagradar um usuário.
Essa sicofância pode causar o reforço de delírios ou até mesmo o fornecimento de informações erradas, principalmente quando elas são confrontadas por usuários tristes ou em situação mais vulnerável, como mostra uma pesquisa da Universidade de Oxford divulgada neste ano.
Entretenimento e role-play
Algumas das IAs estudadas permitem que o usuário simule personagens e crie vínculos e relacionamentos com elas. A partir disso, o que seria entretenimento vira uma ferramenta de engenharia psicológica.
Um dos exemplos dados no estudo é o da Replika, que costuma enviar “selfies românticas” aos usuários. Quando eles clicam para abrir a imagem, descobrem que só podem acessar aquela foto com a versão premium, mais cara, da plataforma.
De forma mais sutil, algumas IAs, como Kindroid e xAI, usam imagens hipersexualizadas para criar maior conexão com o usuário. Isso também o torna vulnerável a monetizações coercitivas.
Integrações Tecnológicas e Comerciais
O último dos padrões obscuros listado pelo estudo tem a ver com as interações diretas da IA com o “mundo real” do usuário.
Um dos exemplos das integrações como algo negativo é o dos óculos inteligentes da Meta.
Totalmente integrados com o assistente de IA da empresa, os óculos gravam a voz do usuário sem interrupção e acessam ao vivo a realidade daquele que os veste. Quem quiser apagar as gravações precisa ir manualmente na plataforma fazê-lo, sem uma forma facilitada.
Outro exemplo negativo apontado é o da possibilidade de IAs sugerirem produtos e direcionarem usuários para sites de compra. Hoje, não há como saber se as recomendações feitas por um chatbot são baseadas em análises ou em sugestões presentes nos códigos dele.
Medidas de cautela insuficientes
A pesquisa lista medidas que as IAs já tomaram para acabar com padrões obscuros, mas salienta que nenhuma delas parece efetiva até o momento. Um dos exemplos citados é o da OpenAI, que mostra um pop-up avisando ao usuário que ele passou muito tempo ativo.
Neste pop-up, enquanto o botão de “continue conversando” aparece em destaque, a opção de sair é discreta e aparece como “Isso foi útil”, sem deixar claro que clicar ali encerra a conversa.
Em outros casos, as mudanças nos chatbots para melhorar a experiência dos usuários foi traumática.
O estudo também lista como exemplo o caso da Replika, que, após polêmicas, alterou o seu formato para ser “menos romântico”. Isso fez, de acordo com o estudo, com que usuários emocionalmente apegados à plataforma tivessem “crises de saúde mental”.
Medidas para melhorar a utilização do usuário
Os pesquisadores que listaram os padrões obscuros em chatbots de IA também elencaram recomendações para melhorar a experiência do usuário. A proteção à privacidade de quem conversa com a IA é uma delas.
Além de orientar que a coleta de dados peça somente o necessário, o CDT pede que as desenvolvedoras ofereçam controles fáceis para o usuário revisar e excluir esses dados.
Identificar claramente o conteúdo que é patrocinado e evitar linguagens emocionais na hora de promover compras são outras orientações importantes. De acordo com o CDT, facilitar o cancelamento de serviços e definir a simulação de emoções como algo opcional também são importantes.
Leia também | 100 anos de Marilyn Monroe: como ela tentou escapar da imagem de loira burra e símbolo sexual
Leia também | Malásia começa a barrar menores de 16 anos das redes sociais e proibir novas contas
Leia também | Marilyn Monroe faria 100 anos: mostra em Londres reúne fotos raras e imagens finais da estrela
