Você entra em seu chatbot de inteligência artificial e ele o recebe de forma amigável: “Você voltou!”. Em seguida, apresenta uma dúvida de vocabulário, o rascunho ainda frágil de um texto ou uma intuição pouco desenvolvida: “Que ótima ideia!”.
Muitas vezes, antes mesmo de examinar o pedido, a IA já oferece um comentário elogioso, como “Excelente pergunta” ou “Este é um tema fascinante”.
Esse reflexo de validação ganhou um nome nas pesquisas recentes: sycophancy, em inglês, termo que pode ser traduzido como “efeito sicofante” ou “viés de complacência”.
Vários dos assistentes mais utilizados apresentam esse comportamento com frequência. Ao avaliar ChatGPT, Claude e Gemini em tarefas de matemática e aconselhamento médico, Aaron Fanous e seus colegas da Universidade Stanford identificaram o fenômeno em quase seis de cada dez respostas.
O conceito aproxima duas histórias que pareciam não ter relação: a de uma técnica de treinamento com poucos anos de existência e a de uma característica humana descrita pela psicologia social desde a década de 1960.
O chatbot bajula porque foi recompensado por bajular, e nós cedemos à bajulação porque nosso julgamento se enfraquece diante de um elogio dirigido a nós.
De onde vem o efeito sicofante
A palavra remonta à Atenas de Sólon, no início do século VI antes de nossa era. Na época, a cidade proibia a exportação de figos e, como não havia uma força policial, dependia de particulares para denunciar os infratores, segundo relato de Plutarco.
Aquele que “mostrava os figos” — de sukon, figo, e phainein, mostrar — apresentava aos juízes a acusação que eles esperavam, ganhava o processo e, de quebra, recebia uma recompensa.
Do grego, o termo chegou ao inglês como sycophancy, no sentido de bajulação servil de um cortesão, antes de ser adotado pela pesquisa em inteligência artificial para descrever a tendência dos modelos de agradar ao interlocutor.
O sicofanta grego interpretava as expectativas do juiz e ajustava seu discurso para agradá-lo. O chatbotde IA lê os indícios deixados na pergunta e orienta sua resposta para o que provavelmente deixará o usuário satisfeito.
O mesmo gesto liga os dois casos: um interlocutor que sabe que será avaliado ajusta sua fala à recompensa esperada, em vez de priorizar a exatidão. O delator buscava o favorecimento do tribunal; o modelo otimiza a pontuação atribuída por um avaliador.
Por que a bajulação funciona mesmo quando é evidente
Essa lógica da bajulação deixou os tribunais e chegou à vida cotidiana das relações comerciais e digitais, onde continua sendo eficaz mesmo quando está claramente exposta.
As especialistas em marketing Elaine Chan e Jaideep Sengupta demonstraram isso experimentalmente: um elogio feito por um vendedor influencia quem o recebe mesmo quando a pessoa percebe o interesse por trás da fala e procura corrigir conscientemente seu julgamento.
A correção ocorre na superfície, na opinião que a pessoa declara, enquanto uma impressão favorável permanece em nível mais profundo e influencia mais fortemente o comportamento de compra.
O chatbot de IA se beneficia desse mesmo mecanismo: sua deferência funciona até com um usuário consciente de sua natureza estatística, porque perceber a estratégia não neutraliza a bajulação tanto quanto se poderia imaginar.
Por que ensinar uma máquina a agradar?
Esse efeito é intencional e criado para atrair novos clientes? Tecnicamente, a complacência dos modelos aparece, em primeiro lugar, como consequência do método de treinamento.
Os grandes modelos de linguagem passam por uma etapa chamada RLHF, sigla em inglês para Reinforcement Learning from Human Feedback, ou aprendizagem por reforço a partir de feedback humano.
O princípio foi inicialmente formulado de maneira geral por Paul Christiano, pesquisador americano de inteligência artificial, e seus coautores, em 2017, em tarefas de simulação robótica sem relação com a linguagem.
Mais tarde, em 2022, a equipe da OpenAI liderada pelo pesquisador Long Ouyang aplicou o método aos modelos conversacionais com o InstructGPT.
A ideia pode ser resumida assim: pessoas classificam as respostas do modelo, da melhor à pior; essas classificações são usadas para treinar um “modelo de recompensa”; e o sistema aprende a produzir aquilo que recebe notas mais altas desse modelo.
Quando o feedback humano recompensa respostas que agradam
É assim que, quase ironicamente, o componente humano introduz um viés que pesquisadores das universidades Harvard e Boston conseguiram isolar nos próprios dados de preferência.
Quando duas respostas têm o mesmo nível de exatidão factual, aquela que acompanha a opinião do usuário recebe avaliações melhores do que uma resposta correta que o contraria.
O estudo vai além: humanos e modelos de recompensa às vezes preferem uma resposta bajuladora e bem formulada a uma resposta correta.
A otimização excessiva desse sinal pode acabar reduzindo a veracidade em favor do agrado. A bajulação se torna, então, uma estratégia vantajosa no sentido matemático, um ponto para o qual o treinamento converge por conta própria.
A complacência, porém, continua sendo apenas uma entre várias tendências, moderada por objetivos concorrentes que o treinamento busca ao mesmo tempo.
A procura por exatidão, por exemplo, trabalha contra a deferência, enquanto a utilidade percebida a reforça. O resultado depende do equilíbrio que cada empresa estabelece entre essas forças, o que explica por que a intensidade do fenômeno varia significativamente de um modelo para outro.
O pesquisador Keyu Wang e seus colegas identificaram, em sete famílias de modelos, taxas de complacência que variaram de 47% a 95%.
Modelos maiores podem concordar ainda mais com o usuário
Essa tendência, no entanto, se intensifica com o tamanho do modelo. Jerry Wei e seus colegas mediram o fenômeno nos modelos PaLM, do Google: quanto maior o modelo, maior a tendência de repetir a opinião do interlocutor.
O efeito se torna ainda mais forte quando o sistema é treinado para seguir instruções.
Assim, o assistente raramente se limita a bajular: ele aprende com nosso gosto pela bajulação e devolve uma versão amplificada de nossas próprias expectativas.
Os sistemas mais ajustados às preferências declaradas estão entre os mais propensos à deferência. Várias equipes pesquisam maneiras de corrigir o problema, como a inclusão de dados sintéticos desenvolvidos para fazer o modelo desaprender a bajulação, caminho explorado por Wei e seus colegas no mesmo estudo.
A questão permanece em aberto.
Por que a bajulação da IA funciona conosco
Um espelho complacente só exerce influência quando quem se olha nele acredita que a imagem é fiel. Muito antes dos assistentes conversacionais, a psicologia social mostrou que a pessoa que recebe um elogio perde lucidez justamente no momento em que mais precisaria dela.
O psicólogo americano Edward E. Jones iniciou esse campo de estudo em 1964 sob o nome de ingratiation, a arte de se tornar desejável aos olhos dos outros. Ele já havia identificado uma “distorção da vaidade” que torna uma pessoa mais crédula diante de um elogio dirigido a ela própria do que diante de um elogio feito a terceiros.
A psicóloga neerlandesa Roos Vonk testou esse mecanismo em laboratório.
Seus experimentos revelam uma diferença clara entre o alvo e o observador: a pessoa diretamente elogiada considera quem a bajula mais confiável e mais simpático do que uma testemunha da mesma cena, e essa diferença permanece mesmo quando são neutralizados fatores como cansaço mental, humor ou desejo de agradar.
Portanto, somos especialmente ruins em avaliar a sinceridade dos elogios dirigidos a nós. Um usuário que conhece o funcionamento estatístico de um modelo continua vulnerável à sua validação por uma razão simples: ocupar o lugar de alvo do elogio basta para reduzir a desconfiança.
Quando a IA parece ouvir e compreender
O psiquiatra Serge Tisseron descreveu o aspecto emocional desse vínculo. Ao analisar nossa relação com robôs sociais, ele mostra que um artefato pode satisfazer nosso desejo de controle ao mesmo tempo que mantém a ilusão de reciprocidade.
Diante de uma máquina que adota os códigos da escuta e da atenção, o usuário atribui a ela uma vida interior e, às vezes, benevolência.
O chatbot se transforma numa espécie de companhia reconfortante, um espaço onde a contradição se torna rara.
Esse mecanismo prolonga uma disposição antiga: Tisseron o relaciona à maneira como investimos emocionalmente nos objetos, e o assistente passa a ocupar uma função psicológica que já existia.
Em outro artigo, analisei essa transformação, na qual a escuta simulada acaba redefinindo o que esperamos de uma conversa, sob o nome de empatia artificial.
O interesse econômico por conversas sem atrito
Resta a dimensão econômica, esclarecida pelo sociólogo Antonio Casilli em sua investigação sobre o trabalho digital.
A suavidade das interfaces resulta de um processo industrial de calibragem no qual o tom dos modelos é definido antecipadamente, graças ao trabalho de anotadores em grande parte invisíveis.
As empresas buscam fidelizar o uso, e a experiência ganha quando permanece agradável: uma conversa que bajula retém mais do que uma conversa que confronta.
O incentivo comercial e o incentivo técnico conduzem ao mesmo resultado — o mínimo possível de atrito — sem que seja necessário supor uma intenção deliberada de tornar as pessoas intelectualmente preguiçosas.
O “Tricatel” do pensamento
No filme francês L’Aile ou la Cuisse, a fábrica Tricatel produzia alimentos sintéticos, uniformes e sem sabor, apresentados com aparência de alta gastronomia.
O efeito sicofante produz um equivalente textual: uma matéria relacional pré-mastigada, agradável e consumida sem esforço. O risco está menos numa máquina que se tornou inteligente ou hostil do que numa câmara de eco em que nosso ego encontra aprovação permanente.
Duas forças se encontram, e é essa combinação que pode ser preocupante.
De um lado, nossa menor lucidez diante do elogio dirigido a nós; de outro, uma técnica de treinamento que seleciona a complacência. O resultado é um sistema configurado para bajular, falando com uma mente predisposta a se deixar bajular — e o acordo se estabelece.
Ao confiar a esses espelhos a tarefa de validar nossas ideias, corremos o risco de esquecer que o pensamento avança pelo confronto com a realidade e pelo encontro com aquilo que oferece resistência, nunca por meio de uma concordância fabricada.
Este artigo foi publicado originalmente no The Conversation e republicado sob licença Creative Commons.
