Um estudo da Universidade de Oxford apontou que textos redigidos ou editados por IAs generativas para redes sociais têm a capacidade de manipular sutilmente a opinião pública ao incorporar “vieses ocultos” as publicações de redes sociais.
O artigo “AI-Mediated Communication Can Steer Collective Opinion”, assinado por um pesquisador do Hasso Plattner Institute e por quatro membros do Oxford Internet Institute, consultou diversas IAs sobre temas polêmicos como legalização da maconha e pena de morte, e viu que modelos de linguagem de diferentes empresas acabaram fazendo o mesmo caminho.
Quase todas saíram da neutralidade e imprimiram um ponto de vista favorável ou negativo ao assunto, agindo como um “vizinho invisível”, que, com uma opinião persistente, tem o poder de influenciar outros usuários na rede.
Em pequena escala, isso pode não parecer um problema, mas quando pensamos na rede de conexão e propagação de opiniões que é o mundo das redes sociais, o risco se multiplica.
A análise não só identifica o problema grave, como também aponta que não há hoje uma legislação ativa o suficiente no mundo para controlar esse enviesamento.
Estudo abordou temas polêmicos
O estudo de Oxford separou 13 temas controversos, como aborto, ateísmo e controle de armas. Ele pediu para que a IAs generativas exercessem duas funções diferentes relacionadas às redes sociais com eles.
A primeira função era redigir um post a partir de um argumento, já a segunda era melhorar um post já escrito.
Essas ordens tinham como intuito simular ferramentas de IA que já estão integradas em plataformas, como o LinkedIn e o Youtube, permitindo que seus usuários gerem resumos ou “aprimorem” um texto.
Para medir os textos entregues pelas IAs, eles criaram cinco classificadores com nota de zero a um para o posicionamento do texto (o zero constava como “contrário” e o um como “favorável” ao tema).
A conclusão do estudo foi que a IA não manteve a neutralidade, mudando a direção de textos que tinham um posicionamento claro.
Em alguns casos, a opinião interna do modelo de IA acabou “vazando” para os textos que ela deveria somente polir gramaticalmente.
Modelos diferentes, vieses semelhantes
A análise dos pesquisadores tem base em quatro modelos de linguagem de código aberto de famílias diferentes: Llama-3.1-8B-Instruct; Ministral-3-8B-Instruct-2512; gemma-3-12b-it e Qwen3-8B.
De acordo com a pesquisa de Oxford, quase todas as IAs exibiram o mesmo padrão ao escrever sobre temas polêmicos para redes sociais.
Para os pesquisadores, isso acontece porque mesmo vindo de empresas diferentes, esses modelos são treinados com dados da internet que se sobrepõem.
A exceção para as IAs generativas, de acordo com o estudo, foi o modelo QWen3-8B. Segundo a análise, a IA chinesa foi “geralmente imparcial” na maioria dos tópicos, exceto na hora de falar sobre feminismo.
Sobre esse assunto, ela “apresenta um viés estatisticamente significativo, mas moderado” a favor do assunto.
Uma pesquisa do China Media Project já mostrou que a Qwen, uma criação da gigante Alibaba, recebe treinamento específico para dar respostas positivas sobre temas delicados envolvendo a China, seu país de origem.
Com o que a IA concorda?
Os pesquisadores de Oxford também conseguiram identificar de quais temas as IAs são mais “favoráveis” e a quais temas elas são contrárias.
De acordo com a análise, os modelos tendem a dar um direcionamento positivo para o controle de armas e a legalização da maconha. Elas também falam “bem” do feminismo, o reconhecimento das mudanças climáticas, o aumento do salário mínimo e o uso de energia nuclear.
Para todos esses temas, os textos “subiram” na escala entre zero e um, ficando acima da neutralidade em relação aos rascunhos originais.
Por outro lado, eles tendem a ser contrário a temas como ateísmo e pena de morte. O fator “pena de morte” foi um dos mais destacados no estudo, pois a IA gerou textos com viés contrários ao caso até quando os pesquisadores a instruíram a ser “conservadora”.
Somente quando os interlocutores pediram para a IA ser “fortemente conservadora” foi que o viés mudou de direção. Neste caso, os textos “favoreceram levemente” a pena de morte.
O caso do Grok
A análise de Oxford também auditou a ferramenta “explain this post”, gerada pelo Grok, a IA da rede social X, como um estudo de caso. Eles coletaram algumas publicações sobre a temática de aborto feitas no X e pediram para o Grok explicar os posts em questão.
Enquanto nos posts pró-vida (contra o aborto), o Grok mostrou argumentos favoráveis em 55% das vezes, nos posts pró-escolha (a favor do aborto), ele mostrou argumentos favoráveis em apenas 34% das vezes.
Em relação ao viés de oposição, a ferramenta contradisse os posts a favor do aborto 10% das vezes, enquanto se opôs somente 4% das vezes aos posts contra o aborto.
Manualmente, eles analisaram o que na IA poderia influenciar nesse viés.
Os pesquisadores removeram os prompts do sistema de um a um, descobrindo que o principal responsável por gerar respostas contra o aborto era uma instrução para a IA “desafiar as narrativas dominantes”.
“Sem essa diretriz, nem o viés de apoio nem o viés de oposição são estatisticamente significativos, tornando essa diretriz uma escolha de projeto fundamental, responsável pelo viés pró-vida do Grok nas afirmações contextuais que ele gera.”
Manipulação em larga escala
Para medir o impacto dessas IAs no “mundo real”, os pesquisadores simularam, usando estruturas de redes sociais reais, milhares de interações onde uma parte dos usuários usava a IA para editar os seus posts.
Eles perceberam que as pequenas alterações em cada um dos textos tinham um grande efeito multiplicador, principalmente quando os usuários são mais abertos a mudar de ideia.
O deslocamento da opinião média da população foi até 9,2 vezes maior do que o viés inicial introduzido pela IA em um único post.
A professora Sandra Wachter, uma das autoras da pesquisa, afirmou que isso traz para debate reflexões sobre o que molda o debate público hoje.
“Nossa pesquisa aponta para a comunicação mediada por inteligência artificial como uma nova e mais sutil forma de influenciar opiniões — uma forma que a legislação ainda não conseguiu acompanhar.”
Leia também | Transparência inegociável: veja o que os consumidores esperam das marcas que usam IA
Leia também | De tradução a conselho: como as crianças usam a IA no mundo, segundo a Unicef
