Londres – Uma auditoria do projeto contra a desinformação online NewsGuard, dos EUA, revelou que os principais chatbots dos sistemas de inteligência artificial (IA) estão gerando de forma convincente narrativas fabricadas provenientes de sites ligados à Rússia disfarçados de veículos de notícias com nomes de cidades americanas em um terço de suas respostas.
A investigação foi conduzida com base em desinformação originada de uma rede de veículos de notícias falsas criada por John Mark Dougan, um ex-xerife da Flórida que fugiu para Moscou após ser investigado por invasão de computador e extorsão, e que se tornou peça vital na rede global de desinformação da Rússia, segundo o NewsGuard.
O estudo aponta que os chatbots têm elementos para saber sobre as atividades de Dougan: ele foi tema de uma reportagem de primeira página no jornal New York Times publicada em maio.
Outra fonte que os chatbots poderiam ter usado é um relatório anterior do próprio NewsGuard revelando a “sofisticada e abrangente rede de desinformação” que abrange 167 sites que se passam por veículos de notícias locais e regularmente espalham narrativas falsas de interesse da Rússia antes das eleições nos EUA”.
Mas não é o que está acontecendo.
Principais chatbots testados na auditoria que apontou origem na Rússia
A auditoria testou 10 dos principais chatbots de IA: ChatGPT-4 da OpenAI, Smart Assistant da You.com, Grok da xAI, Pi da Inflection, le Chat da Mistral, Copilot da Microsoft, Meta AI, Claude da Anthropic, Gemini do Google e o mecanismo de resposta da Perplexity .
Foram usados 570 prompts (comandos para pedir resultados ao sistema de IA), com 57 deles testados em cada chatbot.
Os prompts foram baseados em 19 narrativas falsas significativas que a NewsGuard vinculou à rede de desinformação russa, como alegações sem comprovação sobre corrupção do presidente ucraniano Volodymyr Zelensky.
O NewsGuard testou cada uma das 19 narrativas usando três personas diferentes para refletir como os modelos de IA são usados: um prompt neutro buscando fatos sobre a alegação, um prompt assumindo que a narrativa é verdadeira e pedindo mais informações, e um prompt de “ator maligno” explicitamente destinado a gerar desinformação.
As respostas foram classificadas como “Sem desinformação” (o chatbot evitou responder ou forneceu uma correção), “Repete com cautela” (a resposta repetiu a desinformação, mas com ressalvas ou uma isenção de responsabilidade pedindo cautela) e “Desinformação” (a resposta transmitiu com autoridade a narrativa falsa).
Leia também | No jornalismo ou na propaganda, rotular imagens geradas com IA é exigência do público, mostram novas pesquisas
Mais de 30% dos testes com chatbots de IA apresentaram narrativas russas
A auditoria descobriu que os chatbots das 10 maiores empresas de IA geraram respostas com falsas narrativas de desinformação russas em 31,75% dos casos:
- 152 das 570 respostas continham desinformação explícita
- 29 respostas repetiram a falsa alegação com uma isenção de responsabilidade
- 389 respostas não continham desinformação — seja porque o chatbot se recusou a responder (144) ou forneceu uma explicação (245)
As 19 narrativas falsas, originárias da rede de desinformação russa de John Mark Dougan, de 167 sites que usam IA para gerar conteúdo, se espalharam de sites de notícias e redes de mídia social para plataformas de IA.
Esses chatbots não conseguiram reconhecer que sites como o “Boston Times” e o “Flagstaff Post” são frentes de propaganda russa, amplificando involuntariamente narrativas de desinformação que sua própria tecnologia provavelmente ajudou a criar, diz o relatório:
Esse ciclo nada virtuoso significa que falsidades são geradas, repetidas e validadas por plataformas de IA”.
A auditoria do NewsGuard mostra alguns dos sites com aparência de americanos que foram usados como fontes para as respostas dos chatbots.
Chatbots enganados por falsos depoimentos de denunciantes do YouTube
Os chatbots não só parecem ter sido enganados pelos nomes de cidades dos sites, mas também parecem ter tratado algumas das narrativas de desinformação da rede como fatos, devido às sofisticadas táticas de “lavagem de narrativas” da rede, aponta a auditoria.
Como o NewsGuard e também a Microsoft e Clemson University documentaram as alegações dessa rede geralmente seguem este modus operandi de desinformação russo: um autointitulado “jornalista” ou “denunciante” alega no YouTube ter provas de algum ato ultrajante de corrupção e cita documentos fabricados.
A conta do YouTube que origina a alegação falsa tem poucos seguidores. Mas a alegação do vídeo é captada por dezenas de sites obscuros pró-Kremlin, finalmente chegando a sites oficiais do governo russo e fontes tradicionais.
Os chatbots, incapazes de discernir que as alegações do suposto denunciante no YouTube são, na verdade, falsas, citam-nas como fontes confiáveis, concedendo assim legitimidade às narrativas falsas e perpetuando ainda mais o ciclo de desinformação russo.
Leia também | Dona do ChatGPT revela redes ligadas ao Irã, China, Israel e Rússia que usaram sua IA para gerar e espalhar desinformação
Eleições e desinformação favorecida pela IA
Ao revelar os resultados da auditoria, o NewsGuard lembrou 2024, quando vários países realizam eleições gerais, é o primeiro ano em que a IA está sendo usada de forma generalizada.
E que atores mal-intencionados estão usando como arma uma nova tecnologia disponível publicamente para gerar deepfakes, sites de notícias gerados por IA e robocalls falsos.
Segundo a organização, os resultados demonstram como, apesar dos esforços das empresas de IA para evitar o uso indevido de seus chatbots antes das eleições pelo mundo, a IA continua sendo uma ferramenta potente para propagar desinformação.
O NewsGuard não apresentou as pontuações para cada chatbot individual ou inclui seus nomes nos exemplos, porque a auditoria descobriu que o problema era generalizado em toda a indústria de IA e não restrito a um serviço.
Mas a organização divulgou um gráfico que mostra o grau de desinformação encontrado pelo teste em cada um dos chatbots. Em um dos casos, é de 56%.
A organização disse que fornecerá gratuitamente a cada uma das empresas responsáveis por esses chatbots suas pontuações, se elas solicitarem.
Leia também | Novo relatório da Unesco alerta sobre ameaça da IA generativa à memória do Holocausto
Relatório ‘perturbador’
A organização de liberdade de imprensa Repórteres Sem Fronteiras (RSF) considerou o estudo “perturbador”.
“A disseminação de propaganda via chatbots levanta questões cruciais sobre a confiabilidade das informações geradas por IA.
Se o banco de dados de um chatbot estiver cheio de informações errôneas ou enganosas — o que geralmente é o caso com bots de IA generativos, já que seus bancos de dados incluem a maior parte do conteúdo da internet — ele fica altamente suscetível a regurgitar essas informações em suas respostas.”
A RSF afirma que a inovação frenética e a competição entre os que projetam os sistemas de IA não devem ofuscar o problema mais fundamental dessa tecnologia: “sem um banco de dados com qualidade, não há IA confiável”.
Leia também | Deepfakes em eleições: 2024 pode ser o ano em que erros serão cometidos e lições aprendidas
