Muitas pessoas foram pegas desprevenidas pela desinformação durante o plebiscito do Brexit de 2016, no Reino Unido, e nas eleições presidenciais dos EUA. Desde então, desenvolveu-se uma indústria para analisá-la e combatê-la.
No entanto, apesar disso, entramos em 2024 – um ano com mais de 40 eleições em todo o mundo – com mais medo do que nunca da desinformação.
Em muitos aspectos, o problema é mais desafiador do que era em 2016. Os avanços tecnológicos desde então são uma das razões para isso, em particular o desenvolvimento que ocorreu com as mídias sintéticas, também conhecidas como deepfakes.
Desinformação nas eleições e os deepfakes
É cada vez mais difícil saber se um conteúdo foi fabricado por um computador ou se é baseado em algo que realmente aconteceu.
Ainda não entendemos realmente o tamanho do impacto que os deepfakes podem ter nas eleições. Mas vários exemplos apontam o caminho para a forma como podem ser utilizados.
Este pode ser o ano em que muitos erros serão cometidos e lições aprendidas.
Desde que a desinformação se propagou em torno das votações em 2016, pesquisadores produziram inúmeros livros e artigos, jornalistas reciclaram-se como especialistas em verificação e checagem de fatos, governos participaram em “grandes comitês” e centros de excelência.
Além disso, as bibliotecas tornaram-se o foco de estratégias de construção de resiliência e surgiu uma série de novos organismos para fornecer análises, formação e recursos.
Esta atividade não foi infrutífera. Temos agora uma compreensão maior da desinformação como um fenômeno social, psicológico, político e tecnológico.
Os esforços para apoiar o jornalismo de interesse público e o cultivo do pensamento crítico através da educação também são promissores.
As grandes empresas tecnológicas já não pretendem ser plataformas neutras. E os legisladores políticos redescobriram o seu dever de regular a tecnologia no interesse do público.
Leia também | Contra deepfakes, Meta vai sinalizar anúncios políticos com imagens feitas por IA no Facebook e Instagram
IA e mídia deepfake
As discussões sobre regulamentação aumentaram depois que as ferramentas de IA para criar conteúdos sintéticos – parcialmente ou totalmente gerados por computadores – se tornaram populares.
Esses deepfakes podem ser usados para imitar a voz e a aparência de pessoas reais. A mídia deepfake é impressionantemente realista e não requer muita habilidade ou recursos.
Este é o ponto culminante de uma revolução digital mais ampla, através da qual tecnologias sucessivas tornaram a produção de conteúdos de alta qualidade acessível a quase todos.
Em contraste, as estruturas regulamentares e os padrões institucionais para os meios de comunicação social foram concebidos, na sua maioria, numa época em que apenas uma minoria de profissionais tinha acesso à produção.
Deepfakes políticos podem assumir diferentes formas. Nas recentes eleições na Indonésia, um vídeo deepfake “ressuscitou” o falecido presidente Suharto.
Presiden Kedua Indonesia, Soeharto mengingatkan kita akan mimpi Indonesia maju dan sejahtera. Impian Soeharto terus disemarakan dan dilanjutkan untuk kemajuan seluruh masyarakat Indonesia oleh pemimpin-pemimpin selanjutnya. Bukti bahwa harapan Indonesia tidak boleh padam. Semua… pic.twitter.com/w5VnnFF2zE
— Erwin Aksa (@erwinaksa_id) February 5, 2024
O vídeo foi feito a pretexto de encorajar as pessoas a votar, mas foi acusado de ser propaganda por ter sido produzido pelo partido político que ele liderava.
Leia também | Deepfakes: como apoiadores de Trump espalharam fotos falsas nas redes para atrair eleitores negros
Desinformação e uso de deepfakes nas eleições
Talvez um uso mais óbvio dos deepfakes seja espalhar mentiras sobre candidatos políticos. Por exemplo, um áudio falso gerado por IA, divulgado dias antes das eleições parlamentares na Eslováquia, em setembro de 2023, tentou retratar o líder da Eslováquia Progressista, Michal Šimečka, como se tivesse conversado com um jornalista sobre como fraudar a votação.
Além do esforço óbvio para desacreditar um partido político, vale a pena notar como este deepfake, cuja origem não é clara, exemplifica esforços mais amplos para transformar as minorias em bodes expiatórios e demonizar o jornalismo convencional.
Felizmente, neste caso, o áudio não era de alta qualidade, o que tornou mais rápido e fácil para os verificadores de fatos confirmarem sua falsidade. Contudo, a integridade das eleições democráticas não pode depender da inépcia dos falsificadores.
A tecnologia deepfake está em um nível de sofisticação que dificulta a detecção . Os vídeos ainda enfrentam certas dificuldades com características humanas, como a representação de mãos, mas a tecnologia ainda é jovem.
É também importante notar que o vídeo eslovaco foi divulgado durante os últimos dias da campanha eleitoral.
Este é um momento propício para lançar ataques de desinformação e manipulação, porque os alvos e os jornalistas independentes estão muito ocupados e, portanto, têm pouco tempo para reagir.
Leia também | Desinformação, discurso de ódio e violência contra jornalistas em eleições entram no radar da Unesco
Questionando a integridade eleitoral
Se também é caro, demorado e difícil investigar deepfakes, então não está claro como as comissões eleitorais, os candidatos políticos, os meios de comunicação social ou mesmo o eleitorado devem responder quando surgem potenciais casos.
Afinal, uma acusação falsa de um deepfake pode ser tão preocupante quanto o verdadeiro deepfake. Outra forma como os deepfakes podem ser usados para afetar as eleições pode ser visto na forma como já são amplamente utilizados para assediar e abusar de mulheres.
Este tipo de assédio sexual enquadra-se num padrão existente de abuso que limita a participação política das mulheres.
A dificuldade é que ainda não está claro exatamente qual o impacto que os deepfakes poderiam ter nas eleições.
É possível que vejamos outros usos semelhantes de deepfakes nas próximas eleições deste ano. E poderíamos até ver deepfakes usados de formas ainda não concebidas.Mas também vale lembrar que nem toda desinformação é de alta tecnologia. Existem outras maneiras de atacar a democracia.
Leia também | Como o abuso online está expulsando as mulheres da vida política – e o que fazer para resolver
Teorias de conspiração e fraude eleitoral
Os rumores e as teorias da conspiração sobre a integridade do processo eleitoral são uma tendência séria. A fraude eleitoral é uma preocupação global, visto que muitos países são apenas democracias no nome.
É evidente que as plataformas de redes sociais permitem e impulsionam a desinformação de muitas formas, mas é um erro presumir que o problema começa e termina online.
Uma forma de pensar sobre o desafio da desinformação durante as próximas eleições é pensar na força dos sistemas que deveriam defender a democracia.
Existe no país um sistema de mídia independente capaz de fornecer investigações de alta qualidade no interesse público? Existem administradores e órgãos eleitorais independentes? Existem tribunais independentes para julgar, se necessário?
E existe compromisso suficiente com os valores democráticos em detrimento do interesse próprio entre os políticos e partidos políticos? Neste ano de eleições, devemos descobrir a resposta para essas questões.
Sobre a autora
Eileen Culloty é professora da Escola de Comunicações da Dublin City University e vice-diretora do Instituto DCU para Mídia, Democracia e Sociedade. Ela também é membro do grupo de trabalho que desenvolve a Estratégia Nacional de Combate à Desinformação e do projeto iHealthFacts.
Este artigo foi publicado originalmente no portal acadêmico The Conversation e é republicado aqui sob licença Creative Commons.
Leia também | Sete em cada 10 brasileiros acham que as redes sociais são boas para a democracia, mostra pesquisa
