Londres – As previsões de que a IA generativa causariam uma revolução na desinformação no espaço digital felizmente não se materializaram, pelo menos por enquanto.
Essa é a opinião de Jeff Allen, Diretor do Integrity Institute, organização não-governamental britânica que tem como missão ajudar a construir uma internet social melhor.
“Não vimos até agora uma revolução, mas certamente a AI fez a desinformação evoluir com o uso de novas técnicas generativas”.
Allen foi um dos palestrantes da Trust Conference, realizada no final de outubro em Londres.
Ele considera que a AI tornou mais fácil e trouxe um nível maior de sofisticação para a desinformação, capaz até de fazer os mortos falarem e declararem voto em candidatos.
Isso aconteceu na Indonésia, onde um vídeo deepfake “ressuscitou” o falecido presidente Suharto, pedindo votos para o seu partido.
Leia também | Deepfakes em eleições: 2024 pode ser o ano em que erros serão cometidos e lições aprendidas
Outro exemplo citado por ele foi o de candidatos a cargos eletivos que encontram-se presos e aparecem em vídeos pedindo votos.
Na campanha eleitoral dos EUA, que resultou na vitória de Donald Trump, vídeos deepfake com a candidata do partido Democrata Kamala Harris e com a cantora pop Taylor Swift foram denunciados como táticas para confundir os eleitores.
Leia também | Kamala, Musk e agora Taylor Swift: Trump aposta em deepfakes para ganhar apoio na campanha eleitoral
Inovação na Desinformação digital com ajuda da IA
Para Allen, tudo isso representa uma inovação na geração de conteúdo, mas não uma transformação completa do que já era feito no campo da desinformação.
Ele alerta, porém, que há equipes trabalhando em laboratórios de inovação em desinformação e não descarta a descoberta de técnicas que possam levar o problema a outro nível.
Falando no mesmo painel, Claire Leibowicz, da Partnership on AI, disse que o que mais a assusta é o contrário: o uso da IA para negar o que é verdadeiro.
Ela citou o caso de Donald Trump, quando alegou que o tamanho da multidão num comício de Kamala Harris teria sido gerado por IA, embora o público fosse real.
“Chamo essa estratégia de “dividendo do mentiroso”, mais uma ferramenta para figuras públicas espalharem desinformação.
Essa negação da realidade me preocupa mais do que a criação de uma realidade paralela com uso da IA”.
A necessidade urgente de regulamentação adequada da IA foi discutida em vários painéis durante a Trust Conference, por estar ligada a questões como a concentração do mercado nas mãos de poucas pessoas, o respeito aos direitos autorais, e a criação e distribuição de desinformação com a ajuda das ferramentas que geram textos, fotos e vídeos.
O poder e a influência das grandes empresas de tecnologia e mídia social foi abordado pelas jornalistas Maria Ressa, filipina detentora do Nobel da Paz, e Kara Swisher, americana que se tornou uma das vozes mais poderosas do mundo da tecnologia.
Lembrando a história recente das plataformas de mídia social, Ressa criticou as grandes empresas de tecnologia por programarem seus algoritmos para explorar os piores aspectos da natureza humana, como medo, raiva e ódio, a fim de aumentar o engajamento e os lucros.
Ela argumenta que isso torna o bom jornalismo inútil, pois o conteúdo prejudicial é amplamente distribuído.
Inconformada com a situação e dizendo-se descrente das promessas de autorregulação das Big Techs, Maria Ressa está trabalhando em uma rede baseada em “tecnologias deliberativas”, capaz de substituir as redes sociais atuais.
Leia também | ESPECIAL | O desafio da credibilidade na era da inteligência artificial generativa
