O Departamento de Justiça dos EUA (DoJ) anunciou o desmonte de uma “fazenda de bots” criada pelo governo da Rússia que utilizava recursos de inteligência artificial para “semear a discórdia” nos EUA e em outros países.
Segundo o comunicado do DoJ, publicado nesta terça-feira (10), uma investigação transnacional resultou na apreensão de domínios de internet e buscas em 986 contas do X /Twitter usadas por pessoas ligadas à Rússia para distribuir narrativas de interesse do país a partir de contas simulando serem de cidadãos americanos.
Conforme descrito nos depoimentos apresentados em apoio aos mandados, o esquema foi organizado por um ex-editor-chefe adjunto da RT (Russia Today), principal empresa de mídia estatal da Rússia.
Como funcionava a fazenda de bots da Rússia
Bots são robôs que disparam conteúdo online de forma automatizada. Uma “fazenda de bots” é um pacote de software aprimorado que permite a criação de personas falsas em plataformas de mídia social.
Elas passaram agora a ser aprimoradas pela integração de componentes que contêm inteligência artificial para produzir imagens e textos e para acelear a distribuição.
A fazenda de bots de mídia social desmontada pela operação que envolveu agentes dos EUA, Canadá e Holanda usou recursos de IA para criar perfis fictícios de mídia social simulando serem de americanos.
Para registrar as contas falsas, o esquema dependia de servidores de e-mail privados, que por sua vez dependiam dos dois nomes de domínio apreendidos pelo FBI.
Um indivíduo que controla um domínio da Internet pode criar contas de e-mail usando o domínio.Os responsáveis pelo esquema obtiveram e controlaram os nomes de domínio “mlrtr.com” e “otanmail.com” de um provedor com sede nos EUA.
Eles então usaram esses domínios para criar os servidores de e-mail que por sua vez permitiram a criação de contas fictícias usando o software da fazenda de bots.
As contas promoviam mensagens em apoio aos objetivos do governo russo na Ucrânia, como nos exemplos apresentados pelo órgão:
- Um suposto eleitor dos EUA respondeu às postagens de um candidato a um cargo federal nas redes sociais sobre o conflito na Ucrânia com um vídeo do presidente Putin justificando as ações da Rússia no país invadido.
- Um suposto morador de Minneapolis, Minnesota, postou um vídeo do presidente Putin apresentando sua narrativa de que certas áreas da Polônia, Ucrânia e Lituânia foram “presentes” para esses países das forças russas que os libertaram do controle nazista durante a Segunda Guerra Mundial.
Governo da Rússia aprovou e financiou o esquema
Segundo o Departamento de Justiça dos EUA, no início de 2023, “com a aprovação e o apoio financeiro da Administração Presidencial da Rússia (Kremlin), um oficial russo do FSB (serviço secreto do país) criou e liderou a organização privada de inteligência responsável pelo esquema.
O grupo era composto, entre outros, por funcionários da RT, incluindo a pessoa apontada como líder.
De acordo com a investigação, os vídeos usados nas contas haviam sido postados anteriormente nos canais da rede estatal e reaproveitados como postagens de supostos cidadãos americanos que seriam favoráveis à Rússia.
Após a execução dos mandados, o FBI e a Cyber National Mission Force (CNMF), em parceria com o Canadian Centre for Cyber Security (CCCS), o Netherlands General Intelligence and Security Service (AIVD), o Netherlands Military Intelligence and Security Service (MIVD) e a Netherlands Police, da Holanda, divulgaram um comunicado conjunto de segurança cibernética detalhando a tecnologia por trás da fazenda de bots de mídia social.
O objetivo é dar subsídios a pesquisadores e plataformas digitais para identificar e impedir que o mecanismo continue a ser usado.
A X Corp suspendeu as contas de bot restantes identificadas nos documentos judiciais por violações dos termos de serviço.
Na semana passada, a organização americana NewsGuard divulgou um relatório mostrando que os principais serviço de inteligência artificial estão gerando conteúdos enganosos captados em sites falsos supostamente criados pela Rússia, com nomes de cidades americanas.
Leia também | IAs estão disseminando narrativas falsas da Rússia captadas em sites ‘disfarçados’ de americanos, revela auditoria
