Novo relatório da Unesco alerta sobre ameaça da IA generativa à memória do Holocausto

Londres – Um novo relatório da Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura), publicado nesta segunda-feira (17), alerta para o risco de a inteligência artificial generativa distorcer o registro histórico do Holocausto e alimentar o antissemitismo se não forem adotadas “medidas efetivas” para integrar princípios éticos às ferramentas de IA.

O relatório AI and the Holocaust: rewriting history? (IA e o Holocausto: rescrevendo a história?) adverte que a IA generativa não só pode permitir que agentes de má fé espalhem desinformação e narrativas alimentadas pelo ódio, mas também tem a capacidade de inventar conteúdos falsos ou enganosos sobre o Holocausto, como demonstraram exemplos contidos no documento. 

“Se permitirmos que os fatos horríveis do Holocausto sejam diluídos, distorcidos ou falsificados através do uso irresponsável da IA, pode acontecer a propagação explosiva do antisemitismo e a diminuição gradual da nossa compreensão sobre as causas e consequências dessas atrocidades”, alertou Audrey Azoulay, Diretora-Geral da Unesco.

Inteligência artificial absorvendo preconceitos sobre Holocausto

As ferramentas de IA são treinadas para gerar conteúdo usando grandes quantidades de dados extraídos da internet e podem incluir informações falsas ou prejudiciais que circulam livremente em sites e redes sociais. 

“Os sistemas de IA ‘herdam’ preconceitos humanos, com o potencial de deturpar informações sobre eventos específicos e reforçar preconceitos”, aponta o relatório, publicado em parceria com o Congresso Judaico Mundial.

Segundo a Unesco, isso tem acontecido no contexto do Holocausto devido à proliferação da desinformação sobre os acontecimentos. O relatório observa que, devido à falta de supervisão, orientação e moderação por parte das empresas de IA, as ferramentas generativas também podem estar sendo treinadas com base em dados de websites que negam a existência do Holocausto.

A entidade afirma que há registros de distorção proposital de conteúdos relacionados com o Holocausto, como testemunhos fabricados e alteração de fatos históricos.

“Imagens deepfake e conteúdo de áudio criados com IA generativa são particularmente convincentes para os jovens, que podem encontrá-los em plataformas de mídia social.

O aplicativo Historical Figures permitiu que os usuários conversassem com nazistas proeminentes, como Adolf Hitler e Joseph Goebbels, e alegaram falsamente que indivíduos como Goebbels não estavam intencionalmente envolvidos no Holocausto e que teriam tentado prevenir a violência contra os judeus.”

História “alucinada” devido à falta de dados

Os modelos generativos de IA são propensos a inventar ou “alucinar” ao relatar eventos, personalidades e até fatos históricos quando não têm acesso a dados suficientes.

O relatório sublinha que o ChatGPT e o Bard do Google produziram conteúdo detalhando eventos relacionados ao Holocausto que nunca aconteceram.

“O ChatGPT fabricou inteiramente o conceito de campanhas de “Holocausto por afogamento” de judeus em rios e lagos, e o Bard gerou citações falsas de testemunhas para apoiar narrativas distorcidas dos massacres.”

Além de chamar a atenção para o risco de manipulações e “alucinações” desacreditarem os fatos reais e a confiança nos especialistas, o relatório também sublinha os perigos da tendência da IA ​​de simplificar excessivamente uma história complexa, privilegiando uma gama estreita de fontes e uma pequena seleção de eventos.

Nos motores de busca, que são alimentados por IA, de 60% a 80% dos principais resultados de imagens são de um único local do Holocausto, Auschwitz-Birkenau.

Leia também | Redes sociais estão apresentando antissemitismo às novas gerações, aponta pesquisa britânica

Princípios éticos da UNESCO para a inteligência artificial

O relatório da Unesco salientou que à medida que estudantes utilizam cada vez mais a IA generativa para fazer trabalhos escolares e encontrar informações online, os jovens correm o risco de serem expostos a informações distorcidas sobre o Holocausto, que encontraram novas formas de se espalhar através de conteúdos gerados pela IA.

“Com quatro em cada cinco (80%) jovens entre os 10 e os 24 anos utilizando a IA várias vezes ao dia para educação, entretenimento e outros fins, é necessário tomar rapidamente medidas para orientar eticamente essas novas tecnologias”, diz a organização. 

Ao divulgar o relatório, a Unesco apelou aos governos para que acelerem a implementação da recomendação da organização sobre a Ética da IA, a primeira e única norma global nesta área, adotada por unanimidade pelos seus Estados-Membros em 2021, já integrada a legislações de mais de 50 países.

A entidade instou também as empresas tecnológicas a “implementarem normas, assumirem suas responsabilidades e garantirem que princípios como a justiça, a transparência, os direitos humanos e a devida diligência são incorporados nas aplicações”.

Em fevereiro de 2024, oito empresas tecnológicas assinaram um compromisso com a Unesco para aplicar uma abordagem ética ao desenvolvimento de novas ferramentas de IA.

“As empresas tecnológicas devem trabalhar em estreita colaboração com a comunidade judaica, os sobreviventes do Holocausto e os seus descendentes, educadores, especialistas em antissemitismo e historiadores ao desenvolverem novas ferramentas de IA”, pede a organização. 

O relatório completo pode ser visto aqui. 

Leia também | Dona do ChatGPT revela redes ligadas ao Irã, China, Israel e Rússia que usaram sua IA para gerar e espalhar desinformação