A inteligência artificial generativa (IA) está colaborando ativamente para perpetuar estereótipos sobre as mulheres na publicidade, ao mesmo tempo em que as portas estão trancadas para elas nas salas onde a tecnologia é desenvolvida, afirma a agência da ONU voltada para os direitos das mulheres e meninas.
Antecipando-se ao encontro Diálogo Global das Nações Unidas sobre Governança da Inteligência Artificial, que acontecerá em nos dias 6 e 7 de julho em Genebra, na Suíça, a ONU Mulheres publicou um alerta sobre o que coloca a igualdade de gênero em risco e o que pode ser feito para promover os direitos das mulheres diante do avanço da IA.
IA na publicidade: 88% das agências britânicas usam
O documento destaca que a IA generativa já se consolidou no trabalho diário de marketing e comunicação.
No Reino Unido, 88% das agências de publicidade e mídia a usam de alguma forma, de acordo com um levantamento feito pelo IPA (Instituto de Profissionais de Propaganda) britânico.
Com base em diversos estudos da própria organização e de outras entidades, a ONU Mulheres afirma que algoritmos discriminatórios têm o potencial de perpetuar ainda mais a desigualdade e a discriminação de gênero.
“À medida que as ferramentas de IA se incorporam na geração de conteúdo e na compra de mídia em escala, as decisões sobre quem é visto, como são retratados e como suas histórias são contadas estão sendo tomadas rapidamente e em grande parte sem escrutínio humano ou perspectiva de gênero”.
A organização salienta que viés e os algoritmos discriminatórios não são uma falha da dos modelos de inteligia artificial, e sim um padrão documentado em várias pesquisas.
Estereótipos de gênero na IA
Um estudo feito pela Unesco citado pela ONU Mulheres mostrou que que grandes modelos de linguagem (LLMs) associam consistentemente mulheres com “casa”, “família” e “filhos” e homens com “negócios”, “executivo”, “salário” e “carreira”.
Quando solicitados a completar frases que começam com o gênero de uma pessoa, em cerca de 20% das tentativas os chatbots exibiram atitudes sexistas e misóginas, incluindo retratos de mulheres como objetos sexuais e propriedade de seus maridos.
“Estes são os resultados previsíveis dos sistemas de IA treinados em décadas de representação desigual de mulheres e homens.
O viés da IA não é apenas um problema de design do sistema, mas também um problema de política.”
Marketing inclusivo favorece lucros
Para mostrar que os estereótipos perpetuados pelas IAs na propaganda não afetam apenas as mulheres, a organização cita em seu documento o estudo global Unstereotype Alliance, uma iniciativa liderada pela indústria convocada pela ONU Mulheres.
O trabalho constatou que a publicidade inclusiva tem impacto positivo nas vendas, nos lucros e no valor da marca.
Marcas que criam publicidade inclusiva, livres de estereótipos de gênero, desfrutam de um aumento de 3,46% nas vendas de curto prazo e um aumento de 16,26% nas vendas de longo prazo.
Eles têm 62% mais chances de serem a primeira escolha do consumidor, têm um poder de preço 54% maior e uma fidelidade 15% maior dos clientes, apurou a pesquisa.
Mulheres fora do mercado de IA e impactadas por seus efeitos
Além da discriminação na propaganda, as mulheres estão sendo deixadas de fora “das salas onde a IA está sendo construída”, afirma o documento da ONU Mulheres.
Projeções indicam que as próximas gerações da IA impulsionem o crescimento do emprego em setores intensivos em tecnologia.
Mas mulheres permanecem sub-representadas em Ciência, Tecnologia, Engenharia e Matemática (STEM) e IA, sendo responsáveis por apenas 30% da força de trabalho global dessa tecnologia.
A disparidade da IA não é apenas manifestada na desigualdade de gênero – os danos são multiplicados entre raça, deficiência, status socioeconômico e geografia.
As comunidades já mais sub-representadas na mídia e nos mercados de trabalho enfrentam o maior risco de serem deixadas para trás, alerta a ONU Mulheres.
Violência, o problema continua
O documento da organização chama novamente a atenção para um problema recorrente da IA: a violência online contra mulheres.
Quase uma em cada quatro mulheres defensoras dos direitos humanos, ativistas e jornalistas pesquisadas sofreram violência online assistida por IA e 12% relatam ter experimentado o compartilhamento não consensual de imagens pessoais, incluindo conteúdo íntimo ou sexual, diz a organização.
E 6% dizem que foram alvo de “deepfakes” ou imagens manipuladas, enquanto mais de um em cada quatro recebeu avanços sexuais não solicitados por meio de mensagens digitais.
“Deepfakes estão entre os exemplos mais visíveis de abuso facilitado pela IA que tem como alvo desproporcional de mulheres e meninas.”
Propostas da ONU Mulheres para uma IA inclusiva
A ONU Mulheres pede que a igualdade de gênero e os direitos e experiências de mulheres e meninas sejam incorporados em todas as etapas do ciclo de vida da IA, desde o desenvolvimento e implantação até a governança.
“Quando projetada com segurança e usada intencionalmente, a IA pode ajudar a detectar estereótipos, ampliar a representação e melhorar a acessibilidade em escala”, aponta a organização.
“A escolha de se isso acontece cabe aos tomadores de decisão – em governos, em empresas, entre especialistas que pesquisam e desenvolvem IA – e depende se incorporamos as vozes, experiências e experiências vividas de mulheres e meninas de diversas origens, organizações da sociedade civil que trabalham com elas e entendem profundamente seus desafios”.
Logo após o Diálogo Global, Genebra recebe a Cúpula Global de IA para o Bem, que vai de 7 a 10 de julho.
Ao contrário do primeiro encontro, esta cúpula tem um papel mais prático. Ela conecta líderes de IA do setor público e privado para pensar em soluções para problemas imediatos, como questões climáticas e da área de saúde.
Leia também | Chat, imagem e vídeo: novo relatório da ONU mede a pegada ambiental do nosso uso da IA
Leia também | A IA economiza tempo. Então por que tanta gente se sente culpada ao usá-la?
Leia também | SpaceX, OpenAI e Anthropic preparam IPOs bilionários: entenda o que pode mudar na segurança da IA
Leia também | Na encíclica da IA, Papa Leão XIV propõe “ecologia da comunicação” e defende jornalismo sério
Leia também | IAs treinadas para agradar demais têm mais chances de enganar usuários, diz pesquisa de Oxford
