Dos muitos “riscos profundos para a sociedade e a humanidade” que preocupam os especialistas em tecnologia com o avanço da inteligência artificial (IA), a propagação de imagens falsas é algo com o que os usuários diários da internet estão familiarizados.
Deepfakes – vídeos ou fotografias em que o rosto ou o corpo de alguém foi alterado digitalmente para que pareça estar fazendo algo que não está – já foram usados para espalhar desinformação política e pornografia falsa .
Essas imagens falsas são normalmente maliciosas e usadas para desacreditar uma pessoa. Quando se trata de pornografia deepfake, a grande maioria das vítimas são mulheres .
Uso de imagens falsas para praticar abuso usando a internet
A IA generativa – tecnologia usada para criar textos, imagens e vídeos – está facilitando a realização de abusos sexuais baseados em imagens falsas na internet. Um novo conjunto de leis no Reino Unido criminalizará o compartilhamento de pornografia deepfake.
Mas com a atenção dada à IA e aos deepfakes, não podemos esquecer como tecnologias menos sofisticadas podem ser utilizadas como ferramenta de abuso, com consequências devastadoras para as vítimas.
Quando comecei a pesquisar o emprego da tecnologia em relacionamentos abusivos, o uso de imagens falsas (deepfakes) era apenas um pontinho no horizonte. O meu trabalho centrou-se no papel dos smartphones e no abuso de mulheres que fugiram de relações de controle.
Os agressores de violência doméstica usavam a tecnologia para aumentar o alcance do seu poder e controle sobre os seus parceiros, uma abordagem moderna às táticas de abuso que foram usadas muito antes de os smartphones estarem em todos os bolsos.
Leia também | Homem é condenado a indenizar ex-namorada em R$ 5,9 bi por ‘vingança pornô’ em redes sociais no Texas
Celulares são usados como meio de monitoramento
Os telefones celulares podem ser usados diretamente para monitorar e controlar, através de rastreamento GPS ou bombardeando a vítima com textos, vídeos e chamadas de voz.
Uma participante da minha pesquisa explicou como seu parceiro abusivo usava o telefone para acessar suas redes sociais, enviando fotos ofensivas via Instagram e WhatsApp.
Quando ela saía com os amigos, ele primeiro mandava mensagens de texto, ligava e depois fazia videochamadas constantemente para verificar onde ela estava e com quem estava.
Quando a participante desligava o telefone, o companheiro entrava em contato com seus amigos, bombardeando-os com mensagens de texto e ligações.
Ela sentiu-se demasiada envergonhada para combinar novos encontros com seu grupo de amigos e por isso parou de sair.
Leia também | Opinião | Assédio online: gigantes digitais devem proteger as mulheres dos dois lados da tela
Violência doméstica via internet
Outras pessoas em situações semelhantes podem ser excluídas do convívio social, se os amigos quiserem evitar ser contactados pelo agressor. Este isolamento social é uma parte frequente da violência doméstica e um importante indicador de relações de controle.
De acordo com a instituição de caridade contra violência doméstica Refuge, mais de 72% das pessoas que utilizam os seus serviços relatam abusos envolvendo tecnologia.
Os celulares são uma porta de entrada para outros gadgets, através da “internet das coisas” – dispositivos que estão ligados à web e capazes de trocar dados.
Essas ferramentas também podem ser transformadas em armas pelos abusadores. Por exemplo: utilizar celulares para alterar as definições de temperatura num termostato doméstico, criando extremos de uma hora para a outra.
Confusas com isso, as pessoas buscam explicações de seus parceiros e muitas vezes são levadas a acreditar que isso deve ser fruto de sua imaginação.
Técnicas de gaslighting como esta fazem as vítimas questionarem a sua própria sanidade, o que mina a confiança em sua capacidade de julgamento.
Leia também | Estudo do governo britânico aponta como ferramentas digitais viraram armas para violência doméstica
‘Panóptico’ moderno
Com o clique de um botão, os celulares permitem uma vigilância sem precedentes de outras pessoas. No bolso de um agressor, eles podem ser usados para manter o controle sobre parceiros atuais e antigos a qualquer hora e – se o sinal permitir – em qualquer lugar.
Isto confere aos agressores um poder de onipotência, fazendo com que as vítimas acreditem que estão sendo vigiadas, mesmo quando não estão. Essa ação nos traz à mente o trabalho do filósofo do século XVIII Jeremy Bentham, que introduziu o conceito de “panóptico”.
Bentham propôs um sistema prisional “perfeito”, onde uma torre de guarda fica no centro, cercada por celas individuais. Isolados uns dos outros, os prisioneiros veriam apenas a torre – um lembrete constante de que estão permanentemente vigiados, embora não possam ver o guarda dentro dela.
Jeremy Bentham acreditava que tal estrutura resultaria na autovigilância dos prisioneiros até que no final não fossem necessárias fechaduras ou barras.
Leia também | Como o abuso online está expulsando as mulheres da vida política – e o que fazer para resolver
Celulares são os novos ‘panópticos’
Minha pesquisa mais recente mostra que os telefones celulares criaram dinâmicas semelhantes em relacionamentos abusivos. Os telefones assumem o papel da torre e os agressores, os guardas dentro dela.
Neste ‘panóptico’ moderno, as vítimas podem estar por aí, visíveis para estranhos, amigos e familiares. No entanto, devido à presença do telefone, sentem que ainda estão sendo vigiadas e controladas pelos seus parceiros abusivos. Como disse um participante:
“Você sente que não há liberdade mesmo quando está fora. Você se sente trancado em algum lugar, não tem liberdade, alguém está controlando você.”
Os sobreviventes de abusos continuam a se monitorar mesmo quando os abusadores não estão presentes. Eles agem de maneiras que acreditam que irão agradar (ou pelo menos não irritar) seus agressores.
Este comportamento é frequentemente visto pelos outros como estranho e facilmente descartado como paranoia, ansiedade ou problemas de saúde mental mais graves.
O foco passa a ser o comportamento da vítima e ignora a causa – comportamento abusivo ou criminoso por parte do parceiro.
Leia também | Celular sem rede sociais? Jovens procuram ‘dumbphones’ para dar um tempo na internet
Imagens falsas na internet, vigilância, gaslighting e abuso
À medida que a tecnologia se torna mais sofisticada, as ferramentas e estratégias disponíveis para os abusadores continuarão a evoluir. Isto ampliará o alcance dos agressores e apresentará novas oportunidades de vigilância, gaslighting e abuso.
Até que as empresas tecnológicas considerem as experiências das sobreviventes de violência doméstica e incorporem mecanismos de segurança na concepção dos seus produtos, o abuso continuará à vista de todos .
Para quem está preocupado com a segurança e o abuso relacionado à tecnologia, esta página de conselhos da Refuge, a maior instituição de caridade contra abusos domésticos do Reino Unido, oferece boas orientações.
Sobre a autora
Tirion Havard é professora de Serviço Social da London South Bank University e sua pesquisa se concentra na Violência Contra Mulheres e Meninas, incluindo violência doméstica (especificamente controle coercitivo), abuso tecnológico e exploração criminosa infantil.
Este artigo foi publicado originalmente no portal acadêmico The Conversation e é republicado aqui sob licença Creative Commons
Leia também | Além dos números: nova pesquisa investiga corações e mentes dos usuários de redes sociais
