Mais de 60 agências reguladoras de 51 países e regiões emitiram um alerta conjunto sobre a violação dos direitos de privacidade provocada por imagens realistas geradas por chatbots de IA (inteligência artificial) sem autorização das pessoas retratadas, na esteira das reações contra a plataforma Grok.
O Brasil é um dos signatários da carta, publicada na segunda-feira (23). O texto reconhece os benefícios potenciais da IA, mas exige que as empresas responsáveis pelos sistemas assegurem que sejam desenvolvidos e usados respeitando as leis vigentes em cada país ou região.
O documento pede que as empresas de IA dialoguem com os órgãos reguladores, implementem proteções robustas e garantam que os avanços tecnológicos não aconteçam às custas de ameaças à privacidade, à dignidade, à segurança e a outros direitos fundamentais, especialmente de pessoas vulneráveis.
Desde dezembro passado a IA Grok, que faz parte da rede social X, entrou na mira de autoridades de diversos países por seu recurso que permite transformar imagens reais, removendo as roupas das pessoas representadas ou colocando-as em poses sensuais.
Leia também | Musk sob pressão: polícia faz buscas na sede do X em Paris e Reino Unido investiga Grok por deepfakes
Crianças estão entre os mais vulneráveis, afirma grupo
O documento conjunto ressalta principalmente a preocupação dos órgãos em relação a crianças e outros grupos vulneráveis. O alerta aponta riscos na facilidade de acessar ferramentas de IA para gerar imagens realistas que possibilitaram a criação de imagens pornográficas envolvendo menores.
“Estamos especialmente preocupados com possíveis danos a crianças e outros grupos vulneráveis, como o cyberbullying e/ou a exploração.”
Entidades listaram princípios que podem balizar criações
Em primeiro lugar, os órgãos sugeriram às plataformas a implementação de salvaguardas contra uso de informações pessoais. Além disso, o alerta pede que os “usos aceitáveis e riscos” das imagens feitas por IA envolvendo os rostos de outras pessoas fiquem explícitos nas plataformas de criação.
Outro importante ponto sugerido pelo grupo é a criação de mecanismos eficazes para pedir a remoção de conteúdos prejudiciais. O órgão ressaltou ainda a necessidade de as plataformas “responderem rapidamente” a pedidos de retirada de imagens não autorizadas.
Por fim, o documento conjunto pede que pais e crianças recebam informações “claras e apropriadas à idade” por parte das plataformas.
Caso na Espanha moldou debate sobre manipulação por IA
Um dos primeiros casos notórios envolvendo menores de idade e manipulação de imagens por IA aconteceu na Espanha em 2023. Um adolescente colocou os rostos de colegas de turma em imagens pornográficas, que foram disseminadas em uma escola de Almendralejo.
O escândalo revelou lacunas na legislação vigente e gerou enorme comoção nacional. Ele acendeu o alerta sobre a necessidade de uma resposta jurídica clara contra manipulações em imagens digitais, que trazem riscos especialmente a menores de idade.
Dois anos depois, a Justiça do país condenou os pais do garoto a pagarem uma multa de 2 mil euros (equivalente a R$ 12 mil) pelo crime. Diante do caso, a Espanha aprovou em janeiro um anteprojeto de lei criminalizando deepfakes e endurecendo regras sobre o assunto.
A medida ainda precisa passar pelo Congresso e pelo Senado, mas define qualquer manipulação de imagem ou voz feita por inteligência artificial sem consentimento como violação do direito à honra.
Leia também | Espanha aprova projeto de lei criminalizando deepfakes com foco em proteção de menores
Brasil está entre os signatários do documento
Quem representou o Brasil no documento de alerta sobre riscos de imagens de IA divulgado nesta segunda-feira foi o diretor-presidente da Agência Nacional de Proteção de Dados, Waldemar Gonçalves Ortunho Junior. A ANPD é um órgão federal, com vínculos com o Ministério da Justiça e Segurança Pública.
Além da ANPD, outros órgãos de federações de outros países assinaram o documento. Entre eles estão a Agencia de Acesso à Informação Pública, da Argentina, a Superintendência de Indústria e Comércio, da Colômbia, e a Comissão Nacional de Informática e Liberdades, da França.
Nenhum órgão dos Estados Unidos assinou o documento. Na América do Norte, o Canadá e o México participaram da ação conjunta.
O documento original (em inglês) pode ser visto aqui.
Austrália foi pioneira no controle de redes para crianças e adolescentes
Enquanto os reguladores cobram responsabilidade das empresas de inteligência artificial generativa pelo uso de imagens sem consentimento, um problema que afeta até pessoas as que não têm contas de mídia social, vários países avançam com legislações destinadas a evitar que crianças e jovens usem as redes.
A Austrália colocou em vigor a proibição de uso de redes sociais para menores de 16 anos em 10 de dezembro de 2025.
Nos primeiros dias após a implementação da lei, as redes sociais confirmaram que cancelaram mais de 4,7 milhões de contas. Quem divulgou os dados foi a eSafety Commissioner, a agência reguladora de segurança digital da Austrália.
As próprias plataformas forneceram os números ao órgão regulador, já que compartilhamento deste tipo de dado está previsto na lei que determinou a proibição.
Outros países tentam seguir o mesmo rumo
A Assembleia Nacional da França aprovou, no fim de janeiro, um projeto semelhante ao da Austrália. A lei, que ainda precisa de aprovação do Senado, prevê que menores de 15 anos sejam proibidos de criar e usar redes sociais.
Além disso, a lei que tramita no país determina a proibição do uso de celulares dentro das escolas de ensino médio, reforçando uma política já aplicada no ensino fundamental desde 2018.
A Dinamarca também tenta proibir redes sociais para a mesma faixa etária, a partir dos 15 anos. A primeira-ministra Mette Frederiksen apresentou a proposta legislativa em seu discurso de abertura do ano parlamentar.
Estados como Utah e Arkansas, nos Estados Unidos, já exigem consentimento dos pais e impõem restrições de horário para menores de 18 anos.
Em Portugal, o Parlamento aprovou há duas semanas um projeto de lei que exige autorização de pais ou responsáveis legais para que menores de 16 anos usem as redes.
Leia também | Depondo pela primeira vez em um processo judicial, Mark Zuckerberg defende redes da Meta diante de júri popular
Leia também | Dona do TikTok diz que vai limitar recursos da IA Seedance após notificação da Disney por direitos autorais
Leia também | Em nova campanha, Reino Unido pede que pais conversem com filhos sobre conteúdo tóxico nas redes
Leia também | Proibir redes sociais para adolescentes resolve todos os problemas? Veja o que diz a neurociência
