As ferramentas de IA disponíveis nos sites e aplicativos do Google oferecem um risco significativo para crianças, principalmente ao responder trabalhos escolares de forma integral e sem qualquer filtro de qualidade, mostrou uma pesquisa do Common Sense Media Youth AI Safety Institute.
A organização de proteção a crianças no ambiente digital usou perfis validados pelo próprio Google para menores de idade para fazer perguntas às IAs e constatou que, além do risco escolar, o AI Overview e AI Mode têm falhas graves que podem prejudicar a saúde mental e reforçar o bullying em ambientes de menores.
A situação se torna ainda mais preocupante diante da escala em que as ferramentas são usadas.
De acordo com uma pesquisa da Unicef, as crianças buscam as IAs majoritariamente para ajuda com tarefas escolares.
Os especialistas alertam que, recebendo todas as respostas de forma “mastigada”, esses estudantes estão sob risco de não ter um bom desenvolvimento cognitivo.
A pesquisa
Por um mês e meio, entre maio e julho deste ano, os pesquisadores testaram, como se fossem crianças, os recursos de IA da busca do Google.
As contas usadas para os testes eram de crianças e adolescentes, de 11 a 17 anos. Todas eram gerenciadas pelo Google Family Link e tinham a opção de “SafeSearch”, que impede conteúdos para maiores de idade, ativos.
Algumas contas, de adolescentes mais velhos, não tinham a função de supervisão de pais, o que não causou diferença nos resultados, segundo o Common Sense Media.
Com sete planos diferentes de abordagens, que iam de assuntos escolares a assuntos de saúde mental, os pesquisadores testaram mais de 2.600 interações com a plataforma.
Essas interações se dividiram entre buscas únicas e interações múltiplas, quando o usuário faz várias perguntas sequenciais às máquinas.
De acordo com a ONG, as perguntas simulam dúvidas que crianças costumam ter. Elas simulam, ainda, a linguagem que os menores usam para fazer os questionamentos.
Com as interações dos recursos de IA do Google em mãos, os pesquisadores avaliaram os riscos que aquelas respostas traziam.
Eles constataram que as ferramentas têm “risco inaceitável” para as crianças. A resposta fácil às tarefas escolares é apenas um dos fatores de risco, de acordo com a análise.
Tarefas escolares respondidas
Foto: Common Sense Media/Reprodução
Os pesquisadores resolveram testar as IAs do google com 180 tarefas acadêmicas. Metade delas era de exercícios de matemática, já a outra metade era de redações de disciplinas de humanidade.
O modo IA do Google completou integralmente todas as tarefas de casa dadas pelos pesquisadores, fazendo um trabalho que, em tese, seria dos alunos.
“Ao concluir a tarefa em vez de redirecioná-la para ela, o Modo IA pode interromper o processo produtivo pelo qual a aprendizagem realmente ocorre.”, diz a ONG.
O problema da IA não foi só “facilitar” de forma prejudicial o trabalho das crianças e adolescentes, mas também fazer isso de forma irresponsável. Nos dois recursos testados, perguntas iguais eram respondidas de formas diferentes e as respostas certas e erradas eram entregues ao usuário com a mesma certeza.
As IAs também davam aos fóruns e postagens sem controles editoriais nas redes sociais a mesma autoridade que instituições médicas e pesquisas revisadas por pares.
“As crianças ainda estão desenvolvendo habilidades de alfabetização midiática, e o Google coloca sobre elas a responsabilidade de avaliar as fontes.”
Integração com a IA é automática
A situação se torna ainda mais preocupante quando, no caso dos Estados Unidos, algumas escolas integram seus serviços às plataformas do Google.
A ONG alertou que a IA não pode ser desativada em algumas funções, logo, aqueles que usam o Google Workspace for Classroom e os Chromebooks do Google acabam expondo obrigatoriamente crianças e adolescentes a este “atalho”.
Os riscos de “cognitive offloading”
Os dados divulgados pela ONG reforçam as preocupações apresentadas em um relatório da Unicef, divulgado no início deste mês.
A pesquisa do órgão mostra que a maioria das crianças com acesso às IAs usa os chatbots para fazer trabalhos escolares.
A Unicef estimou que 60% das crianças, cerca de 13 milhões de pessoas, usem as IAs com essa função. Isso levantou o alerta para o risco de cognitive offloading, termo usado para designar quando o raciocínio deixa de ser das crianças e passa a ser das máquinas.
No caso da pesquisa com o Google, a ONG explica que o processo trabalhoso e muitas vezes frustrante de resolver um problema sem uma solução imediata é fundamental para o desenvolvimento da memória de trabalho, do raciocínio, da autorregulação emocional, da confiança e também da resiliência.
“Uma resposta completa e perfeita, entregue em segundos, prejudica o processo de aprendizagem dos alunos na fase de desenvolvimento em que essas capacidades ainda estão sendo formadas.”
Outros perigos identificados
De acordo com a ONG, as IAs do Google não só facilitaram o caminho para resolver as tarefas de casa, como também orientaram os “estudantes” de forma inadequada em outros assuntos.
Os pesquisadores perceberam, por exemplo, que ela era capaz de dar o passo a passo para criação de deepfakes. Além disso, ela também podia “fornecer informações que podem facilitar o bullying” de colegas.
O órgão listou, ainda:
- A não detecção de sinais claros de ideação suicida
- Reforço de sinais de psicose e mania
- Validação de transtornos alimentares, incluindo a bulimia e anorexia
- Celebração do uso de cannabis
As sugestões da ONG
A ONG compartilhou o resultado do relatório com o Google para correções de fatos e emitiu sugestões para a big tech.
Uma delas é a opção de desligar as respostas de IA para crianças. Outra é dar respostas personalizadas a depender da idade. Esse pedido é importante, já que as plataformas não faziam qualquer diferenciação entre os perfis de 11 anos e os de 17.
A Common Sense Media também pediu que o Google direcionasse os alunos que estavam fazendo tarefas escolares a “receber suporte”, e não desse as respostas dos trabalhos diretamente para eles.
Ela também orientou que a plataforma diferenciasse os conteúdos acadêmicos revisados por pares em relação aos que são apenas retirados de redes sociais e fóruns.
O que disse o Google
Em comunicado à imprensa, a empresa questionou a pesquisa. Para o Google, a ONG usou “um conjunto restrito de consultas ambíguas e artificiais” para simular as ações dos estudantes.
Segundo o Google, essas buscas não são eficazes para medir a segurança e a utilidade do produto.
Além disso, a empresa reforçou que seus recursos de busca com IA são “uma maneira incrivelmente útil para as crianças e adolescentes compreenderem informações e o mundo”.
A companhia citou medidas de segurança e “camadas extras de proteção” para os menores que acessam estas IAs.
Leia também | Big techs são omissas na proteção de crianças e jovens contra abuso e extorsão sexual, diz relatório da Austrália
Leia também | Tiram dúvidas e criam ‘namorados’: veja raio-x das IAs generativas mais populares (e polêmicas) da internet
Leia também | De tradução a conselho: como as crianças usam a IA no mundo, segundo a Unicef
