O secretário-geral da ONU, António Guterres, elevou o tom dos alertas sobre a inteligência artificial às vésperas da Semana de Alto Nível da Assembleia Geral.
Ele disse que a tecnologia está avançando mais rápido do que a capacidade de compreender seus riscos e advertiu que uma corrida entre as maiores potências tecnológicas, sem mecanismos de cooperação, pode terminar em um desastre de alcance mundial.
Guterres fez as declarações em Nova York, durante a coletiva que antecede a reunião de líderes na Assembleia Geral das Nações Unidas.
A 81ª sessão foi aberta em 8 de setembro, mas o Debate Geral, com chefes de Estado e de governo, começa no dia 22.
Ao abordar a inteligência artificial, o secretário-geral reconheceu o potencial da tecnologia para acelerar o desenvolvimento sustentável, melhorar a educação e os sistemas de saúde e aumentar a capacidade de resposta às mudanças climáticas.
Mas chamou atenção para os alertas que vêm dos próprios líderes de empresas e especialistas envolvidas no desenvolvimento desses sistemas.
“Muitas pessoas que estão construindo esses sistemas vem soando o alarme e alertando que o desenvolvimento da tecnologia está avançando mais rápido do que nossa capacidade de compreender os riscos.”
Governos precisam assumir responsabilidade
Guterres lembrou que há especialistas defendendo uma pausa no desenvolvimento dos sistemas mais avançados e outros propondo salvaguardas mais rígidas, proposta lançada pelo CEO da Anthropic, Dario Amodei. Para ele, porém, uma questão central é quem deve assumir a responsabilidade por essas decisões.
“Os governos precisam assumir suas responsabilidades.”
Ele acrescentou que medidas tomadas individualmente pelos países não serão suficientes diante de uma tecnologia de alcance global.
“A ação nacional é essencial. Mas a coordenação global também é indispensável. A IA não respeita fronteiras — e seus riscos também não.”
Guterres também fez uma ressalva às propostas de pausas voluntárias adotadas pelas próprias empresas ou por alguns países.
“Pausas voluntárias isoladas, que não possam ser verificadas e sejam aplicadas de maneira desigual não resolverão o problema.”
Segundo ele, se for necessário desacelerar o desenvolvimento da IA quando os riscos se tornarem excessivos, será preciso criar mecanismos internacionais capazes de fazer isso de forma coordenada.
Corrida tecnológica pode reduzir padrões de segurança
Guterres também alertou para o risco de que a competição geopolítica leve países e empresas a acelerar o desenvolvimento da IA em detrimento da segurança.
Donald Trump já se mostrou contrário à desaceleração, alegando que o país não pode perder a corrida para a China. Sem mencionar o presidente americano, o secretário-geral da ONU disse:
“O mundo não pode se dar ao luxo de uma corrida que leve ao rebaixamento os padrões de segurança da IA.”
Ao responder a perguntas de jornalistas, ele aprofundou essa preocupação e comparou o cenário atual à lógica da Guerra Fria.
Lembrou que, mesmo durante a disputa entre Estados Unidos e União Soviética, o risco nuclear levou as duas potências a estabelecer canais de comunicação, trocar informações e negociar mecanismos para limitar os perigos.
Segundo Guterres, algo semelhante será necessário agora.
“Os países que estão na linha de desenvolvimento da inteligência artificial precisam manter canais de comunicação, compartilhar informações e trabalhar com salvaguardas comuns.”
Caso contrário, advertiu, uma corrida desenfreada poderá levar a “um desastre gigantesco em escala mundial”.
Ele ressaltou que não estava se referindo apenas a Estados Unidos e China, mas aos países com maior capacidade no desenvolvimento dos sistemas mais avançados de IA.
Guterres defende discussão internacional mais ampla sobre IA
Guterres disse também que vê espaço para a realização, no momento adequado, de uma grande cúpula internacional dedicada à inteligência artificial.
Ele descartou, porém, a ideia de convocar uma reunião desse porte às pressas durante a atual Semana de Alto Nível.
Segundo o secretário-geral, um encontro internacional sobre o tema precisaria ser adequadamente preparado e fazer parte de um processo mais amplo de cooperação entre governos, empresas, cientistas e sociedade civil.
O líder da ONU voltou ainda aos alertas feitos pelas próprias companhias de tecnologia. Disse que dirigentes e profissionais de empresas que estão na linha de frente do desenvolvimento da IA reconhecem riscos que ainda não conseguem controlar completamente.
Para o secretário-geral, isso reforça a necessidade de atuação dos governos e de cooperação internacional, em vez de deixar as decisões sobre o ritmo e a segurança do desenvolvimento apenas nas mãos das empresas.
IA entre três ameaças existenciais
Ao situar a discussão em um cenário mais amplo, Guterres colocou a inteligência artificial sem controle ao lado da crise climática e do aprofundamento das desigualdades.
“Em um momento em que o mundo enfrenta três ameaças existenciais — a inteligência artificial fora de controle, a crise climática e o intolerável aprofundamento das desigualdades —, a cooperação internacional é mais necessária do que nunca.”
ONU em momento difícil
A própria ONU chega à Semana de Alto Nível sob questionamentos sobre a capacidade das instituições multilaterais de responder às grandes crises internacionais. No início da coletiva, Guterres disse que mudanças na distribuição de poder mundial exigem também mudanças nas instituições.
“O poder está mudando. O mundo está mudando. E nossas instituições precisam mudar com ele.”
Ao responder a jornalistas sobre a perda de confiança no multilateralismo e na ONU, Guterres apontou a Assembleia Geral como uma oportunidade para aproximar líderes de países envolvidos em conflitos e abrir espaço para negociações diplomáticas.
O debate ocorre pouco depois de uma pesquisa do Pew Research Center mostrar uma piora na imagem da organização em vários países. A proporção de pessoas com avaliação favorável da ONU caiu de forma significativa em dez países em comparação com levantamentos anteriores.
A mediana de avaliações favoráveis foi de 55%, contra 37% desfavoráveis. No Brasil, 47% dos entrevistados disseram ter uma visão positiva da ONU e 37%, negativa.
Leia também | ONU abre Assembleia Geral sob o tema ‘restaurar a confiança’ com imagem em queda em 10 países, diz pesquisa
Leia também | É possível desacelerar a IA para conter seus riscos? Veja como isso poderia ser feito na prática
Leia também | Claude foi usado como ‘redação’ para produzir campanhas de influência em vários países, incluindo Brasil, diz Anthropic
