ONU quer agência internacional para monitorar riscos e supervisionar uso da IA no mundo

Londres – Enquanto países – incluindo o Brasil – e regiões como a União Europeia caminham para regulamentar o uso da inteligência artificial (IA) de forma independente, o secretário-geral da ONU, António Guterres, sugeriu nesta terça-feira (18) a criação de uma agência internacional para maximizar os benefícios da tecnologia e mitigar seus potenciais riscos.

A proposta foi apresentada durante o primeiro debate sobre inteligência artificial no Conselho de Segurança das Nações Unidas, realizado em Nova York. 

Para Guterres, a governança da inteligência artificial requer um olhar universal, defendendo um organismo dentro da ONU para essa finalidade. 

Desafios da IA são universais 

Ele disse que a inovação traz desafios, como a falta de rastreabilidade e a liderança do setor privado, tendo poucos paralelos em outras tecnologias estratégicas.

Para ele, a melhor abordagem seria mapear os desafios existentes e, ao mesmo tempo, monitorar e responder a riscos futuros. Além disso, Guterres defende a integração do setor privado, sociedade civil, cientistas independentes e impulsionadores da inteligência artificial.

O secretário-geral das Nações Unidas afirma que a necessidade de padrões e abordagens globais torna a organização “o local ideal para que isso aconteça”.

A IA generativa tem um enorme potencial para o bem e o mal em escala. Até mesmo seus criadores alertaram que riscos maiores, potencialmente catastróficos e existenciais estão por vir.

Sem ação para lidar com esses riscos, negligenciamos nossas responsabilidades para com as gerações presentes e futuras.”

A União Europeia já tomou a dianteira na regulamentação da IA. O bloco aprovou em junho um projeto de lei classificando o uso da inteligência artificial em quatro níveis de risco. A previsão é de que a lei seja aprovada em definitivo até o fim do ano. 

Brasil, China, Japão, Canadá e EUA são alguns dos países que já iniciaram processos de regulamentação da IA, em diferentes estágios de evolução. 

Leia também | Europa aprova projeto de lei para IA baseado em classificação de riscos; veja como vai funcionar

Conselho para regulamentação da IA

Guterres afirmou que até o final deste ano irá convocar um Conselho Consultivo de Alto Nível multissetorial para Inteligência Artificial, que apresentará um relatório sobre as opções para governança global.

Segundo ele, seu próximo relatório, sobre uma nova agenda para a paz, também fará recomendações para os Estados-membros.

No texto, ele recomenda que os países delineiem estratégias nacionais sobre o projeto, desenvolvimento e uso responsável da IA, de acordo com obrigações sob o Direito Internacional Humanitário e os Direitos Humanos.

As nações são também convidadas a se envolverem em um processo multilateral para desenvolver normas, regras e princípios sobre aplicações militares.

O documento sugere um acordo sobre uma estrutura global para regular e fortalecer os mecanismos de supervisão para o uso de tecnologia baseada em dados, incluindo inteligência artificial, para fins de combate ao terrorismo.

Guterres pede que as negociações sobre um instrumento juridicamente vinculativo para proibir sistemas de armas autônomos letais, que funcionem sem controle ou supervisão humanos e que não possam ser usados em conformidade com o direito humanitário internacional, sejam concluídas até 2026. 

Leia também | Estourou a bolha? Tráfego mundial do ChatGPT cai 10% em junho