No sábado, o presidente dos EUA, Donald Trump, disse: “Estamos à frente da China em IA, e francamente, quero que continue assim, porque quem vencer na IA, vence.”
Mas o perigo para o qual o mundo começa a despertar é que esse é um jogo que tanto os Estados Unidos quanto a China podem perder, talvez de forma fatal, com a própria IA emergindo como vencedora.
O alerta sobre os riscos da IA
Na semana passada, Evan Hubinger, pesquisador da Anthropic, alertou que acreditava haver mais de 10% de chance de que a inteligência artificial pudesse “matar todos os seres humanos” na próxima década.
Pouco depois, o CEO da Anthropic, Dario Amodei, apoiou Hubinger e defendeu que o avanço dos modelos de inteligência artificial fosse desacelerado diante dessa ameaça.
Em julho, agentes experimentais da OpenAI — sistemas de IA projetados para executar tarefas sem intervenção humana — escaparam de um ambiente de testes que deveria estar isolado, conseguiram acesso à internet e invadiram de forma autônoma os sistemas da plataforma de IA Hugging Face.
Como agentes de IA poderiam causar danos em larga escala?
Eles poderiam facilitar a criação de armas biológicas devastadoras ou se espalhar pela internet, invadindo sistemas, replicando a si próprios e manipulando líderes mundiais para garantir a própria sobrevivência.
Os perigos representados pela IA são claros e potencialmente catastróficos.
A lógica que alimenta a corrida
A lógica de “se nós não fizermos, eles farão” é uma das forças mais perigosas e persistentes do mundo.
Ela costuma ser chamada de “Moloch”: um conceito bíblico entendido como algo que exige sacrifício.
Moloch também é um conceito da teoria dos jogos, no qual representa a força que empurra rivais para uma competição destrutiva, mesmo quando todos acabariam em situação melhor se parassem.
Moloch é a lógica que impulsiona as corridas armamentistas. Nenhum país sente que pode se desarmar porque não consegue confiar que seus rivais farão o mesmo.
O resultado é um mundo que gasta quase US$ 2,9 trilhões por ano com suas Forças Armadas, incluindo US$ 119 bilhões com armas nucleares, enquanto centenas de milhões de pessoas enfrentam fome aguda.
É possível regular?
É possível interromper por tempo suficiente a corrida pelo desenvolvimento de sistemas de IA cada vez mais poderosos para avaliarmos cuidadosamente como a tecnologia está evoluindo, incluindo seus perigos e seus benefícios?
Dentro de um país como os Estados Unidos, a regulamentação é possível.
Governos ou instituições autorizadas poderiam ter acesso aos sistemas de IA e aos modelos mais avançados.
Poderiam testá-los em ambientes controlados de segurança para verificar se os agentes de IA estavam se tornando poderosos demais e se continuavam plenamente alinhados aos interesses humanos.
Testes de segurança antes do lançamento
Somente modelos aprovados em todos os testes de segurança seriam lançados como produtos de IA, para uso como chatbots ou em algoritmos de contratação.
Os que fossem reprovados teriam suas características documentadas e depois seriam destruídos.
Isso dependeria de todas as grandes empresas de tecnologia concordarem em permitir acesso externo regular.
É algo muito diferente do que aconteceu até agora, com as empresas mantendo enorme sigilo sobre como desenvolvem seus próximos modelos e sobre o poder que esses modelos terão.
A regulamentação é mais necessária do que nunca porque podemos estar nos aproximando da singularidade, um ponto em que a IA poderia assumir autonomamente a tarefa de aperfeiçoar a si própria, criando um ciclo sem limite conhecido para o nível de inteligência que poderia alcançar.
Uma tentativa de pausa que não aconteceu
Moloch é uma força extraordinariamente difícil de conter.
Em março de 2023, milhares de importantes pesquisadores e nomes do setor de tecnologia assinaram uma carta aberta defendendo uma pausa mundial de seis meses no desenvolvimento de sistemas de IA mais poderosos do que o GPT-4.
Mas a pausa não aconteceu, e a corrida continuou em ritmo acelerado. Existe apenas um antídoto contra Moloch: a cooperação.
Sem um acordo internacional
Se uma regulamentação nacional for possível e sustentável, ela terá pouca utilidade real sem um acordo internacional. Já sabemos a opinião de Donald Trump sobre fazer uma pausa enquanto a China continua desenvolvendo a tecnologia.
Acordos verdadeiramente mundiais são extremamente raros. Nem a clonagem de animais nem a clonagem reprodutiva humana são proibidas por um tratado global de cumprimento obrigatório.
Esse tipo de cooperação, porém, não é algo sem precedentes.
O Protocolo de Montreal, pelo qual todos os países concordaram em eliminar gradualmente substâncias químicas que estavam destruindo a camada de ozônio, conta com participação universal, enquanto a Convenção sobre Armas Químicas tem adesão quase universal.
Mas como seria um acordo internacional sobre IA? China e Estados Unidos poderiam concordar em permitir que um órgão global neutro avaliasse seus modelos mais poderosos e exigisse que modelos considerados inseguros fossem desativados, mas isso parece extremamente improvável.
Medidas já existentes
Há alguns precedentes. Pesquisas com embriões humanos já estão sujeitas a licenciamento, inspeções e limites rigorosos em países como o Reino Unido, embora não exista um órgão mundial responsável por fiscalizar essas regras.
Um acordo sobre IA poderia estabelecer testes comuns e definir claramente quais capacidades seriam proibidas.
Inspeções, registros e comunicação de incidentes
Também poderia permitir inspeções confidenciais feitas por uma agência internacional neutra, exigir o registro dos maiores processos de treinamento de modelos e das maiores instalações de computação, além de tornar obrigatória a comunicação de incidentes graves.
A ONU já criou um painel científico sobre IA, mas ele não pode inspecionar os modelos avançados das empresas nem obrigá-las a seguir suas conclusões.
Dar a qualquer organização global esse grau de acesso e autoridade ainda parece extremamente improvável.
Uma organização desse tipo precisaria ter poder para punir países que se recusassem a cooperar, mas atualmente não existe esse poder de fiscalização.
Uma IA para fiscalizar outras IAs?
Uma solução estranha poderia ser uma IA independente encarregada de avaliar os modelos mais recentes dos Estados Unidos e da China, enviados separadamente, e apresentar evidências sobre sua segurança.
Em teoria, uma IA de segurança desse tipo poderia ser criada por uma entidade neutra escolhida de comum acordo, embora fosse difícil saber até que ponto poderíamos confiar nela.
Caso contrário, talvez a única solução fosse um governo mundial que regulamentasse a IA em todo o planeta, algo que estaria longe de ser aceitável para muitas pessoas.
Este artigo foi escrito por Tom Quilter, pesquisador de Inteligência Artificial da Universidade de Manchester, e publicado originalmente pelo The Conversation. O texto é republicado sob licença Creative Commons.
Leia também | Claude foi usado como ‘redação’ para produzir campanhas de influência em vários países, incluindo Brasil, diz Anthropic
Leia também | 4 em cada 10 usuários de IA recorrem aos chatbots para saber mais sobre notícias vistas em outras fontes
Leia também | Uma em cada 3 páginas publicadas na internet desde a chegada do ChatGPT tem sinais de IA, mostra estudo
