Paolo Benanti, frade franciscano conhecido como o “guru da inteligência artificial do Vaticano“, faz seguidos alertas para os riscos e dilemas trazidos pela tecnologia de inteligência artificial.
Sua metáfora central — o perigo de humanos se tornarem excessivamente mecanizados diante da IA — resume sua preocupação com a perda de autonomia e criatividade humanas frente ao avanço dessas tecnologias.
“Pensemos, por exemplo, na esfera médica: um diagnóstico nunca é simplesmente uma escolha entre terapias, mas uma tomada de controle de uma existência humana por outra existência humana que implicitamente lhe faz uma promessa de cura”, diz Benanti, em entrevista à Vatican News, agência de notícias do Vaticano.
“Devemos temer todas as situações em que experimentaríamos uma diminuição da humanidade para permitir um aumento da “maquinalidade”, complementa.
Benanti tornou-se referência na Santa Sé e em fóruns globais, articulando desafios éticos dos impactos da inteligência artificial.
Paolo Benanti representa o Vaticano em fóruns globais de inteligência artificial
Ele keciona na Pontifícia Universidade Gregoriana e é especialista em ética e bioética das tecnologias. Participa de seminários e conferências internacionais sobre IA.
Representou o Vaticano em discussões que definiram a posição da Santa Sé no G7 e integra o Corpo Consultivo da ONU sobre Inteligência Artificial, além de comissões do governo italiano.
Seu interesse pela tecnologia de IA surgiu ao perceber que a engenharia, sua formação inicial, não responderia às suas questões existenciais sobre o sentido de ser humano. Isso o levou à vida religiosa e ao estudo da ética tecnológica.
Consultor do papa Francisco, sem papel definido com Leão XIV
Benanti já foi consultor do papa Francisco. O papel exato no novo papado não parece definido.
Na prática, sua atuação sempre foi além da assessoria papal. Não há registro de críticas públicas diretas contra ele por figuras proeminentes.
Benanti critica a concentração de poder nas big techs que dominam a tecnologia de inteligência artificial e questiona o ethos libertário e ateu de Silicon Valley, a região da California onde estão sediadas as principais empresas de tecnologia (sem regra, sem religião).
Essas posições podem gerar divergência com setores que defendem o avanço tecnológico sem regulação ou que discordam de sua visão humanista. Mas a defesa de Benanti vem costuma ser extremamente respeitosa, intelectualmente honesta, profunda e, em alguns momentos, até bem humorada.
Leia também | Meta vai oferecer recurso para criação de anúncios com IA direto a marcas e pode transformar mercado publicitário
Inteligência Artificial, os novos oráculos?
Ele alerta para o risco de tratar os sistemas de IA como “novos oráculos”, atribuindo a eles autoridade quase divina e delegando decisões críticas à tecnologia. Esse cenário pode levar à dependência, redução da subjetividade e perda de julgamento humano, em sua visão.
Para Benanti, a verdadeira tragédia seria a sociedade abrir mão de sua capacidade de decisão e criatividade em favor de máquinas. Sua trajetória pessoal ilustra esses dilemas.
Uma crise existencial perto da virada do século o levou a abandonar uma carreira promissora na engenharia e ingressar na ordem franciscana.
Esse momento de ruptura e busca por um “espaço sagrado onde pudesse continuar questionando a vida” revela a profundidade de sua reflexão sobre o papel da tecnologia de IA na sociedade.
Leia também | Designer do iPhone se une à OpenAI para criar geração de dispositivos pensados para inteligência artificial
Frade defende ética incorporada ao código das tecnologias de inteligência artificial
Um dos primeiros trabalhos acadêmicos de Benanti foi a tese premiada “The Cyborg. Corpo e corporeità nell’epoca del postumano” (disponível na Amazon a partir de US$ 70).
Benanti defende que a ética deve estar incorporada ao código das tecnologias de inteligência artificial, não apenas em regulamentações externas. Ele afirma que a tecnologia reflete quem somos e pode ser tanto ferramenta quanto arma, dependendo da forma como é utilizada.
A visão de Benanti sobre os impactos da inteligência artificial se apoia em cinco pilares: humanização da tecnologia para o bem comum; “algor-ética”, sentido ético nos algoritmos; justiça social, combate de desigualdades e concentração de poder; sustentabilidade integral, impactos ambientais; e transparência com responsabilidade.
Na prática, rejeitando a IA como oráculo.
Leia também | Antonio Zappulla | Thomson Reuters Foundation: ‘A Inteligência Artificial é o novo campo de batalha pela confiança’
Medidas práticas em torno da Inteligência Artificial
A despeito da formação acadêmica, Benanti não representa apenas um intelectual: além de pensador, ele é um pragmático. Defende medidas práticas em torno da tecnologia artificial.
Dentre elas, regulamentação internacional baseada em valores, acordos tecnológicos, requalificação profissional no lugar da substituição de trabalhadores, acesso universal à medicina e combate à deepfakes e à desinformação, por meio da transparência algorítmica.
Para além do sentido crítico e consciente, Benanti enxerga os benefícios da inteligência artificial e mantém esperança de que a sociedade saberá construir pontes e não muros, com a tecnologia artificial.
“Uma máquina, ao contrário de um ser humano, nunca se cansará de perseguir seu objetivo e, portanto, talvez nunca haja uma trégua se dependermos apenas das máquinas. Quanto maior a capacidade humana, mais radicais serão as perguntas que teremos de responder”, comentou na mesma conversa com a agência da Santa Sé.
Leia também | Vaticano e Big Techs: a Igreja Católica entre o alerta ético e a parceria estratégica em Inteligência Artificial
