O Papa Leão XIV apresentou sua visão sobre a doutrina social da Igreja Católica na era da inteligência artificial e sobre como preservar a dignidade humana em meio ao cenário atual nesta segunda-feira, ao divulgar a primeira encíclica papel de seu pontificado, a "Magnifica Humanitas". A encíclica foi revelada durante um evento no Vaticano como a presença de Christopher Olah, co-fundador da Anthropic, uma das líderes mundiais no desenvolvimento de IA.

'Torre de Babel': Papa Leão XIV alerta para riscos da Inteligência Artificial em encíclica com 42.300 palavras

'Magnifica Humanitas': Saiba o que é o texto e conheça a importância de cinco outras encíclicas

O documento, endereçado a "todos os fiéis católicos, todos os cristãos e todos os homens e mulheres de boa vontade", indica em seu subtítulo a preocupação com a "salvaguarda da pessoa humana na era da inteligência artificial". Apesar do foco nas mudanças promovidas pelas novas tecnologias, o texto também traz trechos importantes sobre outros temas sociais, como um histórico pedido de desculpas pela legitimação da escravidão por parte da Igreja Católica, apelos ao multilateralismo e à criação de uma cultura de paz incompatível ao conceito de "guerra justa".

Initial plugin text

Veja os principais pontos da encíclica 'Magnifica Humanitas'

Inteligência artificial

As principais considerações do texto teológico envolvem o desenvolvimento dos modelos de IA, seus impactos em indivíduos e na sociedade e as necessidades de supervisão, de responsabilização pelas etapas do processo e a adoção de padrões éticos para compatibilizar a evolução tecnológica com a proteção integral do ser humano. Leão XIV afirma que a tecnologia não deve ser "considerada, em si mesma, como uma força antagônica em relação" ao homem, mas acrescentou que "o poder e a disseminação das tecnologias emergentes" tornou "mais complexo avaliar o seu impacto, bem como os efeitos a longo prazo sobre a dignidade das pessoas e o bem comum".

"É necessário adotar instrumentos normativos adequados, capazes de salvaguardar a justiça e de conter os efeitos nocivos do poder tecnológico. Mas a questão não se esgota na regulamentação", escreveu o Pontífice. "Outrora, eram sobretudo os Estados a orientar e a dirigir a inovação. Hoje, pelo contrário, os principais motores do desenvolvimento são sujeitos privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos. O poder tecnológico assume, destarte, uma identidade inédita, predominantemente 'privada' e, portanto, ainda mais difícil de discernir, gerir e orientar para o bem comum".

O Bispo de Roma indica que a IA não pode ser considerada "moralmente neutra", pois são moldados pelos atores que a "concebem, a financiam, a regulam e a utilizam", em um aparente recado ao Vale do Silício. Leão XIV defendeu a criação de marcos jurídicos adequados, bem como a sujeição das ferramentas a fiscalizações independentes, a responsabilização clara por cada parte dos processos que incluem a IA e a educação dos usuários.

Limite a armas autônomas

A expressão que demonstra maior urgência da relação entre IA e a responsabilidade está no uso e no desenvolvimento de sistemas de armas autônomas, para os quais o Papa pediu a adoção dos "mais rigorosos compromissos éticos" no respeito pela dignidade humana e pela sacralidade da vida".

"A Santa Sé observou recentemente que a crescente facilidade com que os sistemas de armas com autonomia operativa podem ser utilizados torna a guerra mais 'viável' e menos sujeita ao controle humano, contrariando o princípio de que o recurso à força armada deve ocorrer como última alternativa em caso de legítima defesa", escreveu Leão XIV.

O Pontífice criticou a defesa de "agentes morais artificiais", afirmando que as máquinas não podem garantir com maior coerência que um ser humano "a distinção entre o bem e o mal".

"Ora, o juízo moral não se reduz a um cálculo: implica consciência, responsabilidade pessoal e reconhecimento do outro como pessoa. Por isso, não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis", escreveu. "Não existe algoritmo que possa tornar a guerra moralmente aceitável".

De Platão a Tolkien

Embora se trate de um documento teológico com grande carga litúrgica e referência a encíclicas de seus antecessores — Leão XIV citou, por exemplo, a "Laudato Si", do Papa Francisco, e Leão XIII, autor da encíclica "Rerum novarum", que abordou os desafios impostos pela transformação tecnológica na Revolução Industrial, o líder Católico também citou filósofos e escritores diversos.

Entre os escolhidos como referência pelo Papa aparecem nomes como Platão e J.R.R. Tolkien. No caso do filósofo grego, Leão XIV se referiu a um trecho da "Carta VII", em que afirma que "as coisas mais profundas e importantes só se aprendem depois de muito tempo e esforço", em um argumento que o Pontífice utilizou para justificar uma educação livre da IA e da ideia da "máquina perfeita".

No caso do escritor de "O Senhor dos Anéis", Leão XIV chegou a citar uma passagem da obra em que um dos protagonistas da história afirma que "não nos compete dominar todas as marés do mundo, mas sim fazer o que nos for possível para ajudar os anos em que estamos inseridos, erradicando o mal nos campos que conhecemos para que quem viver depois possa ter terra limpa para amanhar". A metáfora foi utilizada pelo líder Católico para defender a construção de um mundo em que a defesa da dignidade humana seja central.

"A civilização do amor não nasce de um gesto único e espetacular, mas de uma soma de pequenas e tenazes fidelidades, que travam a desumanização. Por isso, vale a pena determo-nos a refletir sobre alguns aspectos de como podemos, cada um no seu âmbito, colaborar na sua construção", escreveu.

Escravidão e pedido de desculpas

O Pontífice fez uma série de considerações sobre as mudanças provocadas pela IA no mundo do trabalho, incluindo a substituição de trabalhadores por sistemas artificiais e defendeu a "quebrar as correntes das novas formas de escravidão", incluindo aquelas associadas a processos produtivos ligados à IA.

Ao tratar do tema, o Papa lançou um pediu desculpas pelo longo atraso da Igreja Católica em condenar a escravidão, que chamou de uma "ferida na memória cristã". Antecessores de Leão XIV já tinham se desculpado pela participação dos cristãos no tráfico de escravizados, incluindo João Paulo II e Francisco. As palavras do atual Pontífice, porém, foram além, reconhecendo que a Igreja foi proprietária de escravizados até a Idade Média e que também assessorou soberanos europeus sobre como justificar a escravidão dos "infiéis".

"Foi necessário esperar até o século XIX para encontrar uma condenação formal, absoluta e universal da escravidão", escreveu na encíclica. "É verdade que os acontecimentos do passado não podem ser julgados de forma anacrônica, como se todos os critérios morais que amadureceram ao longo do tempo sempre estivessem disponíveis. Ainda assim, também não podemos negar ou minimizar a demora com que tanto a sociedade quanto a Igreja passaram a denunciar o flagelo da escravidão".

'Guerra justa'

O Papa também afirmou a necessidade de superar a "teoria da guerra justa", afirmando que o conceito tem sido "invocado com demasiada frequência" para justificar conflitos. O Pontífice afirmou que isso não afeta a compreensão de legítima defesa em sentido estrito, mas que devem ser privilegiados instrumentos "mais eficazes e capazes de promover a vida humana", como o diálogo, a diplomacia e o perdão.

Leão XIV criticou o crescimento da indústria bélica, apontando que se tornou "setor-chave na economia de alguns países", e indicou que há uma "estreita ligação entre interesses econômicos, aparatos militares e decisões políticas".

"Não podemos ignorar os enormes interesses econômicos que estão por trás da guerra. As indústrias de armamento e os países que fornecem armas lucram com um mercado que prospera precisamente graças aos conflitos", escreveu. (Com NYT e AFP)

---

Clique aqui para ver toda notícia no site oficial.