Papa Leão XIV alerta para um “paraíso de máquinas”

A 25 de Setembro, no começo da sua visita oficial a França, o papa Leão XIV alertou para o risco de a humanidade se perder num “paraíso de máquinas” que invada e condicione o quotidiano. Num discurso no Palácio do Eliseu, em Paris, o chefe da Igreja Católica pediu educação para o discernimento ético perante a expansão da inteligência artificial.

A intervenção colocou a IA no centro de uma deslocação que abrange igualmente a paz na Europa, os debates franceses sobre o fim da vida e a resposta da Igreja aos abusos sexuais. De acordo com o The Guardian e a CNBC, o papa tratou a tecnologia como matéria de dignidade humana, poder e responsabilidade, e não apenas como instrumento de inovação.

Uma advertência sobre a condição humana

No Eliseu, Leão XIV afirmou que é urgente formar pessoas capazes de perceber o que é moralmente correcto. A declaração não equivale a uma recusa geral da inteligência artificial. O seu alvo é o risco de sistemas técnicos passarem a orientar comportamentos, decisões e relações sem que os utilizadores, as instituições e os responsáveis políticos tenham critérios éticos sólidos para avaliar as consequências.

Num segundo discurso, na sede parisiense da Unesco, a organização da ONU para a educação, ciência e cultura, o pontífice insistiu que as novas tecnologias devem continuar ao serviço da pessoa humana. Caso contrário, disse, podem tornar-se mais um instrumento de dominação e injustiça. Para Leão XIV, qualquer ciência pode perder o seu sentido quando é prosseguida sem ética.

O papa questionou ainda a facilidade com que a designação de “inteligência” é aplicada a sistemas computacionais. Enquanto se atribui inteligência a máquinas, sustentou, pode tornar-se mais difícil reconhecer a dignidade inalienável de pessoas avaliadas segundo a eficiência. Na sua formulação, vidas consideradas já não produtivas arriscam ser rejeitadas ou descartadas.

O que o discurso não define

As declarações não incluem propostas técnicas concretas para programadores, plataformas, empregadores ou reguladores. Não especificam, por exemplo, requisitos para auditorias, transparência de dados ou revisão humana. O alcance da mensagem é sobretudo normativo: a decisão sobre como usar sistemas automatizados deve preservar a capacidade humana de julgar, assumir responsabilidade e proteger quem possa ser prejudicado.

• Formação ética para interpretar decisões apoiadas por sistemas automatizados.
• Tecnologia orientada para o serviço das pessoas e não para a dominação.
• Defesa da dignidade humana perante métricas de eficiência e produtividade.
• Vigilância sobre os efeitos da automação nas relações e nas ideias.

Na prática, este apelo pode aplicar-se a escolas, hospitais, empresas e serviços públicos que recorram a ferramentas de IA. A rapidez de uma resposta automática, ou a redução de custos, não esclarece por si só se uma utilização é justa. Permanecem questões sobre erros, dados usados para treinar sistemas, discriminação, possibilidade de contestação e identificação de quem responde pela decisão final.

Uma deslocação com vários temas

Há uma divergência entre as fontes quanto à duração da visita: o The Guardian refere três dias e a CNBC fala em quatro. Ambas indicam que Leão XIV passará por Paris, Lourdes e Metz. A agenda inclui uma grande missa ao ar livre na Place de la Concorde, uma visita à catedral de Notre-Dame restaurada e um discurso previsto sobre a paz europeia.

A discussão sobre ciência e tecnologia também foi ligada pelo papa a outros temas de bioética. Depois de França ter aprovado, em Junho, legislação que dá a alguns doentes adultos acesso à morte assistida, Leão XIV manifestou preocupação com tendências que, no seu entendimento, podem transformar a ciência e a tecnologia em empreendimentos movidos pelo lucro, incluindo manipulação genética, gestação de substituição e comércio de órgãos.

O pontífice pediu igualmente a Paris que continue a ser uma defensora incansável da paz e instou responsáveis políticos franceses a não aceitarem a guerra como inevitável. Está previsto que fale em Metz, na segunda-feira, sobre a paz na Europa, enquanto a invasão em larga escala da Ucrânia pela Rússia entra no seu quinto ano, segundo o The Guardian.

Abusos e confiança institucional

Em Lourdes, o papa deverá reunir-se em privado com sete vítimas de abusos sexuais cometidos por membros do clero. Alguns grupos de sobreviventes defenderam que mais pessoas deveriam ter sido ouvidas. A Igreja Católica indicou que o encontro procura permitir diálogo aprofundado com indivíduos. Um relatório de 2021 estimou que 330 mil crianças foram abusadas em França durante 70 anos por padres ou outras figuras ligadas à Igreja.

Para Portugal, onde a digitalização dos serviços e a utilização de sistemas automatizados avançam em sectores públicos e privados, a advertência de Leão XIV não substitui regras, fiscalização ou debate democrático. Coloca, porém, uma questão directamente relevante: se uma máquina ajuda a decidir sobre pessoas, os critérios de dignidade, explicação e recurso têm de continuar acessíveis a quem é afectado.