Santa Sé publica nota sobre IA: “Homem pode se tornar escravo”

Publicada nesta terça-feira (28/1), a nota “Antiqua et Nova” – em referência à sabedoria antiga e nova – da Santa Sé discute as implicações éticas e antropológicas do uso da Inteligência Artificial (IA). O documento destaca a necessidade de distinguir a IA da inteligência humana e alerta para os riscos de dependência, manipulação e desigualdades sociais decorrentes de seu uso.

De acordo com a nota, o homem pode se tornar escravo das máquinas caso a ferramenta não seja utilizada de forma ética e responsável. O texto, que tem 117 parágrafos, foi elaborado pelos dicastérios para a Doutrina da Fé e para a Cultura e a Educação. O documento foi aprovado pelo Papa Francisco.

Principais pontos da nota:

• IA como ferramenta, não como pessoa: a IA não deve ser vista como uma forma artificial de inteligência, mas sim como um de seus produtos. Ela não deve ser divinizada nem substituir as relações humanas.
• Potenciais benefícios: pode trazer inovações importantes em diversos campos, como o auxílio em diagnósticos médicos, a melhoria do acesso à educação e o suporte à agricultura sustentável.
• Riscos e preocupações éticas: existem riscos de a IA agravar desigualdades sociais e discriminação, além de concentrar poder em poucas empresas, permitindo sua manipulação para lucros ou interesses específicos. O uso da IA em sistemas de armas autônomas é uma grave preocupação ética.
• Impacto nas guerras: pode aumentar os recursos bélicos para além do controle humano, o que poderia levar a uma corrida armamentista desestabilizadora. Sistemas de armas autônomas capazes de matar sem intervenção humana são considerados uma ameaça.
• Relações humanas: a IA pode facilitar conexões, mas também levar ao isolamento. A antropomorfização da ferramenta pode levar a uma visão utilitarista das relações humanas.
• Economia e trabalho: pode aumentar a produtividade, mas também desqualificar trabalhadores e submetê-los a vigilância automatizada. A substituição excessiva do trabalho humano por tecnologia é considerada prejudicial.
• Saúde: a IA tem potencial na área médica, mas pode prejudicar a relação médico-paciente e criar desigualdades no acesso à saúde.
• Educação: pode melhorar o acesso à educação, mas também levar à perda do hábito de buscar informações por conta própria e ao desenvolvimento de pensamento crítico. Há também o risco de disseminação de informações falsas e imprecisas.
• Fake news e deepfakes: a IA pode gerar conteúdos manipulados e informações falsas, o que pode levar a alucinações e manipulações. Deepfakes são usados para enganar e prejudicar.
• Privacidade e controle: pode ser usada para adquirir dados pessoais e exercer controle sobre a vida das pessoas.
• Meio ambiente: modelos de IA podem auxiliar na previsão de eventos climáticos e no suporte à agricultura sustentável, mas exigem grandes quantidades de energia e contribuem para as emissões de CO2.
• Relação com Deus: IA não deve substituir Deus, e a presunção de fazer isso é considerada idolatria. A IA é um reflexo pálido da humanidade e não deve ser divinizada.

O documento é direcionado a todos aqueles que têm um papel na educação, na fé, no desenvolvimento tecnológico e, também, para o público geral que se preocupa com o impacto da Inteligência Artificial na sociedade.