A tecnologia é mais produtiva quando a finalidade dos resultados não é prevista nem controlada
(L. Winner, Autonomous Technology, 1978)

Ao escrever este texto, no início de 2024, tinham ocorrido dois acontecimentos importantes: as últimas sessões da COP28 no Dubai e o acordo entre o Conselho e o Parlamento Europeu sobre regulação da Inteligência Artificial (IA) em Bruxelas. O primeiro tenta remediar danos com origem no passado e o segundo tenta evitar danos no futuro, mas ambos estão relacionados com a aplicação de tecnologias.

A IA é uma tecnologia nova e poderosa. Está a ser intensamente comercializada e aplicada entre nós. Está a ser elogiada, discutida, imaginada e temida. Não é só mais uma técnica útil, é algo que merece reflexão e ponderação na sociedade. Prova-o o tema da Mensagem do Papa Francisco para o Dia Mundial da Paz em 1/1/24: “Inteligência Artificial e Paz”.

É um texto com oito pontos que, em poucas páginas, constitui um aviso e um repto à humanidade. Alguns, antes de ler o texto, poderão pensar que é uma provocação, outros dirão que é uma posição conservadora que traduz resistência a uma inovação irreversível. A minha posição é outra. Mas o que nos diz o Papa Francisco nos referidos oito pontos? Aqui vai o meu resumo:

1. “O progresso da ciência e da tecnologia como caminho para a paz”. Lembra a importância histórica do conhecimento e da aplicação da inteligência humana no desenvolvimento da humanidade e na defesa de uma vida cada vez mais digna e justa. Sublinha os progressos positivos das novas tecnologias digitais, mas também os seus riscos para a justiça, a harmonia e a paz.

2. “O futuro da Inteligência Artificial, por entre promessas e riscos”. Refere transformações sociais em curso nas últimas décadas e indica aspectos da vida diária que estão a ser alterados, nomeadamente a possibilidade o controlo de “hábitos mentais e relacionais das pessoas para fins comerciais ou políticos”. Recorda-nos que as inovações tecnológicas não são “neutrais”. Faz uma reflexão sobre o conceito de inteligência artificial considerando que esta tecnologia será cada vez mais importante, mas que precisamos de saber salvaguardar os direitos humanos fundamentais.

3. “A tecnologia do futuro: máquinas que aprendem sozinhas”. Refere as questões destas técnicas e os seus efeitos no conhecimento humano e na “capacidade que tem a mente de alcançar a verdade.” Um desafio face à autoria, à criatividade e à verdade intelectual.

4. “O sentido do limite, no paradigma tecnocrático”. Foca a responsabilidade social das decisões produzidas por máquinas que podem ser preparadas para privilegiar o critério da eficiência económica e avisa para o perigo de uma ditadura tecnológica e o incremento das desigualdades.

5. “Temas quentes para a ética”. Chama a atenção para a ameaça ética da perda de mediação humana em decisões sociais relevantes, nomeadamente em serviços públicos e em meio laboral. O uso invasivo da vigilância (perda de privacidade) ou a adopção de classificações sociais automáticas. Formas de injustiças e de desigualdades sociais podem então ser induzidas. Talvez já em curso!

6. “Transformemos as espadas em relhas de arado?” Incide neste ponto sobre a aplicação das novas tecnologias em armamento. A questão da moral da guerra e da utilização de armas autónomas. O Papa pede “uma supervisão humana adequada, significativa e coerente”. Nota: a proposta de regulação da UE não abrange o domínio militar.

7. “Desafios para a educação”. Os jovens estão a crescer “em ambientes culturais impregnados de tecnologia” o que implica uma responsabilidade acrescida e desafios ao sistema de educação: desenvolvimento de pensamento crítico e de sensibilidade ética e de defesa da verdade factual sem desqualificação intelectual.

8. “Desafios para o desenvolvimento do direito internacional”. O Papa incentiva a regulação da IA pelos Estados e por organizações internacionais e propõe a adopção de um tratado internacional. O objectivo seria a prevenção das “más aplicações” e o incentivo às “boas aplicações”. A participação nos debates de todas as partes interessadas é considerada indispensável. Nota: objectivo para a Organização das Nações Unidas.

O Papa Francisco conclui a Mensagem com uma esperança: que os progressos no desenvolvimento da inteligência sirvam a causa da fraternidade humana e da paz. Outras esperanças, algumas semelhantes a ilusões fantasiosas para inscientes, são divulgadas com muita frequência, mas sem o peso cultural e moral do Papa Francisco. O nosso voto para 2024: sem um optimismo pueril ou um pessimismo doentio, aceitar uma atitude prudente relativamente à IA baseada na precaução activa e ética. Tarefa nada fácil. Não esquecer que o humano é fruto de um processo com milhões de anos perante o qual o artificial será sempre diferente e incompleto. Perante este facto não é necessário definir o que é o humanismo. A Mensagem do Papa Francisco é um excelente princípio de reflexão.