A execução do PT 2020 até 2023, do PRR até 2026 e do PT 2027 até 2030, na sua imensa complexidade técnico-administrativa, trará, inelutavelmente, à tona da água o chamado poder normativo dos algoritmos e, correlativamente, a maior ou menor exclusão e vigilância que esse poder normativo acabará por segregar junto de todos os potenciais candidatos daqueles programas. Todas as tarefas de candidatura e avaliação, de compromisso e contratualização, de execução e pagamento, de monitorização e auditoria, de inspeção e fiscalização, passarão, com maior ou menor intensidade, por operações envolvendo processos e procedimentos algorítmicos. O litígio técnico-administrativo por causa do poder normativo do algoritmo estará, assim, sempre iminente.

O poder normativo dos algoritmos deriva, em primeira instância, da prevalência do governo das normas e da política das regras com origem na União Europeia e, em consequência, das restrições impostas pela governação multiníveis (local, regional, nacional e europeia) sobre todos os promotores e candidatos. Agora que se discute em Bruxelas o pacto ecológico europeu, a transição energética, a criação de um orçamento específico para a zona euro, a regulação do mercado único digital e o próximo programa plurianual de fundos europeus, é de esperar que suba ainda mais o teor da condicionalidade europeia e o seu normativismo institucional. O mesmo é dizer, diminuirá em idêntica proporção a margem de liberdade da nossa atuação como beneficiários, destinatários e utilizadores das regras e fundos europeus.

Em matéria de fundos europeus, estaremos, com efeito, em pleno império administrativo dos mestres-algoritmos de Bruxelas e Lisboa. Quanto mais se anuncia, na retórica do discurso político, a necessidade imperiosa de territorializar as políticas públicas, mais se constata, no dia-a-dia da administração e dos beneficiários, a afirmação do império administrativo do template, do algoritmo, do vade-mecum, das boas práticas regulamentares, em tudo ou quase tudo o que diz respeito aos processos de candidatura, aos processos de aprovação, aos processos de contratação, aos processos de pagamento, aos processos de inspeção, aos processos de auditoria, aos processos de avaliação, etc. É a operacionalização sofisticada e rebuscada de processos, protocolos e procedimentos, comandada à distância, por Bruxelas e Lisboa e que obrigam o “pobre destinatário”, desde logo nos avisos de concurso, a desembolsar verbas para apoio e consultoria, sob pena de ver a sua candidatura prejudicada.

Este é o lado mais pesado da sociedade algorítmica, isto é, a reformatação do destinatário e do seu projeto, induzida pela digitalização burocrática, com um custo de acesso e formalidade crescente, que pode ter um efeito de segregação e exclusão apreciável e para o qual é preciso estar prevenido se queremos, mesmo, concretizar o princípio da liberdade, da descentralização e da territorialização das políticas públicas correspondentes.

Este poder normativo crescente dos algoritmos só é possível porque, na sociedade algorítmica, os nossos dados pessoais, recolhidos em múltiplos dispositivos fixos e móveis, são objeto de uma filtragem e tratamento em grandes centros de dados por intermédio de protocolos e procedimentos matemáticos a que chamamos algoritmos. O resultado final desse processamento é conhecido, apresenta-se sob a forma de perfis e padrões de comportamento personalizados que são depois vendidos a empresas de marketing e publicidade ou diretamente às grandes empresas de distribuição e retalho. Estes mercados de duas faces, gratuitos a montante e pagos a jusante, são designados de “mercados biface” e são eles que proporcionam as receitas gigantescas às grandes plataformas digitais como a Google e o Facebook. Por isso, nós perguntamos, se seremos, também, cidadãos biface, seduzidos e engolidos pelos dispositivos da sociedade algorítmica?

Ora, a realização, durante toda esta década, de programas de transição financiados pelos fundos europeus e, agora, também, por empréstimos mutualizados, levanta uma questão adicional da maior importância, a saber, a proteção dos interesses financeiros da União Europeia. Neste âmbito não é de surpreender que aumente a condicionalidade geral ou macroeconómica da zona euro, mas, também, o poder normativo dos algoritmos de seleção e auditoria, tanto no momento de aprovação das candidaturas como nas inspeções periódicas à utilização dos fundos europeus, o que pode acarretar maior exclusão de candidatos, mas, também, uma vigilância acrescida e, mesmo, a violação da privacidade e proteção digital dos utilizadores desses mesmos fundos europeus.

Quer dizer, por via de uma candidatura aos programas europeus nós vamos cair numa espécie de “modelo extrativista” em que os cidadãos promotores de investimento, utilizadores de redes e plataformas de concursos, serão produtores e fornecedores de uma gigantesca massa de informação pessoal, muita dela subliminar, num ambiente informacional vertiginoso e hipnótico, que tem tanto de benignidade como de toxicidade. Este é um tópico de uma enorme sensibilidade, uma vez que está em causa a gestão da privacidade dos cidadãos e a sua proteção digital.

Aqui chegados, talvez seja necessário regressar ao princípio da justa medida e tentar colocar as perguntas certas na relação entre inteligência humana e inteligência artificial dos algoritmos que é, afinal, o cerne da questão. É bom não esquecer de que o mito da inteligência das máquinas é, apenas, a sua capacidade para simular a inteligência humana, pois a autonomia técnica e lógica não se confunde com a inteligência racional e emocional dos humanos. Somos nós, humanos, que inventamos o código e é dentro de um determinado código de linguagem que as máquinas e a inteligência artificial funcionam. Podem aperfeiçoar mecanismos de aprendizagem e categorizar a informação, mas não alteram o código com que trabalham.

Quer dizer, o futuro não pode ser confiscado pela promessa tecnológica e a política não pode ficar acantonada por este determinismo sociotécnico. Assim, numa sociedade humana eticamente responsável e politicamente avisada há algumas perguntas que se impõem (a nós) nas relações entre inteligência humana (IH) e inteligência artificial (IA):

• Quais são as complementaridades e as linhas vermelhas que se interpõem entre uma IH consciente e uma IA logicamente subordinada?
• Como impedir que os “erros e a estupidez artificiais” originem acontecimentos fortuitos e danos colaterais graves?
• Como impedir que algumas formas de IA se convertam em cúmplices do cibercrime e da insegurança de indivíduos, comunidades e nações?
• Como impedir que a governação algorítmica e a administração do Big Data promovam mais discriminação, enviesamento e exclusão sociais?
• Como criar um enquadramento institucional apropriado e favorável ao contencioso de responsabilidade entre órgãos arbitrais, instâncias regulatórias e judiciais?

Numa sociedade humana eticamente responsável e politicamente avisada, os melhores princípios ainda são a prudência e a moderação perante um futuro cada vez mais performativo no que diz respeito à tecnologia. Somos seres conscientes dotados de intenção, intuição, reflexão e sentimentos e, no plano ético, os limites da consciência e a consciência dos limites é a nossa norma-padrão e, também, a regra base para lidar com as relações entre inteligência humana e inteligência artificial. No limite, a inteligência artificial até pode simular algumas destes atributos, mas a possibilidade de cair no ridículo é ainda mais iminente. O mesmo se diga em relação à autoregulação de sistemas automáticos ou mesmo autónomos.

Notas Finais

Aqui chegados, porém, o mais arrepiante no horizonte desta década, é, mesmo, a zona de interface entre o poder normativo dos mestres-algoritmos de Bruxelas (e tudo o que está por detrás dele) e o estaleiro burocrático de Lisboa. Senão, vejamos. O modelo de governação do PRR inclui uma comissão interministerial de coordenação política e estratégia, uma comissão nacional de acompanhamento, uma estrutura de missão técnica denominada Recuperar Portugal e uma comissão de auditoria, controlo, monitorização e execução do programa. Ao mesmo tempo, o PT 2030, incluirá uma comissão de coordenação política, uma comissão de acompanhamento, autoridades de gestão dos programas operacionais e regionais, agências e gabinetes de planeamento. A tudo isto é necessário juntar as autoridades inspetivas e regulatórias, os tribunais administrativos e de contas, os sistemas de crédito do banco de fomento nacional e do sistema bancário, as direções gerais, as autarquias e as CCDR e seus respetivos pareceres.

Dito isto, eis o poder normativo dos algoritmos em todo o seu esplendor (4V): velocidade, volume, variedade, verdade. Através da sua mão sedutora e benevolente, o racional da economia do Big Data é encontrar uma norma-padrão de comportamento e, a partir daí, substituir a “nossa imperfeição”, displicência e ligeireza por essa norma-padrão. Ou seja, o poder normativo dos algoritmos como uma espécie de irmão mais velho, se quisermos, como tutores autorizados do nosso comportamento.

É isto que nós, cidadãos europeus, desejamos, uma inteligência de 2.ª ordem ao serviço dos mestres-algoritmos de Bruxelas e do estaleiro burocrático de Lisboa?

Para lá dos modelos matemáticos da governação algorítmica e da burocracia dos fundos, teremos, então, de perguntar: quem são os homens sem rosto que nos governam e administram e qual é o grau de responsabilidade pública e democrática que eles nos devem? Qual é e como se configura a nova inteligência institucional para esta década e como é que o pensamento crítico e a ação política lidam com estas novas “corporações do algoritmo, do Big Data e do dataísmo”? Até que ponto os programas de recuperação, resiliência e desenvolvimento serão irremediavelmente condicionados e afetados por esta governação algorítmica e administração burocrática?

No final, depois de tanto acaso e necessidade, de tanto determinismo e aleatoriedade, de tanta arte, política e filosofia, seremos nós os novos crentes do Big Data e do dataísmo, estaremos nós reféns da governação algorítmica? E nesta encruzilhada do tempo, onde fica o nosso livre-arbítrio, os erros e a incerteza sobre o futuro, afinal, a nossa ilha de esperança e a nossa pequena margem de liberdade?

O autor escreve segundo o novo acordo ortográfico