A pandemia e os perigos de uma distopia digital: colonizando pelo algoritmo?

Nas vésperas do surto em Wuhan (na China) do novo coronavírus SARS-CoV-2, Tim Berners-Lee, um dos criadores da World Wide Web e diretor do W3C (World Wide Web Consortium) que monitoriza o desenvolvimento constante da web, publicou um texto no New York Times (24.11.2019) em que expunha a sua inquietação sobre o estado da Internet. Distinguido em 2016 pela Association for Computing Machinery (ACM) com o Prémio Turing (considerado o Nobel da Computação), afirma que a Internet está num ponto de inflexão para que não se transforme em “distopia digital”. Tim Berners-Lee propõe uma “intervenção radical” com poder sobre o futuro da web. Ilustra as suas preocupações com exemplos como a subversão da democracia através de táticas digitais. Refere-se ao uso de publicidade politicamente orientada na campanha presidencial de 2020, nos EUA (e noutras eleições), e ao desconhecimento dos cidadãos sobre como os seus dados são usados por parte dos poderes. Defende que os governos têm o dever de legislar e regular; que as empresas são obrigadas a ter princípios para desenharem os produtos; que os grupos da sociedade civil, os ativistas e utilizadores, podem ter e exigir responsabilidade.

Os avisos, vindos de quem vêm (um reputado cientista da computação) e tendo a importância que têm, devem ser tidos em conta. As nossas sociedades não se podem comprazer com as promessas de liberdade e harmonia trazidas pelas inovações tecnológicas, antes é exigida uma maior reflexividade em relação aos efeitos das tecnologias e aos seus desenhos.

Moldar (ou não moldar) a tecnologia para a democracia

Em nome da proteção da vida e da integridade física dos cidadãos (exigência primordial dos direitos humanos presente nas constituições) vários governos — entre os quais o de Portugal — decretaram o estado de emergência, limitaram um grande número de liberdades e determinaram o confinamento social. Poucos meses após os alertas de Tim Berners-Lee, a mediação tecnológica através dos computadores e da Internet tornou-se de súbito uma resposta importante para manter relações sociais à distância, atividades ligadas à comunicação, política, economia, trabalho, consumo, ensino, cultura, entre muitas outras.

Será que o recurso aos computadores e à Internet nesta situação de exceção poderá colocar em segundo plano os perigos para que alertava o criador da World Wide Web? Que outras ameaças vêm sendo postas em prática em nome da diminuição do contágio? O que deveria ser uma exceção, exigida pela intangibilidade da vida, pode tornar-se uma nova regra e abalar ou arruinar liberdades, garantias e direitos de cidadania e de trabalho? Com a recessão económica que vai atingir as sociedades, os alertas e as críticas vão tornar-se inaudíveis, falando mais alto os mandamentos de encontrar putativos caminhos do crescimento?

Arrojar esclarecimentos sobre estes problemas não é um entrave à inovação tecnológica. Mas, sim, um esforço para manter a consciência desperta, um contributo para moldar o contexto tecnológico à democracia.

Como é que o big data influencia a nossa realidade social?

No centro dos principais problemas gerados pelas capacidades da Internet está o processamento de enormes conjuntos de dados e o big data, que influem intensamente na realidade social. A Internet é um sistema tecnológico de sistemas tecnológicos. É uma rede de redes. O seu poder é o poder das redes. Mais membros, maior o poder. As grandes redes são hoje plataformas tecnológicas gigantescas com fins eminentemente comerciais, embora outras existam em países como a China e a Rússia, muito subordinadas ou condicionadas ao controlo político. As principais plataformas são os GAFA (acrónimo que nasce da junção das marcas da Google, Apple, Facebook, Amazon). Em 2016, o Facebook tinha doze mil milhões de utilizadores e 425 mil milhões de dólares de valor de mercado, correspondentes a cerca de 11% do valor total das empresas norte-americanas de software cotadas em bolsa; controlo sobre o Instagram (desde 2012) e o WhatsApp (desde 2014).

As interações que decorrem nessas redes são produtoras de enormes conjuntos de dados em suporte digital — dados de redes sociais, dados empresariais e dados pessoais — que podem ser rastreados e submetidos a análise através do seu processamento com diferentes técnicas de modo a proporcionar informação considerada útil. Veja-se a dimensão do negócio dos dados por parte de grandes plataformas como o Google e Facebook. A chave do seu êxito encontra-se no aperfeiçoamento sistemático dos modelos de gestão e classificação algorítmica dos dados, desde a sua captação original até à sua análise posterior. Estas e outras plataformas classificam a informação digital em função de diferentes valores de uso em redor da popularidade (visitas), autoridade (ligações), reputação (likes ou gostos) e predição do comportamento a partir dos rastos de navegação dos internautas (pegada digital). Estamos próximos de apagar uma fronteira. A fronteira entre influenciar o comportamento (através da sua predição) e impor um dado comportamento por via da supervisão tecnológica.

Na atual situação social e económica crítica produzida pelo novo coronavírus e pelas respostas políticas ao mesmo, os dispositivos computacionais e as plataformas têm estado a reforçar novas formas de sociabilidade, aprendizagem, economia, lazer, amizade, violência, etc., que estavam já em ação antes da pandemia. Tais interações e relações estão sujeitas a desenhos tecnológicos e tratamentos algorítmicos com finalidades que não são ditadas ou controláveis pelos utilizadores. Por exemplo, finalidades comerciais, de controlo policial ou de governo e monitorização política. Uma conexão online implica, então, uma interação num ambiente heterónomo (regido por outrem, e não pelo próprio). Esta interação, esta relação, não acontece apenas com a interferência de outros indivíduos ou instituições (mais ou menos conhecidas), mas com dispositivos opacos que filtram, orientam, direcionam a conexão. Ou que a rastreiam, influenciam e vigiam. Os dados recolhidos são objeto de tratamento e análise que proporciona conclusões e tomada de decisões.

“Se os algoritmos definem uma situação como real, ela será real nas suas consequências”

De que maneiras é que o big data influencia a nossa realidade social? O big data engloba infraestruturas, tecnologias e serviços criados para dar solução ao processamento dessas grandes quantidades de dados.

Tenhamos em conta alguns passos. A digitalização permite gerar e processar grandes conjuntos de dados, passíveis de serem constantemente alimentados, e cuja origem pode ser pautada pela variedade. Estes dados só proporcionam informação útil se forem submetidos a tratamento e análise, para os fins fixados (que podem ser comerciais, de reputação, influência, manipulação política e monitorização estatal dos indivíduos). No centro do seu tratamento estão os algoritmos, delineados para servir os ditos fins (das plataformas ou de entidades a quem as plataformas vendam os dados).

Estes algoritmos são instruções matemáticas bem definidas. Classificam a informação digital através de regras de cálculo. Produzem sistemas de equivalência que selecionam alguns objetos em detrimento de outros e impõem uma hierarquização. Deste modo, a forma como se classifica a informação digital maciça influi — ou até estrutura — de forma relevante os quadros cognitivos e culturais de cada vez mais âmbitos da nossa sociedade. Sistemas de classificação orientados para a definição de situações podem convertê-las em reais, porque contribuem para estruturar as decisões e opções dos indivíduos e das instituições.

A este propósito, num colóquio sobre “Inteligência Artificial e Big Data” (organizado pelo Instituto de Ciências Sociais da Universidade de Lisboa e pela Faculdade de Direito da Universidade de Lisboa, que decorreu entre 5 e 6 de dezembro de 2019) a professora de Lei e Tecnologia da Universidade Livre de Bruxelas, Mireille Hildebrandt, adequou bem o conhecido teorema do sociólogo William Thomas (e, embora poucas vezes referido, também da autoria da sua mulher, Dorothy Swaine Thomas), “se as pessoas definem as situações como reais, elas são reais nas suas consequências”, às atuais circunstâncias abertas pelas tecnologias digitais: se os algoritmos definem uma situação como real, ela será real nas suas consequências.

A quantificação e o seu tratamento pelos algoritmos têm vindo a converter-se num instrumento de governação, de administração — porque definem situações, orientam decisões, permitem processos automáticos, justificam escolhas e adequam-se à propaganda e vigilância maciça. Tornam possível a formação de grupos a que podem ser enviadas formas de persuasão e publicidade para a aquisição comercial ou tomadas de posição políticas.

Não esqueçamos também que a quantificação tem uma aura de cientificidade e está ligada à previsão do comportamento, sendo ao mesmo tempo uma redução das dimensões qualitativas da vida humana e social.

A quantificação e os algoritmos significam a generalização da calculabilidade como modo de atuação no mundo. É possível, assim, dizer que por via da computação, do big data e dos algoritmos se constrói muito da nossa realidade. No sentido em que contribuem para a organizar e orientar através das convenções que produzem. Aparecem inclusivamente novas formas de capital. Capital de visibilidade na Net, capital de autoridade, capital de reputação. Fizeram surgir o ramo económico dos dados, uma dimensão crucial de um tipo de capitalismo do nosso tempo — o “capitalismo cognitivo” baseado no condicionamento e na captação do conhecimento, da ciência e da inovação tecnológica. Um capitalismo que também pode ser denominado “tecnológico digital” e/ou de “vigilância”. Ou são um instrumento para regimes totalitários.

A tentação do controlo digital e algorítmico e medidas para o contrariar

O big data e algoritmos são hoje parte estruturadora dos modelos de negócio das empresas, tanto na sua relação com os clientes e trabalhadores como no desenvolvimento de estratégia de competição no mercado. Têm um alto valor policial porque permitem seguir os passos/rastos digitais dos indivíduos, facilitam a vigilância (a população da China é vigiada por mais de 300 milhões de câmaras auxiliadas pela inteligência artificial e tecnologia de reconhecimento facial). Têm ainda um valor político porque influem na mente e no comportamento de grupos, Estados e nações. Ao segmentarem um público-alvo para nele disseminarem constantemente informação, são passíveis de ser instrumentos de manipulação de eleições e disseminação de desinformação de forma sistemática e sistémica. Aumentam a capacidade de controlo das empresas, entidades e estados dos indivíduos. Enfim, um poder que está sem limites.

Há que exigir aos governos que publiquem registos dos dados públicos, de tal maneira que os cidadãos não possam desconhecer como os seus dados são usados. Os governos devem ser impedidos de partilhar os nossos dados com companhias privadas. É preciso melhorar o desenho dos sistemas para erradicar os incentivos à disseminação de mentiras. Os Estados precisam de banir imediatamente a publicidade politicamente orientada para restaurar a confiança no nosso discurso público.

São necessárias ações concretas para evitar as consequências negativas, mesmo que imprevistas, do desenho das plataformas. As empresas devem publicar relatórios que de forma esclarecida demonstrem o seu progresso em direção a objetivos de boa informação, igualdade social e de género, liberdade de pensamento e de ação política e equilíbrio ecológico.

Sociólogo, Instituto de Ciências Sociais da Universidade de Lisboa

O autor segue o novo acordo ortográfico