A Microsoft lançou duas novas ferramentas para detectar e evitar a criação de deepfakes — vídeos e fotografias criados com tecnologia de inteligência artificial para fabricar imagens credíveis de situações que nunca aconteceram. O objectivo é facilitar a detecção dos vídeos falsos que estão a gerar particular preocupação com a aproximação das eleições presidenciais nos Estados Unidos.

A Microsoft lançou duas novas ferramentas para detectar e evitar a criação de deepfakes — vídeos e fotografias criados com tecnologia de inteligência artificial para fabricar imagens credíveis de situações que nunca aconteceram. O objectivo é facilitar a detecção dos vídeos falsos que estão a gerar particular preocupação com a aproximação das eleições presidenciais nos Estados Unidos.

As montagens falsas consistem, por exemplo, em “colar” a cabeça de uma pessoa no corpo de outra em vídeos ou fotografias, ou fazer uma pessoa dizer coisas que na verdade não disse. Apesar do potencial para criar paródias, a tecnologia dos deepfakes – que junta as expressões inglesas fake (falso) e deep learning (aprendizagem profunda, uma técnica de inteligência artificial) – acarreta riscos políticos e sociais.

Uma dos exemplos mais populares usa a imagem do antigo presidente norte-americano Barack Obama para alertar sobre o problema da informação falsa.

Na terça-feira, a gigante tecnológica Microsoft anunciou que desenvolveu duas ferramentas para combater o problema. Um sistema de certificação de conteúdo legítimo e um sistema de autenticação que analisa fotografias e vídeos para determinar se estes foram manipulados com tecnologias de inteligência artificial. Funciona ao procurar elementos falsificados, como limites entre imagens coladas e transições subtis que podem não ser detectáveis a olho nu.

“No caso de um vídeo, a ferramenta fornece uma percentagem em tempo real durante a reprodução”, destaca o comunicado.

Além desta ferramenta, a Microsoft também desenvolveu um sistema para certificar um determinado conteúdo como verdadeiro, ao criar uma espécie de impressão digital do vídeo (conhecida como hash). Serão da responsabilidade da Microsoft Azure, a plataforma de computação em nuvem da empresa norte-americana. “Os hashes e certificados vivem com o conteúdo como metadados”, lê-se no comunicado. 

As iniciativas fazem parte do Programa de Defesa de Democracia da Microsoft. Várias gigantes tecnológicas, redes sociais e especialistas em inteligência artificial têm estado a redobrar esforços antes das eleições presidenciais dos Estados Unidos, de forma a conter as campanhas influenciadoras criadas no exterior, mas também dentro do país, que procuram semear divisão e manipular os eleitores.

Em Setembro, o Facebook anunciou que vai criar uma base de dados de vídeos forjados com imagens de actores pagos para aprender a combater a tecnologia. Os vídeos farão parte de um desafio que irá premiar os criadores de novas técnicas e ferramentas de detecção de deepfakes. 

A desinformação política é um problema cada vez maior. Em 2016, as presidenciais norte-americanas e o referendo sobre o “Brexit” no Reino Unido foram marcados por grandes e poderosas operações daquele género, organizadas a partir da Rússia.

De acordo com um estudo realizado na Universidade de Princeton e financiado pela Microsoft, uma centena de campanhas visaram trinta países entre 2013 e 2019, sendo que 93% destas envolveram a criação de conteúdos criados do zero e 74% distorceram factos.

“Os métodos de produção de noticias falsas vão tornar-se cada vez mais sofisticados”, alerta a Microsoft, que acredita que também é fundamental investir na literacia digital dos internautas.