Após a subida ao poder do Presidente do Burkina Faso, devido a um golpe militar, surgiram vídeos protagonizados por diversos rostos a promover o novo líder do Estado da África Ocidental. “Temos de apoiar… o Presidente Ibrahim Traoré... Pátria ou morte, venceremos!”, declarava um jovem de leve sotaque americano num vídeo que circulava no Telegram, no início de 2023.

De acordo com o The Guardian, vários vídeos deste tipo foram gerados por uma ferramenta de inteligência artificial (IA) inspirada em modelos humanos e disponibilizada pela tecnológica Synthesia, uma start-up com sede em Londres. A aposta da empresa no produto de avatar digital aberto ao mercado de massas e a injecção de capital por parte de investidores valeu-lhe o estatuto de “unicórnio”, título aplicado a empresas privadas avaliadas em mais de mil milhões de dólares.

Esta tecnologia tem sido também utilizada para gerar imagens relacionadas com estados hostis, como a Rússia e a China, para alastrar desinformação. Fontes dos serviços secretos revelaram ao The Guardian que havia alta probabilidade de os vídeos do Burkina Faso terem sido co-criados por actores estatais russos.

A ferramenta em causa permite a uma empresa ou indivíduo criar um vídeo com um apresentador em poucos minutos, por apenas 23 libras por mês. Connor Yeates e Mark Torres foram ambos "usados" para a propaganda do actual líder do Burkina Faso.

No Verão de 2022, Connor foi chamado pelo seu agente para ser um dos primeiros modelos de IA da Synthesia. "Pagaram prontamente, não tenho pais ricos e precisava do dinheiro", confessou ao jornal britânico. Mark admitiu, depois de o Guardian lhe ter mostrado o vídeo pela primeira vez: “Não quero que ninguém me veja dessa forma. Só o facto de a minha imagem estar lá fora pode significar mais — promover o regime militar num país que eu não sabia que existia. As pessoas vão pensar que estou envolvido no golpe.”

Um porta-voz da Synthesia assegurou ao Guardian que a empresa proibiu as contas que criaram os vídeos em 2023 e reforçou os seus processos de revisão de conteúdos, através de moderadores e sistemas automatizados para detectar e prevenir a manipulação da tecnologia da empresa. No entanto, Mark Torres e Connor Yeates não tiveram conhecimento dos vídeos até o jornal britânico os ter contactado há alguns meses.

The Guardian decidiu usar uma série de guiões de desinformação para testar a tecnologia da Synthesia. Embora o sistema tenha bloqueado as tentativas de utilização de um dos avatares disponíveis, foi possível ao jornal recriar o vídeo de propaganda do Burkina Faso com um avatar gerado a partir de um modelo humano e fazer o seu consequente download. Nenhuma destas etapas devia ter sido permitida de acordo com as políticas da empresa tecnológica. A Synthesia respondeu que não se tratava de uma violação dos seus termos, uma vez que respeitava o direito de expressar uma posição política individual, mas mais tarde bloqueou a conta.

Fundada em 2017 por académicos de Londres e Munique — Victor Riparbelli e Steffen Tjerrild — actualmente, a Synthesia detém uma quota significativa do mercado tecnológico, contando com clientes como a Microsoft, a Zoom, a Xerox e a Ernst & Young. A Synthesia retirou o serviço gratuito de áudio com IA do seu sistema depois de ter sido contactada pelo Guardian e contou que a tecnologia por detrás do produto era um serviço de terceiros.

Texto editado por Sónia Sapage