Um novo filtro, capaz de alterar a imagem de um utilizador em tempo real, inundou o TikTok nas últimas semanas. Os queixos cinzelados, lábios carnudos e maquilhagem ao estilo das Kardashian ficaram, assim, à disposição de qualquer pessoa com acesso a um smartphone.

Ainda que esteja a ser divulgado como um filtro de beleza extremamente convincente, os investigadores da área da inteligência artificial dizem que o efeito não dá qualquer pista da sua presença, o que lhe oferece uma capacidade sem precedentes de manipular as pessoas dentro e fora de uma aplicação que tem suscitado o escrutínio de Governos em todo o mundo, o TikTok.

O filtro chama-se Bold Glamour (ou “encantamento ousado”, em português) e já foi transferido mais de 16 milhões de vezes desde que foi lançado, no mês passado. Oferece um dos efeitos mais convincentes que qualquer pessoa com um smartphone pode usar para criar uma versão melhorada de si mesma ou um avatar em tempo real, de acordo com alguns criadores de filtros, investigadores e tecnólogos.

Ao contrário de outros filtros, o Bold Glamour não falha quando há demasiado movimento ou quando se coloca uma mão em frente à cara do utilizador. Altera as características da cara em tempo real — e nem há pestanas falsas perdidas como noutros filtros. Os utilizadores têm experimentado puxar as bochechas e apertar as sobrancelhas porque não acreditam no que estão a ver.

Uma porta-voz do TikTok, Alexa Youssefian, não quis comentar sobre a tecnologia existente por detrás deste filtro. Contudo, alguns utilizadores e investigadores dizem que o filtro é capaz de ler a informação sobre o tom de pele, género aparente e cor de cabelo e depois determina a quantidade de maquilhagem, preenchimento labial ou o lifting facial que é preciso aplicar para se chegar ao look de uma certa influencer do Sul da Califórnia. E a inteligência artificial pode estar a comandar o processo.

“Parece que este filtro usou a cara da Kylie Jenner como modelo para um algoritmo de machine learning e depois misturou a cara dela com a minha”, disse a criadora de filtros para redes sociais Laura Gouillon ao The Washington Post.

O filtro também deve estar a aprender algumas técnicas de maquilhagem, acredita. “Em filtros de beleza anteriores, a malha facial era sobreposta por cima do rosto de um utilizador e, por isso, se a mão ou o cabelo cobria o rosto, o efeito falhava”, disse Gouillon. “Este filtro provavelmente usa tecnologia machine learning para misturar essas características com as da tua cara.”

Tecnologia sai dos laboratórios e “toda a gente pode usá-la”

Hany Farid, professor de Engenharia Informática na Universidade da Califórnia, em Berkeley, disse que o filtro provavelmente usa “inteligência artificial generativa”, isto é, “uma tecnologia que estuda milhões de fotografias e excertos de texto, muitas vezes retirados da Internet, para criar novas imagens e palavras”. Farid fez parte do conselho consultivo de conteúdo do TikTok de 2020 a 2022.

Luke Hurd, criador de filtros para o Instagram e Snapchat, disse, num tweet, que acredita que o Bold Glamour está a usar machine learning. “Eles usam uma coisa chamada ‘generative adversarial network’”, alega. “Tiram uma imagem do utilizador e depois comparam-na com um conjunto de dados retirados de outras imagens para redesenhar a sua cara, pixel por pixel, no resultado que aparece na sua câmara.”

A acessibilidade deste filtro é o que o distingue de outros meios de manipulação visual, disse Halsey Burgund, tecnólogo criativo residente do Open Documentary Lab do MIT (Instituto de Tecnologia de Massachussets, EUA).

“A capacidade de nos manipularmos de forma credível (...) em vídeos tem-se tornado num produto [através deste efeito], é esse o grande salto”, disse. “Esta tecnologia tem vivido em laboratórios, empresas e nas configurações mais esotéricas da Internet há algum tempo, mas agora toda a gente pode usá-la de graça e ver como funciona.”

Deepfakes são o próximo passo?

Os vídeos feitos com o Bold Glamour podem aparecer por toda a Internet sem qualquer tipo de informação de que o utilizador aplicou um filtro hiper-realista. Os investigadores têm alertado que isso vai fazer com que seja cada vez mais difícil perceber o que é não real na Internet e o que não é.

“O efeito Bold Glamour é um sinal de que, muito em breve, a tecnologia que cria deepfakes também se vai tornar acessível a todos”, defende Memo Akten, professor de Arte e Design Computacionais na Universidade da Califórnia, em São Diego. “Isto não quer dizer que esta tecnologia vai ser divulgada, mas é um sinal de que pode vir a ser divulgada” (os deepfakes são vídeos ou ficheiros noutros formatos que usam inteligência artificial para mostrar pessoas a fazer coisas que, na verdade, nunca fizeram).

Os vídeos com Bold Glamour no TikTok têm uma etiqueta específica em cada vídeo por uma questão de transparência, mas a etiqueta desaparece se os vídeos forem publicados noutra plataforma. A porta-voz da empresa, Youssefian, não quis comentar sobre as preocupações sobre o uso (ou a falta dele) dessa etiqueta: “O TikTok só pode responder pela experiência de utilizador do TikTok”, afirmou.

A empresa-mãe do TikTok, a ByteDance, tem estado sob escrutínio ao longo dos últimos anos porque se especula que a colecção de dados da empresa detida pelo Estado chinês pode implicar uma ameaça de segurança. Recentemente, várias instituições de todo o mundo – entre elas, a Comissão Europeia – proibiram os funcionários de ter a aplicação nos seus telemóveis, citando preocupações com uma suposta vigilância.

Expectativas pouco realistas de beleza

Para além das preocupações de segurança que o filtro levantou, o Bold Glamour também pode contribuir para sentimentos de inadequação e expectativas pouco realistas em utilizadores – especialmente adolescentes e outros jovens —, salientou Linda Charmaraman, investigadora-principal nos Centros Wellesley para Mulheres, no Massachusetts, EUA.

O padrão de beleza de uma pele perfeita e sem poros está longe de ser a norma do mundo real – pelo menos não sem gastar milhares de dólares ou euros em cirurgia plástica ou maquilhagem.

“Os filtros de beleza usados sem supervisão e interiorizados pelos mais jovens são preocupantes”, disse Charmaraman. “O Bold Glamour é muito realista e é menos óbvio que se trata de um filtro. Por isso é que pode ser prejudicial para a saúde de jovens utilizadores, especialmente mulheres.”

Várias pessoas fizeram publicações sobre como o filtro é “assustadoramente bom”. Alguns dizem que o efeito os faz pensar em ir a audições de modelos, outros brincam dizendo que o filtro é tão real que deveria ser ilegal. “Pareço uma pessoa completamente diferente”, disse um dos utilizadores.

Várias aplicações têm estado a embelezar caras e a filtrar as aparências há anos, mas parecia ser só uma brincadeira, diz Akten. O efeito Bold Glamour, afirma, parece “sinistro”.

“É um passo em frente rumo a um mundo que só vimos nos filmes de ficção científica e onde já não conseguimos dizer o que é verdade e o que não é”, concretiza. “Como resultado, já não sabemos no que acreditar ou em quem confiar.”

Exclusivo PÚBLICO/The Washington Post