Podes ou não ter reparado neles nas redes sociais. De repente, até o amigo que nunca foi fã de anime ou arte digital tem um avatar dele como imagem de perfil. Provavelmente, porque fez download de uma aplicação de edição de fotografia chamada Lensa, da Prima Labs, que recentemente começou a oferecer a possibilidade de gerar imagens com recurso a machine learning. Rapidamente chegou ao topo das apps mais populares nas lojas de aplicações, com 12,6 milhões de downloads nos primeiros 11 dias de Dezembro.

O Techcrunch explica que a app usa o modelo de código aberto Stable Diffusion para gerar avatares que parecem ter sido criados por um artista digital. A aplicação gera retratos em vários estilos, desde fadas a retratos históricos, a partir das selfies submetidas pelos utilizadores (e com recurso a um algoritmo que já levou a várias denúncias, desde hipersexualização a trabalhos roubados de artistas digitais). Tem um período de teste gratuito de sete dias e a versão grátis da app não permite o acesso à criação dos "avatares mágicos".

Nas redes sociais, muitos utilizadores denunciaram as imagens que receberam (e não só pela falta de qualidade). Isto porque é aparentemente fácil criar nudes falsas de alguém, mesmo que as imagens submetidas apenas mostrem a cara. Na Wired, Olivia Snow relatou como foi fácil criar estranhas imagens do que pode ser considerado pornografia infantil com as suas imagens de infância.

"O resultado foram fotografias nuas com um rosto adolescente e por vezes infantil, mas um corpo nitidamente adulto", descreveu. "Este conjunto produziu uma espécie de pudor: umas costas despidas, cabelo despenteado, um avatar com o meu rosto infantil a segurar uma folha entre os seios nus adultos."

A Lensa diz que não são permitidas nudes ou imagens de crianças e culpa os utilizadores pela “má conduta na app”, escreve o Techcrunch (onde é que já ouvimos isto antes?). O argumento de defesa do CEO da Prisma Labs, Andrey Usoltsev, não é novo quando se discute ferramentas de inteligência artificial ou de machine learning: “Se um indivíduo estiver determinado a envolver-se num comportamento prejudicial, qualquer ferramenta teria o potencial de se tornar uma arma”, disse, citado pelo mesmo portal.

A aplicação também tem sido acusada de usar imagens para “alimentar” e “treinar” o algoritmo sem a autorização dos artistas que desenvolveram determinada técnica ou estilo. No Twitter, a designer e artista Lauryn Ipsum e o ilustrador Daniel Danger mostraram como alguns retratos criados pela Lensa ainda tinham restos da assinatura dos artistas à vista.

Ao contrário da FaceApp, que construía uma base de dados dos utilizadores que experimentavam os filtros para envelhecer e outras funcionalidades, a Prisma Labs diz que as fotografias dos utilizadores da Lensa são apagadas imediatamente.