O TikTok quer começar a rotular imagens e vídeos carregados para o seu serviço de partilha de vídeos que foram criados com inteligência artificial (IA), anunciou a empresa esta quinta-feira, 9 de Maio, utilizando uma marca de água digital conhecida como Content Credentials (Credenciais de Conteúdo, em tradução livre).

Investigadores expressaram preocupação de que o conteúdo produzido por IA possa ser utilizado para interferir nas eleições dos Estados Unidos, marcadas para o Outono. O TikTok faz parte do grupo de 20 empresas de tecnologia que, no início deste ano, assinou um acordo para combater esta possibilidade. Actualmente, a empresa rotula conteúdos criados por IA feitos com ferramentas dentro da app. No entanto, a mais recente medida aplicaria um rótulo a vídeos e imagens criados fora do Tiktok.

"Também temos políticas que proíbem IA realista que não esteja rotulada. Então, se este tipo de conteúdo aparece na plataforma, vamos removê-lo por violar as nossas directrizes comunitárias", disse Adam Presser, chefe de operações de confiança e segurança do Tiktok, em entrevista.

A criação da tecnologia das Content Credentials foi liderada pela Coligação para Procedência e Autenticidade de Conteúdo, um grupo co-fundado pela Adobe, Microsoft e outros, mas o sistema está aberto para que outras empresas o utilizem. Já foi adoptado por iniciativas como a OpenAI, criadora do ChatGPT. O YouTube, pertencente à Alphabet, empresa-mãe do Google, e a Meta Platforms, proprietária do Instagram e do Facebook, também anunciaram a sua intenção de usar as Content Credentials.

Para que o sistema funcione, tanto o criador da ferramenta de IA generativa utilizada para criar o conteúdo como a plataforma usada para a sua distribuição devem concordar em utilizar este novo padrão da indústria. Quando alguém utiliza a ferramenta Dall-E da OpenAI para gerar uma imagem, por exemplo, a OpenAI adiciona uma marca de água na imagem resultante e adiciona dados ao arquivo, que podem posteriormente indicar se a imagem foi adulterada. Se essa imagem marcada for então carregada no TikTok, vai ser automaticamente rotulada como gerada por IA.

O TikTok, propriedade da ByteDance da China, possui 170 milhões de utilizadores nos EUA, país que recentemente aprovou uma lei exigindo que a ByteDance venda o TikTok ou enfrente uma proibição. O TikTok e a ByteDance abriram um processo para bloquear a lei, argumentando que viola a Primeira Emenda da Constituição norte-americana.