Um homem norte-americano foi detido e acusado pelo FBI de ter criado mais de 10.000 imagens de teor pedófilo com o auxílio de uma ferramenta de inteligência artificial. De acordo com a acusação do Departamento de Justiça norte-americano, citada pelo The Guardian, Steven Anderegg, de 42 anos, é ainda suspeito de ter enviado imagens sexualmente explícitas, também geradas por inteligência artificial, a um menor.

Anderegg arrisca agora uma pena de 70 anos de prisão. Será um dos primeiros casos nos Estados Unidos em que alguém é acusado de criar imagens pedófilas com recurso a ferramentas de inteligência artificial. Em Abril, foi detido na Florida outro homem sob suspeita de ter gerado imagens do filho dos vizinhos. No mesmo estado, dois adolescentes foram detidos por criar imagens virtuais de colegas de escola.

O suspeito agora detido terá recorrido ao Stable Diffusion, que gera imagens a partir de instruções de texto. Trata-se de um modelo de inteligência artificial de código aberto. A Stability AI, empresa britânica actualmente responsável pelo produto, afirma que a versão que terá sido utilizada nos crimes será antiga, quando era detida por outra entidade, a RunwayML, e que as mais recentes já incluem mecanismos de segurança.

A investigação a Anderegg foi desencadeada depois de o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC, na sigla inglesa) ter recebido denúncias relativas à conta de Instagram de Anderegg. As autoridades requereram posteriormente informação à Meta, empresa detentora do Instagram e do Facebook, que permitiram construir o caso e executar buscas na residência do suspeito, no estado do Wisconsin. Foi então apreendido um computador portátil com milhares de imagens de teor ilegal, bem como o registo das “instruções extremamente específicas e explícitas” dadas ao programa de inteligência artificial.

O NCMEC, que entre outras competências monitoriza o fenómeno do abuso online de menores, dá conta de um aumento de 12% da circulação de imagens pedófilas em 2023 que atribui, em parte, ao recurso à inteligência artificial. O organismo sublinha que a geração de imagens virtuais não é um crime sem vítima, pois são geralmente criadas a partir de fotografias reais de crianças.