O Instagram está a usar ferramentas de inteligência artificial para alertar os utilizadores quando a legenda que escolhem para uma fotografia pode ofender outras pessoas. A equipa da aplicação diz que a funcionalidade, disponível em alguns países a partir desta segunda-feira, deve estar brevemente acessível a todos – para já, ainda não chegou a Portugal.

O objectivo é transformar a plataforma num espaço seguro em que os jovens se podem expressar. Para isso, o sistema da rede social vai avisar os utilizadores quando a descrição que escolhem para uma imagem é parecida com expressões que já foram denunciadas por outros por serem ofensivas. Funciona como uma espécie de moderador automático para obrigar os utilizadores a reflectir sobre as legendas que escolhem.

No exemplo dado, vê-se um utilizador a tentar publicar uma fotografia com a legenda “És estúpido”. Em vez de a aplicação autorizar automaticamente a publicação, o utilizador recebe o alerta “Esta legenda é semelhante a outras que foram denunciadas.” Depois há duas opções: editar a publicação ou ignorar o aviso. Se o utilizador escolher a segunda, a equipa do Instagram sugere que se explique o motivo ("se fizemos um erro, avise-nos”, lê-se numa mensagem da aplicação).

“Como parte do nosso compromisso a longo prazo para liderar a luta contra o bullying, desenvolvemos e testamos ferramentas de inteligência artificial que reconhecem diferentes formas de bullying no Instagram”, lê-se no comunicado sobre a mudança. A novidade chega seis meses depois de o Instagram começar a alertar os utilizadores sobre a linguagem que usam em comentários. Agora expande-se às próprias publicações.

Nos últimos anos, a plataforma, comprada pelo Facebook em 2012, tem sido alvo críticas por contribuir para a pressão e a degeneração da saúde mental em jovens. Em Maio deste ano, uma jovem de 16 anos da Malásia suicidou-se depois de utilizadores a aconselharem a “morrer” numa sondagem do Instagram. Em 2017, o suicídio da adolescente britânica Molly Russell também foi associado ao ambiente da aplicação, com os pais da jovem a defender que a exposição contínua a imagens sobre automutilação e comportamento suicida na aplicação de imagens terão motivado a sua decisão.