O Instagram apresentou duas novas ferramentas para combater o assédio e o bullying na plataforma – o Rethink e o Restrict (reconsidera e restringe, em português). O objectivo é transformar a plataforma num espaço seguro em que os jovens se podem expressar.

O Rethink é um moderador de comentários que usa inteligência artificial para alertar os utilizadores sobre publicações com linguagem problemática. Por exemplo, se alguém se prepara para publicar a frase “És tão feio e estúpido!” sobre alguém, o moderador automático do Instagram pergunta, “Tens a certeza que queres publicar isto?”.

Já o Restrict, permite ignorar utilizadores que não são bem-vindos sem que estes percebam – os utilizadores “restringidos” continuam a publicar comentários (e a vê-los a aparecer), mas mais ninguém os vê. 

Ambas as ferramentas foram apresentadas esta segunda-feira. “O bullying online é um assunto complexo”, admitiu Adam Mosseri, actual responsável do Instagram, em comunicado. “Embora identificar e remover bullying no Instagram seja importante, também temos de dar ferramentas à nossa comunidade para parar este tipo de comportamento.”

Com o Rethink, Mosseri diz que o objectivo é dar ao utilizador “tempo de reflectir e apagar os comentários”. Em testes iniciais, a equipa do Instagram diz que os utilizadores que recebem o alerta tendem a modificar e a suavizar o conteúdo do comentário original. Já o “Restrict” dá uma opção adicional a pessoas para evitarem utilizadores que os estão a perturbar. “Ouvimos casos de jovens utilizadores na nossa comunidade com relutância em bloquear, deixar de seguir, ou denunciar os agressores porque isso pode piorar a situação”, justificou Mosseri. “À medida que a nossa comunidade cresce, o nosso investimento em tecnologia também tem de crescer.”

As novidades, que ainda não estão disponíveis em Portugal, fazem parte dos esforços da plataforma em lutar contra o assédio online depois de críticas do ambiente na aplicação contribuir para a pressão e a degeneração da saúde mental em jovens.

Em Maio deste ano, uma jovem de 16 anos da Malásia suicidou-se depois de vários utilizadores a aconselharem a “morrer” numa sondagem do Instagram a perguntar se devia continuar a viver. Anos antes, em 2017, o suicídio da adolescente britânica Molly Russell também gerou muita atenção: os pais da jovem, que tinha 14 anos quando acabou com a própria vida, acreditam que a morte da adolescente foi causada pela exposição contínua a imagens sobre automutilação e comportamento suicida na aplicação de imagens. 

O Instagram lançou várias outras ferramentas antibullying este ano. Em Fevereiro, por exemplo, a rede social anunciou que ia começar a esconder publicações que mostram actos de automutilação. As fotografias em questão surgem desfocadas até que um utilizador escolha vê-las voluntariamente. Mais recentemente, a rede social começou a experimentar remover o número de “gostos” que os utilizadores recebem numa publicação (para já, apenas os utilizadores no Canadá estão incluídos na experiência). Deste modo, os utilizadores devem dar menos importância à popularidade de uma publicação.

Desde 2017, o Facebook (que é dono do Instagram) também utiliza tecnologia para detectar padrões problemáticos nos comentários das pessoas e enviar-lhes mensagens com informação sobre organizações de apoio. Apesar de a Organização Mundial de Saúde alertar sobre casos em que a Internet e as redes sociais criam uma ideia glamorosa acerca do suicídio, desde 2014, a organização também nota que a Internet pode ter um papel importante na prevenção do suicídio.