O recurso a estereótipos é a estratégia mais vezes utilizada para disseminar ódio online que, na sua maioria, assume uma forma velada, subtil e implícita, e que, também por isso, muitas vezes escapa aos mecanismos de moderação. Esta é uma das conclusões de uma investigação portuguesa desenvolvida no âmbito do projecto Knowing Online Hate Speech (kNOwHATE), financiado pela União Europeia, ao abrigo do programa Cidadãos, Igualdade, Direitos e Valores.

Precisamente para combater esta tendência, uma equipa de investigadores do Iscte – Instituto Universitário de Lisboa, do Inesc-ID (Instituto de Engenharia de Sistemas e Computadores: Investigação e Desenvolvimento em Lisboa) e da Associação do Instituto Superior Técnico para a Investigação e Desenvolvimento (IST-ID) criou uma ferramenta de detecção automática de discurso de ódio online. Com base na avaliação de mais de 24 mil comentários do YouTube e quase 30 mil tweets, o protótipo avalia mensagens e comentários escritos em língua portuguesa e tem como principal público-alvo “a maioria silenciosa”.

“Por um lado, esta ferramenta pode ser utilizada num contexto mais educativo, isto é, no contexto de sala de aula. Mas essencialmente diria que o principal público-alvo é a maioria silenciosa, o cidadão comum que não tem necessariamente formação em engenharia e que pode até nem saber o que é um algoritmo”, explica ao PÚBLICO Rita Guerra, coordenadora do projecto kNOwHATE. “Através da utilização do protótipo é possível compreender a função deste tipo de modelos na moderação de conteúdo de discurso de ódio online”.

Convidando toda a gente a testar “os muitos limites” do protótipo, a investigadora do Centro de Investigação e Intervenção Social (CIS) do Iscte alerta que “as pessoas têm uma enorme criatividade lexical e os termos que são utilizados variam com uma rapidez quase estonteante”, para enfatizar que “é muito difícil ter modelos que consigam estar a par destas mudanças”. De acordo com os resultados da investigação que agora serve de base ao modelo da nova ferramenta, e a que o PÚBLICO teve acesso em Março deste ano, o recurso a metáforas, ironia e alegado humor é uma estratégia comum que dificulta a identificação do discurso de ódio e que pode ajudar a explicar o baixo número de queixas.

A análise de milhares de mensagens dirigidas a comunidades ciganas, migrantes, racializadas e LGBTQI+, partilhadas no X (antigo Twitter) e YouTube sugerem, ainda, variações na forma de expressão de ódio consoante as comunidades visadas. A raiva foi a emoção mais prevalente no discurso contra as comunidades LGBTI+, e o ódio dominou no discurso dirigido às comunidades ciganas e migrantes. Outra variante avaliada foi a frequência de contradiscurso, que se revelou maior no X (54.9%) quando comparada com o YouTube (12.5%).

“Se formos capazes de treinar ferramentas com esta granularidade, seria interessante pensarmos em desenvolver possíveis mecanismos de respostas automáticas que vão criar mensagem pré-carregadas, digamos assim, que mobilizam determinadas informações, nomeadamente empatia ou contra-estereótipos, por exemplo”, refere a coordenadora do projecto. Uma realidade que está ainda distante e que exigirá um “enorme esforço de investigação nos próximos anos”.

“O discurso de ódio está a começar a sair do espaço online”

Víctor Costa, representante da Casa Brasil, uma das associações parceiras do projecto, faz uma avaliação positiva destes resultados, num momento em que “se assiste a um vácuo da gestão pública para lidar com o crescimento do discurso de ódio”. “É muito bom ver que o meio académico e a sociedade civil se mobilizam para procurar compreender este fenómeno e se organizam para criar mecanismos de moderação”, diz ao PÚBLICO.

A par da Casa Brasil, também a SOS Racismo, a ILGA e a Comissão para a Igualdade e Contra a Discriminação Racial (CICDR) são parceiras neste projecto. Todas estiveram presentes na sessão de apresentação dos resultados finais da investigação, com excepção da CICDR, que desde Janeiro está num limbo, responsável por um vazio legal na análise de queixas de discriminação e discurso de ódio.

“Infelizmente a legislação portuguesa deixa muito a desejar em relação às denúncias e aos processos de discriminação”, refere Víctor Costa. “Eu acredito mais na rede de apoio da pessoa migrante, que passa pelas associações e colectivos. Quanto mais fortes e unidas estiverem essas associações, maior é a oportunidade destes migrantes encontrarem acolhimento nestes espaços e conhecerem os seus direitos em Portugal.”

O representante da Casa Brasil revela ainda que “é notória uma validação de pessoas que disseminam o discurso de ódio, alimentada pelo actual contexto político que as legitima”. “O discurso de ódio está a começar a sair do espaço online e a chegar aos espaços comuns, ao espaço de trabalho e de convívio. E isso chega à pessoa migrante, é um facto”, refere.