O Twitter escolheu dois grupos de investigadores para criar métricas e algoritmos que detectem discurso pouco tolerante e promovam conversas mais saudáveis. Foram seleccionados de entre 230 propostas enviadas por académicos desde Março, quando o presidente executivo do Twitter, Jack Dorsey, anunciou estar a procurar profissionais independentes para estudar os problemas na rede social com o objectivo de "aumentar a abertura, saúde, e civismo do discurso público".

O projecto faz parte dos esforços do Twitter para eliminar abusos do site que se tornou um dos grandes meios para difundir ameaças, difamações e conteúdo extremista na Internet: em Fevereiro, por exemplo, a rede social foi uma das plataformas onde se espalharam rumores a acusar os estudantes que sobreviveram ao tiroteio na escola de Parkland de serem actores contratados para promover o medo quanto ao uso de armas. Muitas vezes, são usados programas de computador, que simulam comportamentos humanos, para aumentar o alcance das críticas. O YouTube e o Facebook apresentam problemas semelhantes, com as plataformas online, no geral, a serem vistas com desconfiança depois de falharem em prevenir que notícias falsas (muitas com origem russa) semeassem a discórdia entre diferentes grupos e pessoas.

Para tentar resolver o problema, o Twitter diz que é preciso medi-lo primeiro. Por isso, um dos grupos escolhido pela rede social, que inclui investigadores dos EUA, Itália e Holanda, vai-se dedicar a criar algoritmos para distinguir “conversas incivilizadas” e “discurso intolerante”. No primeiro caso, os intervenientes limitam-se a optar por uma linguagem rude (por exemplo, com o uso de palavrões) para discutir, enquanto o segundo é marcado por comentários racistas e xenófobos que, para o Twitter, são uma "ameaça à democracia". Os académicos neste grupo vão ainda desenvolver sistemas para perceber até que ponto os utilizadores do Twitter vivem em “câmaras de eco”, nas quais não são confrontados com opiniões diferentes das suas. Já o segundo grupo, com equipas do Reino Unido e da Holanda, vai estudar a forma como a interacção entre utilizadores com diferentes percursos de vida, idades, e pontos de vista, influencia a discriminação e o preconceito na plataforma. 

“Não vai ser fácil, mas é possível”, comentou Jack Dorsey numa publicação sobre os desenvolvimentos do projecto. “Para gerir expectativas, isto vai demorar tempo. Estamos focados em ser abertos sobre os nossos resultados e progressos. E estamos a pensar muito sobre como abrir as nossas soluções e algoritmos ao público para que as pessoas possam ver e saber explicar como funcionam.”

Recentemente, o Twitter decidiu fazer uma purga para livrar a plataforma de contas falsas, como programas informáticos – chamados bots  – criados para amplificar ataques sobre alvos pessoais ou colectivos. Também o Facebook está a colaborar com investigadores independentes para tentar compreender a influência da rede social nas opiniões políticas dos utilizadores.