A Apple está a suspender temporariamente a prática de ter pessoas a avaliar excertos de voz captados pela assistente virtual Siri. Até esta sexta-feira, gravações de pedidos feitos à Siri eram guardadas para controlo de qualidade e enviadas a trabalhadores externos contratados pela Apple. O objectivo era “ajudar a Siri a compreender melhor e a reconhecer as expressões dos utilizadores”, mas frequentemente os trabalhadores ouviam mais do que deviam. 

A decisão da Apple surge depois de uma peça no jornal britânico The Guardian detalhar a experiência de um antigo trabalhador que admitiu “ouvir regularmente informação médica confidencial, negócios sobre tráfico de drogas, e gravações de casais a fazer sexo” como parte das suas funções. A Apple está a abrir uma “investigação a fundo” sobre a veracidade das alegações e garante que, no futuro, vai criar uma forma fácil dos utilizadores recusarem o serviço de controlo de qualidade.

De acordo com a empresa, os trabalhadores – "sob a obrigação de respeitar os requerimentos de confidencialidade rígidos da Apple” – estavam encarregues de avaliar, por exemplo, se a pergunta gravada era algo que a Siri devia ser capaz de responder mas não tinha percebido. O problema é a Apple estava também a analisar excertos gravados por engano quando os utilizadores não estavam a interagir com a Siri. Além disso, os utilizadores da Apple não tinham conhecimento da situação, nem podiam desactivar o serviço. 

Em resposta a perguntas do PÚBLICO, um porta-voz da Apple disse “não ter nada a acrescentar” e remeteu para o comunicado desta manhã da empresa.

Gravar excertos de conversas com assistentes digitais para avaliação é uma prática comum entre empresas que desenvolvem estes sistemas. Além da Apple, o Google e a Amazon fazem-no para proporcionarem um serviço mais personalizado aos seus utilizadores. No entanto, estas duas empresas permitem ao utilizador desligar a função. No Google, por exemplo, a opção está disponível na página “Controlos de Actividade”, no separador “Actividade de Voz e de Áudio”, que também permite ouvir todas as gravações que a empresa tem de um utilizador (em Julho, a empresa admitiu que 0,2% das gravações totais que tem dos utilizadores chegam aos ouvidos de humanos). É algo que a Apple não faz, mas que quer mudar.

“Como parte de uma futura actualização, os utilizadores vão ter a possibilidade de escolherem fazer parte ou não destas avaliações”, assegurou a Apple num comunicado enviado à imprensa esta sexta-feira. Actualmente, os termos de serviço da empresa mencionam que “alguma informação como o nome, contactos, música ouvida, e pesquisas são enviados para os servidores Apple”, sem referir o recurso a trabalhadores humanos para analisar os dados. Era possível impedir a Siri de gravar mensagens ditadas pelo utilizador, mas não perguntas e comandos dados à assistente digital.

Para já, porém, a empresa está focada na investigação para perceber o motivo que levava os excertos de conversas com a Siri a incluir detalhes privados do dia-a-dia dos utilizadores. Não é caso único.

Em Abril, a Amazon – responsável pela assistente digital Alexa – passou por uma controvérsia semelhante quando alguns funcionários admitiram que tinham escutado gravações que levantavam suspeitas de violência sexual. Tal como a Apple, na altura a Amazon disse levar “muito a sério a segurança e privacidade” dos seus clientes. Ou seja, em caso de um possível crime, nem a empresa, nem os seus funcionários poderiam utilizar o que ouviram para apresentar queixas junto das autoridades.

Já Maio de 2018, um casal em Portland, nos EUA, captou a atenção dos media ao avisar as pessoas para desligarem colunas de som equipadas com assistentes virtuais depois de o aparelho da Amazon – a coluna inteligente Echo –, ter gravado uma discussão privada entre os dois, que enviou a um contacto. Na altura, a Amazon disse que se tratou de um “acidente” e de uma sequência de confusões por parte da Alexa. “O Echo ‘acordou’ com uma palavra na conversa de fundo [entre o casal] que soava a ‘Alexa’”, justificou a empresa.

De acordo com o trabalhador que denunciou os problemas da Apple ao Guardian, as gravações confidenciais da Apple também resultavam de gravações acidentais. O problema será mais frequente nos relógios inteligentes Apple Watch, capazes de enviar excertos de conversas privadas de até 30 segundos para avaliação. “Não é muito, mas já dá para perceber o que está a acontecer”, disse ao jornal britânico.

Os trabalhadores deviam alertar a Apple para este tipo de gravações, mas apenas “como um problema técnico”. Não havia instruções sobre como proceder em caso de gravações sensíveis ou sobre comportamento ilegal.

A Apple assegura que a privacidade é uma prioridade. “Os pedidos [gravados] dos utilizadores não estão associados ao Apple ID. As respostas da Siri são analisadas em instalações seguras e todos os trabalhadores estão sob a obrigação de respeitar os requerimentos de confidencialidade rígidos da Apple”, escreveu a empresa numa resposta à notícia original do Guardian.

A Apple mantém gravações de perguntas e pedidos à Siri por seis meses. Depois, é removida qualquer informação que permite associar a gravação a um cliente específico.