A Amazon pediu desculpa depois de a assistente digital Alexa, instalada numa das suas colunas inteligentes, as Echo, ter desafiado uma criança de dez anos a brincar com uma tomada, um carregador de telemóvel e uma moeda.

A Amazon pediu desculpa depois de a assistente digital Alexa, instalada numa das suas colunas inteligentes, as Echo, ter desafiado uma criança de dez anos a brincar com uma tomada, um carregador de telemóvel e uma moeda.

O alerta foi dado pela mãe da criança, Kristin Livdahl, na rede social Twitter. De acordo com imagens do ecrã da Echo, a proposta da Alexa, que é a assistente digital da Amazon, surgiu depois da filha de Livdahl pedir à máquina um desafio. Narrar histórias, contar anedotas e sugerir jogos é algo que as assistentes digitais conseguem fazer ao pesquisar informação nos motores de busca. Por norma, a filha de Livdahl pedia desafios para encontrar vídeos de exercício físico no YouTube. Neste caso, porém, a sugestão que a Alexa retirou da Internet era potencialmente fatal.

“Aqui está algo que encontrei na web”, vê-se na resposta da Echo, partilhada por Livdahl. “De acordo com [o site] Our Community, o desafio é simples: enfiar a ficha de um carregador numa tomada, mas não até ao fundo, e depois tocar com uma moeda na parte dos pernos que fica exposta [da ficha do carregador].”

Livdahl interrompeu a brincadeira e contactou a Amazon para esclarecimentos. A empresa tecnológica confirma a falha e diz que já actualizou as assistentes para evitar que o desafio volte a ser recomendado.

“Assim que tomámos conhecimento deste erro, tomámos as medidas para o corrigir rapidamente”, lê-se numa mensagem do departamento de comunicação da Amazon em resposta a jornalistas. “A confiança do cliente está no centro de tudo o que fazemos e a Alexa foi concebida para fornecer informações precisas, relevantes e úteis aos clientes.”

Regra geral, assistentes virtuais como a Alexa respondem aos utilizadores com base em informação proveniente de motores de busca e sites de terceiros. O desafio com a tomada e a moeda foi sugerido pela Alexa dada a sua popularidade na Internet. O “jogo da moeda” começou a circular nas redes sociais, como o TikTok, em meados de 2020, apesar de vários alertas de autoridades sobre o perigo da actividade que provocou pelo menos um incêndio nos EUA. A Alexa encontrou o jogo no site ourcommunity.com — a página original, porém, foi criada para alertar sobre o perigo do jogo. “Obviamente, não tentem fazer isto”, lê-se na página, logo depois da descrição do jogo que a Alexa copiou. “Bombeiros, electricistas e estabelecimentos de ensino estão a tentar alertar sobre o quão perigoso é [este jogo].”

Contactada pelo PÚBLICO, a Amazon não avança mais detalhes, mas nota que a equipa está a “desenvolver sistemas para prevenir respostas semelhantes no futuro”. A empresa não explica como é que faz isto.

Desde a actualização, a Alexa está a propor desafios bem diferentes, longe de tomadas de electricidade. “O desafio é fazer algo em menos de dez segundos. Atar os sapatos ou fazer uma sanduíche. Pede-me para começar a contagem decrescente” é uma das novas sugestões.

A Alexa, da Amazon, não é a única assistente digital a dar sugestões perigosas. Em Outubro, um utilizador do Twitter mostrou que os excertos de sites de saúde que a Google partilha podem mostrar informação fora do contexto. Por exemplo, num resumo de uma página da Harvard sobre “o que fazer em caso de convulsão”, a Google partilhava o excerto “dê à pessoa comida ou água até que estejam novamente alerta.” No site original, essa frase aparecia debaixo de um cabeçalho sobre o que “não fazer.”

Kristin Livdahl diz que a sugestão da Alexa acabou por servir de mote para uma conversa com a filha sobre a importância de verificar a informação que aparece nos motores de busca. “Foi uma boa altura para falar sobre a segurança na Internet”, resumiu no Twitter.