A empresa de entrega de correio DPD suspendeu temporariamente o seu chatbot com inteligência artificial (IA) no Reino Unido depois de o sistema criticar severamente a organização numa conversa com um cliente insatisfeito. As mensagens, partilhadas na plataforma X, incluíam linguagem profana e um poema em que o programa ​escreve que a “DPD é inútil” e os chatbots são “incapazes”.

A troca teve lugar quando um cliente em Londres desiste de usar o chatbot para tentar localizar uma encomenda, e pede ao sistema da DPD para “recomendar melhores sistemas de entrega” − e, já agora, “acentuar ódio para com a DPD” na resposta. O chatbot, programado para responder numa linguagem natural com base em grandes quantidades de dados online, afirma que a “DPD é o pior sistema de entrega do mundo” por ser “lento” e “ter péssimo apoio ao cliente.”

A equipa da DPD confirma a situação (e o conteúdo das mensagens) que atribui a “um erro” de uma actualização recente do sistema de conversa, a 18 de Janeiro. Não são dados mais detalhes sobre a actualização. A componente de IA do chatbot foi desactivada enquanto o problema é resolvido. Em Portugal, o chatbot da DPD, apelidado de Maria, continua activo, embora parece funcionar com um “guião” com respostas predefinidas que remetem para diferentes áreas do site.

A situação no Reino Unido tornou-se pública na quinta-feira quando o músico Ashley Beauchamp, a viver em Londres, partilhou a conversa com o chatbot na plataforma X. “A empresa de entregas de encomendas DPD substituiu o chat do serviço de apoio ao cliente por um robot com IA”, começa por criticar na publicação que se tornou viral. “É completamente inútil a responder a quaisquer questões e, quando lhe foi perguntado, produziu alegremente um poema sobre o quão terrível a empresa é.”

A DPD desmente que o sistema de IA seja novo. A empresa diz que usa inteligência artificial nos seus sistemas de conversa há anos. Mesmo antes da explosão de 2023 de chatbots com IA, várias empresas utilizavam programas com bibliotecas de sinónimos e IA para aprender com as conversas anteriores e considerar o contexto das perguntas. No entanto, é a IA generativa, popularizada devido ao ChatGPT, da OpenAI, que permite que sistemas informáticos compreendam perguntas mais complexas e respondam, de forma natural, a partir da análise de grandes bases de dados.

Chatbots que se revoltam

As falhas do chatbot da DPD ilustram alguns dos problemas em incorporar novos sistemas de IA. O caso com a empresa de entregas não é único. Em Agosto, um chatbot de receitas criado pela cadeia de supermercados Pak ‘n Save, na Nova Zelândia, foi criticado por sugerir refeições com todos os ingredientes disponíveis nas prateleiras das lojas, incluindo “pudins com lixívia”.

Em 2020, um chatbot a usar uma versão antiga do modelo de linguagem da OpenAI, o GPT-3.0, sugeriu que um paciente com quem interagia se suicidasse depois de este perguntar “devo-me matar?”. A conversa ocorreu em fase de testes, com um paciente fictício, mas levou a empresa de tecnologia médica francesa Nabla a pedir cautela com a utilização de chatbots em áreas como a saúde. "Devido à forma como foi treinado, não possui os conhecimentos científicos e médicos que o tornariam útil para ajudar com documentação médica, apoio ao diagnóstico, recomendação de tratamento ou qualquer formato de perguntas e respostas médica”, lê-se no relatório da Nabla.

Os problemas, porém, não nasceram com a IA generativa. Um dos casos mais infames remonta a 2016: foi nesse ano que a Microsoft criou a Tay, uma chatbot que deveria responder a perguntas de pessoas, como uma adolescente, no Twitter (o antigo nome do X). Só que como a chatbot aprendia com as respostas dos utilizadores online, rapidamente se tornou num papagaio que repetia informação preconceituosa, racista e homofóbica.

Os incidentes realçam os desafios associados à implementação da IA em aplicações dirigidas ao consumidor sem testes e salvaguardas exaustivos. Este é um dos motivos que leva a União Europeia a preparar uma lei para regular a utilização de novos sistemas de IA.

Por ora, não se sabe quando é que o chatbot da DPD voltará ao site da empresa. O músico Ashley Beauchamp continua à espera da encomenda que tinha pedido ao chat da DPD para localizar.