O que é preferível: matar uma criança ou pôr em risco os ocupantes de um carro?

Uma equipa de investigadores do MIT investigou os dilemas morais que surgem com os veículos autónomos.

Foto
O Google já tem alguns carros autónomos a circular nas estradas REUTERS/ ELIJAH NOUVELAGE

Investigadores do Massachusetts Institute of Technology (MIT), nos Estados Unidos, estão a estudar de que forma o desempenho dos automóveis autónomos pode ser melhorado perante dilemas morais como o de matar uma pessoa para poupar a vida de outra.

A equipa de peritos quer perceber também o que leva a sociedade a aceitar os veículos e a usá-los e está a perguntar às pessoas, um pouco por todo o mundo, de que modo um 'carro robô' deve lidar com decisões de vida ou morte: perante uma multidão numa passadeira, e sem travões, o veículo vira à direita e atropela vários idosos, ou vira à esquerda, na direcção de uma mulher que empurra um carrinho de bebé.

Os investigadores do MIT, juntamente com colegas das universidades de Toulouse, em França, e da Califórnia, igualmente nos Estados Unidos, estão a analisar como as respostas variam entre países. Para o estudo, a equipa usou uma plataforma digital de participação e discussão públicas sobre a perspectiva humana em relação a decisões morais nas máquinas, a 'Moral Machine', onde as pessoas podem julgar quem vive ou morre, se uma mulher grávida ou um sem-abrigo, por exemplo.

Resultados preliminares, baseados em milhões de respostas de mais de 160 países, revelam diferenças entre o Ocidente e o Oriente, sendo que na Europa e nos Estados Unidos são mais notórios os juízos que reflectem o princípio utilitário de minimização do dano total.

"Existe um risco real de que, se não compreendermos tais barreiras psicológicas e as abordarmos através de regulamentação e sensibilização pública, poderemos comprometer toda uma empresa", disse, citado pela agência noticiosa AP, Iyad Rahwan, professor associado do MIT Media Lab.

Os fabricantes de automóveis, bem como os governos, ambicionam ter nas estradas veículos autónomos, com a promessa de que são mais seguros do que as viaturas conduzidas por humanos.

Rahwan concorda com o argumento dos entusiastas da auto-condução de que libertar os automóveis do erro humano poderá salvar muitas vidas, mas teme que o progresso no desenvolvimento da tecnologia pare sem um novo consenso social sobre compromissos morais. As regras de trânsito e as normas de comportamento humano geraram, diz o investigador, "a confiança de que todo o sistema funciona a favor dos interesses" das pessoas e é por isso que os humanos estão dispostos a enfiar-se num automóvel que anda a alta velocidade.

"O problema do novo sistema [de condução autónoma] é que tem uma caraterística muito particular: os algoritmos estão a tomar decisões com consequências importantes para a vida humana", diz Iyad Rahwan. Os engenheiros já estão a programar automóveis para fazer escolhas, como a de abrandar ou deixar espaço em relação a uma bicicleta, após a detecção de um ciclista.

Para Karl Iagnemma, presidente da NuTonomy, empresa que desenvolve 'software' e algoritmos para veículos autónomos, o principal foco da equipa de engenharia é projectar um automóvel seguro, não uma "criatura ética sofisticada".

Os dilemas morais abordados no estudo do MIT são, para a empresa, "muito raros". "Encaramos o problema numa perspectiva um pouco mais prática, em termos de engenharia", assinalou Karl Iagnemma, lembrando que não há, actualmente, capacidade técnica para se ter uma viatura a circular sem condutor, com um "motor ético".