O aumento da segurança nas estradas é das maiores promessas dos carros autónomos, em que a inteligência artificial assume o controlo do volante e elimina o erro humano. Mas vários investigadores, engenheiros e profissionais de ética alertam que é preciso começar a programar as máquinas para o inesperado, como uma árvore que cai no meio da estrada, ou uma criança que corre para a frente de um carro. Recentemente, a Alemanha tornou-se o único país no mundo com um guia ético definido: os carros têm de poupar sempre o máximo de vidas humanas.

O aumento da segurança nas estradas é das maiores promessas dos carros autónomos, em que a inteligência artificial assume o controlo do volante e elimina o erro humano. Mas vários investigadores, engenheiros e profissionais de ética alertam que é preciso começar a programar as máquinas para o inesperado, como uma árvore que cai no meio da estrada, ou uma criança que corre para a frente de um carro. Recentemente, a Alemanha tornou-se o único país no mundo com um guia ético definido: os carros têm de poupar sempre o máximo de vidas humanas.

“É um imperativo introduzir a tecnologia [de condução autónoma] para conseguir salvar muitas vidas, mas os carros nunca vão ser perfeitos. As leis da física vão continuar a existir”, explica Peter König, um investigador alemão da Universidade de Osnabrück, ao PÚBLICO. “Temos de começar a discutir agora as possíveis consequências de acidente e as questões éticas.”

Em 2017, a automatização da condução já não é uma mera ambição futurista: o Google e fabricantes automóveis (da Tesla à General Motors, passando pela Volkswagen, Nissan, e Mercedes, entre outros) têm vindo a anunciar projectos de desenvolvimento de carros que se conduzem completamente sozinhos. E muitos carros a circular nas estradas já incluem alguma capacidade de automação, como tecnologia para ajudar a estacionar, ou manter a velocidade do carro sem ter o pé no acelerador.

Em Portugal, começou-se a discutir legislação para a condução autónoma em 2016, mas o processo é moroso e envolve vários ministérios. Quando contactado pelo PÚBLICO, um assessor do Ministério do Ambiente (que tem actualmente a responsabilidade pelo dossiê) disse que não há "informação para acrescentar” e que “o tema ainda está a ser discutido”. Não é um caso estranho. Na Europa, além da Alemanha, só a Suíça e o Reino Unido têm alguma legislação para estes carros.

Os desafios são muitos. “O Governo português até pode definir leis amanhã, mas como é que os carros circulam na rua sem seguro? Antes é importante definir as responsabilidades criminais, as normas de segurança, os protocolos de comunicação entre veículos”, enumera Jorge Saraiva o administrador da Tula Labs, a empresa portuguesa por detrás do MOVE, um veículo eléctrico que já circula sem condutor (embora em estradas sem outros veículos ou pessoas).

A incerteza sobre o comportamento dos futuros carros autónomos leva muitas pessoas a recusar a tecnologia. Um inquérito da consultora Gartner, feito nos Estados Unidos e na Alemanha, mostra que 55% das pessoas não querem carros capazes de conduzir sozinhos por terem medo da reacção do sistema em situações inesperadas.

No mês passado, uma comissão de peritos nomeada pelo Governo alemão apresentou uma solução: os carros devem ser programados para salvar o máximo de vidas humanas, mesmo que isso implique a destruição de propriedade alheia ou morte de animais. Além disso, todas as vidas estão em pé de igualdade; “nenhuma decisão pode ser feita com base na idade, sexo, condição física ou mental”. É também obrigatório ter um sistema de registo no carro (uma espécie de “caixa negra”) para determinar o culpado do acidente: um condutor humano, ou a tecnologia. Este guia de ética será revisto a cada dois anos.

Há abordagens diferentes. Por exemplo, ensinar um carro a reagir como um ser humano, o que poderá implicar que nem todas as pessoas sejam tratadas da mesma forma. Um estudo da Universidade Osnabrück, em que o investigador Peter König participou, utilizou a realidade virtual para ver o comportamento de cerca de 100 pessoas (entre os 18 e os 60 anos) quando vários obstáculos (objectos, animais, ou seres humanos) apareciam inesperadamente em frente do carro. A maioria optava por salvar a vida de crianças, independentemente do número de mortes causadas.

“Temos de decidir se queremos incluir valores morais nas máquinas, e, se quisermos, se as máquinas se devem comportar exactamente como nós”, diz König.  A resposta não é linear: em 2016, um inquérito do MIT mostrou que poucos comprariam um carro que pusesse a vida de outros à frente da dos ocupantes.  

Actualmente, a decisão final em caso de acidente – por exemplo, tentar proteger os ocupantes do veículo acima de tudo – ainda reverte para o ser humano, que é suposto estar sempre preparado para assumir o controlo do veículo. Mas o paradigma muda com o desenvolvimento de sistemas de piloto automático cada vez mais sofisticados. Alguns carros poderão deixar de ter pedais ou volante.

“Vai existir muita pressão social para a condução manual terminar quando as pessoas perceberem que condutores humanos colocam mais vidas em risco que as máquinas”, antecipa ao PÚBLICO Robert Sparrow, um especialista em ética robótica da Universidade de Monash, na Austrália, que publicou recentemente um estudo sobre o fim da condução manual.

O erro humano (condutores que adormecem, se descuidam, ou não conduzem bem) é o maior culpado da sinistralidade rodoviária: mais de 1,2 milhões de pessoas são mortas anualmente, em todo o mundo, por pessoas atrás do volante, e 20 a 50 milhões ficam incapacitados, segundo dados da Organização Mundial de Saúde. Os carros autónomos, porém, também falham. Os acidentes mais conhecidos incluem a colisão fatal de um carro da Tesla com um camião, que matou o único ocupante do veículo, e o choque de um carro do Google contra um autocarro, que não provocou vítimas. No primeiro caso, as autoridades disseram que a culpa não foi do piloto automático. Já o segundo foi o primeiro de 18 acidentes do Google (desde que a empresa começou a testar a tecnologia em 2009) em que a culpa foi do software do carro.

“No momento de um acidente, um sistema automático nunca vai conseguir prever tudo”, argumenta Jorge Saraiva, da Tula Labs. “Por isso é que, antes de debates sobre ética, para os carros chegarem às estradas o primeiro passo é definir o que a seguradora cobre.”

Para já, a falta de leis (e de regras éticas) em Portugal não impede testes com veículos autónomos. Em Maio de 2017, a Bosch e a Brisa estabeleceram uma parceria para a empresa alemã conduzir carros autónomos em troços das auto-estradas portuguesas. E Lisboa é uma das três cidades europeias onde se realizam testes de condução autónoma do projecto Autocris, financiado por um programa da Comissão Europeia.

“No curto prazo não há mais dificuldades, mas é fundamental que a tecnologia e a legislação sejam desenvolvidas em simultâneo”, nota Helena Silva, a directora técnica do Centro de Excelência para a Inovação da Indústria Automóvel (CEiiA), que também desenvolve veículos autónomos em Portugal. Para Silva, o foco actual do Governo deve ser continuar “a criação de espaços para o teste e a demonstração destas tecnologias de forma segura e próxima do ambiente real”.

Nos próximos anos também é preciso mapear as estradas, garantir que os sinais de trânsito e marcações estão visíveis (sem poderem ser alterados para confundir os sistemas autónomos) e que há dispositivos para avisar os carros sobre alterações nas estradas (por exemplo um desvio por causa de obras). É uma realidade que ainda vai demorar. “Assistiremos a vários projectos-piloto em várias cidades no mundo, mas a implementação generalizada da condução autónoma não acontecerá por certo na próxima década”, defende Helena Silva.

Jorge Saraiva, por seu lado, argumenta que pensar num comportamento ético para os carros ainda não é prioritário: “As questões de ética interessam a muitos académicos e políticos, porque não há uma resposta fácil ou científica, mas os conceitos sobre ética serão dos últimos a ser discutidos.”