Como é que os carros decidem quem atropelar?
A questão é uma dos desafios que a tecnologia de condução autónoma tem pela frente. A Alemanha já começou a dar uma resposta.
O
aumento da segurança nas estradas é das maiores promessas dos carros autónomos,
em que a inteligência artificial assume o controlo do volante e elimina o erro
humano. Mas vários investigadores, engenheiros e profissionais de ética alertam
que é preciso começar a programar as máquinas para o inesperado, como uma
árvore que cai no meio da estrada, ou uma criança que corre para a frente de um
carro. Recentemente, a Alemanha tornou-se o único país no mundo com um guia
ético definido: os carros têm de poupar sempre o máximo de vidas humanas.
“É um imperativo introduzir a tecnologia [de
condução autónoma] para conseguir salvar muitas vidas, mas os carros nunca vão
ser perfeitos. As leis da física vão continuar a existir”, explica Peter König,
um investigador alemão da Universidade de Osnabrück, ao PÚBLICO. “Temos de
começar a discutir agora as possíveis consequências de acidente e as questões
éticas.”
Em
2017, a automatização da condução já não é uma mera ambição futurista: o Google
e fabricantes automóveis (da Tesla à General Motors, passando pela Volkswagen,
Nissan, e Mercedes, entre outros) têm vindo a anunciar projectos de
desenvolvimento de carros que se conduzem completamente sozinhos. E muitos
carros a circular nas estradas já incluem alguma capacidade de automação, como
tecnologia para ajudar a estacionar, ou manter a velocidade do carro sem ter o
pé no acelerador.
Em
Portugal, começou-se a discutir legislação para a condução autónoma em 2016,
mas o processo é moroso e envolve vários ministérios. Quando contactado pelo
PÚBLICO, um assessor do Ministério do Ambiente (que tem actualmente a
responsabilidade pelo dossiê) disse que não há "informação para
acrescentar” e que “o tema ainda está a ser discutido”. Não é um caso estranho.
Na Europa, além da Alemanha, só a Suíça e o Reino Unido têm alguma legislação
para estes carros.
Os
desafios são muitos. “O Governo português até pode definir leis amanhã, mas
como é que os carros circulam na rua sem seguro? Antes é importante definir as
responsabilidades criminais, as normas de segurança, os protocolos de
comunicação entre veículos”, enumera Jorge Saraiva o administrador da Tula
Labs, a empresa portuguesa por detrás do MOVE, um veículo eléctrico que já
circula sem condutor (embora em estradas sem outros veículos ou pessoas).
A
incerteza sobre o comportamento dos futuros carros autónomos leva muitas
pessoas a recusar a tecnologia. Um inquérito da consultora Gartner, feito nos
Estados Unidos e na Alemanha, mostra que 55% das pessoas não querem carros
capazes de conduzir sozinhos por terem medo da reacção do sistema em situações
inesperadas.
No
mês passado, uma comissão de peritos nomeada pelo Governo alemão apresentou uma
solução: os carros devem ser programados para salvar o máximo de vidas humanas,
mesmo que isso implique a destruição de propriedade alheia ou morte de animais.
Além disso, todas as vidas estão em pé de igualdade; “nenhuma decisão pode ser
feita com base na idade, sexo, condição física ou mental”. É também obrigatório
ter um sistema de registo no carro (uma espécie de “caixa negra”) para determinar
o culpado do acidente: um condutor humano, ou a tecnologia. Este guia de ética
será revisto a cada dois anos.
Há
abordagens diferentes. Por exemplo, ensinar um carro a reagir como um ser
humano, o que poderá implicar que nem todas as pessoas sejam tratadas da mesma
forma. Um estudo da Universidade Osnabrück, em que o investigador Peter König
participou, utilizou a realidade virtual para ver o comportamento de cerca de
100 pessoas (entre os 18 e os 60 anos) quando vários obstáculos (objectos, animais,
ou seres humanos) apareciam inesperadamente em frente do carro. A maioria
optava por salvar a vida de crianças, independentemente do número de mortes
causadas.
“Temos
de decidir se queremos incluir valores morais nas máquinas, e, se quisermos, se
as máquinas se devem comportar exactamente como nós”, diz König. A resposta não
é linear: em 2016, um inquérito do MIT mostrou que poucos comprariam um carro que
pusesse a vida de outros à frente da dos ocupantes.
Actualmente,
a decisão final em caso de acidente – por exemplo, tentar proteger os ocupantes
do veículo acima de tudo – ainda reverte para o ser humano, que é suposto estar
sempre preparado para assumir o controlo do veículo. Mas o paradigma muda com o
desenvolvimento de sistemas de piloto automático cada vez mais sofisticados.
Alguns carros poderão deixar de ter pedais ou volante.
“Vai
existir muita pressão social para a condução manual terminar quando as pessoas
perceberem que condutores humanos colocam mais vidas em risco que as máquinas”,
antecipa ao PÚBLICO Robert Sparrow, um especialista em ética robótica da
Universidade de Monash, na Austrália, que publicou recentemente um estudo sobre o fim da condução manual.
O
erro humano (condutores que adormecem, se descuidam, ou não conduzem bem) é o
maior culpado da sinistralidade rodoviária: mais de 1,2 milhões de pessoas são
mortas anualmente, em todo o mundo, por pessoas atrás do volante, e 20 a 50
milhões ficam incapacitados, segundo dados da Organização Mundial de Saúde. Os
carros autónomos, porém, também falham. Os acidentes mais conhecidos incluem a
colisão fatal de um carro da Tesla com um camião, que matou o único ocupante do
veículo, e o choque de um carro do Google contra um autocarro, que não provocou
vítimas. No primeiro caso, as autoridades disseram que a culpa não foi do
piloto automático. Já o segundo foi o primeiro de 18 acidentes do Google (desde
que a empresa começou a testar a tecnologia em 2009) em que a culpa foi do
software do carro.
“No
momento de um acidente, um sistema automático nunca vai conseguir prever tudo”,
argumenta Jorge Saraiva, da Tula Labs. “Por isso é que, antes de debates sobre
ética, para os carros chegarem às estradas o primeiro passo é definir o que a
seguradora cobre.”
Níveis de autonomia
Em 2016, a agência que regula os padrões de segurança
dos meios de transporte nos Estados Unidos, definiu uma escala de cinco níveis
para as capacidades dos carros autónomos.
Nível 0: O
condutor é o único a controlar o carro.
Nível 1:
O carro ajuda o condutor. Por exemplo através de cruise control (mantém
o veículo a uma velocidade programada, mesmo quando o condutor já não tem o pé
no volante).
Nível 2: O
carro consegue manter a velocidade do carro, permanecer numa faixa sem se
desviar, e desacelerar para evitar obstáculos. Porém, o humano tem de estar
sempre atento para controlar o veículo em caso de problema. Já há carros da
Tesla assim no mercado.
Os próximos níveis ainda chegaram ao mercado. Estão a
ser testados.
Nível 3: O
carro decide. É capaz de fazer uma ultrapassagem em vez de travar, e avisa o
condutor para controlar o carro se for necessário. O condutor não tem de estar
sempre atento, mas tem de estar pronto para intervir. O novo Audi A8 terá
capacidades de nível 3.
Nível 4:
O condutor não é essencial. O carro consegue conduzir sozinho em zonas seguras,
que estão mapeadas e preparadas para receber a tecnologia de carros autónomos.
Nível 5: O
carro é o único a conduzir. Neste nível não é preciso volantes, pedais, ou
condutores no interior do carro. A máquina é capaz de conduzir em qualquer
lugar, e tomar decisões. O Google ambiciona lançar um carro deste nível.
Para
já, a falta de leis (e de regras éticas) em Portugal não impede testes com
veículos autónomos. Em Maio de 2017, a Bosch e a Brisa estabeleceram uma
parceria para a empresa alemã conduzir carros autónomos em troços das
auto-estradas portuguesas. E Lisboa é uma das três cidades europeias onde se
realizam testes de condução autónoma do projecto Autocris, financiado por um
programa da Comissão Europeia.
“No
curto prazo não há mais dificuldades, mas é fundamental que a tecnologia e a
legislação sejam desenvolvidas em simultâneo”, nota Helena Silva, a directora
técnica do Centro de Excelência para a Inovação da Indústria Automóvel (CEiiA),
que também desenvolve veículos autónomos em Portugal. Para Silva, o foco actual
do Governo deve ser continuar “a criação de espaços para o teste e a
demonstração destas tecnologias de forma segura e próxima do ambiente real”.
Nos
próximos anos também é preciso mapear as estradas, garantir que os sinais de
trânsito e marcações estão visíveis (sem poderem ser alterados para confundir
os sistemas autónomos) e que há dispositivos para avisar os carros sobre
alterações nas estradas (por exemplo um desvio por causa de obras). É uma
realidade que ainda vai demorar. “Assistiremos a vários projectos-piloto em
várias cidades no mundo, mas a implementação generalizada da condução autónoma
não acontecerá por certo na próxima década”, defende Helena Silva.
Jorge
Saraiva, por seu lado, argumenta que pensar num comportamento ético para os
carros ainda não é prioritário: “As questões de ética interessam a muitos
académicos e políticos, porque não há uma resposta fácil ou científica, mas os
conceitos sobre ética serão dos últimos a ser discutidos.”
Sem comentários:
Enviar um comentário