O dilema ético dos carros autônomos: a decisão de quem sofre acidentes é das máquinas

(Foto: Grendelkhan /WikiCommons)

(Foto: Grendelkhan /WikiCommons)

Veículos autônomos são o exemplo cabal de que o aprimoramento tecnológico cria expectativas para o futuro da mobilidade. Sob outra perspectiva, podemos afirmar que o futuro da mobilidade busca no aprimoramento tecnológico amparo para oferecer, cada vez mais, eficiência nos deslocamentos da vida urbana. A inserção dos carros autônomos no status quo apresenta novos paradigmas que remontam aos valores mais básicos do comportamento humano em sociedade, como a moral e a ética.

primeiro carro autônomo teve seu protótipo lançado nos anos 80. No entanto, foi nos últimos anos que houve um boom sobre o tema. Companhias automobilísticas, indústria tecnológica e setor acadêmico passaram a investir mais no setor. Entre os fatores que motivam o investimento estão 1) segurança, pois essa tecnologia é feita para reduzir o erro ao substituir a percepção e o julgamento humano por sensores e sistemas de inteligência artificial, e poderia reduzir até 90% nos acidentes de trânsito; 2) redução da poluição – segundo estudo, teríamos 80% menos emissão de gases poluentes; 3) o fim dos congestionamentos, uma vez que os veículos possuem sistemas interconectados de comunicação, o que nos leva ao item 4) que é um resultado dos três anteriores: qualidade de vida.

Esses são os elementos que fazem crescer os investimentos e o número de entusiastas dos veículos autônomos. Todavia, existe um ponto recorrente que, em linhas gerais, podemos dizer assim: se os carros estão pensando e dirigindo sozinhos, em caso de falha ou acidente, são eles que decidem quem vai morrer.

Quem primeiro abordou o assunto com maior cuidado foi um estudo da revista Science, que pontuou a desconexão que ainda temos com essas máquinas.

O número de vidas salvas. É nesse ponto que a reflexão se apresenta no estudo da revista Science. A pesquisa pontua: queremos carros autônomos com programação voltada ao menor número de erros e fatalidades, sim. Mas queremos mesmo que isso resulte na morte do “motorista” (passageiro, no caso, pois não estará dirigindo)? Ou seja, em um potencial acidente em que o carro atropelaria muitos pedestres, a escolha certa seria colidir contra uma parede e talvez sacrificar a vida da pessoa dentro do carro para salvar esse grupo?

Esse dilema moral lembra o clássico experimento idealizado por Philippa Foot, no qual participantes são apresentados a seguinte pergunta:

um trem está fora de controle e prestes a atropelar cinco pessoas. No entanto, é possível apertar um botão que desviará o trem para outro trilho, em um percurso diferente. Mas ali, nesse caminho opcional, se encontra outra pessoa que será atropelada. Você apertaria o botão?

Segundo a pesquisa, a maioria das pessoas quer que os veículos autônomos tenham a atitude de “apertar o botão”. Por outro lado, as mesmas pessoas dizem não querer andar em carros programados dessa maneira. Enfim. Existe um vídeo que explica melhor:

 

Para os pesquisadores, isso configura um dilema social, na qual o interesse em agir em interesse próprio pode tornar as estradas menos seguras para todos.

A máquina moral

o que o veículo autonomo deve fazer

O MIT criou um jogo que nos faz ter um panorama maior da situação, pois podemos decidir pelo veículo autônomo em caso de falha mecânica. O jogo se chama Máquina Moral e nos faz escolher entre alguns cenários quem vai viver ou morrer. Nas escolhas, o jogo apresenta variações de gênero, idade e peso. Em uma hipótese, você precisa escolher se o carro vai atropelar um executivo ou um morador de rua.

No final, é apresentada a média das escolhas de todas as pessoas que jogaram. Em se tratando de escolher entre a própria vida (passageiro do carro) e a vida de pedestres, os jogadores se mostram divididos, o indicador está na margem de 50%. Nos outros quesitos, o padrão é que as pessoas escolhem salvar mais as mulheres, os jovens e pessoas de status social elevado.

Ainda há um considerável caminho a ser percorrido até que veículos autônomos desse tipo sejam acessíveis em escala geral. No entanto, a lógica de carros autônomos deve continuar sendo revisitada a partir de potenciais problemas mecânicos ou morais. Uma mudança de paradigma tecnológico dessa magnitude deve, sobretudo, priorizar o acesso a oportunidades e serviços, a qualidade de vida e a qualificação de diferentes modais sustentáveis e não motorizados.