Foto por: Norbert Aepli, Suíça (Usuário: Noebu)

No 2016, os carros autônomos se tornaram populares. Veículos autônomos da Uber tornou-se onipresente nos bairros onde moro em Pittsburgh, e brevemente em San Francisco. O Departamento de Transportes dos EUA emitiu nova orientação regulatória para eles. Incontáveis papéis e colunas discutiu como carros autônomos rede de apoio social resolver dilemas éticos quando as coisas dão errado. E, infelizmente, 2016 também viu o primeira fatalidade envolvendo um veículo autônomo.

As tecnologias autônomas estão se espalhando rapidamente para além do setor de transporte, assistência médica, defesa cibernética avançada e até mesmo armas autônomas. No 2017, teremos que decidir se podemos confiar nessas tecnologias. Isso vai ser muito mais difícil do que poderíamos esperar.

A confiança é complexa e variada, mas também uma parte fundamental de nossas vidas. Muitas vezes confiamos na tecnologia com base na previsibilidade: Eu confio em algo se eu sei o que vai fazer em uma situação particular, mesmo que eu não saiba o porquê. Por exemplo, eu confio no meu computador porque sei como ele funcionará, inclusive quando ele irá falhar. Eu paro de confiar se ele começa a se comportar de maneira diferente ou surpreendente.

Em contraste, minha confiança em minha esposa é baseada em Entendendo suas crenças, valores e personalidade. Mais geralmente, a confiança interpessoal não envolve saber exatamente o que a outra pessoa fará - minha esposa certamente me surpreende às vezes! - mas sim porque eles agem como eles. E, claro, podemos confiar em alguém (ou algo) nos dois sentidos, se soubermos o que eles farão e por quê.

Eu estive explorando possíveis bases para nossa confiança em carros autônomos e outras tecnologias autônomas, tanto do ponto de vista ético quanto psicológico. Esses são dispositivos, então a previsibilidade pode parecer a chave. Devido à sua autonomia, porém, precisamos considerar a importância e o valor - e o desafio - de aprender a confiar neles na maneira como confiamos em outros seres humanos.

Autonomia e previsibilidade

Queremos que nossas tecnologias, incluindo carros autônomos, se comportem de maneiras que possamos prever e esperar. Naturalmente, esses sistemas podem ser bastante sensíveis ao contexto, incluindo outros veículos, pedestres, condições climáticas e assim por diante. Em geral, porém, podemos esperar que um carro autônomo que é repetidamente colocado no mesmo ambiente deve presumivelmente se comportar de maneira semelhante a cada vez. Mas em que sentido esses carros altamente previsíveis seriam autônomos, e não meramente automáticos?

Há sido muitos diferente tentativas para definir autonomia, mas todos eles têm isso em comum: os sistemas autônomos podem tomar suas próprias decisões e planos (substantivos) e, portanto, podem agir de maneira diferente do esperado.

De fato, um dos motivos para empregar autonomia (distinta da automação) é justamente que esses sistemas podem buscar cursos inesperados e surpreendentes, embora justificáveis. Por exemplo, AlphaGo da DeepMind venceu o segundo jogo de sua recente série Go contra Lee Sedol, em parte por causa de um movimento que nenhum jogador humano faria, mas foi o movimento certo. Mas essas mesmas surpresas tornam difícil estabelecer confiança baseada em previsibilidade. Uma confiança forte baseada apenas na previsibilidade é discutivelmente possível apenas para sistemas automatizados ou automáticos, precisamente porque são previsíveis (supondo que o sistema funcione normalmente).

Abraçando surpresas

É claro que outras pessoas freqüentemente nos surpreendem, e ainda assim podemos confiar nelas em um grau notável, até mesmo dando-lhes poder de vida e morte sobre nós mesmos. Soldados confiam em seus companheiros em ambientes complexos e hostis; um paciente confia em seu cirurgião para extirpar um tumor; e de uma forma mais mundana, minha esposa confia em mim para dirigir com segurança. Essa confiança interpessoal nos permite abraçar as surpresas, então talvez pudéssemos desenvolver algo como confiança interpessoal em carros autônomos?

Em geral, a confiança interpessoal requer uma compreensão de por que alguém agiu de uma maneira particular, mesmo que você não possa prever a decisão exata. Minha esposa pode não saber exatamente como eu vou dirigir, mas ela sabe o tipo de raciocínio que eu uso quando estou dirigindo. E é relativamente fácil entender por que alguém faz alguma coisa, precisamente porque todos nós pensamos e raciocinamos da mesma maneira, embora com diferentes “ingredientes crus” - nossas crenças, desejos e experiências.

De fato, nós continuamente e inconscientemente fazemos inferências sobre crenças e desejos de outras pessoas com base em suas ações, em grande parte, assumindo que eles pensam, raciocinam e decidem mais ou menos como nós. Todas essas inferências e raciocínios baseados em nossa cognição compartilhada (humana) nos permitem entender as razões de outra pessoa e, assim, construir confiança interpessoal ao longo do tempo.

Pensando como pessoas?

As tecnologias autônomas - em particular, carros autônomos - não pensam e decidem como pessoas. Houve esforços, tanto passado e recentemente, para desenvolver sistemas computacionais que pensem e raciocinem como humanos. No entanto, um tema consistente de aprendizado de máquina nas últimas duas décadas tem sido os enormes ganhos obtidos justamente por não exigir que nossos sistemas de inteligência artificial operem de maneira semelhante à humana. Em vez disso, os algoritmos e sistemas de aprendizado de máquina, como o AlphaGo, têm sido capazes de supera os especialistas humanos concentrando-se em problemas específicos e localizados e resolvendo-os de maneira bastante diferente dos humanos.

Como resultado, as tentativas de interpretar uma tecnologia autônoma em termos de crenças e desejos semelhantes aos humanos podem ficar espetacularmente erradas. Quando um motorista humano vê uma bola na estrada, a maioria de nós diminui a velocidade significativamente, para evitar bater em uma criança que pode estar correndo atrás dela. Se estivermos em um carro autônomo e vermos uma bola rolar para a rua, esperamos que o carro a reconheça e esteja preparado para parar para correr com crianças. O carro pode, no entanto, ver apenas um obstáculo a ser evitado. Se ele se desviar sem abrandar, os humanos a bordo podem ficar alarmados - e um garoto pode estar em perigo.

Nossas inferências sobre as “crenças” e “desejos” de um carro autônomo quase certamente serão errôneas em termos importantes, precisamente porque o carro não tem nenhuma crença ou desejo semelhante ao humano. Não podemos desenvolver a confiança interpessoal em um carro autônomo simplesmente observando-o dirigir, pois não inferiremos corretamente os porquês por trás de suas ações.

É claro que os clientes da sociedade ou do mercado poderiam insistir em massa que os carros autônomos têm características (psicológicas) semelhantes às humanas, precisamente para que pudéssemos entender e desenvolver confiança interpessoal nelas. Esta estratégia daria um novo significado a “design centrado no ser humano”, Já que os sistemas seriam projetados especificamente para que suas ações sejam interpretáveis ​​pelos seres humanos. Mas também exigiria incluir novos algoritmos e técnicas no carro autônomo, o que representaria uma enorme mudança em relação às atuais estratégias de pesquisa e desenvolvimento para carros autônomos e outras tecnologias autônomas.

Carros autônomos têm o potencial de reformular radicalmente nossa infraestrutura de transporte de muitas maneiras benéficas, mas somente se pudermos confiar neles o suficiente para realmente usá-los. E, ironicamente, a própria característica que torna os carros autônomos valiosos - sua tomada de decisões flexível e autônoma em diversas situações - é exatamente o que torna difícil confiar neles.

authirhere

David Danks, professor de Filosofia e Psicologia, Carnegie Mellon University

Este artigo foi originalmente publicado em A Conversação. Leia o artigo original.

Livros relacionados:

at InnerSelf Market e Amazon