Encontrando Confiança e Compreensão em Tecnologias Autônomas

Encontrando Confiança e Compreensão em Tecnologias AutônomasFoto por: Norbert Aepli, Suíça (Usuário: Noebu)

No 2016, os carros autônomos se tornaram populares. Veículos autônomos da Uber tornou-se onipresente nos bairros onde moro em Pittsburgh, e brevemente em San Francisco. O Departamento de Transportes dos EUA emitiu nova orientação regulatória para eles. Incontáveis papéis e colunas discutiu como carros autônomos mais perguntas resolver dilemas éticos quando as coisas dão errado. E, infelizmente, 2016 também viu o primeira fatalidade envolvendo um veículo autônomo.

As tecnologias autônomas estão se espalhando rapidamente para além do setor de transporte, assistência médica, defesa cibernética avançada e até mesmo armas autônomas. No 2017, teremos que decidir se podemos confiar nessas tecnologias. Isso vai ser muito mais difícil do que poderíamos esperar.

A confiança é complexa e variada, mas também uma parte fundamental de nossas vidas. Muitas vezes confiamos na tecnologia com base na previsibilidade: Eu confio em algo se eu sei o que vai fazer em uma situação particular, mesmo que eu não saiba o porquê. Por exemplo, eu confio no meu computador porque sei como ele funcionará, inclusive quando ele irá falhar. Eu paro de confiar se ele começa a se comportar de maneira diferente ou surpreendente.

Em contraste, minha confiança em minha esposa é baseada em Entendendo suas crenças, valores e personalidade. Mais geralmente, a confiança interpessoal não envolve saber exatamente o que a outra pessoa fará - minha esposa certamente me surpreende às vezes! - mas sim porque eles agem como eles. E, claro, podemos confiar em alguém (ou algo) nos dois sentidos, se soubermos o que eles farão e por quê.

Eu estive explorando possíveis bases para nossa confiança em carros autônomos e outras tecnologias autônomas, tanto do ponto de vista ético quanto psicológico. Esses são dispositivos, então a previsibilidade pode parecer a chave. Devido à sua autonomia, porém, precisamos considerar a importância e o valor - e o desafio - de aprender a confiar neles na maneira como confiamos em outros seres humanos.

Autonomia e previsibilidade

Queremos que nossas tecnologias, incluindo carros autônomos, se comportem de maneiras que possamos prever e esperar. Naturalmente, esses sistemas podem ser bastante sensíveis ao contexto, incluindo outros veículos, pedestres, condições climáticas e assim por diante. Em geral, porém, podemos esperar que um carro autônomo que é repetidamente colocado no mesmo ambiente deve presumivelmente se comportar de maneira semelhante a cada vez. Mas em que sentido esses carros altamente previsíveis seriam autônomos, e não meramente automáticos?

sido muitos diferente tentativas para definir autonomia, mas todos eles têm isso em comum: os sistemas autônomos podem tomar suas próprias decisões e planos (substantivos) e, portanto, podem agir de maneira diferente do esperado.

De fato, um dos motivos para empregar autonomia (distinta da automação) é justamente que esses sistemas podem buscar cursos inesperados e surpreendentes, embora justificáveis. Por exemplo, AlphaGo da DeepMind venceu o segundo jogo de sua recente série Go contra Lee Sedol, em parte por causa de um movimento que nenhum jogador humano faria, mas foi o movimento certo. Mas essas mesmas surpresas tornam difícil estabelecer confiança baseada em previsibilidade. Uma confiança forte baseada apenas na previsibilidade é discutivelmente possível apenas para sistemas automatizados ou automáticos, precisamente porque são previsíveis (supondo que o sistema funcione normalmente).

Abraçando surpresas

É claro que outras pessoas freqüentemente nos surpreendem, e ainda assim podemos confiar nelas em um grau notável, até mesmo dando-lhes poder de vida e morte sobre nós mesmos. Soldados confiam em seus companheiros em ambientes complexos e hostis; um paciente confia em seu cirurgião para extirpar um tumor; e de uma forma mais mundana, minha esposa confia em mim para dirigir com segurança. Essa confiança interpessoal nos permite abraçar as surpresas, então talvez pudéssemos desenvolver algo como confiança interpessoal em carros autônomos?

Em geral, a confiança interpessoal requer uma compreensão de por que alguém agiu de uma maneira particular, mesmo que você não possa prever a decisão exata. Minha esposa pode não saber exatamente como eu vou dirigir, mas ela sabe o tipo de raciocínio que eu uso quando estou dirigindo. E é relativamente fácil entender por que alguém faz alguma coisa, precisamente porque todos nós pensamos e raciocinamos da mesma maneira, embora com diferentes “ingredientes crus” - nossas crenças, desejos e experiências.


 Receba as últimas por e-mail

Revista Semanal Melhor da Semana

De fato, nós continuamente e inconscientemente fazemos inferências sobre crenças e desejos de outras pessoas com base em suas ações, em grande parte, assumindo que eles pensam, raciocinam e decidem mais ou menos como nós. Todas essas inferências e raciocínios baseados em nossa cognição compartilhada (humana) nos permitem entender as razões de outra pessoa e, assim, construir confiança interpessoal ao longo do tempo.

Pensando como pessoas?

As tecnologias autônomas - em particular, carros autônomos - não pensam e decidem como pessoas. Houve esforços, tanto passado e recentemente, para desenvolver sistemas computacionais que pensem e raciocinem como humanos. No entanto, um tema consistente de aprendizado de máquina nas últimas duas décadas tem sido os enormes ganhos obtidos justamente por não exigir que nossos sistemas de inteligência artificial operem de maneira semelhante à humana. Em vez disso, os algoritmos e sistemas de aprendizado de máquina, como o AlphaGo, têm sido capazes de supera os especialistas humanos concentrando-se em problemas específicos e localizados e resolvendo-os de maneira bastante diferente dos humanos.

Como resultado, as tentativas de interpretar uma tecnologia autônoma em termos de crenças e desejos semelhantes aos humanos podem ficar espetacularmente erradas. Quando um motorista humano vê uma bola na estrada, a maioria de nós diminui a velocidade significativamente, para evitar bater em uma criança que pode estar correndo atrás dela. Se estivermos em um carro autônomo e vermos uma bola rolar para a rua, esperamos que o carro a reconheça e esteja preparado para parar para correr com crianças. O carro pode, no entanto, ver apenas um obstáculo a ser evitado. Se ele se desviar sem abrandar, os humanos a bordo podem ficar alarmados - e um garoto pode estar em perigo.

Nossas inferências sobre as “crenças” e “desejos” de um carro autônomo quase certamente serão errôneas em termos importantes, precisamente porque o carro não tem nenhuma crença ou desejo semelhante ao humano. Não podemos desenvolver a confiança interpessoal em um carro autônomo simplesmente observando-o dirigir, pois não inferiremos corretamente os porquês por trás de suas ações.

É claro que os clientes da sociedade ou do mercado poderiam insistir em massa que os carros autônomos têm características (psicológicas) semelhantes às humanas, precisamente para que pudéssemos entender e desenvolver confiança interpessoal nelas. Esta estratégia daria um novo significado a “design centrado no ser humano”, Já que os sistemas seriam projetados especificamente para que suas ações sejam interpretáveis ​​pelos seres humanos. Mas também exigiria incluir novos algoritmos e técnicas no carro autônomo, o que representaria uma enorme mudança em relação às atuais estratégias de pesquisa e desenvolvimento para carros autônomos e outras tecnologias autônomas.

Carros autônomos têm o potencial de reformular radicalmente nossa infraestrutura de transporte de muitas maneiras benéficas, mas somente se pudermos confiar neles o suficiente para realmente usá-los. E, ironicamente, a própria característica que torna os carros autônomos valiosos - sua tomada de decisões flexível e autônoma em diversas situações - é exatamente o que torna difícil confiar neles.

A Conversação

authirhere

David Danks, professor de Filosofia e Psicologia, Carnegie Mellon University

Este artigo foi originalmente publicado em A Conversação. Leia o artigo original.

Livros relacionados:

at InnerSelf Market e Amazon

 

Você pode gostar

siga InnerSelf on

facebook íconeícone do twitterícone do YouTubeícone do instagramícone pintrestícone rss

 Receba as últimas por e-mail

Revista Semanal Melhor da Semana

IDIOMAS DISPONÍVEIS

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

MAIS LEIA

incapacidade do carregador 9 19
Nova regra do carregador USB-C mostra como os reguladores da UE tomam decisões para o mundo
by Renaud Foucart, Universidade de Lancaster
Você já pegou emprestado o carregador de um amigo e descobriu que ele não é compatível com o seu telefone? Ou…
alimentos mais saudáveis ​​quando cozinhados 6 19
9 vegetais que são mais saudáveis ​​​​quando cozidos
by Laura Brown, Universidade Teesside
Nem todos os alimentos são mais nutritivos quando consumidos crus. De fato, alguns vegetais são realmente mais…
estresse social e envelhecimento 6 17
Como o estresse social pode acelerar o envelhecimento do sistema imunológico
by Eric Klopack, Universidade do Sul da Califórnia
À medida que as pessoas envelhecem, seus sistemas imunológicos naturalmente começam a declinar. Este envelhecimento do sistema imunológico,…
jejum intermitente 6 17
O jejum intermitente é realmente bom para perda de peso?
by David Clayton, Universidade Nottingham Trent
Se você é alguém que pensou em perder peso ou quis ficar mais saudável nos últimos…
cara. mulher e criança na praia
Este é o dia? Reviravolta do dia dos pais
by Will Wilkinson
É Dia dos Pais. Qual o significado simbólico? Poderia algo de mudança de vida acontecer hoje em sua…
efeitos de saúde do bpa 6 19
Que décadas de pesquisa documentam os efeitos do BPA na saúde
by Tracey Woodruff, Universidade da Califórnia, São Francisco
Se você já ouviu falar do químico bisfenol A, mais conhecido como BPA, estudos mostram que…
quem era Elvis pressly 4 27
Quem foi o verdadeiro Elvis Presley?
by Michael T. Bertrand, Universidade Estadual do Tennessee
Presley nunca escreveu um livro de memórias. Tampouco mantinha um diário. Certa vez, ao ser informado de uma possível biografia…
problemas para pagar contas e saúde mental 6 19
Problemas para pagar contas podem afetar a saúde mental dos pais
by Joyce Y. Lee, Universidade Estadual de Ohio
Pesquisas anteriores sobre pobreza foram conduzidas principalmente com mães, com foco predominante em…

Novas atitudes - Novas possibilidades

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics. com | Innerself Mercado
Copyright © 1985 - 2021 innerself Publications. Todos os direitos reservados.