À medida que a inteligência artificial se infiltra cada vez mais na vida quotidiana das pessoas, também aumentam as preocupações com ela. No máximo alarmistas estão as preocupações com a IA enlouquecendo e exterminando seus mestres humanos.

Mas por trás dos apelos por um pausa no desenvolvimento da IA é um conjunto de males sociais mais tangíveis. Entre eles estão os riscos que a IA representa para as pessoas privacidade e dignidade e o facto inevitável de que, como os algoritmos subjacentes à IA são programados por humanos, é igualmente tendencioso e discriminatória como muitos de nós. Jogue no falta de transparência sobre como a IA é projetada e por quem, e é fácil entender por que tanto tempo hoje em dia é dedicado a debatendo seus riscos tanto quanto o seu potencial.

BUT minha própria pesquisa como um psicólogo que estuda como as pessoas tomam decisões leva-me a acreditar que todos estes riscos são ofuscados por uma ameaça ainda mais corruptora, embora em grande parte invisível. Ou seja, a IA está a apenas um toque de tecla de tornar as pessoas ainda menos disciplinadas e habilidosas quando se trata de decisões ponderadas.

Tomando decisões ponderadas

O processo de tomar decisões ponderadas envolve três passos de bom senso que começam com a compreensão da tarefa ou problema que você enfrenta. Pergunte a si mesmo: o que você precisa saber e o que você precisa fazer para tomar uma decisão que poderá defender mais tarde com credibilidade e confiança?

As respostas a essas perguntas dependem da busca ativa de informações que preencham lacunas em seu conhecimento e desafiem suas crenças e suposições anteriores. Na verdade, é isso informação contrafactual – possibilidades alternativas que surgem quando as pessoas se libertam de certos pressupostos – que, em última análise, o equipam para defender as suas decisões quando estas são criticadas.

Decisões ponderadas envolvem considerar seus valores e pesar as compensações.

O segundo passo é procurar e considerar mais de uma opção ao mesmo tempo. Quer melhorar sua qualidade de vida? Quer seja em quem você vota, nos empregos que você aceita ou nas coisas que você compra, sempre há mais de um caminho que o levará até lá. Despender esforços para considerar e avaliar ativamente pelo menos algumas opções plausíveis, e de uma maneira que seja honesta sobre o compensações que você está disposto a fazer em seus prós e contras, é a marca registrada de uma escolha ponderada e defensável.

O terceiro passo é estar disposto a atraso no fechamento em uma decisão até depois de ter feito todos os levantamento mental pesado necessário. Não é nenhum segredo: o encerramento é bom porque significa que você deixou para trás uma decisão difícil ou importante. Mas o custo de seguir em frente prematuramente pode ser muito maior do que reservar um tempo para fazer a lição de casa. Se você não acredita em mim, pense em todas aquelas vezes em que você deixou seus sentimentos te guiarem, apenas para sentir arrependimento porque você não teve tempo para pensar um pouco mais.

Perigos de terceirizar decisões para IA

Nenhuma dessas três etapas é terrivelmente difícil de executar. Mas, para a maioria, eles são não intuitivo qualquer. Tomar decisões ponderadas e defensáveis requer prática e autodisciplina. E é aqui que entra o dano oculto a que a IA expõe as pessoas: a IA faz a maior parte do seu “pensamento” nos bastidores e apresenta aos utilizadores respostas desprovidas de contexto e deliberação. Pior ainda, a IA rouba das pessoas a oportunidade de praticar o processo de tomada de decisões ponderadas e defensáveis ​​por conta própria.

Considere como as pessoas abordam muitas decisões importantes hoje. Os humanos são conhecidos por serem propenso a uma ampla gama de preconceitos porque tendemos a ser frugais quando se trata de gastar energia mental. Essa frugalidade leva as pessoas a gostarem quando parecem boas ou confiáveis as decisões são tomadas por eles. E nós somos animais sociais que tendem a valorizar mais a segurança e a aceitação das suas comunidades do que a sua própria autonomia.

Adicione IA à mistura e o resultado é um ciclo de feedback perigoso: os dados que a IA está extraindo para alimentar seus algoritmos são feito de decisões tendenciosas das pessoas que também refletem a pressão da conformidade em vez da sabedoria de raciocínio crítico. Mas como as pessoas gostam que as decisões sejam tomadas por elas, elas tendem a aceitar essas decisões erradas e passar para a próxima. No final, nem nós nem a IA ficamos mais sábios.

Ser atencioso na era da IA

Seria equivocado argumentar que a IA não oferecerá quaisquer benefícios à sociedade. Muito provavelmente acontecerá, especialmente em campos como cíber segurança, assistência médica e financiar, onde modelos complexos e grandes quantidades de dados precisam ser analisados ​​de forma rotineira e rápida. Entretanto, a maioria das nossas decisões cotidianas não exige esse tipo de poder analítico.

Mas, quer tenhamos solicitado ou não, muitos de nós já recebemos conselhos – e trabalhos realizados por – IA em ambientes que vão desde diversão e viagens para Trabalho de escola, assistência médica e financiar. E os designers estão trabalhando arduamente IA de próxima geração que será capaz de automatizar ainda mais nossas decisões diárias. E isso, na minha opinião, é perigoso.

Num mundo onde o que e como as pessoas pensam já está sitiado graças à algoritmos de mídia social, corremos o risco de nos colocarmos numa posição ainda mais perigosa se permitirmos que a IA atinja um nível de sofisticação onde possa tomar todo o tipo de decisões em nosso nome. Na verdade, devemos a nós próprios resistir ao canto da sereia da IA ​​e retomar a propriedade do verdadeiro privilégio – e responsabilidade – de ser humano: ser capaz de pensar e escolher por nós próprios. Nós nos sentiremos melhor e, o que é mais importante, seremos melhores se o fizermos.

Joe Árvai, Dana e David Dornsife Professor de Psicologia e Diretor do Instituto Wrigley para Meio Ambiente e Sustentabilidade, Faculdade de Letras, Artes e Ciências da USC Dornsife

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.