Por que a inteligência artificial não deve substituir a imperfeição da empatia humana

No cerne do desenvolvimento da IA ​​parece estar a busca pela perfeição. E pode ser tão perigoso para a humanidade quanto aquele que veio das ideias filosóficas e pseudocientíficas do século 19 e início do século 20 e levou aos horrores do colonialismo, da guerra mundial e do Holocausto. Em vez de uma “raça superior” governante humana, poderíamos acabar com uma máquina.

Se isso parece extremo, considere o perfeccionismo anti-humano que já é central no mercado de trabalho. Aqui, a tecnologia de IA é o próximo passo na premissa de produtividade máxima que substituiu o artesanato individual pela linha de produção da fábrica. Essas mudanças massivas na produtividade e na forma como trabalhamos criaram oportunidades e ameaças que agora devem ser agravadas por um “quarta revolução industrial”Em que a IA substitui ainda mais os trabalhadores humanos.

Vários artigos de pesquisa recentes prevêem que, dentro de uma década, a automação substituirá metade dos empregos atuais. Portanto, pelo menos nesta transição para uma nova economia digitalizada, muitas pessoas perderão seus meios de subsistência. Mesmo se assumirmos que esta nova revolução industrial engendrará uma nova força de trabalho capaz de navegar e comandar este mundo dominado por dados, ainda teremos que enfrentar grandes problemas socioeconômicos. As interrupções serão imensas e precisam ser examinadas.

O objetivo final da IA, mesmo a IA estreita que lida com tarefas muito específicas, é superar e aperfeiçoar todas as funções cognitivas humanas. Eventualmente, os sistemas de aprendizado de máquina podem muito bem ser programados para serem melhores do que os humanos em tudo.

O que eles podem nunca desenvolver, entretanto, é o toque humano - empatia, amor, ódio ou qualquer uma das outras emoções autoconscientes que nos tornam humanos. A menos que atribuamos esses sentimentos a eles, que é o que alguns de nós já estão fazendo com o nosso “Alexas” e “Siris”.


innerself assinar gráfico


Produtividade vs. toque humano

A obsessão pela perfeição e “hipereficiência” teve um impacto profundo nas relações humanas, até mesmo na reprodução humana, pois as pessoas vivem suas vidas em realidades virtuais enclausuradas de sua própria criação. Por exemplo, várias empresas com sede nos Estados Unidos e na China produziram bonecos robóticos que estão vendendo rapidamente como parceiros substitutos.

Um homem na China até casou com sua cyber-boneca, enquanto uma mulher na França “Casou-se” com um “homem-robô”, anunciando sua história de amor como uma forma de “sexualidade-robô” e fazendo campanha para legalizar seu casamento. “Estou realmente e totalmente feliz”, disse ela. “Nosso relacionamento ficará cada vez melhor conforme a tecnologia evoluir.” Lá parece ser alta demanda por esposas e maridos robôs em todo o mundo.

No mundo perfeitamente produtivo, os humanos seriam considerados inúteis, certamente em termos de produtividade, mas também em termos de nossa débil humanidade. A menos que descartemos essa atitude perfeccionista em relação à vida que posiciona a produtividade e o “crescimento material” acima da sustentabilidade e da felicidade individual, a pesquisa de IA pode ser outra cadeia na história das invenções humanas autodestrutivas.

Já estamos testemunhando discriminação em cálculos algorítmicos. Recentemente, um popular O chatbot sul-coreano chamado Lee Luda foi colocado offline. “Ela” foi modelada após a persona de uma estudante universitária de 20 anos e foi removida do messenger do Facebook após usar discurso de ódio contra pessoas LGBT.

Enquanto isso, armas automatizadas programadas para matar carregam máximas como “produtividade” e “eficiência” para a batalha. Como resultado, a guerra se tornou mais sustentável. A proliferação da guerra de drones é um exemplo muito vívido dessas novas formas de conflito. Eles criam uma realidade virtual que está quase ausente do nosso alcance.

Mas seria cômico retratar a IA como um inevitável pesadelo orwelliano de um exército de “Exterminadores” superinteligentes, cuja missão é eliminar a raça humana. Essas previsões distópicas são muito grosseiras para capturar o âmago da inteligência artificial e seu impacto em nossa existência cotidiana.

As sociedades podem se beneficiar da IA ​​se ela for desenvolvida com o desenvolvimento econômico sustentável e a segurança humana em mente. A confluência de poder e IA que está buscando, por exemplo, sistemas de controle e vigilância, não deve substituir a promessa de uma IA humanizada que coloca a tecnologia de aprendizado de máquina a serviço dos humanos e não o contrário.

Para tanto, as interfaces AI-humanos que estão se abrindo rapidamente em prisões, saúde, governo, seguridade social e controle de fronteiras, por exemplo, devem ser regulamentadas para favorecer a ética e a segurança humana em detrimento da eficiência institucional. As ciências sociais e humanas têm um muito a dizer sobre tais questões.

Algo para se alegrar é a probabilidade de a IA nunca ser um substituto para a filosofia e intelectualidade humanas. Afinal, ser filósofo requer empatia, compreensão da humanidade e de nossas emoções e motivos inatos. Se pudermos programar nossas máquinas para compreender esses padrões éticos, a pesquisa em IA terá a capacidade de melhorar nossas vidas, o que deve ser o objetivo final de qualquer avanço tecnológico.

Mas se a pesquisa de IA produzir uma nova ideologia centrada na noção de perfeccionismo e produtividade máxima, então será uma força destrutiva que levará a mais guerras, mais fomes e mais dificuldades sociais e econômicas, especialmente para os pobres. Nesta conjuntura da história global, essa escolha ainda é nossa.A Conversação

Sobre o autor

Arshin Adib-Moghaddam, professor de pensamento global e filosofias comparadas, SOAS, Universidade de Londres

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.