Perguntar se os computadores serão mais inteligentes que os humanos distrai-nos da compreensão do problema ético subjacente aos humanos que os criam e utilizam. (ShutterStock)

Na idade de o antropoceno, a humanidade parece prestes a destruir-se.

Cada dia traz uma lembrança de outra ameaça à nossa paz e segurança. Guerra, instabilidade política e alterações climáticas enviam migrantes e refugiados através das fronteiras nacionais. Cibercriminosos hackear redes de instituições públicas e privadas. Terroristas usam caminhões e aviões como armas.

E pairando sombriamente acima de todos nós, como o espada de Dâmocles, espreita a ameaça de total aniquilação nuclear.

Na raiz destas ameaças está um problema tão antigo quanto a própria humanidade.

No domínio da sobrevivência e da reprodução, a inteligência humana destaca-se por uma razão específica. Somos a única espécie na Terra para quem a inteligência é também uma responsabilidade ética. Como argumentou o crítico antropológico Eric Gans, somos a única espécie para quem o O problema da nossa violência é também a nossa maior ameaça existencial.

As percepções da literatura e dos mitos ocidentais apontam para o problema ético que está no cerne da inteligência humana. A forma como entendemos o papel da comunicação simbólica dos seres humanos, incluindo a linguagem no estabelecimento de relações éticas, tem consequências profundas para a nossa sociedade.

Uma responsabilidade ética

Durante a maior parte da história humana, controlar o conflito humano tem sido tarefa da religião. Por exemplo, entre sociedades de caça e coleta de alimentos, devem ser seguidos rituais cuidadosamente prescritos quando a carne é distribuída após uma caçada bem-sucedida.

Os animais são difíceis de rastrear e matar. A carne é rara e altamente valorizada. Consequentemente, a possibilidade de ocorrência de violência durante a distribuição é mais provável. A religião fornece um guia ético para a distribuição pacífica de carne.

O problema ético da violência humana também foi explorado pela literatura.

Por exemplo, meu trabalho em Shakespeare examina suas peças como uma tentativa sistemática de compreender a origem do conflito humano. As peças de Shakespeare retratam com detalhes requintados a propensão da humanidade para a autodestruição.

Antes de Shakespeare, o poema épico de Homero, o Ilíada trataram temas semelhantes. O foco de Homero não era simplesmente a guerra entre gregos e troianos, mas, mais precisamente, a guerra de Aquiles. ressentimento de seu rei, Agamenon, que usou sua autoridade para se apropriar do prisioneiro de guerra de Aquiles, Briseida.

Aquiles é de longe o melhor lutador, mas se os gregos quiserem vencer a guerra, Aquiles deve aprender a adiar o seu ressentimento para com o seu superior.

Monstro como metáfora

Nas revoluções científicas e tecnológicas da era moderna, esta lição recebe uma reviravolta peculiar na ficção científica, começando com Mary Shelley's Frankenstein.

No romance de Mary Shelley, o protagonista Victor Frankenstein consegue criar um ser capaz de pensar por si mesmo. Mas a criatura de Victor rapidamente se torna o odiado rival de Victor, e é por isso que Victor se refere à sua criação como um monstro horrível. Victor tem o que seu rival deseja, ou seja, uma esposa e, portanto, a perspectiva de filhos. O monstro de Victor é uma metáfora para a violência que os humanos infligem uns aos outros.

É claro que todos os animais competem por recursos escassos. Nesta competição darwiniana, a violência entre rivais é inevitável. Outros animais sociais, como os chimpanzés, têm hierarquias bem desenvolvidas que permitem que o conflito sobre objetos em disputa seja neutralizado ou restringido. O animal beta pode desafiar o alfa numa luta. Se vencer, assume a posição alfa.

Mas estes desafios para o domínio nunca são representado simbolicamente como ameaças existenciais à ordem social.

Somente os humanos representam seus capacidade de violência simbólica na religião, mito e literatura porque os humanos são os únicos animais para os quais o maior perigo são eles próprios.

Estabelecer atenção mútua: uma tarefa ética

A visão dominante hoje é que a inteligência humana é medida por quão rápido um cérebro individual pode processar informações. Esta imagem do cérebro humano como um “processador de informação” é em si um produto da crença de que o que há de mais importante na fala é comunicar fatos sobre o mundo.

Mas o que falta a esta imagem é uma tarefa mais fundamental da linguagem: estabelecer atenção mútua.

Uma tarefa fundamental da linguagem é estabelecer atenção mútua. (ShutterStock)

Michael Tomasello, professor de psicologia e neurociência especializado em aprendizagem social, observa que, por volta dos nove meses de idade, as crianças se envolvem no que ele chama de cenas de atenção conjunta.

A mãe da criança pode apontar para algumas flores e dizer: “Lindas flores!” O que é significativo não é apenas o facto de a mãe ter proferido palavras, mas o facto de a criança estar a ser convidada a envolver-se numa atenção conjunta com a mãe. As flores estão sendo apresentadas à criança como objeto de atenção compartilhada coletiva e estética.

Uma ordem social ética

Estas percepções demonstram que o estabelecimento de um sentido humano do mundo depende das nossas relações com outras pessoas. Uma ordem social ética depende de relações éticas.

Na era das mídias sociais, o rápido crescimento do ideologias extremas e teorias da conspiração sublinhou a ineficácia de focar apenas na verdade empírica para combater o extremismo. Muitas pessoas continuam fascinadas por discursos ou ideologias carregadas e incendiárias.

Este facto deveria lembrar-nos que antes de podermos comunicar um conceito, devemos estabelecer um cenário de atenção conjunta.

A visão de que a linguagem trata principalmente de comunicar conceitos tem consequências que vão além de nos encorajar a subestimar a ameaça representada pelo discurso polarizador, divisionista ou de ódio. Esta visão também nos encoraja a ver as pessoas como depósitos discretos de informação, que são valiosas para nós para nosso próprio uso, em vez de por direito próprio.

Esquecendo nossas responsabilidades éticas

Cada vez mais, nossas conversas são mediadas pelo tela digital onipresente. Isto é conveniente, claro, mas a conveniência tem um custo.

O custo pode ser o esquecimento da nossa responsabilidade ética para com os outros.

Quando os tecnólogos afirmam que os computadores poderão em breve ser mais inteligentes que os humanos e que inteligência artificial representa uma ameaça existencial para a humanidade, eles nos distraem de compreender o problema ético subjacente, que não está no computador, mas nos humanos que o criam e usam.

Ricardo van Oort, Professor de Inglês, Universidade de Victoria

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.

livros_consciência