Os futuros historiadores podem muito bem considerar 2023 como um marco no advento da inteligência artificial (IA). Mas se esse futuro provará utópico, apocalíptica or em algum lugar entre é uma incógnita.

Em fevereiro, o ChatGPT estabeleceu o recorde como o aplicativo mais rápido a alcançar 100 milhões de usuários. Seguiram-se modelos semelhantes de IA em “linguagem grande” da Google, Amazon, Meta e outras grandes empresas tecnológicas, que colectivamente parecem preparadas para transformar a educação, a saúde e muitos outros campos de conhecimento intensivo.

No entanto, o potencial de danos da IA ​​foi sublinhado em Maio por um declaração sinistra assinado pelos principais pesquisadores:

Mitigar o risco de extinção da IA ​​deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear.

Em Novembro, respondendo à crescente preocupação com o risco da IA, 27 nações (incluindo o Reino Unido, os EUA, a Índia, a China e a União Europeia) comprometeram-se a cooperar numa Cimeira inaugural sobre Segurança da IA ​​em Bletchley Park, em Inglaterra, para garantir o desenvolvimento seguro da IA. para o benefício de todos.

Para conseguir isso, os pesquisadores se concentram em Alinhamento de IA – isto é, como garantir que os modelos de IA sejam consistentes com os valores, preferências e objetivos humanos. Mas há um problema – a chamada IA ​​“segredo obscuro”: modelos em grande escala são tão complexos que são como uma caixa preta, impossível de ser totalmente compreendida por qualquer pessoa.

O problema da caixa preta da IA

Embora a transparência e a explicabilidade dos sistemas de IA sejam importantes objetivos de pesquisa, parece improvável que tais esforços acompanhem o ritmo frenético da inovação.

A metáfora da caixa preta explica por que as crenças das pessoas sobre a IA estão espalhadas pelo mapa. As previsões vão da utopia à extinção, e muitos até acreditam que uma inteligência artificial geral (AGI) irá em breve alcançar a senciência.

Mas esta incerteza agrava o problema. O alinhamento da IA ​​deve ser uma via de mão dupla: não devemos apenas garantir que os modelos de IA sejam consistentes com as intenções humanas, mas também que as nossas crenças sobre a IA sejam precisas.

Isto ocorre porque somos notavelmente hábeis em criar futuros que estejam de acordo com essas crenças, mesmo que não tenhamos consciência delas.

Assim chamado "efeitos de expectativa”, ou profecias autorrealizáveis, são bem conhecidas na psicologia. E pesquisas mostram que a manipulação das crenças dos usuários influencia não apenas o modo como eles interagir com IA, mas como a IA se adapta ao usuário.

Por outras palavras, a forma como as nossas crenças (conscientes ou inconscientes) afetam a IA pode aumentar potencialmente a probabilidade de qualquer resultado, incluindo os catastróficos.

IA, computação, lógica e aritmética

Precisamos investigar mais profundamente para compreender a base da IA ​​– como Alice no País das Maravilhas, descer pela toca do coelho e ver aonde ela nos leva.

Em primeiro lugar, o que é IA? Ele é executado em computadores, assim como a computação automatizada. Desde a sua origem como “perceptron”- um neurônio artificial definido matematicamente em 1943 pelo neurofisiologista Warren McCulloch e lógico Walter Pitts – A IA tem estado interligada com as ciências cognitivas, a neurociência e a ciência da computação.

Esta convergência de mentes, miolos e máquinas levou à crença generalizada de que, como a IA é computada por máquina, então a inteligência natural (a mente) deve ser computada pelo cérebro.

Mas o que é computação? No final do século XIX, os matemáticos Richard Dedekind e Giuseppe Peano propôs um conjunto de axiomas que aritmética definida em termos de lógica, e tentativas inspiradas de fundamentar toda a matemática em uma base segura base formal.

Embora o lógico Kurt Gödel mais tarde provou que esse objetivo era inatingível, seu trabalho foi o ponto de partida para o matemático (e decifrador de códigos) Alan Turing. Dele "Máquina de Turing”, um dispositivo abstrato capaz de computação universal, é a base da ciência da computação.

Estrutura profunda de percepção

Portanto, a computação é baseada em ideias matemáticas que remontam aos esforços para definir a aritmética na lógica. Mas nosso conhecimento de aritmética existe antes da lógica. Se quisermos compreender a base da IA, precisamos ir mais longe e perguntar de onde vem a própria aritmética.

Meus colegas e eu mostramos recentemente que a aritmética é baseada no “estrutura profunda”de percepção. Esta estrutura é como vidros coloridos que moldam a nossa percepção de maneiras específicas, para que a nossa experiência do mundo seja ordenada e administrável.

A aritmética consiste em um conjunto de elementos (números) e operações (adição, multiplicação) que combinam pares de elementos para dar outro elemento. Perguntamos: de todas as possibilidades, por que os números são os elementos e a adição e a multiplicação são as operações?

Nós mostramos por prova matemática que quando se presumia que a estrutura profunda da percepção limitava as possibilidades, o resultado era a aritmética. Por outras palavras, quando a nossa mente vê o mundo abstrato através dos mesmos “óculos coloridos” que moldam a nossa experiência do mundo físico, ela “vê” números e aritmética.

Dado que a aritmética é a base da matemática, a implicação é que a matemática é um reflexo da mente – uma expressão em símbolos da sua natureza fundamental e criatividade.

Embora a estrutura profunda da percepção seja partilhada com outros animais e, portanto, um produto da evolução, apenas os humanos inventaram a matemática. É a nossa criação mais íntima – e ao permitir o desenvolvimento da IA, talvez a nossa criação mais importante.

Uma revolução copernicana da mente

Nossa conta de origem da aritmética é consistente com as opiniões do filósofo do século XVIII Immanuel Kant. Segundo ele, nosso conhecimento do mundo é estruturado por “intuições puras” de espaço e tempo que existem antes da experiência sensorial – análogas aos vidros coloridos que nunca podemos remover.

Kant reivindicou seu filosofia foi uma “revolução copernicana da mente”. Da mesma forma que os antigos astrónomos acreditavam que o Sol girava em torno da Terra porque não tinham consciência do movimento da Terra, argumentou Kant, os filósofos que acreditavam que todo o conhecimento é derivado de experiência sensorial (John Locke e David Hume, por exemplo) ignoraram como a mente molda a percepção.

Embora as opiniões de Kant tenham sido moldadas pela ciências naturais de sua época, eles provaram influente na psicologia contemporânea.

O reconhecimento de que a aritmética é uma consequência natural da nossa percepção, e, portanto, de base biológica, sugere uma mudança kantiana semelhante em nossa compreensão da computação.

A computação não está “fora” ou separada de nós num domínio abstrato da verdade matemática, mas é inerente à natureza da nossa mente. A mente é mais que computação; o cérebro não é um computador. Pelo contrário, a computação – a base da IA ​​– é, tal como a matemática, uma expressão simbólica da natureza e da criatividade da mente.

o fogo de Prometeu

Quais são as implicações para a IA? Em primeiro lugar, a IA não é uma mente e nunca se tornará senciente. A ideia de que podemos transcender a nossa natureza biológica e alcançar a imortalidade transferindo as nossas mentes para a nuvem é apenas fantasia.

No entanto, se os princípios mentais nos quais a IA se baseia forem partilhados por toda a humanidade (e provavelmente também por outras criaturas vivas), poderá ser possível transcender as limitações das nossas mentes individuais.

Como a computação é universal, somos livres para simular e criar qualquer resultado que escolhermos nos nossos mundos virtuais e físicos cada vez mais conectados. Desta forma, a IA é verdadeiramente a nossa o fogo de Prometeu, um presente para a humanidade roubado dos deuses como em mitologia grega.

Como civilização global, estamos provavelmente num ponto de viragem. A IA não se tornará senciente e decidirá mate todos nós. Mas somos muito capazes de nos “apocalipsar” com isso – a expectativa pode criar a realidade.

Os esforços para garantir o alinhamento e a segurança da IA ​​são de vital importância, mas podem não ser suficientes se nos faltar consciência e sabedoria colectiva. Tal como Alice, precisamos de acordar do sonho e reconhecer a realidade e o poder das nossas mentes.

Randolph GraçaProfessor de Psicologia Universidade de Canterbury

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.