O lançamento do chatbot avançado ChatGPT em 2022 fez todo mundo falar sobre inteligência artificial (IA). Seus recursos sofisticados ampliaram as preocupações sobre a IA se tornar tão avançada que logo não seríamos capazes de controlá-la. Isso até levou alguns especialistas e líderes do setor a alertar que o tecnologia pode levar à extinção humana.
Outros comentaristas, porém, não ficaram convencidos. Noam Chomsky, professor de linguística, descartou o ChatGPT como “plágio de alta tecnologia".
Durante anos, fiquei tranquilo com a perspectiva do impacto da IA na existência humana e em nosso meio ambiente. Isso porque eu sempre pensei nisso como um guia ou conselheiro para humanos. Mas a perspectiva de as IAs tomarem decisões – exercendo controle executivo – é outra questão. E é um que agora está sendo seriamente entretido.
Uma das principais razões pelas quais não devemos deixar a IA ter poder executivo é que ela carece totalmente de emoção, o que é crucial para a tomada de decisões. Sem emoção, empatia e bússola moral, você criou o psicopata perfeito. O sistema resultante pode ser altamente inteligente, mas faltará o núcleo emocional humano que lhe permite medir as consequências emocionais potencialmente devastadoras de uma decisão racional.
Quando a IA assume o controle executivo
É importante ressaltar que não devemos pensar apenas na IA como uma ameaça existencial se quisermos colocá-lo no comando de arsenais nucleares. Basicamente, não há limite para o número de posições de controle das quais ele pode causar danos inimagináveis.
Considere, por exemplo, como a IA já pode identificar e organizar as informações necessárias para construir seu próprio conservatório. As iterações atuais da tecnologia podem guiá-lo de forma eficaz através de cada etapa da construção e evitar muitos erros de iniciante. Mas, no futuro, uma IA pode atuar como gerente de projeto e coordenar a construção selecionando empreiteiros e pagando-os diretamente de seu orçamento.
A IA já está sendo usada em praticamente todos os domínios de processamento de informações e análise de dados – desde modelagem de padrões climáticos para controlando veículos sem motorista para ajudando com diagnósticos médicos. Mas é aí que os problemas começam – quando permitimos que os sistemas de IA deem o passo crítico do papel de consultor para o de gerente executivo.
Em vez de apenas sugerir remédios para um contas da empresa, e se uma IA recebesse o controle direto, com a capacidade de implementar procedimentos para cobrança de dívidas, fazer transferências bancárias e maximizar lucros – sem limites de como fazer isso. Ou imagine um sistema de IA não apenas fornecendo uma diagnóstico baseado em radiografias, mas tendo o poder de prescrever diretamente tratamentos ou medicamentos.
Você pode começar a se sentir desconfortável com tais cenários – eu certamente iria. A razão pode ser a sua intuição de que essas máquinas realmente não têm “almas”. Eles são apenas programas projetados para digerir grandes quantidades de informações para simplificar dados complexos em padrões muito mais simples, permitindo que os humanos tomem decisões com mais confiança. Eles não têm – e não podem – ter emoções, que estão intimamente ligadas aos sentidos e instintos biológicos.
Emoções e moral
Inteligência Emocional: é a capacidade de gerenciar nossas emoções para superar o estresse, criar empatia e se comunicar de forma eficaz. Isso sem dúvida importa mais no contexto da tomada de decisão do que a inteligência sozinha, porque a melhor decisão nem sempre é a mais racional.
É provável que a inteligência, a capacidade de raciocinar e operar logicamente, possa ser incorporada a sistemas baseados em IA para que possam tomar decisões racionais. Mas imagine pedir a uma IA poderosa com capacidades executivas para resolver a crise climática. A primeira coisa que pode ser inspirada a fazer é reduzir drasticamente a população humana.
Essa dedução não precisa de muita explicação. Nós, humanos, somos, quase por definição, a fonte de poluição em todas as formas possíveis. Axe a humanidade e as mudanças climáticas seriam resolvidas. Não é a escolha que os tomadores de decisão humanos fariam, espera-se, mas uma IA encontraria suas próprias soluções – impenetráveis e livres de uma aversão humana a causar danos. E se tivesse poder executivo, talvez não houvesse nada que o impedisse de prosseguir.
Dar a uma IA a capacidade de tomar decisões executivas no controle de tráfego aéreo pode ser um erro. Gorodenkoff/Shutterstock
Cenários de sabotagem
Que tal sabotar sensores e monitores controlando fazendas de alimentos? Isso pode acontecer gradualmente no início, pressionando os controles logo após um ponto crítico para que nenhum humano perceba que as colheitas estão condenadas. Sob certos cenários, isso pode levar rapidamente à fome.
Como alternativa, que tal desligar o controle de tráfego aéreo globalmente ou simplesmente derrubar todos os aviões voando a qualquer momento? Cerca de 22,000 aviões estão normalmente no ar simultaneamente, o que representa um número potencial de mortes de vários milhões de pessoas.
Se você acha que estamos longe de estar nessa situação, pense novamente. AIs já dirigem carros e voar aeronaves militares, de forma autônoma.
Alternativamente, que tal fechar o acesso a contas bancárias em vastas regiões do mundo, desencadeando agitação civil em todos os lugares ao mesmo tempo? Ou desligando sistemas de aquecimento controlados por computador no meio do inverno, ou sistemas de ar condicionado no auge do calor do verão?
Em suma, um sistema de IA não precisa ser encarregado de armas nucleares para representar uma séria ameaça à humanidade. Mas enquanto estamos neste tópico, se um sistema de IA for poderoso e inteligente o suficiente, ele pode encontrar uma maneira de forjar um ataque a um país com armas nucleares, desencadeando uma retaliação iniciada por humanos.
A IA poderia matar um grande número de humanos? A resposta tem que ser sim, em teoria. Mas isso depende em grande parte de os humanos decidirem dar a ele o controle executivo. Não consigo pensar em nada mais aterrorizante do que uma IA que pode tomar decisões e tem o poder de implementá-las.
Sobre o autor
Guilherme Thierry, Professor de Neurociência Cognitiva, Universidade de Bangor
Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.
