Mesmo 17 anos além do 2001, os trajes espaciais são mais volumosos do que isso. Matthew J. Cotter / Flickr, CC BY-SA

Assistindo a um 50th rastreio de aniversário de "2001: Uma Odisséia no Espaço", eu me encontrei, um matemático e cientista da computação cuja pesquisa inclui trabalhos relacionados à inteligência artificial, comparando a visão da história do futuro com o mundo de hoje.

O filme foi feito através de uma colaboração com o escritor de ficção científica Arthur C. Clarke e o diretor de cinema Stanley Kubrick, inspirado no romance de Clarke “Childhood's End” e seu conto menos conhecido “The Sentinel.” Um trabalho marcante de ficção especulativa, retrata - em termos às vezes esperançosos e outras vezes cautelosos - um futuro de contato alienígena, viagens interplanetárias, máquinas conscientes e até o próximo grande salto evolucionário da humanidade.

A maneira mais óbvia pela qual a 2018 ficou aquém da visão de “2001” é em viagens espaciais. As pessoas ainda não visitam rotineiramente as estações espaciais, realizando visitas não notáveis ​​a uma das várias bases lunares, nem viajando para outros planetas. Mas Kubrick e Clarke acertaram em cheio quando imaginaram as possibilidades, problemas e desafios do futuro da inteligência artificial.

A abertura de '2001: Uma Odisséia no Espaço:

{youtube}https://youtu.be/WufKsOhkTL8{/youtube}

O que os computadores podem fazer?

Um drama principal do filme pode, em muitos aspectos, ser visto como uma batalha até a morte entre humano e computador. A inteligência artificial de “2001” é incorporada na HAL, a presença computacional onisciente, o cérebro da nave Discovery One - e talvez o personagem mais famoso do filme. HAL marca o auge da conquista computacional: um dispositivo autoconsciente, aparentemente infalível, e uma presença onipresente na nave, sempre ouvindo, sempre observando.

HAL não é apenas um assistente tecnológico da tripulação, mas sim - nas palavras do comandante da missão Dave Bowman - o sexto membro da tripulação. Os humanos interagem com HAL, falando com ele, e ele responde em uma voz masculina medida, em algum lugar entre pais severos e indulgentes e uma enfermeira bem-intencionada. HAL é Alexa e Siri - mas muito melhor. HAL tem controle completo do navio e também, como se constata, é o único membro da tripulação que conhece o verdadeiro objetivo da missão.

Ética na máquina

A tensão do terceiro ato do filme gira em torno de Bowman e seu colega de equipe, Frank Poole, se tornando cada vez mais conscientes de que o HAL está funcionando mal, e da descoberta de HAL dessas suspeitas. Dave e Frank querem desligar o computador, enquanto HAL quer viver. Todos querem completar a missão.

Homem versus máquina:

{youtube}https://youtu.be/qDrDUmuUBTo{/youtube}

A partida de xadrez vida-ou-morte entre os humanos e o HAL oferece precursores de algumas das questões de hoje sobre a prevalência e a implantação da inteligência artificial no cotidiano das pessoas.

Em primeiro lugar, é a questão de quanto controle as pessoas devem ceder às máquinas artificialmente inteligentes, independentemente de quão “inteligentes” sejam os sistemas. O controle da Discovery pela HAL é como uma versão do espaço profundo da casa em rede do futuro ou do carro sem motorista. Cidadãos, formuladores de políticas, especialistas e pesquisadores todos ainda estão explorando o grau em que a automação poderia - ou deveria - tirar os humanos do circuito. Algumas das considerações envolvem questões relativamente simples sobre o confiabilidade de máquinas, mas outras questões são mais sutis.

As ações de uma máquina computacional são ditadas por decisões codificadas por humanos em algoritmos que controlam os dispositivos. Algoritmos geralmente têm algum objetivo quantificável, para o qual cada uma de suas ações deve progredir ganhando um jogo de damas, xadrez ou ir. Assim como um sistema de inteligência artificial analisa posições de peças de jogo em uma prancha, ele também pode medir a eficiência de um armazém or uso de energia de um data center.

Mas o que acontece quando um dilema moral ou ético surge a caminho do objetivo? Para o autoconsciente HAL, completar a missão - e permanecer vivo - vence quando medido contra a vida da tripulação. Que tal um carro sem motorista? É o missão de um carro autônomo, por exemplo, para levar um passageiro de um lugar para outro o mais rápido possível - ou para evitar a morte de pedestres? Quando alguém pisa na frente de um veículo autônomo, esses objetivos entram em conflito. Isso pode parecer uma “escolha” óbvia para programar, mas e se o carro precisar "Escolha" entre dois cenários diferentescada um dos quais causaria uma morte humana?

Sob vigilância

Em uma cena clássica, Dave e Frank entram em uma parte da estação espacial onde eles acham que a HAL não pode ouvi-los para discutir suas dúvidas sobre o funcionamento da HAL e sua capacidade de controlar a nave e guiar a missão. Eles abordam a ideia de desligá-lo. Mal sabem eles que as câmeras de HAL podem vê-los: o computador está lendo seus lábios através da janela da cápsula e aprende sobre seus planos.

HAL lê os lábios:

{youtube}https://youtu.be/1s-PiIbzbhw{/youtube}

No mundo moderno, uma versão dessa cena acontece o dia todo todos os dias. A maioria de nós é efetivamente monitorada continuamente, através de nossos quase sempre em telefones ou corporativo e governamental vigilância de atividades reais e on-line. A fronteira entre o privado e o público tornou-se e continua a ser cada vez mais imprecisa.

Os relacionamentos dos personagens no filme me fizeram pensar muito sobre como pessoas e máquinas podem coexistir, ou até mesmo evoluir juntos. Durante a maior parte do filme, até mesmo os humanos conversam suavemente, sem muito tom ou emoção - já que podem falar com uma máquina ou como uma máquina pode falar com eles. A famosa cena da morte de HAL - na qual Dave metodicamente desconecta seus elos lógicos - me fez pensar se alguma vez máquinas inteligentes receberão algo equivalente aos direitos humanos.

Clarke acreditava que era bem possível que o tempo dos humanos na Terra fosse apenas umbreve lugar de descansoE que a maturação e evolução das espécies levariam necessariamente as pessoas para além deste planeta. "2001" termina otimista, saltando um humano através do "Stargate" para marcar o renascimento da corrida. Para fazer isso, na realidade, será necessário que as pessoas descubram como fazer o melhor uso das máquinas e dispositivos que estão construindo, e para garantir que não deixemos essas máquinas nos controlarem.

Sobre o autor

Daniel N. Rockmore, Professor do Departamento de Matemática, Ciências da Computação e Ciência da Computação, Dartmouth College

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.

Livros relacionados

at InnerSelf Market e Amazon