Como os sistemas de inteligência artificial poderiam ameaçar a democracia

privacidade

Gigante da tecnologia dos EUA Microsoft se uniu a uma universidade militar chinesa desenvolver sistemas de inteligência artificial que poderia potencialmente melhorar as capacidades de vigilância e censura do governo. Dois Senadores dos EUA condenados publicamente a parceria, mas o que o Universidade de Tecnologia de Defesa Nacional da China quer da Microsoft não é a única preocupação.

As minha pesquisa mostra, o advento da repressão digital está afetando profundamente a relação entre cidadão e estado. As novas tecnologias estão armando os governos com recursos sem precedentes para monitorar, rastrear e supervisionar pessoas individuais. Mesmo governos em democracias com fortes tradições de Estado de Direito encontram-se tentados a abusar essas novas habilidades.

Em estados com instituições inexplicáveis ​​e frequentes abusos dos direitos humanos, Os sistemas de IA provavelmente causarão maiores danos. A China é um exemplo proeminente. Sua liderança abraçou entusiasticamente as tecnologias da IA ​​e criou o mundo mais sofisticado estado de vigilância in Província de Xinjiang, acompanhando os movimentos diários dos cidadãos e o uso de smartphones.

Sua exploração dessas tecnologias apresenta um modelo arrepiante para os autocratas e representa uma ameaça direta à abertura de sociedades democráticas. Embora não haja nenhuma evidência de que outros governos têm replicado esse nível de vigilância da gripe aviária, as empresas chinesas estão exportando ativamente as mesmas tecnologias subjacentes em todo o mundo.

Maior dependência de ferramentas de inteligência artificial nos EUA

Sistemas de inteligência artificial estão em toda parte no mundo moderno, ajudando smartphones funcionamento, os motores de busca da Internet, assistentes digitais de voz e Netflix filas de cinema. Muitas pessoas não conseguem perceber a rapidez com que a IA está se expandindo, graças a quantidades cada vez maiores de dados a serem analisados, aprimorando algoritmos e chips de computador avançados.

Sempre que mais informações se tornam disponíveis e a análise fica mais fácil, os governos estão interessados ​​- e não apenas os autoritários. Nos EUA, por exemplo, os 1970s viu revelações que as agências governamentais - como o FBI, CIA e NSA - tinha criado redes de vigilância doméstica expansivas para monitorar e perseguir os manifestantes dos direitos civis, ativistas políticos e grupos indígenas americanos. Essas questões não foram embora: a tecnologia digital hoje aumentou a capacidade de ainda mais agências realizarem uma vigilância ainda mais intrusiva.

privacidade Quão razoavelmente os algoritmos predizem onde a polícia deveria estar mais concentrada? Arnout de Vries

Por exemplo, a polícia dos EUA adotou avidamente as tecnologias da IA. Eles começaram a usar software que é destinado a prever onde os crimes vão acontecer decidir onde mandar policiais em patrulha. Eles também estão usando reconhecimento facial e Análise de DNA em investigações criminais. Mas análises desses sistemas mostram a dados em que esses sistemas são treinados são frequentemente tendenciosos, levando a resultados injustos, Tais como falsamente determinando que os afro-americanos são mais propensos a cometer crimes do que outros grupos.

Vigilância de IA ao redor do mundo

Em países autoritários, os sistemas de IA podem ajudar diretamente no controle e na vigilância doméstica, ajudando forças internas de segurança processam enormes quantidades de informações - incluindo mensagens de mídia social, mensagens de texto, e-mails e telefonemas - de forma mais rápida e eficiente. A polícia pode identificar tendências sociais e pessoas especificas quem poderia ameaçar o regime com base nas informações descobertas por esses sistemas.

Por exemplo, o governo chinês usou a inteligência artificial em repressão em larga escala em regiões que abrigam minorias étnicas na China. Os sistemas de vigilância em Xinjiang e no Tibete foram descritos como “Orwellian. ”Esses esforços incluíram amostras obrigatórias de DNA, Monitoramento de rede Wi-Fi e câmeras difusas de reconhecimento facial, todas conectadas a plataformas integradas de análise de dados. Com a ajuda desses sistemas, as autoridades chinesas, segundo o Departamento de Estado dos EUA, “arbitrariamente detiveram” entre 1 e 2 milhões de pessoas.

My pesquisa analisa os países da 90 em todo o mundo com tipos de governo que variam de autoritárias fechadas a democracias imperfeitas, incluindo Tailândia, Turquia, Bangladesh e Quênia. Eu descobri que as empresas chinesas são exportando tecnologia de vigilância de IA pelo menos 54 desses países. Freqüentemente, esta tecnologia é embalada como parte do carro-chefe da China Cinto e Iniciativa Estrada, que está financiando uma extensa rede de estradas, ferrovias, dutos de energia e redes de telecomunicações servindo 60% da população mundial e economias que geram 40% do PIB global.

Por exemplo, empresas chinesas como Huawei e ZTE estão construindo "cidades inteligentes" em Paquistão, As filipinas e Quênia, com extensa tecnologia de vigilância integrada. Por exemplo, a Huawei equipou Bonifacio Global City nas Filipinas, com câmeras conectadas à internet de alta definição que fornecemVigilância de segurança inteligente 24 / 7 com análise de dados para detectar crimes e ajudar a gerenciar o tráfego. ”

privacidade A Bonifacio Global City, nas Filipinas, tem muitos equipamentos de vigilância embutidos. terra do alveo / Wikimedia Commons

Hikvision, Yitu e SenseTime estão fornecendo câmeras de reconhecimento facial state-of-the-art para uso em lugares como Cingapura - que anunciou o estabelecimento de um programa de vigilância com Câmeras 110,000 montadas em postes de luz em torno da cidade-estado. Zimbábue está criando um banco de dados de imagens nacionais que pode ser usado para reconhecimento facial.

No entanto, a venda de equipamentos avançados para o lucro é diferente da tecnologia de compartilhamento com um propósito geopolítico expresso. Essas novas capacidades podem plantar as sementes para a vigilância global: à medida que os governos se tornam cada vez mais dependentes da tecnologia chinesa para gerenciar suas populações e manter o poder, eles enfrentarão maior pressão para se alinharem com a agenda da China. Mas, por enquanto, parece que o principal motivo da China é dominar o mercado de novas tecnologias e ganhar muito dinheiro no processo.

IA e desinformação

Além de fornecer recursos de vigilância que são abrangentes e detalhados, a IA pode ajudar os governos repressivos a manipular as informações disponíveis e disseminar a desinformação. Essas campanhas podem ser automatizadas ou assistidas por automação e implantar mensagens hiper-personalizadas dirigido a - ou contra - pessoas especificas ou grupos.

AI também sustenta a tecnologia comumente chamada de “deepfake, Em que algoritmos criam falsificações realistas de vídeo e áudio. Mudar as águas entre a verdade e a ficção pode se tornar útil em uma eleição apertada, quando um candidato pode criar vídeos falsos mostrando um adversário fazendo e dizendo coisas que nunca aconteceram.

Um vídeo inicial de deepfake mostra alguns dos perigos da tecnologia avançada.

Na minha opinião, os formuladores de políticas nas democracias devem pensar cuidadosamente sobre os riscos dos sistemas de IA para suas próprias sociedades e para as pessoas que vivem sob regimes autoritários em todo o mundo. Uma questão crítica é quantos países adotarão o modelo de vigilância digital da China. Mas não são apenas países autoritários que sentem a atração. E também não são apenas as empresas chinesas que divulgam a tecnologia: muitas empresas dos EUA, inclusive a Microsoft, IBM, Cisco e Thermo Fisher também, forneceram recursos sofisticados para governos desagradáveis. O mau uso da IA ​​não se limita aos estados autocráticos.A Conversação

Sobre o autor

Steven Feldstein, Frank e Bethine Presidente da Igreja de Assuntos Públicos e Professor Associado da Escola de Serviço Público, Boise State University

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.

Livros relacionados

{amazonWS: searchindex = Livros, palavras-chave = vigilância por IA, maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

siga InnerSelf on

facebook-icontwitter-iconrss-icon

Receba as últimas por e-mail

{Emailcloak = off}