robô sentado em um laptop com as mãos nas teclas
Imagem por Susana Cipriano 

Do Editor:

Conforme destacado neste artigo, o desenvolvimento de campanhas políticas orientadas por IA, como a máquina hipotética chamada Clogger, pode minar profundamente a integridade das eleições. Ao alavancar automação, mensagens personalizadas e aprendizado de reforço, essas máquinas têm o potencial de manipular e mudar o comportamento dos eleitores em grande escala.

Em uma era em que a inteligência artificial (IA) está avançando rapidamente, devemos permanecer atentos às ameaças potenciais que ela representa para nossos processos democráticos. O surgimento de campanhas orientadas por IA desafia a própria essência da democracia. Em vez de as eleições serem determinadas pelo poder das ideias, propostas políticas e escolhas genuínas do eleitor, elas poderiam ser influenciadas por máquinas focadas apenas na vitória. O conteúdo que prevalece viria de modelos de linguagem de IA sem consideração pela verdade ou princípios políticos. Em essência, o resultado da eleição seria ditado por uma inteligência artificial, corroendo o processo democrático.

Para evitar o surgimento de uma "clogocracia" e o desempoderamento dos cidadãos, é crucial que tomemos medidas. A proteção aprimorada da privacidade e as fortes leis de privacidade de dados podem ajudar a limitar o acesso de máquinas de IA a dados pessoais, reduzindo sua eficácia em direcionar e manipular indivíduos. As comissões eleitorais também devem considerar a proibição ou regulamentação estrita dos sistemas de IA projetados para influenciar os eleitores. Implementar regulamentos que exigem isenções de responsabilidade claras quando mensagens geradas por IA são usadas em campanhas políticas. Isso pode fornecer transparência e ajudar os eleitores a tomar decisões informadas.

É imperativo que enfrentemos esses desafios de forma proativa e garantamos que o poder da IA ​​seja aproveitado de forma responsável para defender os princípios da democracia. Ao salvaguardar a integridade das eleições e proteger a liberdade de escolha, podemos navegar pelas complexidades da IA ​​e preservar os fundamentos da governança democrática.

Como a IA pode dominar as eleições – e minar a democracia

Escrito por Arconte Fung, Professora de Cidadania e Autogestão, Harvard Kennedy School e Lawrence Lessig, Professor de Direito e Liderança, Universidade de Harvard


innerself assinar gráfico


As organizações poderiam usar modelos de linguagem de inteligência artificial, como o ChatGPT, para induzir os eleitores a se comportarem de maneiras específicas?

O senador Josh Hawley fez esta pergunta ao CEO da OpenAI, Sam Altman, em um 16 de maio de 2023, audiência no Senado dos EUA sobre inteligência artificial. Altman respondeu que estava realmente preocupado com a possibilidade de algumas pessoas usarem modelos de linguagem para manipular, persuadir e se envolver em interações individuais com os eleitores.

Altman não entrou em detalhes, mas ele poderia ter algo parecido com esse cenário em mente. Imagine que em breve os tecnólogos políticos desenvolvam uma máquina chamada Clogger – uma campanha política em uma caixa preta. Clogger persegue incansavelmente apenas um objetivo: maximizar as chances de que seu candidato – a campanha que compra os serviços da Clogger Inc. – prevaleça em uma eleição.

Enquanto plataformas como Facebook, Twitter e YouTube usam formas de IA para levar os usuários a passar mais tempo em seus sites, a IA de Clogger teria um objetivo diferente: mudar o comportamento de votação das pessoas.

Como o Clogger funcionaria

Como um cientista politico e de um estudioso do direito que estudam a interseção entre tecnologia e democracia, acreditamos que algo como Clogger poderia usar a automação para aumentar drasticamente a escala e potencialmente a eficácia de manipulação de comportamento e técnicas de microtargeting que as campanhas políticas têm usado desde o início dos anos 2000. Assim como os anunciantes usam sua navegação e histórico de mídia social para segmentar individualmente anúncios comerciais e políticos agora, Clogger prestaria atenção a você – e a centenas de milhões de outros eleitores – individualmente.

Ele ofereceria três avanços em relação à atual manipulação de comportamento algorítmico de última geração. Primeiro, seu modelo de linguagem geraria mensagens – textos, mídia social e e-mail, talvez incluindo imagens e vídeos – personalizadas para você pessoalmente. Enquanto os anunciantes colocam estrategicamente um número relativamente pequeno de anúncios, modelos de linguagem como o ChatGPT podem gerar inúmeras mensagens exclusivas para você pessoalmente – e milhões para outras pessoas – ao longo de uma campanha.

Em segundo lugar, Clogger usaria uma técnica chamada aprendizagem de reforço para gerar uma sucessão de mensagens que se tornam cada vez mais propensas a mudar seu voto. O aprendizado por reforço é uma abordagem de aprendizado de máquina, de tentativa e erro, na qual o computador realiza ações e obtém feedback sobre qual funciona melhor para aprender como atingir um objetivo. Máquinas que podem jogar Go, Xadrez e muitos videogames melhor que qualquer ser humano usaram o aprendizado por reforço.

Como funciona o aprendizado por reforço.

 

Em terceiro lugar, ao longo de uma campanha, as mensagens do Clogger podem evoluir para levar em consideração suas respostas aos despachos anteriores da máquina e o que ela aprendeu sobre mudar a opinião dos outros. O Clogger seria capaz de manter “conversas” dinâmicas com você – e milhões de outras pessoas – ao longo do tempo. As mensagens de Clogger seriam semelhantes a anúncios que seguem você em diferentes sites e redes sociais.

A natureza da IA

Mais três recursos – ou bugs – são dignos de nota.

Primeiro, as mensagens que o Clogger envia podem ou não ter conteúdo político. O único objetivo da máquina é maximizar a parcela de votos, e provavelmente criaria estratégias para atingir esse objetivo nas quais nenhum ativista humano teria pensado.

Uma possibilidade é enviar aos prováveis ​​eleitores adversários informações sobre paixões não políticas que eles têm em esportes ou entretenimento para enterrar a mensagem política que recebem. Outra possibilidade é o envio de mensagens desconcertantes – por exemplo, anúncios de incontinência – programados para coincidir com as mensagens dos oponentes. E outra é manipular os grupos de amigos de mídia social dos eleitores para dar a impressão de que seus círculos sociais apóiam seu candidato.

Em segundo lugar, Clogger não tem consideração pela verdade. Na verdade, não tem como saber o que é verdadeiro ou falso. Modelo de linguagem “alucinações” não são um problema para esta máquina porque seu objetivo é mudar seu voto, não fornecer informações precisas.

Terceiro, porque é um tipo de caixa preta de inteligência artificial, as pessoas não teriam como saber quais estratégias ele usa.

O campo da IA ​​explicável visa abrir a caixa preta de muitos modelos de aprendizado de máquina para que as pessoas possam entender como eles funcionam.

 

clogocracia

Se a campanha presidencial republicana implantasse Clogger em 2024, a campanha democrata provavelmente seria obrigada a responder da mesma forma, talvez com uma máquina semelhante. Chame-o de Dogger. Se os gerentes de campanha pensassem que essas máquinas eram eficazes, a disputa presidencial poderia se resumir a Clogger x Dogger, e o vencedor seria o cliente da máquina mais eficaz.

Cientistas políticos e especialistas teriam muito a dizer sobre por que uma ou outra IA prevaleceu, mas provavelmente ninguém realmente saberia. O presidente terá sido eleito não porque suas propostas políticas ou ideias políticas persuadiram mais americanos, mas porque ele ou ela tinha a IA mais eficaz. O conteúdo que ganhou o dia teria vindo de uma IA focada apenas na vitória, sem ideias políticas próprias, e não de candidatos ou partidos.

Nesse sentido muito importante, uma máquina teria vencido a eleição em vez de uma pessoa. A eleição não seria mais democrática, mesmo que todas as atividades ordinárias da democracia – os discursos, os anúncios, as mensagens, a votação e a apuração dos votos – tenham ocorrido.

O presidente eleito pela IA poderia então seguir um de dois caminhos. Ele ou ela poderia usar o manto da eleição para seguir as políticas do partido republicano ou democrata. Mas como as ideias partidárias podem ter pouco a ver com o motivo pelo qual as pessoas votaram da maneira que votaram – Clogger e Dogger não se importam com opiniões políticas – as ações do presidente não refletiriam necessariamente a vontade dos eleitores. Os eleitores teriam sido manipulados pela IA em vez de escolher livremente seus líderes e políticas políticas.

Outro caminho é o presidente seguir as mensagens, comportamentos e políticas que a máquina prevê que maximizarão as chances de reeleição. Nesse caminho, o presidente não teria nenhuma plataforma ou agenda específica além de manter o poder. As ações do presidente, guiadas por Clogger, seriam as mais propensas a manipular os eleitores em vez de servir a seus interesses genuínos ou mesmo à própria ideologia do presidente.

Evitando a Clogocracia

Seria possível evitar a manipulação eleitoral da IA ​​se todos os candidatos, campanhas e consultores renunciassem ao uso de tal IA política. Acreditamos que isso seja improvável. Se caixas-pretas politicamente eficazes fossem desenvolvidas, a tentação de usá-las seria quase irresistível. De fato, os consultores políticos podem ver o uso dessas ferramentas como exigido por sua responsabilidade profissional de ajudar seus candidatos a vencer. E uma vez que um candidato usa uma ferramenta tão eficaz, dificilmente se pode esperar que os oponentes resistam desarmando-se unilateralmente.

Proteção de privacidade aprimorada ajudaria. O Clogger dependeria do acesso a grandes quantidades de dados pessoais para atingir indivíduos, criar mensagens personalizadas para persuadi-los ou manipulá-los e rastreá-los e redirecioná-los ao longo de uma campanha. Cada pedacinho dessa informação que as empresas ou formuladores de políticas negam à máquina a tornaria menos eficaz.

Leis fortes de privacidade de dados podem ajudar a evitar que a IA seja manipuladora.

 

Outra solução está nas comissões eleitorais. Eles poderiam tentar proibir ou regular severamente essas máquinas. Há um debate feroz sobre se tal discurso “replicante”, mesmo que seja de natureza política, pode ser regulamentado. A extrema tradição de liberdade de expressão dos EUA leva muitos acadêmicos importantes a dizer que não pode.

Mas não há razão para estender automaticamente a proteção da Primeira Emenda ao produto dessas máquinas. A nação pode muito bem optar por conceder direitos às máquinas, mas essa deve ser uma decisão fundamentada nos desafios de hoje, não a suposição equivocada que os pontos de vista de James Madison em 1789 pretendiam ser aplicados à IA.

Os reguladores da União Européia estão se movendo nessa direção. Os formuladores de políticas revisaram o rascunho do Parlamento Europeu de sua Lei de Inteligência Artificial para designar “sistemas de IA para influenciar os eleitores em campanhas” como “alto risco” e sujeito a escrutínio regulamentar.

Um passo constitucionalmente mais seguro, embora menor, já adotado em parte por reguladores europeus da internet e em Califórnia, é proibir que os bots se façam passar por pessoas. Por exemplo, a regulamentação pode exigir que as mensagens de campanha venham com isenções de responsabilidade quando o conteúdo delas for gerado por máquinas e não por humanos.

Isso seria como os requisitos de isenção de responsabilidade de publicidade – “Pago pelo Sam Jones for Congress Committee” – mas modificado para refletir sua origem de IA: “Este anúncio gerado por IA foi pago pelo Sam Jones for Congress Committee”. Uma versão mais forte poderia exigir: “Esta mensagem gerada por IA está sendo enviada a você pelo Sam Jones for Congress Committee porque Clogger previu que isso aumentará suas chances de votar em Sam Jones em 0.0002%”. No mínimo, acreditamos que os eleitores merecem saber quando é um bot falando com eles, e eles também devem saber por quê.

A possibilidade de um sistema como o Clogger mostra que o caminho para desempoderamento coletivo humano pode não exigir algum sobre-humano inteligência geral artificial. Isso pode exigir apenas ativistas e consultores ansiosos que tenham novas ferramentas poderosas que possam efetivamente apertar os muitos botões de milhões de pessoas.

Sobre os Autores

Arconte Fung, Professora de Cidadania e Autogestão, Harvard Kennedy School e Lawrence Lessig, Professor de Direito e Liderança, Universidade de Harvard

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.


Adendo do Editor: O potencial da IA ​​para dominar as eleições e minar a democracia é uma preocupação premente que exige nossa atenção. Como este artigo destacou, o surgimento de campanhas políticas impulsionadas por IA como Clogger pode remodelar os resultados eleitorais, com máquinas influenciando o comportamento do eleitor em uma escala sem precedentes. As consequências de tal mudança seriam de longo alcance, com eleições determinadas não pela vontade do povo, mas pela eficácia da manipulação da IA.

Para evitar esse desempoderamento dos cidadãos e salvaguardar a democracia, devemos tomar medidas proativas. A proteção robusta da privacidade e os regulamentos que limitam a influência dos sistemas de IA nas eleições são cruciais. Ao garantir a transparência, aplicar isenções claras de conteúdo gerado por IA e promover o uso responsável da IA, podemos defender a integridade dos processos democráticos e proteger os valores fundamentais de nossa sociedade.

É essencial que permaneçamos vigilantes e trabalhemos coletivamente para enfrentar os desafios colocados pela IA nas eleições. Ao fazer isso, podemos preservar os ideais democráticos que sustentam nossas sociedades e garantir um futuro em que o poder da tecnologia se alinhe com os interesses e aspirações das pessoas.

quebrar

Livros relacionados:

Sobre a Tirania: Vinte Lições do Século XX

por Timothy Snyder

Este livro oferece lições da história para preservar e defender a democracia, incluindo a importância das instituições, o papel dos cidadãos e os perigos do autoritarismo.

Clique para mais informações ou para encomendar

Nossa hora é agora: poder, propósito e a luta por uma América justa

por Stacey Abrams

A autora, política e ativista, compartilha sua visão de uma democracia mais inclusiva e justa e oferece estratégias práticas para engajamento político e mobilização de eleitores.

Clique para mais informações ou para encomendar

Como as democracias morrem

por Steven Levitsky e Daniel Ziblatt

Este livro examina os sinais de alerta e as causas do colapso democrático, baseando-se em estudos de caso de todo o mundo para oferecer insights sobre como proteger a democracia.

Clique para mais informações ou para encomendar

O Povo, Não: Uma Breve História do Antipopulismo

por Thomas Frank

O autor oferece uma história dos movimentos populistas nos Estados Unidos e critica a ideologia "antipopulista" que, segundo ele, sufocou a reforma e o progresso democráticos.

Clique para mais informações ou para encomendar

Democracia em um livro ou menos: como funciona, por que não funciona e por que consertar é mais fácil do que você pensa

por David Litt

Este livro oferece uma visão geral da democracia, incluindo seus pontos fortes e fracos, e propõe reformas para tornar o sistema mais responsivo e responsável.

Clique para mais informações ou para encomendar