A mistura volátil de deepfakes e campanhas políticas é um bom motivo para ficar em guarda. Sean Anthony Eddy Criativo/E+ via Getty Images
Imagine um surpresa de outubro como nenhum outro: apenas uma semana antes de 5 de novembro de 2024, uma gravação de vídeo revela um encontro secreto entre Joe Biden e Volodymyr Zelenskyy. Os presidentes americano e ucraniano concordam em iniciar imediatamente a Ucrânia na OTAN sob o “protocolo especial de adesão de emergência” e se preparar para um ataque de armas nucleares contra a Rússia. De repente, o mundo está à beira do Armagedom.
Embora os jornalistas possam apontar que tal protocolo não existe e usuários de mídia social podem notar qualidades estranhas de videogame no vídeo, outros podem achar que seus piores medos foram confirmados. Quando chegar o dia da eleição, esses cidadãos preocupados podem deixar o vídeo influenciar seus votos, sem saber que acabaram de ser manipulados por uma situação deepfake – um evento que nunca realmente aconteceu.
Deepfakes de situação representam o próximo estágio de tecnologias que já tem abalaram a percepção do público sobre a realidade. Em nossa pesquisa no Projeto DeFake, meus colegas da Rochester Institute of Technology, Universidade de Mississippi, Michigan State University e eu estudar como os deepfakes são feitos e quais medidas os eleitores podem tomar para se defender deles.
Imaginando eventos que nunca aconteceram
Um deepfake é criado quando alguém usa uma ferramenta de inteligência artificial, especialmente deep learning, para manipular ou gerar um face, um voz ou - com o aumento de grandes modelos de linguagem como ChatGPT - linguagem de conversação. Estes podem ser combinados para formar “deepfakes de situação”.
A ideia básica e a tecnologia de um deepfake de situação são as mesmas de qualquer outro deepfake, mas com uma ambição mais ousada: manipular um evento real ou inventar um do nada. Exemplos incluem representações de Perp walk de Donald Trump e Trump abraçando Anthony Fauci, nenhum dos quais aconteceu. O abraço foi promovido por um conta no Twitter associado à campanha presidencial do rival de Trump, Ron DeSantis. Um anúncio de ataque visando a campanha de 2024 de Joe Biden publicada pelo Comitê Nacional Republicano foi feito inteiramente com IA.
No Projeto DeFake, os nossos pesquisa encontrou que deepfakes, incluindo situações, são normalmente criados por alguma mistura de adicionando um pedaço de mídia com outro; usando um vídeo para animar uma imagem ou alterar outro vídeo, apelidado de marionetes; conjurando um pedaço de mídia à existência, normalmente usando IA generativa; ou alguma combinação dessas técnicas.
Para ser claro, muitos deepfakes de situação são feitos para propósitos inocentes. Por exemplo, Revista Odisséia Infinita produz fotos falsas de filmes que nunca foram produzidos or nunca poderia ter existido. Mas mesmo deepfakes inocentes dão motivos para pausa, como no caso de fotos falsas quase críveis que retratam o Aterrissagem da Apollo Moon como uma produção cinematográfica.
Deepfaking uma eleição
Agora coloque-se na posição de alguém tentando influenciar a próxima eleição. Quais são as possíveis situações que você pode querer criar?
Para começar, importaria se você deseja inclinar a votação para um resultado específico ou se afastar dele. Talvez você retratasse um candidato agindo heroicamente puxando um pedestre para fora do caminho de um carro em alta velocidade ou, inversamente, fazendo algo ofensivo ou criminoso. O formato da situação deepfake também importaria. Em vez de um vídeo, poderia ser uma fotografia, talvez com o desfoque e os ângulos que simulam a câmera de um smartphone ou o logotipo forjado de uma agência de notícias.
Seu público-alvo seria fundamental. Em vez de visar o eleitorado geral ou a base de um partido, você pode visar os teóricos da conspiração nos principais distritos eleitorais. Você pode retratar o candidato ou seus familiares como envolvidos em um ritual satânico, participando de um festival no exclusivo e polêmico Arvoredo boêmioou ter um encontro secreto com um extraterrestre.
Se você tem ambição e capacidade para isso, pode até tentar falsificar a própria eleição. Em junho de 2023, as estações de rádio e televisão da Rússia foram hackeadas e transmitir uma ordem de mobilização completa por uma deepfake do presidente russo Vladimir Putin. Embora isso seja mais difícil de fazer em uma eleição nos Estados Unidos, em princípio qualquer meio de comunicação pode ser hackeado para transmitir deepfakes de seus âncoras anunciando os resultados errados ou um candidato concedendo.
Defendendo a realidade
Há uma variedade de maneiras tecnológicas e psicológicas de detectar e se defender contra deepfakes de situação.
Na frente tecnológica, todos os deepfakes contêm alguma evidência de sua verdadeira natureza. Alguns desses sinais podem ser vistos pelo olho humano – como pele excessivamente lisa ou iluminação ou arquitetura estranha – enquanto outros podem ser detectável apenas por uma IA de caça deepfake.
estamos construindo DeFakepara usar IA para detectar os sinais indicadores de deepfakes, e estamos trabalhando para tentar prepará-lo a tempo para as eleições de 2024. Mas mesmo que um detector de deepfake suficientemente poderoso como o nosso não possa ser implantado no dia da eleição, existem ferramentas psicológicas que você, o eleitor, pode usar para identificar deepfakes: conhecimento prévio, curiosidade e ceticismo saudável.
Se você encontrar conteúdo de mídia sobre uma pessoa, lugar ou evento que pareça incomum, confie em seu conhecimento prévio. Por exemplo, em um boato recente de um incêndio no Pentágono, o prédio mostrado parece mais quadrado do que pentagonal, o que pode ser uma revelação.
No entanto, tente não confiar inteiramente em seu conhecimento prévio, que pode ser equivocado ou irregular. Nunca tenha medo de aprender mais de fontes confiáveis, como notícias verificadas, artigos acadêmicos revisados por pares ou entrevistas com especialistas credenciados.
Além disso, esteja ciente de que deepfakes podem ser usados para tirar proveito do que você está inclinado a acreditar sobre uma pessoa, lugar ou evento. Uma das melhores maneiras de lidar com isso é simplesmente esteja ciente de seus preconceitos e seja um pouco cauteloso sobre qualquer conteúdo de mídia que pareça confirmá-los.
Mesmo que seja possível criar deepfakes de situações perfeitas, o quão crível é o assunto deles, provavelmente continuará sendo o calcanhar de Aquiles deles. Assim, com ou sem solução tecnológica, você ainda tem o poder de defender a eleição da influência de eventos falsos.
Sobre o autor
Cristóvão Schwartz, Pesquisador Associado de Pós-Doutorado em Segurança da Computação, Rochester Institute of Technology
Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.
Livros relacionados:
Sobre a Tirania: Vinte Lições do Século XX
por Timothy Snyder
Este livro oferece lições da história para preservar e defender a democracia, incluindo a importância das instituições, o papel dos cidadãos e os perigos do autoritarismo.
Clique para mais informações ou para encomendar
Nossa hora é agora: poder, propósito e a luta por uma América justa
por Stacey Abrams
A autora, política e ativista, compartilha sua visão de uma democracia mais inclusiva e justa e oferece estratégias práticas para engajamento político e mobilização de eleitores.
Clique para mais informações ou para encomendar
Como as democracias morrem
por Steven Levitsky e Daniel Ziblatt
Este livro examina os sinais de alerta e as causas do colapso democrático, baseando-se em estudos de caso de todo o mundo para oferecer insights sobre como proteger a democracia.
Clique para mais informações ou para encomendar
O Povo, Não: Uma Breve História do Antipopulismo
por Thomas Frank
O autor oferece uma história dos movimentos populistas nos Estados Unidos e critica a ideologia "antipopulista" que, segundo ele, sufocou a reforma e o progresso democráticos.
Clique para mais informações ou para encomendar
Democracia em um livro ou menos: como funciona, por que não funciona e por que consertar é mais fácil do que você pensa
por David Litt
Este livro oferece uma visão geral da democracia, incluindo seus pontos fortes e fracos, e propõe reformas para tornar o sistema mais responsivo e responsável.
