deep fakes semeiam dúvidas 4 14
 A tecnologia que pode produzir deepfakes está amplamente disponível. (ShutterStock)

No início de março, um vídeo manipulado do presidente ucraniano Volodymyr Zelenskyy foi circulado. Nele, um Zelenskyy gerado digitalmente disse ao exército nacional ucraniano para se render. O vídeo circulou online, mas foi rapidamente desmascarado como um deepfake – um vídeo hiper-realista, mas falso e manipulado, produzido usando inteligência artificial.

Embora a desinformação russa pareça ter um impacto limitado, esse exemplo alarmante ilustrou as possíveis consequências dos deepfakes.

No entanto, os deepfakes estão sendo usados ​​com sucesso em tecnologia assistiva. Por exemplo, pessoas que sofrem de doença de Parkinson podem usar a clonagem de voz para se comunicar.

Deepfakes são usados ​​na educação: a empresa de síntese de voz CereProc, com sede na Irlanda, criou uma voz sintética para John F. Kennedy, trazendo-o de volta à vida para fazer seu discurso histórico.


innerself assinar gráfico


No entanto, toda moeda tem dois lados. Deepfakes podem ser hiper-realistas e basicamente indetectável pelos olhos humanos.

Portanto, a mesma tecnologia de clonagem de voz pode ser usada para phishing, difamação e chantagem. Quando os deepfakes são deliberadamente implantados para remodelar a opinião pública, incitar conflitos sociais e manipular eleições, eles têm o potencial de minar a democracia.

Pesquisadores da Universidade de Washington produziram uma deepfake de Barack Obama.

Causando caos

Deepfakes são baseados em tecnologia conhecida como redes adversárias geradoras em que dois algoritmos treinam um ao outro para produzir imagens.

Embora a tecnologia por trás das falsificações profundas possa parecer complicada, é uma questão simples de produzir uma. Existem vários aplicativos online, como Troca de rosto e ZAO Troca Profunda que podem produzir deepfakes em poucos minutos.

O Google Colaboratory — um repositório online de código em várias linguagens de programação — inclui exemplos de código que pode ser usado para gerar imagens e vídeos falsos. Com um software tão acessível, é fácil ver como os usuários comuns podem causar estragos com deepfakes sem perceber os riscos potenciais à segurança.

A popularidade de aplicativos de troca de rosto e serviços online como Nostalgia profunda mostrar quão rápida e amplamente as deepfakes podem ser adotadas pelo público em geral. Em 2019, aproximadamente 15,000 vídeos usando deepfakes foram detectados. E espera-se que esse número aumente.

Deepfakes são a ferramenta perfeita para campanhas de desinformação porque produzem notícias falsas críveis que levam tempo para serem desmascaradas. Enquanto isso, os danos causados ​​por deepfakes – especialmente aqueles que afetam a reputação das pessoas – costumam ser duradouros e irreversíveis.

Ver é crer?

Talvez a ramificação mais perigosa dos deepfakes seja como eles se prestam à desinformação em campanhas políticas.

Vimos isso quando Donald Trump designou qualquer cobertura da mídia pouco lisonjeira como “notícias falsas.” Ao acusar seus críticos de divulgar notícias falsas, Trump conseguiu usar a desinformação em defesa de seus erros e como ferramenta de propaganda.

A estratégia de Trump permite que ele mantenha o apoio em um ambiente cheio de desconfiança e desinformação alegando “que eventos e histórias verdadeiras são notícias falsas ou deepfakes. "

Credibilidade nas autoridades e na mídia está sendo prejudicada, criando um clima de desconfiança. E com a crescente proliferação de deepfakes, os políticos poderiam facilmente negar a culpa em quaisquer escândalos emergentes. Como a identidade de alguém em um vídeo pode ser confirmada se ela o negar?

Combater a desinformação, no entanto, sempre foi um desafio para as democracias que tentam defender a liberdade de expressão. As parcerias entre humanos e IA podem ajudar a lidar com o risco crescente de deepfakes fazendo com que as pessoas verifiquem as informações. A introdução de nova legislação ou a aplicação de leis existentes para penalizar os produtores de deepfakes por falsificar informações e se passar por pessoas também podem ser consideradas.

Abordagens multidisciplinares por governos internacionais e nacionais, empresas privadas e outras organizações são vitais para proteger as sociedades democráticas de informações falsas.A Conversação

Sobre o autor

Sze-Fung Lee, Assistente de Pesquisa, Departamento de Estudos da Informação, McGill University e Benjamin CM Fung, Professor e presidente de pesquisa do Canadá em mineração de dados para segurança cibernética, McGill University

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.