Uma conta típica de bot social. CCB
As plataformas de mídia social tornaram-se mais do que meras ferramentas de comunicação. Eles evoluíram para arenas movimentadas onde a verdade e a falsidade colidem. Dentre essas plataformas, X se destaca como uma campo de batalha proeminente. É um lugar onde as campanhas de desinformação prosperam, perpetuadas por exércitos de bots alimentados por IA, programados para influenciar a opinião pública e manipular narrativas.
Os bots com tecnologia de IA são contas automatizadas projetadas para imitar o comportamento humano. Os bots nas redes sociais, plataformas de chat e IA de conversação são essenciais para a vida moderna. Eles são necessários para que os aplicativos de IA funcionem de maneira eficaz, por exemplo.
Mas alguns bots são criados com intenções maliciosas. Surpreendentemente, os bots constituem uma parte significativa da base de usuários do X. Em 2017 foi estimado que havia aproximadamente 23 milhões de bots sociais, representando 8.5% do total de usuários. Mais de dois terços dos tweets originado dessas contas automatizadas, ampliando o alcance da desinformação e turvando as águas do discurso público.
Como funcionam os bots
A influência social é agora uma mercadoria que pode ser adquirida através da compra de bots. As empresas vendem seguidores falsos para aumentar artificialmente a popularidade das contas. Esses seguidores estão disponíveis a preços extremamente baixos, com muitas celebridades entre os compradores.
No decorrer da nossa pesquisa, por exemplo, colegas e eu detectamos um bot que postou 100 tweets oferecendo seguidores para venda.
Usando metodologias de IA e uma abordagem teórica chamada teoria ator-rede, meus colegas e eu dissecamos como os bots sociais maliciosos manipulam as mídias sociais, influenciando o que as pessoas pensam e como agem com eficácia alarmante. Podemos dizer se as notícias falsas foram geradas por um humano ou por um bot com uma taxa de precisão de 79.7%. É crucial compreender como tanto os humanos como a IA disseminam a desinformação, a fim de compreender as formas como os humanos aproveitam a IA para espalhar a desinformação.
Para dar um exemplo, examinamos a atividade de uma conta chamada “True Trumpers” no Twitter.
A conta foi criada em agosto de 2017, não tem seguidores e nem foto de perfil, mas tinha, no momento da pesquisa, postado 4,423 tuítes. Isso incluiu uma série de histórias totalmente inventadas. É importante notar que este bot é originário de um país do Leste Europeu.
Um fluxo de notícias falsas de uma conta de bot. Buzzfeed, CC BY
Pesquisas como essa influenciaram X a restringir as atividades de bots sociais. Em resposta à ameaça de manipulação das redes sociais, X implementou limites de leitura temporários para conter a extração e manipulação de dados. As contas verificadas foram limitadas a ler 6,000 postagens por dia, enquanto as contas não verificadas podem ler 600 por dia. Esta é uma nova atualização, por isso ainda não sabemos se foi eficaz.
Podemos nos proteger?
No entanto, em última análise, recai sobre os utilizadores a responsabilidade de ter cautela e discernir a verdade da falsidade, especialmente durante os períodos eleitorais. Ao avaliar criticamente as informações e verificar as fontes, os utilizadores podem desempenhar um papel na proteção da integridade dos processos democráticos contra o ataque de bots e campanhas de desinformação no X. Cada utilizador é, de facto, um defensor da verdade e da democracia na linha da frente. Vigilância, pensamento crítico e uma boa dose de ceticismo são armaduras essenciais.
Nas redes sociais, é importante que os usuários entendam as estratégias empregadas por contas maliciosas.
Os intervenientes maliciosos utilizam frequentemente redes de bots para amplificar narrativas falsas, manipular tendências e disseminar rapidamente desinformação. Os usuários devem ter cuidado ao encontrar contas que apresentem comportamento suspeito, como postagens excessivas ou mensagens repetitivas.
A desinformação também é frequentemente propagada através de websites dedicados a notícias falsas. Eles são projetados para imitar fontes de notícias confiáveis. Os utilizadores são aconselhados a verificar a autenticidade das fontes de notícias cruzando informações com fontes respeitáveis e consultando organizações de verificação de factos.
A autoconsciência é outra forma de proteção, especialmente contra táticas de engenharia social. A manipulação psicológica é frequentemente utilizada para enganar os usuários, fazendo-os acreditar em falsidades ou se envolver em certas ações. Os utilizadores devem manter a vigilância e avaliar criticamente o conteúdo que encontram, especialmente durante períodos de maior sensibilidade, como eleições.
Mantendo-nos informados, participando no discurso civil e defendendo a transparência e a responsabilização, podemos moldar colectivamente um ecossistema digital que promova a confiança, a transparência e a tomada de decisões informadas.
Nick Hajli, estrategista de IA e professor de estratégia digital, Universidade de Loughborough
Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.
Livros relacionados:
Sobre a Tirania: Vinte Lições do Século XX
por Timothy Snyder
Este livro oferece lições da história para preservar e defender a democracia, incluindo a importância das instituições, o papel dos cidadãos e os perigos do autoritarismo.
Clique para mais informações ou para encomendar
Nossa hora é agora: poder, propósito e a luta por uma América justa
por Stacey Abrams
A autora, política e ativista, compartilha sua visão de uma democracia mais inclusiva e justa e oferece estratégias práticas para engajamento político e mobilização de eleitores.
Clique para mais informações ou para encomendar
Como as democracias morrem
por Steven Levitsky e Daniel Ziblatt
Este livro examina os sinais de alerta e as causas do colapso democrático, baseando-se em estudos de caso de todo o mundo para oferecer insights sobre como proteger a democracia.
Clique para mais informações ou para encomendar
O Povo, Não: Uma Breve História do Antipopulismo
por Thomas Frank
O autor oferece uma história dos movimentos populistas nos Estados Unidos e critica a ideologia "antipopulista" que, segundo ele, sufocou a reforma e o progresso democráticos.
Clique para mais informações ou para encomendar
Democracia em um livro ou menos: como funciona, por que não funciona e por que consertar é mais fácil do que você pensa
por David Litt
Este livro oferece uma visão geral da democracia, incluindo seus pontos fortes e fracos, e propõe reformas para tornar o sistema mais responsivo e responsável.
Clique para mais informações ou para encomendar
