O que o Facebook não está nos dizendo sobre sua luta contra o abuso online

O que o Facebook não está nos dizendo sobre sua luta contra o abuso online
Shutterstock

O Facebook disponibilizou pela primeira vez dados sobre o escala de comentários abusivos postado em seu site. Isso pode ter sido feito sob a pressão crescente das organizações para que as empresas de mídia social sejam mais transparente sobre abuso online, ou para ganhar credibilidade após o Escândalo de dados Cambridge Analytica. De qualquer forma, os números não contribuem para uma leitura prazerosa.

In um período de seis meses de Outubro 2017 a Março 20178, 21m imagens sexualmente explícitas, 3.5m mensagens graficamente violentas e 2.5m formas de discurso de ódio foram removidas do seu site. Esses números ajudam a revelar alguns pontos marcantes.

Como esperado, os dados indicam que o problema está piorando. Por exemplo, entre janeiro e março, foi estimado que, para cada mensagem 10,000 online, entre 22 e 27 continham violência gráfica, de 16 para 19 nos últimos três meses. Isso coloca em evidência o fato de que, no Reino Unido, os processos por abuso online têm diminuído, conforme demonstrado no gráfico abaixo.

No entanto, o que o Facebook não nos disse é igualmente significativo.

A rede social tem sido sob crescente pressão combater o abuso em seu site, em particular, a remoção de propaganda terrorista depois de eventos como o ataque 2017 Westminster e o bombardeamento da Manchester Arena. Aqui, a empresa tem sido proativa. Entre janeiro e março 2018, o Facebook removeu mensagens 1.9m encorajando propaganda terrorista, um aumento de comentários 800,000 em comparação com os três meses anteriores. Um total de 99.5% dessas mensagens foi localizado com o auxílio de tecnologia avançada.

À primeira vista, parece que o Facebook desenvolveu com sucesso um software que pode remover esse conteúdo de seu servidor. Mas o Facebook não divulgou números mostrando como terrorista prevalente propaganda está em seu site. Então, nós realmente não sabemos o quão bem sucedido é o software a este respeito.

Removendo posts violentos

O Facebook também usou a tecnologia para ajudar na remoção da violência gráfica de seu site. Entre os dois períodos de três meses houve um aumento de 183% na quantidade de posts removidos que foram rotulados como graficamente violentos. Um total de 86% desses comentários foi sinalizado por um sistema de computador.


Receba as últimas notícias do InnerSelf


Mas também sabemos que os números do Facebook também mostram que até 27 de todos os comentários 10,000 que ultrapassaram a tecnologia de detecção continha violência gráfica. Isso não parece muito, mas vale a pena considerar o número total de comentários postados no site por mais de 2 bilhões de usuários ativos. Uma estimativa sugere que os comentários 510,000 sejam publicados a cada minuto. Se preciso, isso significaria que comentários violentos do 1,982,880 são postados a cada 24 horas.

Para compensar as falhas no seu software de detecção, o Facebook, como outras redes sociais, há anos se baseia na auto-regulação, com os usuários encorajados a relatar comentários eles acreditam que não deveriam estar no site. Por exemplo, entre janeiro e março 2018, o Facebook removeu comentários 2.5m que foram considerados incitação ao ódio, mas apenas 950,000 (38%) dessas mensagens foram sinalizadas por seu sistema. o outro 62% foram relatados pelos usuários. Isso mostra que a tecnologia do Facebook não está conseguindo combater adequadamente o discurso de ódio em sua rede, apesar da preocupação crescente de que os sites de redes sociais estão alimentando odeio crime no mundo real.

Quantos comentários são relatados?

Isso nos leva ao outro número significativo não incluído nos dados divulgados pelo Facebook: o número total de comentários relatados pelos usuários. Como este é um mecanismo fundamental para combater o abuso online, a quantidade de relatórios feitos à empresa deve ser disponibilizada publicamente. Isso nos permitirá entender a extensão total dos comentários abusivos feitos on-line, enquanto deixa claro o número total de mensagens que o Facebook não remove do site.

A decisão do Facebook de divulgar dados expondo a escala de abuso em seu site é um passo significativo. Twitter, ao contrário, foi solicitado por informações semelhantes mas recusou para liberá-lo, alegando que seria enganoso. Claramente, nem todos os comentários sinalizados pelos usuários de sites de redes sociais violarão seus termos e condições. Mas a falha do Twitter em divulgar esta informação sugere que a empresa não está disposta a revelar a escala de abuso em seu próprio site.

A ConversaçãoNo entanto, até o Facebook ainda tem um longo caminho a percorrer para chegar à transparência total. Idealmente, todos os sites de redes sociais lançariam relatórios anuais sobre como eles estão lidando com o abuso online. Isso permitiria que os reguladores e o público responsabilizassem as empresas mais diretamente por falhas em remover o abuso online de seus servidores.

Sobre o autor

Laura Bliss, candidata a doutor em lei de mídia social, Edge Hill University

Este artigo foi originalmente publicado em A Conversação. Leia o artigo original.

Livros relacionados:

{amazonWS: searchindex = Livros; palavras-chave = abuso on-line; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

siga InnerSelf on

facebook-icontwitter-iconrss-icon

Receba as últimas por e-mail

{Emailcloak = off}