Empresas privadas estão policiando o ódio online sem supervisão ou regulamentação independente, o que tem sérias implicações e apresenta riscos para os direitos humanos e liberdades fundamentais. (ShutterStock)

A marcha iluminada por tochas por supremacistas brancos armados recentemente em Charlottesville, Virgínia, continua a gerar debate sobre como os grupos de ódio deveriam ser regulamentados. Em meio à crescente pressão pública após a marcha, as empresas de internet correram para remover de seus sites de plataformas o discurso de ódio violento.

Vai Papai terminou seus serviços de domínio para o site neonazista The Daily Stormer, assim como Google. Cloudflare, uma empresa que protege sites de ataques online, também banido o site de ódio da sua plataforma. Rússia ordenou o site barrado de ser hospedado no país.

Minha pesquisa e meu livro Chokepoints: Regulamento Privado Global na Internet demonstram que muitas empresas de internet já removem conteúdo e banem os usuários “voluntariamente” - ou seja, na ausência de legislação ou de qualquer processo judicial. Grandes intermediários, incluindo Google, PayPal, GoDaddy, Twitter e Facebook, voluntariamente policiam suas plataformas por conteúdo de abuso sexual infantil, extremismo e comércio ilícito de produtos falsificados.

Muitas pessoas, compreensivelmente, aplaudem esses esforços para acabar com o discurso de ódio e outros conteúdos questionáveis. No entanto, os esforços das empresas de internet como reguladores de fato do discurso levantam sérias questões: como o conteúdo on-line deve ser regulado? Por quem?

Eu não apoio supremacistas brancos e não estou argumentando contra algum policiamento de tal discurso. Pelo contrário, estou dizendo que precisamos considerar seriamente como regular o conteúdo on-line, pois o próximo caso pode não ser tão claro.

Existem problemas significativos em depender de empresas poderosas para policiar a internet, porque suas práticas de fiscalização são problemáticas e opacas e tendem a interpretações arbitrárias.

Precedente perturbador

Em um contraste sério com a torcida das empresas de internet por sua oposição pública ao Daily Stormer, o CEO da Cloudflare, Matthew Prince, ofereceu uma perspectiva matizada e cautelosa, alertando que a retirada de serviços de grupos de ódio em resposta à pressão pública cria um precedente preocupante no policiamento do discurso on-line. .

Em um artigo do no blog Ao explicar as ações da Cloudflare contra o Daily Stormer, Prince argumentou que a empresa considera o devido processo um "princípio mais importante" do que a liberdade de expressão. O devido processo, disse ele, significa que “você deve ser capaz de conhecer as regras que um sistema seguirá se participar desse sistema”. Essa declaração capta apropriadamente os problemas inerentes aos intermediários que trabalham como reguladores de fato do conteúdo e do comportamento online.

No início deste ano, Funcionários da Shopify e centenas de milhares de pessoas instado e peticionado a plataforma de comércio on-line para deixar de hospedar a loja de internet da Breitbart Media de extrema-direita. Presidente executivo reintegrado Stephen Bannon chamadas Breitbart "a plataforma para o alt-right". O chamado "alt-right" - um termo popularizado por Richard Bertrand Spencer - abrange uma mistura de ideologias conservadoras supremacistas brancas, separatistas, neonazistas, fascistas, racistas, anti-semitas, islamofóbicas e populistas.

O CEO do Shopify, Tobias Lütke, disse que estava defendendo a liberdade de expressão como a empresa de Ottawa continuou a hospedar loja on-line da Breitbart sob ameaça de funcionários renunciando. Depois de público pressão e uma campanha de base apelidada #DeleteShopify levou ao escrutínio que revelou mais negócio questionável, Shopify foi forçado adotar uma "Política de Utilização Aceitável."

Os exemplos contrastantes de The Daily Stormer e sua exclusão por empresas de internet, e o firme apoio do Shopify ao Breitbart, demonstram extremos de um dilema que só promete se intensificar.

Políticas arbitrárias, regulação

Os intermediários da Internet têm o potencial de serem reguladores poderosos em uma ampla variedade de questões, porque podem agir com rapidez e sem ordens judiciais. É importante observar que eles têm liberdade para censurar qualquer conteúdo ou banir usuários de acordo com os contratos de termos de serviço.

O PayPal reserva-se o direito de rescindir seus serviços aos usuários "por qualquer motivo e a qualquer momento”, Linguagem que é ecoada nos acordos de serviços da maioria dos intermediários. A capacidade de regulamentação arbitrária é, portanto, incorporada às regras internas dos intermediários.

Prince avisou que a ação da Cloudflare contra o Daily Stormer estabelece um precedente para os intermediários policiarem o discurso sem ordens judiciais obrigando-os a fazê-lo.

Esses intermediários agem muitas vezes a pedido de governos que preferem que as empresas sejam a face pública (mas em grande parte inexplicável) da regulamentação da Internet. Mas essas empresas geralmente estão mal equipadas para distinguir a legalidade da ilegalidade, causando remoções ilícitas e erroneamente visando o comportamento legal.

Igualmente problemático: os processos de execução dos intermediários são frequentemente opacos, pois seus moderadores de conteúdo interpretam arbitrariamente suas regras internas complexas e de rápida mudança. Esses problemas são agravados pelo crescente uso de ferramentas automatizadas por intermediários para identificar e remover conteúdo problemático em suas plataformas.

Há também a preocupação do chamado "rastejamento de missão" quando as regras promulgadas contra o abuso infantil ou o terrorismo - importantes catalisadores para a aplicação da lei - são posteriormente aplicadas a outras questões claramente menos prejudiciais, como o download não autorizado de conteúdo protegido por direitos autorais.

O futuro distópico está aqui

Esforços regulatórios comumente se expandem da censura do discurso de ódio violento a outro discurso que pode ser considerado controverso por alguns, como o da Black Lives Matter. Além disso, os governos em todo o mundo pressionam regularmente os intermediários a censurar e rastrear críticos e opositores políticos.

Quando os principais intermediários se tornam diretores reguladores responsáveis ​​pelo policiamento do conteúdo em nome dos governos ou em resposta a protestos de alto nível, seu poder já considerável aumenta. As empresas norte-americanas de internet já dominam muitos setores da indústria, incluindo busca, publicidade, registro de domínio, pagamento e mídia social. Príncipe da Cloudflare corretamente advertido que, dependendo de “algumas redes gigantescas”, um “pequeno número de empresas determinará em grande parte o que pode e o que não pode ser online”.

Este futuro distópico já está aqui.

A queda do Daily Stormer, sem dúvida, torna o mundo um lugar melhor. Mas realmente queremos que empresas como o Facebook e o Twitter decidam - de forma independente, arbitrária e secreta - qual conteúdo podemos acessar e compartilhar?

Dados esses problemas aparentemente intratáveis, o que podemos fazer? Primeiro, devemos evitar governar com base em protestos ou pressão da mídia. Em vez de, precisamos de um conjunto claro de regras para permitir que os intermediários respondam de forma consistente, transparente e com respeito ao devido processo, como recomendou Prince.

Os governos devem esclarecer a natureza e, principalmente, as limitações das responsabilidades regulatórias dos intermediários. Finalmente, devemos parar de governar em resposta a crises específicas - as chamadas "notícias falsas", grupos de terrorismo e ódio - e, em vez disso, pensar criticamente sobre como podemos e devemos governar a internet.

Sobre o autor

Natasha Tusikov, Professora Assistente, Criminologia, Departamento de Ciências Sociais, Universidade de York, Canadá

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.

Livros relacionados

at InnerSelf Market e Amazon