Como a Big Tech projeta suas próprias regras de ética para evitar o escrutínio e a responsabilidade

Como a Big Tech projeta suas próprias regras de ética para evitar o escrutínio e a responsabilidade

A ética dos dados é agora uma causa célebre.

“Ética e privacidade digital” disparou para a empresa de pesquisa e consultoria Gartner's dez principais tendências tecnológicas estratégicas para 2019. Antes disso, mal levantou uma menção.

No ano passado governos, corporações e o política e tecnologia think tanks publicaram ética de dados guias. Um grupo inteiro de especialistas em ética de dados materializou-se magicamente.

Por que esse súbito interesse na ética dos dados? O que é ética de dados? Cujos interesses são as diretrizes projetadas para servir?

Para entender o que está acontecendo, é necessário dar um passo para trás e ver como o panorama da informação se desdobrou.

A imagem que surge é de uma indústria imune às restrições regulatórias que se aplicam a todos os outros.

O brilho se foi

Nos últimos anos, a indústria da informação perdeu seu brilho.


Receba as últimas notícias do InnerSelf


A revelações Snowden, pela Escândalo de Cambridge Analytica, a habilitação da mídia social discurso de ódio, pela armamento da informação e seu papel no enfraquecimento das instituições democráticas todos contribuíram.

O modelo de negócios que monetiza informações pessoais para vender publicidade agora é visto como uma barganha faustiana - talvez o sacrifício não valha a pena, afinal de contas. Do 2017 ao 2018 havia um 6% de queda nos usuários do Facebook nos Estados Unidos no lucrativo mercado de anos 12-34.

Essas preocupações levaram a pedidos de regulamentação. Mas estes têm lutado para ganhar força contra a ortodoxia regulatória predominante para o setor de tecnologia. Isso remonta a Al Gore cinco princípios por possibilitar o que era chamado de "super rodovia da informação global".

O princípio três era que a política regulatória “criaria uma estrutura regulatória flexível que pudesse acompanhar as rápidas mudanças tecnológicas e de mercado”. Este foi o código para não regulamentação, ou auto-regulação. Na Austrália, era conhecido como Regulação “light touch”.

A Big Tech agiu com impunidade regulamentar, em grande parte liberada das preocupações mundanas da “velha” economia, como a proteção do consumidor ou a responsabilidade pelo produto ou a lei de concorrência ou, em particular, a privacidade da informação.

Circulando mais perto

A Europa nunca adotou completamente essa abordagem de laissez-faire. A privacidade das informações sempre esteve no topo da sua agenda, culminando no 2018 Regulamento Geral de Protecção de Dados (GDPR). Isso proporciona aos indivíduos da União Europeia os mais abrangentes direitos de proteção de dados do mundo. Os direitos têm alcance extraterritorial, envolvem supervisão regulatória e empregam multas civis de magnitude de dar água na boca. Outras jurisdições estão começando a seguir o exemplo.

Em paralelo, reguladores de outras disciplinas estão começando a circular. Os reguladores antitruste estão voltados para os monopólios da informação e o uso do poder de mercado pelas grandes tecnologias para restringir a concorrência.

Na Austrália, o ACCC pediu um nova autoridade reguladora para monitorar e investigar o efeito de algoritmos no ranking de notícias e conteúdo jornalístico.

O relatório do Comitê Selecionado do Reino Unido sobre Comunicações sobre Regulamentação em um Mundo Digital recomendou uma nova Autoridade Digital para supervisionar a regulação “fragmentada” do ambiente digital em torno de dez princípios regulatórios, observando que “a regulamentação de elf por plataformas on-line está claramente falhando”. Os reguladores de direitos humanos estão examinando o papel dos algoritmos na criação e consolidação da discriminação.

Dados significa dinheiro

A Big Tech não quer ser regulamentada. Ele não quer que sua capacidade ilimitada de coletar informações pessoais seja restrita ou que as proteções do tipo GDPR se tornem a norma global. As informações pessoais são a matéria-prima dos algoritmos que permitem gerar receita com nossa atenção.

Para uma indústria que se orgulha de ser “disruptiva”, a maior ansiedade da grande tecnologia é evitar o ambiente regulatório mais rigoroso para evitar ser interrompido por si só. A ética dos dados é um dos meios que desenvolveu para combater a regulamentação. Isso é feito apropriando-se das virtudes associadas à ética, mas esvaziando-as de conteúdo ou conseqüência.

tomar Princípios do Google para IA. (AI é inteligência artificial). Esses são:

  • ser socialmente benéfico
  • evitar criar ou reforçar preconceitos injustos
  • ser construído e testado para segurança
  • ser responsável perante as pessoas
  • incorporar princípios de design de privacidade
  • manter altos padrões de excelência científica
  • disponibilizados para usos que estejam de acordo com esses princípios.

Esses "princípios" são surpreendentemente semelhantes às homilias sobre o bem-estar publicadas no Instagram que nos incitam a "sermos bons uns com os outros" ou não "deixar o sol se pôr em nossa raiva", e são tão úteis quanto.

Sério? Captura de tela capturada March 28 2019

Testar

Vamos testar um dos princípios do Google, "prestar contas às pessoas".

Existem várias camadas de ambiguidade aqui. Isso significa que os algoritmos de AI do Google devem ser responsáveis ​​por "pessoas" em geral, "pessoas" do Google ou "pessoas" de outras pessoas, como um regulador independente?

No segundo caso, o Google fornecerá o algoritmo para análise, corrigirá erros e pagará indenização por danos causados?

Se os algoritmos de inteligência artificial do Google concluírem por engano que sou terrorista e passar essas informações para agências de segurança nacional que usam as informações para me prender, me incomodarem e me interrogarem, o Google será responsável por sua negligência ou por contribuir com minha pena de prisão? Como isso será responsável? Se estou insatisfeito com a versão de responsabilidade do Google, a quem apelo por justiça?

Ética útil envolve responsabilidade

A ética preocupa-se com os princípios morais que afetam a forma como os indivíduos tomam decisões e como conduzem suas vidas.

A ética tem sido estudada e debatida por eons. Nas tradições ocidentais, a ética remonta a Sócrates. Eles incluem posições filosóficas como ética deontológica (baseada no dever), consequencialismo, utilitarismo e existencialismo, para citar apenas alguns. Não é de surpreender que nenhuma delas produza as mesmas respostas a perguntas sobre o que um indivíduo deve fazer em qualquer circunstância particular.

"Ética aplicada" visa trazer os princípios da ética para suportar situações da vida real. Existem numerosos exemplos.

A ética do setor público é governada por lei. Há consequências para aqueles que as violam, incluindo medidas disciplinares, rescisão de contrato de trabalho e, às vezes, penalidades criminais. Para se tornar um advogado, eu tive que fornecer provas para um tribunal que eu sou uma "pessoa adequada e adequada". Para continuar a praticar, sou obrigado a cumprir os requisitos detalhados estabelecidos nas Regras de conduta dos solicitadores australianos. Se eu as violar, haverá consequências.

As características da ética aplicada são que elas são específicas, há ciclos de feedback, orientação disponível, estão inseridos na cultura organizacional e profissional, há supervisão adequada, há consequências quando eles são violados e há mecanismos de aplicação independentes e remédios reais . Eles fazem parte de um aparato regulatório e não apenas de “sentir bem”.

Sentimos que os princípios de ética de dados de alto nível não são adequados para o propósito de regulamentar a grande tecnologia. A ética aplicada pode ter um papel a desempenhar, mas, por ser uma ocupação ou disciplina específica, não pode ser confiável para fazer tudo, ou mesmo a maior parte do trabalho pesado.

Os danos ligados à grande tecnologia só podem ser resolvidos mediante regulamentação adequada.A Conversação

Sobre o autor

David Watts, professor de Direito e Política da Informação, La Trobe University

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.

Livros relacionados:

{amazonWS: searchindex = Livros, palavras-chave = monopólios digitais; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

siga InnerSelf on

facebook-icontwitter-iconrss-icon

Receba as últimas por e-mail

{Emailcloak = off}

DOS EDITORES

Chegou o dia do acerto de contas para o Partido Republicano
by Robert Jennings, InnerSelf.com
O partido republicano não é mais um partido político pró-América. É um partido pseudo-político ilegítimo, cheio de radicais e reacionários, cujo objetivo declarado é perturbar, desestabilizar e…
Por que Donald Trump poderia ser o maior perdedor da história
by Robert Jennings, InnerSelf.com
Atualizado em 2 de julho de 20020 - Toda essa pandemia de coronavírus está custando uma fortuna, talvez 2, 3 ou 4 fortunas, todas de tamanho desconhecido. Ah, sim, e centenas de milhares, talvez um milhão, de pessoas morrerão ...
Olhos Azuis vs Olhos Castanhos: Como o Racismo é Ensinado
by Marie T. Russell, InnerSelf
Neste episódio de 1992 da Oprah Show, a ativista e educadora anti-racismo premiada Jane Elliott ensinou ao público uma dura lição sobre racismo, demonstrando o quão fácil é aprender preconceito.
Uma mudança virá...
by Marie T. Russell, InnerSelf
(30 de maio de 2020) Ao assistir as notícias sobre os eventos na Filadélfia e em outras cidades do país, meu coração está doendo pelo que está acontecendo. Eu sei que isso faz parte da maior mudança que está ocorrendo…
Uma música pode elevar o coração e a alma
by Marie T. Russell, InnerSelf
Eu tenho várias maneiras que eu uso para limpar a escuridão da minha mente quando a vejo penetrar. Uma é a jardinagem, ou o tempo na natureza. O outro é o silêncio. Outra maneira é ler. E um que ...