ULU_BIRD / Shutterstock.com

Mustafa adora um bom café. Em seu tempo livre, ele frequentemente navega em máquinas de café sofisticadas que atualmente não pode pagar, mas está economizando. Um dia, viajando para o casamento de um amigo no exterior, ele se senta ao lado de outro amigo no avião. Quando Mustafa reclama de quanto ele pagou por sua passagem, o amigo pagou menos da metade do que ele pagou, mesmo que eles tenham reservado na mesma hora.

Ele analisa possíveis razões para isso e conclui que isso deve estar relacionado à navegação de máquinas e equipamentos de café caros. Ele está muito zangado com isso e reclama da companhia aérea, que lhe envia um pedido de desculpas morno que se refere a modelos de preços personalizados. Mustafa acha que isso é injusto, mas não o desafia. Prosseguir ainda mais lhe custaria tempo e dinheiro.

Esta história - que é hipotética, mas pode e ocorre - demonstra o potencial de as pessoas serem prejudicadas pelo uso de dados na atual era do "big data". A análise de big data envolve o uso de grandes quantidades de dados de muitas fontes que são vinculadas e analisadas para encontrar padrões que ajudam a prever o comportamento humano. Tal análise, mesmo quando perfeitamente legal, pode prejudicar as pessoas.

Mustafa, por exemplo, provavelmente foi afetado por práticas personalizadas de preços, nas quais sua busca por máquinas de café sofisticadas foi usada para fazer certas suposições sobre sua disposição de pagar ou comprar poder. Por sua vez, isso pode ter levado a sua passagem aérea mais cara. Embora isso não tenha resultado em danos graves no caso de Mustafa, casos de graves danos emocionais e financeiros não são, infelizmente, raros, incluindo o negação de hipotecas para indivíduos e riscos à dignidade de crédito geral de uma pessoa com base em associações com outras pessoas. Isso pode acontecer se um indivíduo compartilhar algumas características semelhantes a outros indivíduos que históricos de pagamentos ruins.

Instâncias de dano emocional também podem ocorrer. Imagine um casal que descobre que está esperando um filho muito procurado, mas sofre um aborto espontâneo aos cinco meses. O casal pode achar que continua a receber anúncios de lojas especializadas em produtos infantis meses depois, comemorando o que deveria ter sido “marcos” importantes, causando angústia. Esta é outra hipótese, mas inteiramente cenário possível.

A lei - ou falta dela

Em muitos desses casos, como a prática prejudicial pode não ter infringido nenhuma lei, aqueles que foram prejudicados pelo uso de dados têm opções limitadas ou inexistentes. O que aconteceu com Mustafa, por exemplo, foi perfeitamente legal, pois não há leis atuais que proíbam os preços personalizados. Nossos sistemas jurídicos atuais não protegem adequadamente as pessoas dos danos emergentes do big data.

Isso ocorre porque é muito difícil rastrear como nossos dados são vinculados e usados. Mesmo se a companhia aérea tivesse feito algo ilegal, como leis de proteção de dados violadas, seria quase impossível para Mustafa descobrir. As pessoas que sentem que foram prejudicadas pelo uso de dados podem ter dificuldades para mostrar como seus dados foram usados ​​para causar esse dano, quais dados estavam envolvidos ou qual controlador de dados os usou. E, portanto, eles podem não ter a prova de que precisariam obter um remédio legal.

Além disso, mesmo que mostrem como algo que alguém fez com seus dados os prejudicou, esse uso específico de Informação ao Cliente, para ajustar os preços, por exemplo, pode não ser ilegal.

Da mesma forma, o dano pode ser causado não pelos próprios dados, mas pelo uso de dados de outras pessoas (dados de terceiros). Por exemplo, no caso de Mustafa, pode ser que outras pessoas que também estejam interessadas em máquinas de café caras tenham renda muito alta ou comprem itens caros. Isso pode ter sido usado para sugerir que Mustafa também se enquadrava nessa categoria, o que pode resultar em preços mais altos para ele para outros produtos. Um indivíduo prejudicado pelo uso de dados de terceiros geralmente não terá remédios sob as leis atuais de proteção de dados.

As empresas podem presumir coisas sobre você a partir de seus hábitos de navegação. Tripulação / Unsplash, FAL

Um novo sistema

Para ajudar a resolver esses problemas, nós discutimos que precisamos aceitar que alguns riscos do uso de dados não são evitáveis. Em vez de focar apenas na tentativa de minimizar ou evitar esses riscos, também precisamos encontrar maneiras de apoiar melhor as pessoas que sofrem danos pelo uso de dados, por exemplo, monitorando e respondendo ativamente a danos causados ​​pelo uso de dados, incluindo usos legais de dados.

Pensamos que, como parte desse sistema, um novo tipo de instituição deve ser criado. Nós os chamamos de órgãos de mitigação de danos. Eles seriam criados em nível nacional, e as pessoas que sentissem que foram prejudicadas pelo uso de dados, mas não se qualificassem para obter recursos legais, poderiam procurá-los para relatar os danos que acham que surgiram com o uso de dados. Diferentemente dos remédios tradicionais, os órgãos de mitigação de danos poderiam fornecer apoio mesmo nos casos em que nenhuma lei foi violada. Seriam fáceis de usar e flexíveis para que as pessoas pudessem apoiar as pessoas onde e como mais precisam, dando às pessoas mais poder e fortalecendo a responsabilidade coletiva pelo uso de dados.

Esses órgãos propostos coletariam informações sobre quais tipos de danos ocorrem: atualmente, não há organismos nacionais ou internacionais que coletem informações sobre danos de dados sistematicamente. Eles também enviavam informações aos formuladores de políticas e usuários de dados para ajudar a melhorar a maneira como as coisas são feitas. E nos casos em que as pessoas sofrem danos financeiros, mas não têm acesso a ajuda legal, elas também podem fornecer apoio financeiro.

A análise de big data é justamente elogiada pelas muitas novas oportunidades que oferece. Mas será inevitável que algumas pessoas sejam prejudicadas. Como sociedade, precisamos enfrentar essa verdade e prestar melhor assistência àqueles que sofrem danos, para que ninguém que arque com os custos dessas novas práticas seja deixado em paz.

Sobre os Autores

Aisling McMahon, Professor Assistente de Direito, Universidade Nacional da Irlanda Maynooth; Alena Buyx, professora de ética, Universidade Técnica de Muniquee Barbara Prainsack, professora de análise comparativa de políticas, Universidade de Viena

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.