O Amazon Echo e o assistente de voz Alexa tiveram problemas amplamente divulgados com privacidade. Se é o quantidade de dados que eles coletam ou o fato de que eles pagam funcionários e, às vezes, contratados externos de todo o mundo para ouça gravações para melhorar a precisão, existe o potencial de vazamento de informações pessoais confidenciais por meio desses dispositivos.
Mas os riscos se estendem não apenas ao nosso relacionamento com a Amazon. As principais preocupações com a privacidade estão começando a surgir na maneira como os dispositivos Alexa interagem com outros serviços - arriscando uma espiral distópica de aumento vigilância e controle.
A configuração do Echo transforma o Amazon em um gateway extra pelo qual toda interação on-line precisa passar, coletando dados em cada um. Alexa sabe o que você está procurando, ouvindo ou enviando suas mensagens. Alguns smartphones já fazem isso, principalmente os fabricados pelo Google e pela Apple, que controlam os serviços de hardware, software e nuvem.
Mas a diferença com um eco é que ele reúne os piores aspectos de smartphones e casas inteligentes. Não é um dispositivo pessoal, mas integrado ao ambiente doméstico, sempre esperando para ouvir. O Alexa ainda apresenta um projeto de arte (não criado pela Amazon) que tenta esclarecer isso com o assustador “Pergunte aos ouvintes”Que faz comentários sobre o quanto o dispositivo está espionando você. Alguns dispositivos Echo já possuem câmeras e, se os recursos de reconhecimento facial forem adicionados, poderemos entrar em um mundo de monitoramento generalizado em nossos espaços mais particulares, até rastreados conforme nos movemos entre os locais.
{vembed Y = MnvJ4Bh60L8}
Essa tecnologia oferece à Amazon uma enorme quantidade de controle sobre seus dados, que tem sido o objetivo da maioria dos gigantes da tecnologia. Enquanto Apple e Google - que enfrentam seus questões de privacidade próprias - tenham assistentes de voz semelhantes, pelo menos progrediram na execução do software diretamente em seus dispositivos, para que não precisem transferir gravações dos seus comandos de voz para os servidores deles. A Amazon não parece estar tentando fazer o mesmo.
Isso ocorre, em parte, por causa do agressivo modelo de negócios da empresa. Os sistemas da Amazon parecem não apenas projetados para coletar o máximo de dados possível, mas também para criar maneiras de compartilhá-los. Portanto, os possíveis problemas são muito mais profundos do que o Alexa ouvindo em momentos privados.
Compartilhando com a aplicação da lei
Uma área de preocupação é o potencial de colocar os ouvidos da polícia em nossas casas, escolas e locais de trabalho. A Apple tem um histórico de resistência às solicitações do FBI para dados do usuário, e o Twitter é relativamente transparente sobre a geração de relatórios sobre como responde a pedidos dos governos.
Mas Ring, a empresa de câmeras de segurança doméstica conectada à Internet, de propriedade da Amazon, tem um relacionamento de alto nível com a polícia que envolve entregando dados do usuário. Mesmo a maneira como os cidadãos e a polícia se comunicam é cada vez mais monitorado e controlado pela Amazon.
Sempre ouvindo. Tomasso79 / Shutterstock
Isso arrisca incorporar uma cultura de vigilância estatal nas operações da Amazon, o que pode ter conseqüências preocupantes. Vimos vários exemplos de órgãos policiais e outros órgãos governamentais em países democráticos usando dados pessoais para espionar pessoas, tanto em violação da lei e dentro dele, mas por razões que vão muito além a prevenção do terrorismo. Esse tipo de vigilância em massa também cria um potencial grave de discriminação, pois foi demonstrado repetidamente ter um impacto pior sobre mulheres e minoria grupos.
Se a Amazon não está disposta a recuar, não é difícil imaginar Gravações Alexa sendo entregues às solicitações de funcionários do governo e agentes da lei que possam estar dispostos a violar o espírito ou a letra da lei. E considerando os acordos internacionais de compartilhamento de inteligência, mesmo que você confie em seu próprio governo, você confia nos outros?
Em resposta a esta questão, um porta-voz da Amazon disse: “A Amazon não divulga informações de clientes em resposta a demandas do governo, a menos que sejamos obrigados a fazê-lo para cumprir uma ordem legalmente válida e ofuscante. Objetos da Amazon para sobrecarregar ou demandas inapropriadas de outra maneira.
"Os clientes do Ring decidem se compartilham as imagens em resposta às perguntas da polícia local que investiga os casos. A polícia local não consegue ver nenhuma informação relacionada à qual os usuários do Ring receberam uma solicitação e se recusaram a compartilhar ou optar por não receber solicitações futuras". acrescentou que, embora a polícia local possa acessar o aplicativo Neighbours de Ring por denunciar atividades criminosas e suspeitas, eles não podem ver ou acessar informações da conta do usuário.
Rastreando problemas de saúde
Saúde é outra área em que a Amazon parece estar tentando uma aquisição. O Serviço Nacional de Saúde (NHS) do Reino Unido assinou um acordo para aconselhamento médico fornecido através do Echo. Pelo valor de face, isso simplesmente estende maneiras de acessar informações publicamente disponíveis, como o site do NHS ou a linha telefônica 111 - nenhum dado oficial do paciente está sendo compartilhado.
Mas cria a possibilidade de a Amazon começar a rastrear as informações de saúde que solicitamos através do Alexa, criando efetivamente perfis dos históricos médicos dos usuários. Isso pode estar vinculado a sugestões de compras on-line, anúncios de terceiros para terapias dispendiosas ou até anúncios potencialmente traumáticos (pense em mulheres que sofreram abortos espontâneos) sendo mostrado produtos para bebês).
Um porta-voz da Amazon disse: “A Amazon não cria perfis de saúde do cliente com base em interações com o conteúdo nhs.uk ou usa essas solicitações para fins de marketing. Alexa não tem acesso a nenhuma informação pessoal ou privada do NHS. ”
A grosseria e as falhas da publicidade algorítmica violariam os padrões profissionais e morais que os serviços de saúde se esforçam para manter. Além disso, seria altamente invasivo tratar os dados da mesma maneira que muitas gravações de eco. Você gostaria que um contratado externo aleatório soubesse que estava pedindo conselhos sobre saúde sexual?
Transparência
Subjacente a essas questões está a falta de transparência real. Amazon é perturbadoramente Quieto, evasivo e relutante agir quando se trata de lidar com as implicações de privacidade de suas práticas, muitas das quais estão enterradas em seus termos e condições ou em locais difíceis de encontrar. Mesmo usuários com conhecimento técnico não sabem necessariamente o extensão total dos riscos à privacidade, e quando os recursos de privacidade são adicionados, eles geralmente apenas conscientizar os usuários após pesquisadores ou a imprensa levantarem a questão. É totalmente injusto impor uma carga tão grande aos usuários para descobrir e mitigar quais são esses riscos.
Então, se você tem um eco em sua casa, o que você deve fazer? Existem muitas dicas disponíveis em como tornar o dispositivo mais privado, como definir gravações de voz para excluir ou limitar automaticamente os dados compartilhados com terceiros. Mas a tecnologia inteligente quase sempre é de vigilância, e o melhor conselho é não trazer um para sua casa.
Em resposta aos pontos principais deste artigo, um porta-voz da Amazon disse à The Conversation:
Na Amazon, a confiança do cliente está no centro de tudo o que fazemos e levamos a privacidade e a segurança muito a sério. Sempre acreditamos que a privacidade deve ser fundamental e incorporada a todo hardware, software e serviço que criamos. Desde o início, colocamos os clientes no controle e sempre procuramos maneiras de tornar ainda mais fácil para os clientes ter transparência e controle sobre sua experiência com o Alexa. Introduzimos várias melhorias na privacidade, incluindo a opção de excluir automaticamente as gravações de voz após três ou 18 meses, a capacidade de solicitar ao Alexa para "excluir o que acabei de dizer" e "excluir o que disse hoje" e o Alexa Privacy Hub, um recurso disponível globalmente dedicado a ajudar os clientes a aprender mais sobre a nossa abordagem à privacidade e os controles que possuem. Continuaremos a inventar mais recursos de privacidade em nome dos clientes.
Este artigo foi alterado para deixar claro que a função "Pergunte aos ouvintes" é um projeto de arte criado por terceiros.
Sobre o autor
Garfield Benjamin, pesquisador de pós-doutorado, Escola de Artes e Tecnologia de Mídia, Solent University
Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.
