Onde quer que você esteja on-line, alguém está tentando personalizar sua experiência na web. Suas preferências são antecipadas, suas intenções e motivações são previstas. Aquela torradeira que você olhou brevemente há três meses continua voltando para assombrar sua navegação em sidebars de publicidade sob medida. E não é uma rua de mão única. De fato, a mecânica bastante impessoal de alguns sistemas de personalização pode não apenas influenciar a maneira como vemos o mundo, mas também como nos vemos.

Isso acontece todos os dias, para todos nós enquanto estamos online. Feed de notícias do Facebook tenta entregar conteúdo personalizado que “Mais interesses” usuários individuais. O mecanismo de recomendação da Amazon usa o rastreamento de dados pessoais combinado com os hábitos de navegação de outros usuários para sugerir produtos relevantes. Google personaliza resultados de pesquisae muito mais: por exemplo, aplicativo de personalização Google Now procura "dar-lhe a informação que precisa ao longo do dia, antes mesmo de perguntar". Tais sistemas de personalização não visam apenas fornecer relevância aos usuários; Por meio de estratégias de marketing direcionadas, elas também geram lucro para muitos serviços da Web gratuitos.

Talvez a crítica mais conhecida desse processo seja a “Bolha de filtro” teoria. Proposto pelo ativista da internet Eli PariserEssa teoria sugere que a personalização pode prejudicar as experiências dos usuários da web. Em vez de serem expostos a conteúdos diversos e universais, os usuários são entregues algoritmicamente em um material que combina com seus pontos de vista pré-existentes e de auto-afirmação. A bolha do filtro, portanto, representa um problema para o engajamento democrático: ao restringir o acesso a pontos de vista desafiadores e diversos, os usuários não podem participar do debate coletivo e informado.

{youtube}6_sim_Wc3mY{/youtube}

Tentativas de encontrar evidências da bolha do filtro produziram resultados mistos. Alguns estudos demonstraram que a personalização pode, de fato, levar a uma visão “míope” de um tópico; outros estudos Descobrimos que, em diferentes contextos, a personalização pode realmente ajudar os usuários a descobrir conteúdo comum e diversificado. Minha pesquisa sugere que a personalização não afeta apenas a maneira como vemos o mundo, mas como nos vemos. Além do mais, a influência da personalização em nossas identidades pode não ser devido à filtragem de bolhas de consumo, mas porque, em alguns casos, a personalização on-line não é muito "pessoal".

Rastreamento de dados e antecipação do usuário

Para entender isso, é útil considerar como a personalização online é alcançada. Embora os sistemas de personalização rastreiem nossos movimentos individuais na Web, eles não são projetados para "conhecer" ou nos identificar como indivíduos. Em vez disso, esses sistemas agrupam os movimentos e hábitos em tempo real dos usuários em conjuntos de dados em massa e procuram padrões e correlações entre os movimentos dos usuários. Os padrões e correlações encontrados são então traduzido de volta em categorias de identidade que podemos reconhecer (como idade, sexo, idioma e interesses) e que podemos nos encaixar. Ao procurar padrões de massa para entregar conteúdo pessoalmente relevante, a personalização é, de fato, baseada um processo bastante impessoal.

Quando a teoria da bolha do filtro surgiu pela primeira vez no 2011, Pariser argumentou que um dos maiores problemas com a personalização era que os usuários não sabiam o que estava acontecendo. Hoje em dia, apesar das objeções ao rastreamento de dados, muitos usuários estão cientes que eles estão sendo rastreados em troca do uso de serviços gratuitos e que esse rastreamento é usado para formas de personalização. Muito menos claro, no entanto, são as especificidades do que está sendo personalizado para nós, como e quando.

Encontrando o 'pessoal'

Minha pesquisa sugere que alguns usuários supõem que suas experiências estão sendo personalizadas para graus complexos. Em um estudo qualitativo aprofundado de usuários da web 36, ao ver publicidade para produtos de perda de peso no Facebook, algumas usuárias relataram que supunham que o Facebook as apresentava como excesso de peso ou orientadas para a boa forma. Na verdade, esses anúncios de perda de peso foram entregues genericamente para mulheres com idade entre 24-30. No entanto, como os usuários podem não ter consciência da natureza impessoal de alguns sistemas de personalização, esses anúncios direcionados podem ter um impacto prejudicial na maneira como esses usuários visualizam a si mesmos: em suma, devem estar acima do peso, porque o Facebook diz que eles são.

Não é apenas a publicidade direcionada que pode ter esse impacto: em um estudo etnográfico e longitudinal conduzido por alguns usuários do Google Now 18 e 19 anos atrás, descobri que alguns participantes assumiram que o aplicativo era capaz de personalização em uma extensão extraordinariamente complexa. . Os usuários informaram que acreditavam que o Google Now mostrava informações sobre ações porque o Google sabia que seus pais eram acionistas ou que o Google (erroneamente) antecipou uma "viagem" para "trabalhar" porque os participantes mentiram sobre idade escolar em suas contas do YouTube . Não é preciso dizer que esse estudo em pequena escala não representa os engajamentos de todos os usuários do Google Now, mas sugere que, para esses indivíduos, as promessas preditivas do Google Now eram quase infalíveis.

Na verdade, Críticas ao design centrado no usuário sugerem que a realidade das inferências do Google é muito mais impessoal: o Google Now pressupõe que “Usuário ideal” faz - ou pelo menos deveria - ter interesse em ações e que todos os usuários são trabalhadores que se deslocam. Tais críticas destacam que são essas suposições que estruturam em grande parte a estrutura de personalização do Google (por exemplo, por meio da adesão do aplicativo a categorias pré-definidas de “cartão” como “Sports”, que durante o meu estudo só permitia que os usuários 'seguissem' os clubes de futebol masculinos e não femininos do Reino Unido). No entanto, em vez de questionar as suposições do aplicativo, meu estudo sugere que os participantes se colocaram fora da norma esperada: eles confiavam no Google para dizer a eles como deveriam ser suas experiências pessoais.

Embora estes possam parecer exemplos extremos de inferência algorítmica impessoal e suposição do usuário, o fato de não podermos ter certeza do que está sendo personalizado, quando ou como são problemas mais comuns. Para mim, esses depoimentos de usuários destacam que a adaptação do conteúdo on-line tem implicações além do fato de que pode ser prejudicial para a democracia. Eles sugerem que, a menos que comecemos a entender que a personalização pode, às vezes, operar por meio de estruturas altamente impessoais, podemos estar confiando demais na personalização para nos dizer como devemos nos comportar e quem devemos ser, e não vice-versa.

Sobre o autor

Tanya Kant, professora de mídia e estudos culturais, Universidade de Sussex

Este artigo foi originalmente publicado em A Conversação. Leia o artigo original.

Livros relacionados

at InnerSelf Market e Amazon