Ahmet Misirligul / Shutterstock

O curta-metragem Slaughterbots mostra um futuro próximo no qual enxames de micro drones assassinam milhares de pessoas por suas crenças políticas. Lançado em novembro 2017 por acadêmicos e ativistas alertando para os perigos da inteligência artificial avançada (IA), ela rapidamente se tornou viral, atraindo mais visualizações do 3m até o momento. Isso ajudou a desencadear uma debate público sobre o futuro das armas autônomas e pressionar os diplomatas reunidos nas Nações Unidas Convenção sobre Armas Convencionais.

Mas esse tipo de narrativa especulativa de ficção científica não é apenas útil para atrair atenção. As pessoas que projetam e constroem tecnologia avançada podem usar histórias para considerar as conseqüências de seu trabalho e garantir que sejam usadas para o bem. E achamos que esse tipo de “prototipagem de ficção científica” ou “ficção de design” poderia ajudar a impedir que preconceitos humanos entrem em novas tecnologias, entrincheirando ainda mais os preconceitos e injustiças da sociedade.

{vembed Y = 9CO6M2HsoIA}

Um viés pode levar à preferência arbitrária de algumas categorias (de resultados, pessoas ou idéias) sobre outras. Por exemplo, algumas pessoas podem ser tendenciosas contra a contratação de mulheres para cargos executivos, estejam elas conscientes disso ou não.

A tecnologia criada em torno de dados que registram esse viés pode acabar replicando o problema. Por exemplo, um software de recrutamento projetado para selecionar os melhores currículos para um trabalho específico pode ser programado para procurar características que reflitam um viés inconsciente em relação aos homens. Nesse caso, o algoritmo acabará favorecendo os currículos masculinos. E isso não é teórico - é realmente aconteceu com a Amazon.

Projetando algoritmos sem considerar possíveis implicações negativas foi comparado para os médicos “escrevendo sobre os benefícios de um determinado tratamento e ignorando completamente os efeitos colaterais, independentemente da gravidade deles”.

Algumas empresas de tecnologia e pesquisadores estão tentando resolver o problema. Por exemplo, o Google elaborou um conjunto de princípios éticos para orientar o desenvolvimento da IA. E os acadêmicos do Reino Unido lançaram uma iniciativa chamada Não igual que visa incentivar maior equidade e justiça no design e uso da tecnologia.

O problema é que, publicamente, as empresas tendem a oferecer apenas uma visão positiva das possíveis consequências de tecnologias no futuro próximo. Por exemplo, carros sem motorista geralmente são retratados como resolvendo todos os nossos problemas de transporte, do custo à segurança, ignorando o aumento perigos dos ataques cibernéticos ou o fato de poderem incentivar as pessoas a andar ou andar de bicicleta menos.

A dificuldade de entender como as tecnologias digitais funcionam, especialmente aquelas que são fortemente orientadas por algoritmos obscuros, também dificulta que as pessoas tenham uma visão complexa e abrangente dos problemas. Essa situação produz uma tensão entre uma narrativa positiva tranquilizadora e a vaga suspeita de que os vieses estão embutidos em algum grau nas tecnologias ao nosso redor. É aqui que pensamos que a narrativa através da ficção de design pode entrar.

As histórias são um método natural de pensar sobre possibilidades e situações complexas, e as ouvimos por toda a vida. A ficção científica pode nos ajudar a especular sobre o impacto de tecnologias de futuro próximo na sociedade, como o Slaughterbots. Isso pode até incluir questões de justiça social, como a maneira como certos grupos, como refugiados e migrantes, podem ser excluido de inovações digitais.

Revelando o futuro (possível)

Crie histórias de ficção fornecer uma nova maneira para designers, engenheiros e futuristas (entre outros) pensarem sobre o impacto da tecnologia da perspectiva humana e vincularem isso a possíveis necessidades futuras. Com uma mistura de lógica e imaginação, a ficção de design pode revelar aspectos de como a tecnologia pode ser adotada e usada, iniciando conversas sobre seus ramificações futuras.

Por exemplo, o conto "Origem do crime"Explora o que poderia acontecer se a IA usasse informações de fontes coletivas e um banco de dados criminal para prever quem poderia cometer um assassinato. Os pesquisadores descobriram que, como o banco de dados estava cheio de pessoas em grupos étnicos minoritários que, por razões sociais, eram estatisticamente mais propensas a reincidir, o modelo de “origem do crime” era mais provável minorias suspeitas indevidamente do que pessoas brancas.

Você não precisa ser um escritor talentoso ou fazer um filme liso para produzir ficção de design. Atividades de brainstorming envolvendo cartões e storyboards foi usado desenvolver ficção de design e ajudar a desenvolver o processo de contar histórias. Tornar os workshops que usavam esse tipo de ferramentas mais comuns permitiria que mais engenheiros, empreendedores e formuladores de políticas usassem esse método de avaliação. E tornar público o trabalho resultante ajudaria a expor possíveis vieses nas tecnologias antes que elas afetem a sociedade.

Incentivar os designers a criar e compartilhar mais histórias dessa maneira garantiria que a narrativa subjacente às novas tecnologias não apresentasse apenas uma imagem positiva, nem uma imagem extremamente negativa ou distópica. Em vez disso, as pessoas serão capazes de apreciar os dois aspectos do que está acontecendo ao nosso redor.

Sobre os autores

Alessio Malizia, Professor de design de experiência do usuário, Universidade de Hertfordshire e Silvio Carta, Chefe de Arte e Design e Presidente do Grupo de Pesquisa em Design, Universidade de Hertfordshire

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.