Como a ficção científica poderia nos salvar de más tecnologias

Como a ficção científica poderia nos salvar de más tecnologias
Ahmet Misirligul / Shutterstock

O curta-metragem Slaughterbots mostra um futuro próximo no qual enxames de micro drones assassinam milhares de pessoas por suas crenças políticas. Lançado em novembro 2017 por acadêmicos e ativistas alertando para os perigos da inteligência artificial avançada (IA), ela rapidamente se tornou viral, atraindo mais visualizações do 3m até o momento. Isso ajudou a desencadear uma debate público sobre o futuro das armas autônomas e pressionar os diplomatas reunidos nas Nações Unidas Convenção sobre Armas Convencionais.

Mas esse tipo de narrativa especulativa de ficção científica não é apenas útil para atrair atenção. As pessoas que projetam e constroem tecnologia avançada podem usar histórias para considerar as conseqüências de seu trabalho e garantir que sejam usadas para o bem. E achamos que esse tipo de “prototipagem de ficção científica” ou “ficção de design” poderia ajudar a impedir que preconceitos humanos entrem em novas tecnologias, entrincheirando ainda mais os preconceitos e injustiças da sociedade.

Um viés pode levar à preferência arbitrária de algumas categorias (de resultados, pessoas ou idéias) sobre outras. Por exemplo, algumas pessoas podem ser tendenciosas contra a contratação de mulheres para cargos executivos, estejam elas conscientes disso ou não.

A tecnologia criada em torno de dados que registram esse viés pode acabar replicando o problema. Por exemplo, um software de recrutamento projetado para selecionar os melhores currículos para um trabalho específico pode ser programado para procurar características que reflitam um viés inconsciente em relação aos homens. Nesse caso, o algoritmo acabará favorecendo os currículos masculinos. E isso não é teórico - é realmente aconteceu com a Amazon.

Projetando algoritmos sem considerar possíveis implicações negativas foi comparado para os médicos “escrevendo sobre os benefícios de um determinado tratamento e ignorando completamente os efeitos colaterais, independentemente da gravidade deles”.

Algumas empresas de tecnologia e pesquisadores estão tentando resolver o problema. Por exemplo, o Google elaborou um conjunto de princípios éticos para orientar o desenvolvimento da IA. E os acadêmicos do Reino Unido lançaram uma iniciativa chamada Não igual que visa incentivar maior equidade e justiça no design e uso da tecnologia.


Receba as últimas notícias do InnerSelf


O problema é que, publicamente, as empresas tendem a oferecer apenas uma visão positiva das possíveis consequências de tecnologias no futuro próximo. Por exemplo, carros sem motorista geralmente são retratados como resolvendo todos os nossos problemas de transporte, do custo à segurança, ignorando o aumento perigos dos ataques cibernéticos ou o fato de poderem incentivar as pessoas a andar ou andar de bicicleta menos.

A dificuldade de entender como as tecnologias digitais funcionam, especialmente aquelas que são fortemente orientadas por algoritmos obscuros, também dificulta que as pessoas tenham uma visão complexa e abrangente dos problemas. Essa situação produz uma tensão entre uma narrativa positiva tranquilizadora e a vaga suspeita de que os vieses estão embutidos em algum grau nas tecnologias ao nosso redor. É aqui que pensamos que a narrativa através da ficção de design pode entrar.

As histórias são um método natural de pensar sobre possibilidades e situações complexas, e as ouvimos por toda a vida. A ficção científica pode nos ajudar a especular sobre o impacto de tecnologias de futuro próximo na sociedade, como o Slaughterbots. Isso pode até incluir questões de justiça social, como a maneira como certos grupos, como refugiados e migrantes, podem ser excluido de inovações digitais.

Revelando o futuro (possível)

Crie histórias de ficção fornecer uma nova maneira para designers, engenheiros e futuristas (entre outros) pensarem sobre o impacto da tecnologia da perspectiva humana e vincularem isso a possíveis necessidades futuras. Com uma mistura de lógica e imaginação, a ficção de design pode revelar aspectos de como a tecnologia pode ser adotada e usada, iniciando conversas sobre seus ramificações futuras.

Por exemplo, o conto "Origem do crime"Explora o que poderia acontecer se a IA usasse informações de fontes coletivas e um banco de dados criminal para prever quem poderia cometer um assassinato. Os pesquisadores descobriram que, como o banco de dados estava cheio de pessoas em grupos étnicos minoritários que, por razões sociais, eram estatisticamente mais propensas a reincidir, o modelo de “origem do crime” era mais provável minorias suspeitas indevidamente do que pessoas brancas.

Você não precisa ser um escritor talentoso ou fazer um filme liso para produzir ficção de design. Atividades de brainstorming envolvendo cartões e storyboards foi usado desenvolver ficção de design e ajudar a desenvolver o processo de contar histórias. Tornar os workshops que usavam esse tipo de ferramentas mais comuns permitiria que mais engenheiros, empreendedores e formuladores de políticas usassem esse método de avaliação. E tornar público o trabalho resultante ajudaria a expor possíveis vieses nas tecnologias antes que elas afetem a sociedade.

Incentivar os designers a criar e compartilhar mais histórias dessa maneira garantiria que a narrativa subjacente às novas tecnologias não apresentasse apenas uma imagem positiva, nem uma imagem extremamente negativa ou distópica. Em vez disso, as pessoas serão capazes de apreciar os dois aspectos do que está acontecendo ao nosso redor.A Conversação

Sobre os Autores

Alessio Malizia, Professor de design de experiência do usuário, Universidade de Hertfordshire e Silvio Carta, Chefe de Arte e Design e Presidente do Grupo de Pesquisa em Design, Universidade de Hertfordshire

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

siga InnerSelf on

facebook-icontwitter-iconrss-icon

Receba as últimas por e-mail

{Emailcloak = off}

DOS EDITORES

Quando suas costas estão contra a parede
by Marie T. Russell, InnerSelf
Eu amo a internet Agora eu sei que muitas pessoas têm muitas coisas ruins a dizer sobre isso, mas eu adoro isso. Assim como amo as pessoas em minha vida - elas não são perfeitas, mas eu as amo mesmo assim.
Boletim informativo InnerSelf: August 23, 2020
by Funcionários Innerself
Todos provavelmente concordam que estamos vivendo em tempos estranhos ... novas experiências, novas atitudes, novos desafios. Mas podemos ser encorajados a lembrar que tudo está sempre em fluxo, ...
Mulheres surgem: sejam vistas, sejam ouvidas e aja
by Marie T. Russell, InnerSelf
Chamei este artigo de "Mulheres surgem: sejam vistas, sejam ouvidas e ajam" e, embora me refira às mulheres destacadas nos vídeos abaixo, também estou falando de cada uma de nós. E não só daqueles ...
Chegou o dia do acerto de contas para o Partido Republicano
by Robert Jennings, InnerSelf.com
O partido republicano não é mais um partido político pró-América. É um partido pseudo-político ilegítimo, cheio de radicais e reacionários, cujo objetivo declarado é perturbar, desestabilizar e…
Por que Donald Trump poderia ser o maior perdedor da história
by Robert Jennings, InnerSelf.com
Atualizado em 2 de julho de 20020 - Toda essa pandemia de coronavírus está custando uma fortuna, talvez 2, 3 ou 4 fortunas, todas de tamanho desconhecido. Ah, sim, e centenas de milhares, talvez um milhão, de pessoas morrerão ...