Shutterstock

A inteligência artificial (IA) está aprendendo cada vez mais sobre como trabalhar com (e sobre) os humanos. estudo recente demonstrou como a IA pode aprender a identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-las para influenciar a tomada de decisões humanas.

Pode parecer clichê dizer que a IA está transformando todos os aspectos da nossa vida e do nosso trabalho, mas é verdade. Diversas formas de IA estão em ação em áreas tão diversas quanto o desenvolvimento de vacinas, a gestão ambiental e a administração de escritórios. E embora a IA não possua inteligência e emoções semelhantes às humanas, suas capacidades são poderosas e estão em rápido desenvolvimento.

Ainda não há motivo para se preocupar com uma dominação das máquinas, mas essa descoberta recente destaca o poder da IA ​​e ressalta a necessidade de uma governança adequada para evitar o uso indevido.

Como a IA pode aprender a influenciar o comportamento humano

Uma equipe de pesquisadores em Data61 do CSIROA , divisão de dados e tecnologia digital da agência nacional de ciência da Austrália, desenvolveu um método sistemático para encontrar e explorar vulnerabilidades na forma como as pessoas fazem escolhas, usando um tipo de sistema de IA chamado rede neural recorrente e aprendizado por reforço profundo. Para testar seu modelo, eles realizaram três experimentos nos quais participantes humanos jogaram contra um computador.

O primeiro experimento consistia em participantes clicando em caixas vermelhas ou azuis para ganhar uma moeda fictícia, com a IA aprendendo os padrões de escolha dos participantes e os guiando para uma escolha específica. A IA obteve sucesso em cerca de 70% das vezes.

No segundo experimento, os participantes deveriam observar uma tela e pressionar um botão quando um determinado símbolo fosse exibido (como um triângulo laranja) e não pressioná-lo quando outro símbolo fosse exibido (por exemplo, um círculo azul). Nesse experimento, a IA foi programada para organizar a sequência de símbolos de forma a induzir os participantes a cometerem mais erros, obtendo um aumento de quase 25%.

O terceiro experimento consistiu em várias rodadas nas quais um participante fingia ser um investidor, entregando dinheiro a um administrador (a IA). A IA, então, devolvia uma quantia ao participante, que decidia quanto investir na próxima rodada. O jogo foi realizado em dois modos diferentes: em um, a IA buscava maximizar seus ganhos, e no outro, a IA visava uma distribuição justa do dinheiro entre si e o investidor humano. A IA obteve grande sucesso em ambos os modos.

Em cada experimento, a máquina aprendeu com as respostas dos participantes, identificando e explorando vulnerabilidades em seus processos de tomada de decisão. O resultado final foi que a máquina aprendeu a direcionar os participantes para ações específicas.

Em experimentos, Um sistema de IA aprendeu com sucesso a influenciar decisões humanas. Shutterstock

O que a pesquisa significa para o futuro da IA

Essas conclusões ainda são bastante abstratas e envolvem situações limitadas e irrealistas. Mais pesquisas são necessárias para determinar como essa abordagem pode ser colocada em prática e usada para beneficiar a sociedade.

Mas a pesquisa amplia nossa compreensão não apenas do que a IA pode fazer, mas também de como as pessoas fazem escolhas. Ela mostra que as máquinas podem aprender a influenciar as decisões humanas por meio de suas interações conosco.

A pesquisa possui uma enorme gama de aplicações possíveis, desde o aprimoramento das ciências comportamentais e das políticas públicas para melhorar o bem-estar social, até a compreensão e influência sobre como as pessoas adotam hábitos alimentares saudáveis ​​ou energia renovável. A inteligência artificial e o aprendizado de máquina podem ser usados ​​para reconhecer as vulnerabilidades das pessoas em determinadas situações e ajudá-las a evitar escolhas ruins.

O método também pode ser usado para defesa contra ataques de influência. As máquinas poderiam ser programadas para nos alertar quando estivermos sendo influenciados online, por exemplo, e nos ajudar a moldar um comportamento para disfarçar nossa vulnerabilidade (por exemplo, não clicando em algumas páginas ou clicando em outras para deixar um rastro falso).

Qual é o próximo?

Como qualquer tecnologia, a IA pode ser usada para o bem ou para o mal, e a governança adequada é crucial para garantir que ela seja implementada de forma responsável. No ano passado, a CSIRO desenvolveu um Estrutura de ética da AI para o governo australiano, como um primeiro passo nessa jornada.

A inteligência artificial e o aprendizado de máquina geralmente necessitam de muitos dados, o que significa que é crucial garantir que tenhamos sistemas eficazes para governança e acesso a dados. Implementar processos de consentimento adequados e proteção da privacidade na coleta de dados é essencial.

As organizações que utilizam e desenvolvem IA precisam garantir que conhecem as capacidades e limitações dessas tecnologias, e estar cientes tanto dos riscos quanto dos benefícios potenciais.

Sobre o autor

Jon Whittle, Diretor, Data61

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.