A informação é um bem valioso. E graças à tecnologia, existem milhões de terabytes disso on-line.

Ferramentas de inteligência artificial (IA), como o ChatGPT, agora gerenciam essas informações em nosso nome – agrupando-as, resumindo-as e apresentando-as de volta para nós.

Mas esta “terceirização” da gestão da informação para a IA – por mais conveniente que seja – traz consequências. Pode influenciar não só o que pensamos, mas potencialmente também como nós pensamos.

O que acontece em um mundo onde os algoritmos de IA decidem quais informações são perpetuadas e quais são deixadas de lado?

A ascensão da IA ​​personalizada

As ferramentas de IA generativa são construídas em modelos treinados em centenas de gigabytes de dados preexistentes. A partir desses dados, eles aprendem como criar texto, imagens, conteúdo de áudio e vídeo de forma autônoma e podem responder às dúvidas dos usuários reunindo a resposta “mais provável”.

ChatGPT é usado por milhões de pessoas, apesar de ter sido divulgado publicamente há menos de um ano. Em junho, a adição de respostas personalizadas tornou o já impressionante chatbot ainda mais útil. Este recurso permite que os usuários salvem instruções personalizadas explicando para que estão usando o bot e como gostariam que ele respondesse.

Este é um dos vários exemplos de “IA personalizada”: uma categoria de ferramentas de IA que geram conteúdo para atender às necessidades e preferências específicas do usuário.

Outro exemplo é o recentemente lançado pela Meta assistente virtual, Meta IA. Este chatbot pode conversar, gerar imagens e realizar tarefas nas plataformas Meta, incluindo WhatsApp, Messenger e Instagram.

O pesquisador de inteligência artificial e cofundador da DeepMind, Mustafa Suleyman, descreve IA personalizada como sendo mais um relacionamento do que uma tecnologia:

É um amigo. […] Vai mesmo estar sempre presente e ao seu lado, convivendo com você – basicamente na sua equipe. Gosto de pensar nisso como ter um grande treinador ao seu lado.

Mas estas tecnologias também são controversas, com preocupações levantadas ao longo posse de dados, viés e desinformação.

As empresas de tecnologia estão tentando encontrar maneiras de combater esses problemas. Por exemplo, o Google adicionou links de origem a resumos de pesquisa gerados por IA produzidos por seus Experiência Geradora de Pesquisa (SGE), que foi criticada no início deste ano por oferecendo respostas imprecisas e problemáticas.

A tecnologia já mudou nosso pensamento

Como as ferramentas generativas de IA – e especialmente aquelas personalizadas para nós – mudarão a forma como pensamos?

Para entender isso, vamos revisitar o início da década de 1990, quando a internet entrou em nossas vidas. De repente, as pessoas podiam acessar informações sobre praticamente qualquer coisa, fosse sobre bancos, panificação, ensino ou viagens.

Quase 30 anos depois, estudos mostram como estar conectado a esta “mente coletiva” global mudou a nossa cognição, memória e criatividade.

Por exemplo, ter acesso instantâneo ao equivalente a 305.5 bilhões de páginas de informação aumentou o interesse das pessoas meta-conhecimento – isto é, seu conhecimento sobre o conhecimento. Um impacto disso é o “efeito Google”: um fenômeno em que a pesquisa online aumenta nossa capacidade de encontrar informações, mas reduz nossa memória do que era essa informação.

Por um lado, foi demonstrado que transferir o nosso pensamento para os motores de busca liberta as nossas reservas mentais para resolução de problemas e pensamento criativo. Por outro lado, a recuperação de informação online tem sido associada a um aumento distração e dependência.

A investigação também mostra que a pesquisa online – independentemente da quantidade ou qualidade da informação recuperada – aumenta a nossa autoestima cognitiva. Em outras palavras, aumenta nossa crença em nossa própria “inteligência”.

Junte isso ao fato de que questionar informações exige esforço – e que quanto mais confiamos em nosso mecanismo de busca, menos criticamos envolva-se com seus resultados – e podemos ver porque é que ter acesso a quantidades de informação sem precedentes não nos torna necessariamente mais sábios.

Deveríamos estar “terceirizando” nosso pensamento?

As ferramentas generativas de IA de hoje vão muito além de apenas nos apresentar resultados de pesquisa. Eles localizam a informação para nós, avaliam-na, sintetizam-na e apresentam-na de volta.

Quais podem ser as implicações disso? Sem pressionar por um controle de qualidade liderado por humanos, as perspectivas não são promissoras.

A capacidade da IA ​​generativa de produzir respostas que pareçam familiares, objetivas e envolventes significa que nos deixa mais vulneráveis ​​a vieses cognitivos.

A viés de automação, por exemplo, é a tendência humana de superestimar a integridade das informações obtidas por máquinas. E a mera exposição O efeito é quando estamos mais propensos a confiar em informações apresentadas como familiares ou pessoais.

A investigação nas redes sociais pode ajudar-nos a compreender o impacto de tais preconceitos. Em um estudo de 2016, os usuários do Facebook relataram sentindo-se mais “por dentro” com base na quantidade de conteúdo de notícias postado online – e não na quantidade que eles realmente lêem.

Também sabemos que “bolhas de filtro”criados por algoritmos de mídia social – onde nossos feeds são filtrados de acordo com nossos interesses – limitam a diversidade do conteúdo ao qual estamos expostos.

Foi demonstrado que este processo de estreitamento da informação aumenta polarização ideológica reduzindo a propensão das pessoas para considerar perspectivas alternativas. Também foi demonstrado que aumenta nossa probabilidade de sermos expostos a notícias falsas.

Usando IA para ficar mais esperto e não emburrecer

A IA generativa é, sem dúvida, uma força revolucionária com potencial para fazer grandes coisas pela sociedade. Poderia remodelar o nosso sistema educativo, fornecendo conteúdo personalizado, mudar nossas práticas de trabalho agilizando redação e análise de informaçõese expandir as fronteiras do descoberta científica.

Tem ainda o potencial de alterar positivamente as nossas relações, ajudando-nos a comunicar e a conectar-nos com outras pessoas e pode, por vezes, funcionar como um meio de comunicação. forma de companhia sintética.

Mas se a nossa única forma de julgar o futuro é olhando para o passado, talvez agora seja o momento de refletir sobre como tanto a Internet como as redes sociais mudaram a nossa cognição e aplicar algumas medidas de precaução. Em desenvolvimento Alfabetização em IA é um bom ponto de partida, assim como projetar ferramentas de IA que incentivem a autonomia humana e o pensamento crítico.

Em última análise, precisaremos compreender tanto a nossa própria e os pontos fortes e fracos da IA para garantir que estes companheiros “pensantes” nos ajudem a criar o futuro que queremos – e não aquele que está no topo da lista.

Sarah Vivienne Bentley, Cientista Pesquisador, Inovação Responsável, Data61, CSIRO; Clara Mason, Cientista de Pesquisa Principal, CSIRO e Einat Grimberg, Pesquisador de Pós-Doutorado em Tecnologia e Ciências Sociais, CSIRO

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.