Getty Images

A Inteligência Artificial (IA) está avançando rapidamente e se tornará uma importante ferramenta de apoio nos cuidados clínicos. A pesquisa sugere que os algoritmos de IA podem detectar melanomas e prever futuros cânceres de mama.

Mas antes que a IA possa ser integrada no uso clínico de rotina, devemos enfrentar o desafio do viés algorítmico. Os algoritmos de IA podem ter preconceitos inerentes que podem levar a problemas de discriminação e privacidade. Os sistemas de IA também podem tomar decisões sem a necessária supervisão ou intervenção humana.

 Um exemplo dos efeitos potencialmente prejudiciais da IA ​​vem de um projeto internacional que visa usar a IA para salvar vidas através do desenvolvimento de tratamentos médicos inovadores. Em um experimento, a equipe reverteu seu “bom” modelo de IA para criar opções para que um novo modelo de IA causasse “danos”.

Em menos de seis horas de treinamento, o algoritmo de IA invertido gerou dezenas de milhares de potenciais agentes de guerra química, muitos deles mais perigosos do que os atuais agentes de guerra. Este é um exemplo extremo no que diz respeito aos compostos químicos, mas serve como um alerta para avaliar as consequências éticas conhecidas e possivelmente incognoscíveis da IA.

IA em cuidados clínicos

Na medicina, lidamos com os dados mais privados das pessoas e, muitas vezes, com decisões que mudam vidas. Estruturas éticas robustas de IA são imperativas.

A Projeto Australiano de Epilepsia visa melhorar a vida das pessoas e tornar os cuidados clínicos mais amplamente disponíveis. Com base em imagens cerebrais avançadas e informações genéticas e cognitivas de milhares de pessoas com epilepsia, planejamos usar a IA para responder perguntas atualmente sem resposta.

As convulsões desta pessoa continuarão? Qual medicamento é mais eficaz? A cirurgia cerebral é uma opção de tratamento viável? Estas são questões fundamentais que a medicina moderna luta para resolver.

Como líder de IA deste projeto, minha principal preocupação é que a IA esteja avançando rapidamente e a supervisão regulatória seja mínima. Estas questões são a razão pela qual estabelecemos recentemente um quadro ético por usar IA como ferramenta de suporte clínico. Esta estrutura pretende garantir que as nossas tecnologias de IA sejam abertas, seguras e confiáveis, ao mesmo tempo que promove a inclusão e a justiça nos cuidados clínicos.

Então, como implementamos a ética da IA ​​na medicina para reduzir preconceitos e manter o controle sobre os algoritmos? O princípio da ciência da computação “entra lixo, sai lixo” aplica-se à IA. Suponha que coletemos dados tendenciosos de pequenas amostras. Nossos algoritmos de IA provavelmente serão tendenciosos e não replicáveis ​​em outro ambiente clínico.

Exemplos de preconceitos não são difíceis de encontrar nos modelos contemporâneos de IA. Modelos populares de grandes linguagens (ChatGPT, por exemplo) e modelos de difusão latente (DALL-E e Difusão Estável) mostram como preconceitos explícitos em relação ao género, etnia e estatuto socioeconómico podem ocorrer.

Os pesquisadores descobriram que simples avisos do usuário geram imagens que perpetuam estereótipos étnicos, de gênero e de classe. Por exemplo, uma solicitação para um médico gera principalmente imagens de médicos do sexo masculino, o que é inconsistente com a realidade, uma vez que cerca de metade de todos os médicos nos países da OCDE são mulheres.

Implementação segura de IA médica

A solução para prevenir o preconceito e a discriminação não é trivial. Permitir a igualdade na saúde e promover a inclusão em estudos clínicos estão provavelmente entre as soluções primárias para combater preconceitos na IA médica.

De forma encorajadora, a Administração de Alimentos e Medicamentos dos EUA propôs recentemente tornando a diversidade obrigatória em ensaios clínicos. Esta proposta representa um movimento em direção a estudos clínicos menos tendenciosos e baseados na comunidade.

Outro obstáculo ao progresso é o financiamento limitado da investigação. Os algoritmos de IA normalmente requerem quantidades substanciais de dados, o que pode ser caro. É crucial estabelecer mecanismos de financiamento reforçados que proporcionem aos investigadores os recursos necessários para recolher dados clinicamente relevantes e adequados para aplicações de IA.

Também argumentamos que devemos sempre conhecer o funcionamento interno dos algoritmos de IA e compreender como eles chegam às suas conclusões e recomendações. Este conceito é frequentemente referido como “explicabilidade” em IA. Relaciona-se com a ideia de que humanos e máquinas devem trabalhar juntos para obter resultados ideais.

Preferimos ver a implementação da previsão em modelos como inteligência “aumentada” em vez de inteligência “artificial” – os algoritmos devem fazer parte do processo e as profissões médicas devem permanecer no controlo da tomada de decisões.

Além de incentivar o uso de algoritmos explicáveis, apoiamos a ciência transparente e aberta. Os cientistas devem publicar detalhes dos modelos de IA e da sua metodologia para aumentar a transparência e a reprodutibilidade.

O que precisamos em Aotearoa, Nova Zelândia, para garantir a implementação segura da IA ​​nos cuidados médicos? As preocupações éticas da IA ​​são lideradas principalmente por especialistas na área. No entanto, regulamentos específicos sobre IA, como o baseado na UE Lei de Inteligência Artificial foram propostas, abordando essas considerações éticas.

A lei europeia sobre IA é bem-vinda e protegerá as pessoas que trabalham no âmbito da “IA segura”. O governo do Reino Unido divulgou recentemente o seu abordagem proativa à regulamentação da IA, servindo de modelo para outras respostas governamentais à segurança da IA.

Em Aotearoa, defendemos a adoção de uma postura proativa em vez de reativa em relação à segurança da IA. Estabelecerá um quadro ético para a utilização da IA ​​nos cuidados clínicos e noutros domínios, produzindo uma IA interpretável, segura e imparcial. Consequentemente, aumentará a nossa confiança de que esta poderosa tecnologia beneficia a sociedade, ao mesmo tempo que a protege de danos.

Sobre o autor

Mangor Pedersen, Professor Associado de Psicologia e Neurociências, Universidade de Tecnologia de Auckland

Este artigo foi republicado a partir de A Conversação sob uma licença Creative Commons. Leia o artigo original.

Livros relacionados:

O corpo marca o placar: cérebro, mente e corpo na cura do trauma

de Bessel van der Kolk

Este livro explora as conexões entre trauma e saúde física e mental, oferecendo insights e estratégias para cura e recuperação.

Clique para mais informações ou para encomendar

Breath: a nova ciência de uma arte perdida

por James Nestor

Este livro explora a ciência e a prática da respiração, oferecendo insights e técnicas para melhorar a saúde física e mental.

Clique para mais informações ou para encomendar

O paradoxo das plantas: os perigos ocultos em alimentos "saudáveis" que causam doenças e ganho de peso

por Steven R. Gundry

Este livro explora os vínculos entre dieta, saúde e doença, oferecendo insights e estratégias para melhorar a saúde e o bem-estar geral.

Clique para mais informações ou para encomendar

O Código de Imunidade: O Novo Paradigma para Saúde Real e Antienvelhecimento Radical

por Joel Greene

Este livro oferece uma nova perspectiva sobre saúde e imunidade, baseando-se nos princípios da epigenética e oferecendo insights e estratégias para otimizar a saúde e o envelhecimento.

Clique para mais informações ou para encomendar

O Guia Completo para o Jejum: Cure o Seu Corpo Através do Jejum Intermitente, em Dias Alternados e Prolongado

por Dr. Jason Fung e Jimmy Moore

Este livro explora a ciência e a prática do jejum, oferecendo insights e estratégias para melhorar a saúde e o bem-estar geral.

Clique para mais informações ou para encomendar