Position: Medical AI Neglects Real Treatment Outcomes
Este artigo de posicionamento argumenta que a dependência da IA médica em opiniões humanas e sínteses textuais, em vez de dados reais de desfechos de tratamento provenientes de fontes observacionais e experimentais, limita severamente seu potencial, necessitando de uma mudança em direção à incorporação de dados de desfechos do mundo real tanto no treinamento quanto na avaliação para melhor alcançar o objetivo final de melhorar a saúde do paciente.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
A medicina sempre foi um campo onde a diferença entre um bom palpite e uma decisão que salva vidas pode ser uma questão de dados. Durante décadas, os médicos afastaram-se da dependência exclusiva da intuição de especialistas individuais, mudando, em vez disso, para um sistema construído sobre a experiência coletiva de milhares de pacientes. Esta abordagem, conhecida como medicina baseada em evidências, procura fundamentar cada decisão nos resultados reais dos tratamentos, em vez de apenas nas teorias por trás deles. É um sistema que pergunta não apenas o que um medicamento deveria fazer, mas o que ele realmente fez pelas pessoas que o tomaram. Nos últimos anos, uma nova ferramenta entrou neste cenário: a inteligência artificial. Estes sistemas de computador, frequentemente chamados de modelos de linguagem de grande escala, demonstraram uma capacidade notável de ler textos médicos, diagnosticar condições e prever riscos futuros de saúde. Eles são treinados em vastas bibliotecas de periódicos médicos, livros didáticos e diretrizes clínicas, aprendendo a mimetizar a linguagem e o raciocínio de especialistas humanos.
No entanto, surgiu uma lacuna crítica na forma como estes sistemas inteligentes são construídos e testados. Embora estejam a tornar-se melhores na identificação de doenças ou na previsão de quem poderá adoecer, não estão a ser ensinados a compreender as verdadeiras consequências dos tratamentos que recomendam. A questão central que enfrenta os investigadores hoje é se estas máquinas estão a aprender com as histórias escritas nos livros de medicina ou da realidade dura e muitas vezes caótica dos resultados dos pacientes. Se uma IA for treinada apenas nas opinições de especialistas e nas regras escritas em diretrizes, poderá aprender a soar como um médico sem nunca compreender verdadeiramente o que acontece quando um tratamento é aplicado a um ser humano real. Esta distinção não é apenas um detalhe académico; é a diferença entre um sistema que recita regras e um que pode genuinamente melhorar a saúde.
Um novo artigo de posição argumenta que a atual geração de inteligência artificial médica está a falhar ao não aprender com os resultados reais dos tratamentos. Os autores, investigadores do Harvard Pilgrim Health Care Institute e da Harvard Medical School, sustentam que, embora estes modelos estejam a ser alimentados com quantidades massivas de texto médico, estão a perder, em grande parte, o dado mais importante de todos: os registos do que realmente aconteceu aos pacientes após receberem cuidados. O artigo sugere que o campo se tornou demasiado focado em etapas intermediárias, como diagnosticar uma condição ou prever um risco, enquanto negligencia o objetivo último da medicina: melhorar a saúde do paciente através do tratamento. Os investigadores apontam que a maioria dos modelos de IA médica é treinada em documentos estáticos, como diretrizes clínicas, rótulos de medicamentos e relatos de casos publicados. Estas fontes representam o consenso da comunidade médica num momento específico no tempo, mas não capturam a realidade dinâmica e longitudinal de como os tratamentos se desenrolam ao longo do tempo em populações diversas.
Para ilustrar o perigo de confiar nestas fontes estáticas, os investigadores examinaram como os atuais modelos de IA lidam com cenários médicos complexos. Analisaram um caso específico envolvendo um paciente com uma forma rara de pancreatite que foi tratado com sucesso com um fármaco chamado ivacaftor. No mundo real, este tratamento funcionou, mas o rótulo oficial do medicamento, que é um documento aprovado pelo governo utilizado para treinar muitos sistemas de IA, não listava este uso específico. Quando os investigadores perguntaram a um modelo de IA para avaliar a utilidade deste fármaco para o paciente, o modelo, baseando-se no rótulo oficial, concluiu incorretamente que o fármaco seria ineficaz. O modelo estava essencialmente a seguir as regras do livro em vez da realidade da recuperação do paciente. Este erro ocorreu mesmo que a IA tivesse acesso ao relato de caso que descrevia o tratamento bem-sucedido; o treino do modelo no rótulo rígido do medicamento sobrepôs-se à evidência do resultado real. Os investigadores descobriram que este problema é generalizado. Quando testaram outros modelos contra cenários semelhantes envolvendo diretrizes clínicas, os sistemas falharam frequentemente em reconhecer situações complexas onde um médico poderia precisar de se desviar das regras padrão para ajudar um paciente específico.
O artigo destaca ainda que a forma como estes sistemas de IA são avaliados é parte do problema. Muitos benchmarks, ou testes utilizados para medir o desempenho de uma IA, dependem de especialistas humanos para avaliar as respostas. Os investigadores argumentam que pedir a um grupo de médicos que concordem com uma resposta não é o mesmo que saber a verdade. Numa análise, descobriram que uma parte significativa dos critérios utilizados para avaliar as respostas da IA eram simplesmente citações diretas de diretrizes, em vez de reflexos de sucesso clínico real. Isto cria uma lógica circular onde a IA é treinada em diretrizes, testada contra diretrizes e, depois, elogiada por seguir diretrizes, mesmo que essas diretrizes estejam desatualizadas ou não se apliquem a cada indivíduo. Os investigadores sugerem que esta abordagem limita o potencial da inteligência artificial para se tornar um verdadeiro parceiro na medicina, capaz de descobrir novos insights em vez de apenas repetir o que já foi escrito.
Os autores propõem uma mudança fundamental na forma como a IA médica é desenvolvida. Em vez de treinar estes sistemas primordialmente em texto, recomendam o uso de dados longitudinais de pacientes, tais como registos de saúde eletrónicos e reclamações de seguros, que acompanham quais os tratamentos administrados e o que aconteceu aos pacientes posteriormente. Estes registos contêm a matéria-prima da evidência do mundo real, mostrando as relações de causa e efeito entre uma terapia e a recuperação ou declínio de um paciente. Os investigadores sugerem também que o teste destes modelos deve afastar-se de pedir que recitem diretrizes e aproximar-se de pedir que prevejam os resultados de experiências do mundo real ou que emulem os resultados de ensaios clínicos. Ao fundamentar o treino e a avaliação destes sistemas nos resultados reais dos pacientes, o campo poderá mover-se em direção a um futuro onde a inteligência artificial ajude os médicos a tomar decisões que não sejam apenas teoricamente sólidas, mas praticamente eficazes para as pessoas que têm à frente.
O artigo não sugere que a atual IA médica seja inútil ou que os benchmarks existentes estejam inteiramente sem valor. Os investigadores reconhecem que estas ferramentas progrediram rapidamente e demonstraram capacidades valiosas em áreas como o diagnóstico e a recuperação de informação. No entanto, argumentam que o campo atingiu um ponto em que continuar a confiar nos mesmos métodos de treino e avaliação impedirá o próximo salto em frente. O objetivo não é descartar o conhecimento contido na literatura médica, mas garantir que os sistemas de inteligência artificial construídos para utilizar esse conhecimento estejam também ancorados na realidade do cuidado ao paciente. Ao incorporar os resultados reais dos tratamentos no núcleo do seu desenvolvimento, os investigadores acreditam que a IA médica pode evoluir de um sistema que lê as regras para um que compreende as consequências, ajudando, em última análise, a escrever melhores diretrizes e a melhorar a saúde dos pacientes em todo o mundo.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.