Interpretability Methods for Causal Predictions in Biomedical AI: A Systematic Review of Approaches and Evaluation Practices
Esta revisão sistemática de 47 estudos de IA biomédica revela que, embora métodos de interpretabilidade como SHAP e LIME sejam amplamente utilizados para explicar modelos de predição causal, sua avaliação baseia-se predominantemente em métricas baseadas em propriedades e raramente valida a validade causal real, destacando uma lacuna crítica entre a explicação do modelo e a inferência causal.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
No mundo da medicina moderna, a inteligência artificial tornou-se uma ferramenta poderosa para detectar padrões que os olhos humanos podem deixar passar. Esses sistemas de computador podem escanear milhares de imagens médicas ou vasculhar anos de registros de pacientes para prever quem pode adoecer ou como uma doença irá progredir. No entanto, existe uma diferença crucial entre saber que duas coisas acontecem juntas e saber que uma coisa realmente causa a outra. Um computador pode aprender que uma marca específica na pele aparece frequentemente ao lado de uma doença grave, mas isso não significa que a marca cause a doença; pode ser apenas um efeito colateral de algo inteiramente diferente. Se um médico confiar em um computador que apenas vê essas conexões, ele poderá tomar a decisão errada ao tentar tratar um paciente, porque tratar a marca não curará a doença. Essa lacuna entre detectar um padrão e compreender a verdadeira causa é o desafio central que os pesquisadores estão tentando resolver.
Uma nova revisão sistemática de Albert Schulle, da Universidade Técnica de Munique, investiga quão bem as ferramentas atuais nos ajudam a entender essas causas. O estudo analisou centenas de artigos para ver se os métodos usados para explicar como a IA faz suas previsões são realmente capazes de revelar causas biológicas verdadeiras. Os pesquisadores descobriram que, embora os cientistas estejam ansiosos para usar essas ferramentas de explicação, eles estão usando majoritariamente as erradas para o trabalho. As ferramentas mais populares, que atribuem pontuações de importância a diferentes características como idade ou pressão arterial, são excelentes em mostrar o que o computador notou, mas são terríveis em mostrar o que realmente causou o resultado. Na verdade, a revisão descobriu que a avaliação explícita da validade causal foi rara, aparecendo em apenas 9% dos estudos examinados, o que significa que a vasta maioria nunca testou de fato se suas explicações estavam dizendo a verdade sobre causa e efeito.
A revisão examinou 47 estudos publicados entre 2016 e 2025 que tentaram aplicar esses métodos de explicação a problemas médicos onde causa e efeito importam, como prever como um paciente responderá a um medicamento específico. Os pesquisadores descobriram que a grande maioria desses estudos, cerca de 68%, baseou-se em métodos de atribuição de características. Estas são técnicas que destacam quais variáveis de entrada o modelo de computador utilizou com mais intensidade para tomar uma decisão. As duas ferramentas mais comuns foram o SHAP e o LIME, que atuam como um holofote, iluminando os pontos de dados que o modelo considerou mais importantes. Embora essas ferramentas sejam muito boas em mostrar quais números o computador observou, a revisão argumenta que elas são fundamentalmente limitadas porque apenas descrevem associações. Elas podem dizer a um médico que a pressão alta foi um fator chave em uma previsão de risco, mas não podem dizer ao médico se baixar a pressão arterial realmente prevenirá o ataque cardíaco.
O estudo também buscou outros métodos mais avançados que poderiam chegar mais perto da verdade. Cerca de 15% dos estudos utilizaram explicações contrafatuais, que imaginam o que teria acontecido se um paciente tivesse feito algo de forma diferente, como tomar um medicamento diferente. Estas são conceitualmente mais próximas de como os médicos pensam sobre causa e efeito, mas ainda assim foram usadas em uma pequena fração da pesquisa. Ainda mais raras foram os métodos baseados em conceitos, que tentam explicar decisões usando ideias compreensíveis por humanos, como "tamanho do tumor", em vez de pontos de dados brutos, aparecendo em apenas 6% dos estudos. A revisão descobriu que o campo está fortemente inclinado para as ferramentas mais simples que explicam associações, criando o risco de que os médicos confundam uma correlação com uma causa.
Talvez a descoberta mais impressionante diga respeito a como essas explicações são testadas. Quando pesquisadores constroem um modelo e o explicam, eles precisam verificar se a explicação é boa. A revisão descobriu que 72% dos estudos verificaram a fidelidade, o que simplesmente significa checar se a explicação corresponde ao que o modelo de computador realmente fez. Outros 43% verificaram a estabilidade, garantindo que a explicação não mudasse aleatoriamente toda vez que o modelo rodava. Estas são verificações técnicas importantes, mas não respondem à pergunta mais importante: a explicação está certa sobre a causa? A revisão descobriu que apenas 9% dos estudos tentaram validar se a explicação refletia de fato uma relação causal verdadeira. Nos poucos casos em que os pesquisadores tentaram verificar a causalidade, eles se basearam principalmente em perguntar a especialistas humanos se a explicação "parecia" plausível, em vez de usar testes rigorosos para prová-la.
Este hiato entre o que as ferramentas fazem e o que o campo necessita é significativo. O autor aponta que usar uma ferramenta desenhada para explicar associações para resolver um problema causal é como usar um mapa de padrões de tráfego para planejar uma rota de caminhada; o mapa pode mostrar por onde os carros passam, mas não dirá qual caminho é seguro para caminhar. A revisão sugere que a abordagem atual é metodologicamente fragmentada, com pesquisadores aplicando poderosas ferramentas de explicação a modelos que nunca foram construídos para entender causa e efeito em primeiro lugar. O artigo conclui que, para que a inteligência artificial seja verdadeiramente confiável na medicina, o campo deve ir além de apenas verificar se uma explicação parece consistente. É necessário desenvolver novas formas de testar se uma explicação é de fato correta sobre a biologia subjacente, utilizando melhores parâmetros de referência e suposições mais claras sobre como as doenças funcionam. Até lá, a promessa de uma IA que possa realmente explicar por que um paciente está doente permanece fora de alcance.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.