MIRROR: Multimodal Intelligent Radiology Reasoning and Observation Reporter

No mundo do diagnóstico por imagem médica, um programa de computador que observa uma foto do peito humano e detecta uma doença não é mais uma fantasia; é uma realidade que já chegou. Esses programas, construídos com base em aprendizado profundo (deep learning), podem escanear milhares de raios-X e identificar padrões de doenças que frequentemente se equiparam à habilidade de um especialista humano. No entanto, para que um médico confie em tal máquina, o computador deve fazer mais do que apenas sussurrar um número. Ele precisa se explicar. Ele precisa apontar para o local na imagem onde vê o problema e descrever por que acha que aquele ponto está doente. O perigo surge quando um computador tenta escrever um relatório para um médico. Se o computador tiver permissão para olhar para a imagem enquanto escreve, ele pode inventar detalhes que parecem perfeitamente profissionais, mas que nunca foram realmente vistos pela parte do sistema que realiza o diagnóstico. Isso cria uma lacuna silenciosa entre o que a máquina sabe e o que ela diz saber, uma lacuna que pode levar um médico a cometer um erro perigoso.

Uma equipe de pesquisa construiu um protótipo de sistema chamado MIRROR para resolver este problema específico de confiança. O sistema é projetado com uma regra estrita: a parte do software que escreve o relatório nunca tem permissão para ver a imagem do raio-X. Em vez disso, a imagem é primeiro analisada por um classificador que simplesmente lista quais doenças estão presentes e qual a probabilidade delas. Uma segunda ferramenta então destaca a área geral na imagem onde essas doenças aparecem. Apenas esta lista de achados e localizações é passada para o motor de escrita. Como o redator não consegue ver a imagem, é fisicamente impossível que ele invente uma nova doença ou descreva um detalhe que não recebeu. Os pesquisadores testaram este sistema em raios-X de tórax e descobriram que, embora o computador fosse muito bom em classificar quais doenças eram mais prováveis, ele tinha dificuldades para tomar uma decisão final sobre a maioria delas. Mais importante ainda, eles descobriram que, mesmo quando o computador escrevia um relatório fluente e com tom profissional, ele frequentemente incluía medições médicas específicas que o sistema nunca havia de fato calculado.

A equipe construiu este fluxo de trabalho em três etapas distintas para garantir que o relatório final permanecesse honesto. Primeiro, uma rede neural, que é um tipo de programa de computador modelado após o céreamente humano, escaneia o raio-X e atribui uma pontuação de probabilidade a quatorze tipos diferentes de condições torácicas. Segundo, uma ferramenta de localização olha para a mesma imagem e desenha um mapa aproximado mostrando onde o computador acha que a doença está, traduzindo essa localização em um nome simples como "pulmão superior esquerdo". Terceiro, um modelo de linguagem utiliza apenas a lista de doenças, seus escores e suas localizações nomeadas para escrever o relatório médico final. A escolha de design crucial aqui é que o modelo de linguagem nunca vê o raio-X em si. É como um secretário ao qual é entregue uma lista digitada de fatos e de quem se pede para escrever uma história, mas que é proibido de olhar os documentos originais. Isso garante que a lista de doenças no relatório corresponda exatamente à lista que o computador encontrou, evitando que o sistema alucine uma condição que nunca foi detectada.

Quando os pesquisadores testaram este sistema em uma grande coleção de raios-X de tórax, os resultados revelaram um quadro complexo do que a máquina pode e não pode fazer. O computador foi surpreendentemente bom em compreender a estrutura das imagens. Ele conseguia distinguir entre um tórax saudável e um doente, e classificou a probabilidade de doenças de uma forma que foi muito superior ao acaso. Para algumas condições, como fluido nos pulmões ou um coração aumentado, o sistema foi bastante preciso. No entanto, quando solicitado a tomar uma decisão final sobre se uma doença estava presente ou ausente, o sistema permaneceu em silêncio sobre onze das quatorze condições para as quais foi treinado. Ele simplesmente não se sentiu confiante o suficiente para dizer "sim" ou "não" para a maioria delas. Este silêncio não foi uma escolha de design, mas um resultado dos dados de treinamento e da baixa resolução das imagens utilizadas no teste. O sistema aprendeu a reconhecer padrões, mas não aprendeu a fazer as escolhas difíceis exigidas para um diagnóstico clínico.

Talvez a descoberta mais reveladora tenha vindo ao observar os relatórios que o sistema gerou. Como a parte de escrita do sistema era tão fluente, ela produziu textos que soavam exatamente como um relatório escrito por um médico humano. No entanto, os pesquisadores descobriram que essa fluência veio com um custo oculto. Em um exemplo, o relatório afirmava que o tamanho do coração estava normal e que os ângulos na base dos pulmões estavam limpos. O sistema nunca mediu o tamanho do coração, nem havia verificado esses ângulos. Ele simplesmente preencheu essas frases porque são expressões comuns em relatórios médicos. O sistema estava correto sobre as doenças que detectou, mas estava inventando os detalhes ao redor delas. Isso demonstrou um limite crítico: o sistema podia garantir que a lista de doenças era real e auditável, mas não podia garantir que as frases que as descreviam fossem verdadeiras. O relatório estava fundamentado nas evidções para as doenças que encontrou, mas desfundamentado nos detalhes que inventou para completar a história.

Os pesquisadores também mostraram que esta arquitetura poderia ser adaptada para outros tipos de exames médicos, como ressonâncias magnéticas cerebrais ou tomografias computadorizadas de crânio, simplesmente alterando uma lista de nomes e termos, em vez de reescrever todo o código do computador. Isso sugere que o método de separar a detecção da escrita é uma ferramenta flexível que poderia funcionar em diferentes campos médicos. No entanto, a equipe teve o cuidado de declarar que este é um protótipo de pesquisa, não um dispositivo médico pronto para hospitais. O sistema não foi testado em pacientes reais, e os pesquisadores ainda não mediram se ter esses relatórios realmente ajuda os médicos a tomarem decisões melhores. O trabalho serve como uma prova de conceito, mostrando que é possível construir um sistema onde os fatos são controlados, mesmo que a prosa ao redor deles não seja.

No fim, o valor deste trabalho reside na clareza de seus limites. O sistema prova que você pode construir uma máquina que não consegue mentir sobre o que encontrou, porque a parte que escreve o relatório está isolada da imagem. Mas também prova que uma máquina ainda pode soar confiante sobre coisas que ela desconhece. Os pesquisadores concluem que, para decisões de alto risco na medicina, precisamos ser muito cuidadosos com o que confiamos. Podemos confiar na lista de achados se o sistema for construído desta forma, mas não podemos confiar no texto circundante, a menos que seja verificado por um humano. O sistema não substitui o médico; em vez disso, oferece uma nova maneira de ver onde a máquina está certa e onde ela está apenas supondo, transformando uma caixa preta em um processo transparente que um humano pode auditar.