Intelligence Preserves The System It Assists

No hospital moderno, uma revolução silenciosa está em curso, onde computadores estão aprendendo a ler imagens médicas e a prever resultados de pacientes. Durante anos, a forma padrão de medir o sucesso neste campo tem sido um simples concurso: colocar um algoritmo de computador contra um médico humano e ver quem obtém a resposta correta com mais frequência. Se a máquina pontuar mais alto, ela é aclamada como um avanço; se o médico vencer, a máquina é considerada um fracasso. Esta abordagem assume que o médico e o computador são rivais competindo pelo mesmo trabalho, e que o objetivo é encontrar um preditor único e perfeito que possa substituir o julgamento humano. No entanto, esta visão ignora uma realidade fundamental da medicina: o ato de tratar um paciente altera o paciente. Quando um cirurgião corta tecido, uma enfermeira ajusta um gotejamento de medicação ou um médico inicia uma nova terapia, a situação que eles estão observando já não é a mesma de um momento antes. A própria ação tomada para ajudar o paciente altera o curso da doença, tornando uma previsão baseada em dados passados potencialmente inútil no exato momento em que é mais necessária.

Um novo estudo de Maurice Antony Ewing desafia esta mentalidade competitiva ao observar como computadores e médicos podem trabalhar juntos em vez de um contra o outro. Em vez de perguntar qual agente é mais preciso no geral, a pesquisa faz uma pergunta diferente: quando é que as suas forças e fraquezas se complementam? O estudo sugere que, embora os computadores sejam excelentes a prever o que acontecerá se nada mudar, eles frequentemente tropeçam quando um tratamento remodela ativamente a condição de um paciente. Por outro lado, os médicos humanos são habilidosos a notar quando uma situação está a desviar-se do caminho esperado, mas podem perder padrões subtis em vastas quantidades de dados. A ideia central é que o verdadeiro valor de um computador num hospital pode não estar em ser o melhor preditor, mas em atuar como um sensor especializado que soa um alarme especificamente quando a condição do paciente está a mudar de formas inesperadas devido à intervenção médica.

Para testar esta ideia, o investigador examinou cinco tipos diferentes de dados médicos, que variam desde os movimentos de fração de segundo de um braço cirúrgico robótico até à progressão lenta, de vários meses, do tratamento do cancro. Em cada caso, um modelo de computador padrão foi primeiro treinado para aprender o caminho "normal" que um paciente ou procedimento deve seguir. Por exemplo, na cirurgia robótica, o modelo aprendeu a velocidade e a direção típicas de uma agulha a passar através do tecido. Na unidade de cuidados intensivos, aprendeu como a pressão arterial de um paciente costuma responder à medicação. O estudo introduziu então um segundo modelo, "aumentado", desenhado para fazer algo diferente: em vez de apenas prever o futuro, monitorizou momentos em que os eventos reais se afastavam significamente do caminho previsto. Os investigadores não revelaram as fórmulas matemáticas específicas ou o código exato utilizado para construir este segundo modelo, mantendo esses detalhes como uma implementação protegida, mas mediram o quão bem este sistema desempenhou em comparação com médicos humanos e modelos de computador padrão.

Os resultados revelaram um padrão impressionante que se manteve constante em todos os cinco contextos médicos. Em situações onde tudo corria sem problemas e a condição do paciente era estável, o modelo aumentado foi, na verdade, pior do que tanto o médico humano quanto o computador padrão. Por exemplo, nos dados da unidade de cuidados intensivos, o modelo aumentado estava correto apenas cerca de 25,6% das vezes em estados estáveis, enquanto o médico humano estava correto 34,6% das vezes. No entanto, a história mudou completamente quando a condição do paciente começou a mudar inesperadamente. Nesses momentos de "desvio", onde a fisiologia do paciente ou o procedimento cirúrgico estava a divergir da norma, o modelo aumentado tornou-se o líder claro. Nos mesmos dados da unidade de cuidados intensivos, quando a condição do paciente estava instável, o modelo aumentado estava correto 46,9% das vezes, superando significativamente o médico humano, que estava correto apenas 20,5% das vezes, e o computador padrão, que estava correto 19,6% das vezes.

Este efeito de cruzamento não foi uma coincidência; apareceu consistentemente através dos diferentes tipos de dados. Na cirurgia robótica, o sistema sinalizou momentos logo antes de um cirurgião mudar a sua técnica, como passar de amarrar um nó para passar uma agulha, identificando estas transições como momentos em que as regras usuais de movimento já não se aplicavam. Na vídeo laparoscopia, o sistema destacou fases complexas de cirurgia, como quando um cirurgião estava a retrair uma vesícula biliar, onde a cena visual se tornava caótica e imprevisível. No caso do tratamento do cancro cerebral, o sistema só se provou útil ao olhar para a série completa de tratamento ao longo de semanas, porque a "deformação" da trajetória da doença era um processo lento que não podia ser visto numa única instantâneo. O estudo descobriu que o valor deste sistema aumentado não dependia de quão boa era a previsão inicial. Mesmo quando o modelo de computador padrão era muito preciso a prever o futuro, o sistema aumentado ainda encontrava valor em detetar os momentos em que essa previsão deixava de ser válida.

A investigação também destacou que esta utilidade depende inteiramente do tempo. Tal como uma câmara precisa da velocidade de obturação certa para capturar um objeto em movimento rápido sem o desfocar, este sistema precisava de observar a quantidade certa de tempo para ver a mudança. No estudo do cancro, observar janelas de tempo curtas e desconectadas tornou o sistema menos eficaz, mas observar a série de tratamento completa permitiu-lhe ver a deformação da trajetória da doença. Isto sugere que o sistema não é um substituto universal para um médico, mas uma ferramenta especializada que se torna essencial apenas quando a situação está em fluxo. O estudo afirma explicitamente que não pretende ter resolvido o problema da cirurgia ou tratamento autónomo, nem fornece um produto de software pronto para instalação em hospitais. Os métodos específicos de como o sistema deteta estas mudanças permanecem não divulgados, e as descobertas baseiam-se na observação de dados passados, em vez de testes num centro cirúrgico ao vivo.

Em última análise, o artigo argumenta que o futuro da inteligência artificial médica não reside na construção de máquinas que tentem ser melhores médicos do que os humanos, mas na criação de sistemas que compreendam quando as regras do jogo mudaram. A colaboração mais eficaz pode ser aquela em que um computador padrão lida com as partes rotineiras e previsíveis de um caso, enquanto um sistema especializado e consciente da intervenção vigia os momentos em que a condição do paciente está a mudar de formas que desafiam o plano. Nestes momentos críticos de desvio, o sistema pode oferecer um tipo diferente de inteligência, uma que reconhece que o chão sob a previsão se moveu. O estudo conclui que a pergunta certa para o campo não é se uma máquina pode vencer um médico, mas sim onde as suas informações são mais complementares, garantindo que a tecnologia preserve o sistema que assiste, ajudando os clínicos a navegar nos momentos imprevisíveis do cuidado.