Generated Context versus Governed State: Functional Conditions for Accountable Longitudinal Clinical Reasoning

Por décadas, os registros digitais da nossa saúde não passaram de arquivos de documentos digitais. Quando um médico escreve uma nota sobre a pressão arterial de um paciente, ou uma enfermeira registra uma mudança na medicação, essa informação é armazenada como um documento, tal como uma carta em uma gaveta. Para compreender a condição atual de um paciente, um ser humano deve ler essas cartas, montar o quebra-cabeça e manter a imagem completa em sua mente. Isso sempre foi o trabalho do clínico: reconstruir a verdade sobre a saúde de uma pessoa a partir de uma coleção dispersa de papéis. Nos últimos anos, sistemas de computador poderosos conhecidos como modelos de linguagem de grande escala chegaram, capazes de ler esses documentos com velocidade e fluência incríveis. Eles podem resumir o histórico de um paciente em segundos, respondendo a perguntas que antes levavam horas para um humano pesquisar. Mas, embora esses sistemas sejam excelentes em ler o texto, eles não mantêm inerentemente um registro separado e organizado do que é realmente verdadeiro sobre o paciente em qualquer dado momento. Eles tratam o histórico do paciente como um fluxo de palavras a serem processadas, em vez de um estado vivo a ser monitorado.

Essa lacuna entre ler com fluência e saber com precisão é o problema central abordado por um novo artigo de pesquisadores da MyndwareMed. Os autores argumentam que tratar o histórico médico de um paciente como uma simples coleção de textos é uma falha fundamental ao tentar construir uma inteligência artificial que possa ser confiada para cuidados de longo prazo. Eles propõem que o raciocínio clínico não é um teste de compreensão de leitura, mas um problema de rastreamento de uma realidade em mudança. Assim como um robô navegando em uma sala deve constantemente atualizar seu mapa de onde estão paredes e portas, um sistema médico deve manter um registro contínuo e governado do estado de um paciente. Os pesquisadores distinguem duas formas muito diferentes de lidar com a informação. A primeira é o "contexto gerado", onde o computador reúne documentos relevantes para uma única pergunta e depois os esquece assim que a resposta é dada. A segunda é o "estado governado", onde o sistema mantém um registro persistente, versionado e auditável do que ele acredita ser verdade, atualizado apenas por regras estritas que separam o que foi observado do que foi inferido.

O artigo não afirma que esses novos modelos de computador são ruins em leitura. Na verdade, eles são frequentemente melhores que os humanos em encontrar padrões em textos. O problema é que ler o registro não é o mesmo que conhecer o paciente. Os pesquisadores mostram que os sistemas atuais frequentemente confundem uma nota escrita com um fato médico, ou um documento ausente com uma condição ausente. Por exemplo, se um paciente teve um problema renal há dez anos, mas nenhum teste foi feito no último ano, um sistema padrão poderia afirmar confiantemente que os rins do paciente estão bem porque a nota mais recente não diz nada de errado. Um sistema com um estado governado, no entanto, reconheceria que a última medição conhecida é antiga e que o status atual é desconhecido. Ele sinalizaria explicitamente a lacuna de informação em vez de preenchê-la com um palpite confiante. Essa distinção é vital porque, na medicina, a diferença entre "sabemos que isso é verdade" e "não temos evidências disso" pode determinar se um tratamento é seguro ou perigoso.

Para resolver isso, os autores decompõem o processo desordenado do raciocínio médico em cinco objetos distintos que nunca devem ser misturados. Primeiro, há o estado real do paciente, que é a condição física real de seu corpo; nenhum sistema pode jamais possuí-lo diretamente, apenas estimá-lo. Segundo, há as observações, que são as medições específicas ou notas feitas pela equipe de cuidados. Terceiro, há a evidência, que é o dado bruto ingerido pelo sistema, completo com um registro de quando foi escrito, quando foi recebido e quem o escreveu. Quarto, há a crença, que é o melhor palpite atual do sistema sobre a condição do paciente com base em toda a evidência que ele viu até agora. Finalmente, há a simulação, que é um cenário hipotético usado para testar perguntas do tipo "e se", como o que aconteceria se um paciente tomasse um medicamento diferente. O artigo argumenta que a maioria dos sistemas de inteligência artificial atuais colapsa essas cinco coisas distintas em uma só, tratando as notas acumuladas como se fossem a verdade atual. Isso leva a erros onde informações antigas são tratadas como novas, ou onde um palpite é confundido com um fato.

Os pesquisadores propõem um novo padrão para como esses sistemas devem ser construídos, organizado em uma estrutura em camadas que mede o quão bem um sistema governa o estado do paciente. No nível mais baixo, um sistema pode apenas armazenar texto. Em níveis mais altos, ele começa a organizar esse texto em fatos estruturados com fontes e carimbos de data/hora claros. O nível mais avançado exige que o sistema mantenha um objeto de "crença" separado, que é distinto da evidência bruta. Este objeto de crença deve ser capaz de mostrar incerteza, como admitir que uma medição está faltando ou que dois médicos deram relatórios conflitantes. Crucialmente, este sistema deve ser capaz de reproduzir seu próprio histórico. Se um médico perguntar: "O que você acreditava sobre a condição cardíaca deste paciente três meses atrás?", o sistema deve ser capaz de reconstruir o estado exato de seu conhecimento naquele momento, com base na evidência disponível então, não na evidência disponível hoje. Essa capacidade de olhar para trás e ver como o entendimento do sistema mudou ao longo do tempo é o que os autores chamam de accountability (responsabilidade/prestação de contas).

O artigo também introduz uma forma específica de lidar com informações ausentes. Em um sistema padrão, se um registro não menciona uma alergia, o sistema pode assumir que o paciente não tem alergias. Em um sistema governado, a ausência de informação é tratada como um tipo específico de ponto de dados. O sistema aprende a distinguir entre "nenhuma alergia documentada" (significando que a pergunta nunca foi feita), "paciente relata nenhuma alergia" (um negativo relatado) e "teste de alergia negativo" (um negativo observado). Cada um desses carrega um nível diferente de certeza e requer uma resposta clínica diferente. Ao tipar essas ausências corretamente, o sistema evita o hábito perigoso de assumir que o silêncio significa segurança. Os autores demonstram isso com um exemplo detalhado de um paciente com problemas renais ao longo de seis anos. Um sistema padrão, olhando apenas para a nota mais recente, poderia recomendar um procedimento arriscado. Um sistema governado, rastreando a linha do tempo das medições e as lacunas entre elas, identificaria corretamente que a função renal atual do paciente é desconhecida e recomendaria um novo teste antes de proceder.

Este trabalho é apresentado como um esboço conceitual, e não como um produto finalizado. Os autores são claros ao afirmar que ainda não provaram que esta nova arquitetura leva a melhores resultados para os pacientes em um teste de mundo real. Em vez disso, eles definiram as condições necessárias para que tal sistema exista e forneceram uma maneira de auditar qualquer sistema futuro para ver se ele atende a essas condições. Eles argumentam que o foco atual em tornar os modelos de linguagem mais inteligentes e rápidos está perdendo o ponto principal. O verdadeiro desafio não está na inteligência do leitor, mas na governança do estado que ele lê. Eles sugerem que, para a inteligência artificial ser verdadeiramente responsável em um ambiente hospitalar, ela deve ir além de simplesmente gerar texto e começar a manter um registro persistente, versionado e auditável do que sabe e do que não sabe. O artigo conclui delineando um programa de pesquisa para construir esses sistemas, começando pela infraestrutura básica para rastrear evidências e avançando para um modelo completo de como os pacientes mudam ao longo do tempo. O objetivo é transformar a vaga promessa de "IA responsável" em um conjunto concreto de requisitos de engenharia que possam ser verificados, testados e confiáveis.