Generated Context versus Governed State: Functional Conditions for Accountable Longitudinal Clinical Reasoning

Durante décadas, los registros digitales de nuestra salud no han sido más que archivadores digitales. Cuando un médico escribe una nota sobre la presión arterial de un paciente, o una enfermera registra un cambio en la medicación, esa información se almacena como un documento, muy parecido a una carta en un cajón. Para comprender la condición actual de un paciente, un humano debe leer estas cartas, reconstruir la historia y mantener la imagen completa en su mente. Esto siempre ha sido el trabajo del clínico: reconstruir la verdad de la salud de una persona a partir de una colección dispersa de papeles. En años recientes, han llegado potentes sistemas informáticos conocidos como modelos de lenguaje de gran tamaño, capaces de leer estos documentos con una velocidad y fluidez increíbles. Pueden resumir la historia de un paciente en segundos, respondiendo preguntas que antes le tomaban horas de investigación a un humano. Pero aunque estos sistemas son excelentes leyendo el texto, no mantienen intrínsecamente un registro separado y organizado de lo que es realmente cierto sobre el paciente en un momento dado. Tratan la historia del paciente como un flujo de palabras para ser procesadas, en lugar de un estado vivo que debe ser rastreado.

Esta brecha entre leer con fluidez y conocer con precisión es el problema central abordado por un nuevo artículo de investigadores de MyndwareMed. Los autores argumentan que tratar la historia médica de un paciente como una simple colección de texto es un error fundamental al intentar construir inteligencia artificial que pueda ser confiada para el cuidado a largo plazo. Proponen que el razonamiento clínico no es una prueba de comprensión lectora, sino un problema de seguimiento de una realidad cambiante. Así como un robot que navega por una habitación debe actualizar constantemente su mapa de dónde están las paredes y las puertas, un sistema médico debe mantener un registro continuo, gobernado y de un estado del paciente. Los investigadores distinguen entre dos formas muy diferentes de manejar la información. La primera es el "contexto generado", donde la computadora reúne documentos relevantes para una sola pregunta y luego los olvida una vez que se da la respuesta. La segunda es el "estado gobernado", donde el sistema mantiene un registro persistente, versionado y auditable de lo que cree que es cierto, actualizado únicamente por reglas estrictas que separan lo que fue observado de lo que fue inferido.

El artículo no afirma que estos nuevos modelos computacionales sean malos leyendo. De hecho, a menudo son mejores que los humanos encontrando patrones en el texto. El problema es que leer el registro no es lo mismo que conocer al paciente. Los investigadores muestran que los sistemas actuales a menudo confunden una nota escrita con un hecho médico, o un documento faltante con una condición ausente. Por ejemplo, si un paciente tuvo un problema renal hace diez años pero no se han realizado pruebas en el último año, un sistema estándar podría afirmar con confianza que los riñones del paciente están bien porque la nota más reciente no dice nada malo. Un sistema con un estado gobernado, sin embargo, reconocería que la última medición conocida es antigua y que el estado actual es desconocido. Identificaría explícitamente la brecha de información en lugar de llenarla con una suposición confiada. Esta distinción es vital porque en medicina, la diferencia entre "sabemos que esto es cierto" y "no hemos visto evidencia de esto" puede determinar si un tratamiento es seguro o peligroso.

Para resolver esto, los autores desglosan el desordenoso proceso del razonamiento médico en cinco objetos distintos que nunca deben mezclarse. Primero, está el estado real del paciente, que es la condición física real de su cuerpo; ningún sistema puede poseer esto directamente, solo estimarlo. Segundo, están las observaciones, que son las mediciones específicas o notas tomadas por el equipo de atención. Tercero, está la evidencia, que es la materia prima de datos ingeridos por el sistema, completa con un registro de cuándo fue escrita, cuándo fue recibida y quién la escribió. Cuarto, está la creencia, que es la mejor suposición actual del sistema sobre la condición del paciente basada en toda la evidencia que ha visto hasta ahora. Finalmente, está la simulación, que es un escenario hipotético utilizado para probar preguntas de tipo "¿qué pasaría si?", como qué sucedería si un paciente tomara un medicamento diferente. El artículo argumenta que la mayoría de los sistemas de inteligencia artificial actuales colapsan estas cinco cosas separadas en una sola, tratando las notas acumuladas como si fueran la verdad actual. Esto conduce a errores donde la información vieja es tratada como nueva, o donde una suposición se confunde con un hecho.

Los investigadores proponen un nuevo estándar para cómo deben construirse estos sistemas, organizado en un marco escalonado que mide qué tan bien un sistema gobierna el estado del paciente. En el nivel más bajo, un sistema podría simplemente almacenar texto. En niveles superiores, comienza a organizar ese texto en hechos estructurados con fuentes y marcas de tiempo claras. El nivel más avanzado requiere que el sistema mantenga un objeto de "creencia" separado que sea distinto de la evidencia bruta. Este objeto de creencia debe ser capaz de mostrar incertidumbre, como admitir que falta una medición o que dos médicos diferentes han dado informes contradictorios. Crucialmente, este sistema debe ser capaz de reproducir su propio historial. Si un médico pregunta: "¿Qué creías sobre la condición cardíaca de este paciente hace tres meses?", el sistema debe ser capaz de reconstruir el estado exacto de su conocimiento en ese momento, basado en la evidencia disponible entonces, no en la evidencia disponible hoy. Esta capacidad de mirar hacia atrás y ver cómo cambió la comprensión del sistema a lo largo del tiempo es lo que los autores llaman accountability (rendición de cuentas/responsabilidad).

El artículo también introduce una forma específica de manejar la información faltante. En un sistema estándar, si un registro no menciona una alergia, el sistema podría asumir que el paciente no tiene alergias. En un sistema gobernado, la ausencia de información se trata como un tipo específico de dato. El sistema aprende a distinguir entre "no se documentaron alergias" (lo que significa que la pregunta nunca se hizo), "el paciente reporta no tener alergias" (un negativo reportado) y "prueba de alergia negativa" (un negativo observado). Cada uno de estos conlleva un nivel diferente de certeza y requiere una respuesta clínica diferente. Al tipificar estas ausencias correctamente, el sistema evita el hábito peligroso de asumir que el silencio significa seguridad. Los autores demuestran esto con un ejemplo detallado de un paciente con problemas renales a lo largo de seis años. Un sistema estándar, mirando solo la nota más reciente, podría recomendar un procedimiento médico riesgoso. Un sistema gobernado, rastreando la línea de tiempo de las mediciones y los espacios entre ellas, identificaría correctamente que la función renal actual del paciente es desconocida y recomendaría una nueva prueba antes de proceder.

Este trabajo se presenta como un plano conceptual más que como un producto terminado. Los autores son claros en que aún no han probado que esta nueva arquitectura conduzca a mejores resultados para los pacientes en un ensayo del mundo real. En cambio, han definido las condiciones necesarias para que tal sistema exista y han proporcionado una forma de auditar cualquier sistema futuro para ver si cumple con dichas condiciones. Argumentan que el enfoque actual en hacer que los modelos de lenguaje sean más inteligentes y rápidos está perdiendo el punto. El verdadero desafío no es la inteligencia del lector, sino el gobierno del estado que lee. Sugieren que para que la inteligencia artificial sea verdaderamente responsable en un entorno hospitalario, debe ir más allá de simplemente generar texto y comenzar a mantener un registro persistente, versionado y auditable de lo que sabe y de lo que no sabe. El artículo concluye delineando un programa de investigación para construir estos sistemas, comenzando con la infraestructura básica para el seguimiento de la evidencia y avanzando hacia un modelo completo de cómo cambian los pacientes a lo largo del tiempo. El objetivo es convertir la vaga promesa de una "IA responsable" en un conjunto concreto de requisitos de ingeniería que puedan ser verificados, probados y confiados.