CARE: Privacy-Compliant Agentic Reasoning with Evidence Discordance

1. Planteamiento del Problema

El artículo aborda un desafío crítico en la toma de decisiones clínicas asistida por Inteligencia Artificial: la discordancia de evidencia. En entornos reales de cuidados intensivos (UCI), a menudo ocurren situaciones donde la evidencia subjetiva (síntomas reportados por el paciente, evaluaciones de sedación) contradice la evidencia objetiva (signos fisiológicos, presión arterial).

• El Dilema: Los modelos de lenguaje grandes (LLM) existentes suelen fallar en estos escenarios. Si se utiliza un modelo propietario potente (cerrado) para analizar los datos directamente, se viola la privacidad del paciente. Si se utiliza un modelo local (de código abierto) para preservar la privacidad, este suele tener un rendimiento inferior y tiende a colapsar en predicciones unilaterales (sesgo de clase) cuando enfrenta información conflictiva.
• El Objetivo: Desarrollar un marco que combine la capacidad de razonamiento superior de los modelos propietarios con la privacidad garantizada de la inferencia local, capaz de resolver conflictos entre síntomas tranquilizadores y signos fisiológicos de riesgo.

2. Metodología: El Marco CARE

Los autores proponen CARE (Privacy-Compliant Agentic REasoning), un marco de razonamiento multi-etapa que separa la guía global del razonamiento específico del paciente.

A. Dataset: MIMIC-DOS

Para evaluar este problema de manera controlada, construyeron MIMIC-DOS, derivado del dataset público MIMIC-IV.

• Criterio de selección: Incluye exclusivamente casos donde existe discordancia: el dolor reportado es bajo (0) y el estado de sedación es calmado, pero la presión arterial media (MAP) es baja (<65 mmHg), indicando inestabilidad hemodinámica oculta.
• Tarea: Predicción binaria de si un paciente experimentará un empeoramiento de la disfunción orgánica en las siguientes 12 horas (definido por un aumento de ≥2 puntos en la puntuación SOFA).

B. Arquitectura de CARE (4 Etapas)

El flujo de trabajo divide el proceso para mantener los datos sensibles locales:

1. Generación de Rúbrica y Asignación de Estado Inicial:
   • Un modelo propietario (remoto) genera una estructura de categorías (rúbrica) basada en la semántica de la tarea, sin ver datos del paciente.
   • El modelo local asigna un estado inicial al paciente basándose en sus datos privados y la rúbrica recibida.
2. Adquisición de Datos Consciente de la Categoría:
   • El modelo local evalúa si la evidencia actual es suficiente. Si no lo es, decide qué características adicionales (ej. lactato, gasto urinario) deben recuperarse basándose en el estado actual inferido.
3. Razonamiento de Transición (Núcleo del sistema):
   • El modelo propiedad recibe solo una vista abstracta: la categoría actual, los tipos de características disponibles y la estructura de transición de la rúbrica. Nunca ve los valores numéricos reales del paciente.
   • Proporciona "guías de transición" estructuradas (qué estados son plausibles).
   • El lado local combina estas guías con los datos reales del paciente mediante recomputación y fusión restringida para actualizar el estado del paciente.
4. Toma de Decisiones Final:
   • El modelo local genera la decisión final (ej. "Observar", "Tratar", "Investigar") basándose en la traza de razonamiento acumulada y el estado actualizado, manteniendo los datos crudos siempre dentro del entorno local.

3. Contribuciones Clave

1. Identificación del Problema: Destacan la discordancia entre signos y síntomas como un desafío subexplorado para los sistemas de soporte de decisiones clínicas basados en LLM.
2. Nuevo Benchmark (MIMIC-DOS): Introducen un dataset diseñado específicamente para evaluar la capacidad de razonamiento bajo conflicto de evidencia, aislando casos donde los modelos tradicionales suelen fallar.
3. Marco CARE: Proponen un flujo de trabajo híbrido asimétrico que permite el uso de modelos propietarios para la lógica de alto nivel sin comprometer la privacidad de los datos del paciente, demostrando que la separación de la guía y la ejecución es viable y efectiva.

4. Resultados Experimentales

Los autores compararon CARE con varios baselines en MIMIC-DOS:

• Baselines: Inferencia de un solo paso (single-pass), votación mayoritaria de múltiples agentes y sistemas de debate multi-agente (RSMAD, ConfMAD).
• Desempeño:
  • Los baselines (incluyendo modelos propietarios en un solo paso) sufrieron de colapso de clase, tendiendo a predecir mayoritariamente una sola clase (generalmente "no deterioro") debido al sesgo en los datos conflictivos.
  • CARE logró el mejor rendimiento general, siendo el único enfoque donde tanto la Tasa de Verdaderos Positivos (TPR) como la Tasa de Verdaderos Negativos (TNR) superaron el 50% simultáneamente.
  • Con un modelo local (GPT-OSS) y un modelo propietario (GPT-5), CARE alcanzó una Precisión Balanceada (BA) de 0.5460 y un MCC de 0.0921, superando significativamente a los enfoques de un solo paso y debate.
• Estudio de Ablación: Se demostró que la Etapa 3 (Razonamiento de Transición) es crucial; sin ella, el sistema se vuelve excesivamente conservador y pierde sensibilidad.

5. Significado e Impacto

• Privacidad vs. Rendimiento: El trabajo demuestra que es posible utilizar la inteligencia de los modelos LLM más avanzados (cerrados) para tareas críticas de salud sin exponer datos sensibles, resolviendo la dicotomía tradicional entre privacidad y capacidad de razonamiento.
• Robustez ante Conflictos: CARE demuestra que un enfoque estructurado y multi-etapa es superior a las inferencias de un solo paso cuando la evidencia es ruidosa o contradictoria, un escenario común en la medicina real que los modelos actuales ignoran.
• Dirección Futura: Sugiere que los sistemas de IA clínica deben evolucionar hacia arquitecturas de agentes que gestionen explícitamente la incertidumbre y la discordancia de datos, en lugar de tratar de predecir directamente sobre conjuntos de datos planos.

En resumen, CARE representa un avance significativo hacia la implementación segura y efectiva de LLMs en entornos clínicos de alto riesgo, donde la privacidad es innegociable y la calidad de la evidencia es inherentemente conflictiva.