Resumen Técnico: CARE – Una Capa de Seguridad Conforme para la Resumición Médica

1. Planteamiento del Problema

Los modelos de lenguaje de gran tamaño (LLM) se están implementando cada vez más en tareas de resumición médica, como la redacción de notas clínicas, la conversión de hallazgos radiológicos y la generación de resúmenes de alta hospitalaria. Sin embargo, estos sistemas exhiben dos modos de fallo críticos que amenazan la seguridad clínica:

1. Omisiones: Contenido médicamente importante del texto fuente está ausente en el resumen. Los estudios reportan tasas de omisión que oscilan entre el 3–4% en entornos controlados hasta el 47% en evaluaciones a nivel de encuentro.
2. Alucinaciones: El resumen contiene afirmaciones no respaldadas por el texto fuente. Las tasas varían del 1–2% en entornos controlados hasta el 42% en encuentros de carácter abierto.

Los métodos de detección actuales dependen de puntuaciones heurísticas o evaluaciones de tipo "LLM-como-juez" que producen puntuaciones no calibradas. Estos enfoques carecen de un mecanismo principista para seleccionar umbrales de decisión o controlar formalmente la tasa de errores omitidos. En consecuencia, el despliegue enfrenta un dilema: los umbrales permisivos permiten que errores inseguros lleguen a los clínicos, mientras que los umbrales conservadores abruman a los clínicos con un exceso de alertas, erosionando las ganancias de eficiencia de la documentación asistida por IA. Además, los métodos de predicción conforme existentes para la generación de texto suelen operar al nivel de la respuesta (absteniéndose de o reescribiendo salidas completas), lo cual no está alineado con los flujos de trabajo clínicos que requieren una guía dirigida a nivel de oración en lugar del rechazo total de un borrador.

2. Metodología: Marco de Trabajo CARE

Los autores proponen CARE (Conformal Assessment for Risk Evaluation), una capa de seguridad post-hoc y agnóstica al modelo que superpone banderas de omisión y alucinación calibradas sobre los resúmenes generados por LLM sin reentrenar el resumidor subyacente. CARE utiliza el Control de Riesgo Conforme (CRC) para proporcionar garantías de muestra finita y libres de distribución.

2.1 Descripción General del Pipeline

El sistema opera en cuatro fases:

1. Etiquetado de Oráculo (Offline): Un LLM de alta capacidad (GPT-5) genera etiquetas de referencia para un conjunto de calibración. Estas etiquetas definen:
   • Soporte (Support): Si una oración del resumen está respaldada por la fuente ($Y_{sup}$).
   • Importancia (Importance): Si una oración de la fuente es médicamente importante ($Y_{imp}$), inferida a partir de un resumen de referencia escrito por un clínico.
   • Cobertura (Coverage): Si una oración de la fuente está representada en el resumen ($Y_{cov}$).
     Una "omisión verdadera" se define como una oración importante de la fuente que no es cubierta por el resumen.
2. Puntuación por Modelo Juez (Online/Offline): Un modelo "juez" más económico (GPT-5-mini) califica las oraciones durante el despliegue. En lugar de etiquetas binarias, utiliza una rúbrica de tres niveles (Respaldado/Esencial, Parcial/Relevante, No Respaldado/Omitido) mapeada a puntuaciones $\{0, 0.5, 1\}$. Para reducir la estocasticidad, el juez proporciona $m=5$ réplicas independientes por oración, las cuales se promedian.
3. Control de Riesgo Conforme (Offline): El sistema selecciona umbrales que garantizan que los riesgos se mantengan por debajo de los niveles especificados por el usuario ($\alpha$).
   • Controlador de Alucinaciones: Marca las oraciones del resumen con puntuaciones de soporte $\hat{p}_{sup} \le \lambda$. Limita la probabilidad de que un documento contenga al menos una oración alucinada no marcada.
   • Controlador de Omisiones: Expone las oraciones de la fuente donde la importancia $\hat{p}_{imp} \ge \tau$ Y la no-cobertura $\hat{p}_{ncov} \ge \gamma$. Limita la fracción esperada de omisiones verdaderas no presentadas para revisión.
4. Despliegue: CARE aplica los umbrales calibrados $(\lambda^*, \tau^*, \gamma^*)$ a nuevos resúmenes, devolviendo el borrador original aumentado con banderas rojas (alucinaciones) y banderas azules (omisiones importantes).

2.2 Innovación Técnica Clave: Calibración Conjunta 2D

Un concepto central del artículo es que el control de omisiones es inherentemente un problema de calibración bidimensional sobre la importancia ($\tau$) y la no-cobertura ($\gamma$).

• El Desafío: Calibrar solo una dimensión (por ejemplo, fijando $\gamma=0$) o utilizar descomposiciones marginales (por ejemplo, dividiendo el presupuesto de riesgo $\alpha/2$ por dimensión mediante el límite de unión o union bound) puede violar el límite de riesgo objetivo o ser excesivamente conservador, presentando demasiadas oraciones.
• La Solución: CARE emplea el procedimiento Learn-Then-Test Fixed-Sequence (LTT-FST). Define un orden determinista e independiente de los datos de la cuadrícula $(\tau, \gamma)$ (priorizando la carga de trabajo menor) y selecciona el primer par de umbrales que satisface el límite de riesgo empírico. Este enfoque preserva las garantías formales mientras minimiza el número de oraciones presentadas.

3. Contribuciones Clave

1. Un Marco Conforme para Omisión y Alucinación: CARE introduce el primer marco que proporciona garantías de riesgo a nivel de oración, post-hoc y agnósticas al modelo, para ambos modos de fallo en la generación de texto médico abstractivo.
2. Calibración Conjunta Bidimensional: Los autores demuestran que la calibración parcial viola los límites de riesgo, mientras que las descomposiciones marginales son válidas pero ineficientes. La calibración conjunta sobre todo el espacio $(\tau, \gamma)$ preserva las garantías mientras presenta hasta 5 veces menos oraciones que las líneas base calibradas alternativas.
3. Validación Multidominio: El marco fue validado en cinco tareas de resumición médica (diálogo-a-nota, síntesis de curso hospitalario, radiología, resúmenes de alta y resúmenes biomédicos) utilizando 2,123 documentos.
4. Evidencia de Utilidad Clínica: Un estudio preliminar intra-sujetos con tres clínicos mostró que las banderas de CARE mejoraron la detección de omisiones en 28.6 puntos porcentuales (del 50.4% al 79.0%) al tiempo que redujeron ligeramente el tiempo de revisión por oración.

4. Resultados Experimentales

Los experimentos se realizaron en cinco conjuntos de datos (ACI-Bench, MIMIC-BHC, MIMIC-CXR, Priv-DS, SumPubMed) con un nivel de riesgo objetivo de $\alpha = 0.15$.

• Garantías de Seguridad: A través de 100 re-divisiones aleatorias de calibración/prueba, CARE satisfizo el límite de riesgo objetivo para ambos controladores. Las tasas de violación medias empíricas se mantuvieron en o por debajo de $\alpha$ (por ejemplo, las violaciones de alucinaciones oscilaron entre 5.7% y 12.8%; las violaciones de omisiones entre 9.3% y 14.0%).
• Eficiencia: CARE marcó entre el 8% y el 24% de las oraciones del resumen por alucinaciones y presentó entre el 11% y el 66% de las oraciones de la fuente para omisiones (dependiendo de la compresión y longitud del dataset).
• Comparación con Baselines:
  • Baselines LTT-FST (CARE) superó significativamente a las baselines de 1D y de Límite de Unión (Union Bound) en la reducción de la carga de trabajo de revisión manteniendo las garantías. Por ejemplo, en ACI-Bench, LTT-FST presentó el 18.9% de las oraciones frente al 48.9% de 1D-Imp.
  • Las baselines no calibradas (ej. Max-F1, Fixed-0.5) a menudo redujeron la carga de trabajo pero violaron significativamente los límites de riesgo (ej. tasas de violación de hasta 47.8%).
  • La Calibración Parcial: Dejar la dimensión de cobertura sin calibrar resultó en un fallo catastrófico, con tasas de violación alcanzando el 49.8%.
• Robustez: El sistema se mantuvo robusto ante variaciones en el tamaño de la calibración (requiriendo solo ~100 documentos etiquetados), el diseño del prompt y la elección del resumidor (probado con Llama-3.3-70B, Gemini 2.5 Pro y Claude Opus 4.6).

5. Significación y Reivindicaciones

El artículo sostiene que las garantías de seguridad a nivel de oración son factibles para la resumición médica asistida por LLM. Al ir más allá de la abstención a nivel de respuesta, CARE ofrece un mecanismo ajustable (mediante el presupuesto de riesgo $\alpha$) para equilibrar el riesgo residual frente al esfuerzo de revisión del clínico.

Los autores enfatizan que sus garantías son marginales (sobre la distribución de calibración) y de muestra finita. Reconocen limitaciones, incluyendo la dependencia de la intercambiabilidad entre los datos de calibración y los de despliegue, el potencial de errores en el etiquetado del oráculo (aunque se validó contra anotaciones clínicas) y la naturaleza binaria de las etiquetas de cobertura. El estudio clínico preliminar se presenta como "evidencia direccional" más que como una prueba definitiva del impacto clínico downstream, señalando la necesidad de estudios más amplios y orientados al flujo de trabajo para evaluar la confianza, la carga de alertas y el comportamiento de anulación.

En última instancia, CARE demuestra que el control de riesgo conforme puede operacionalizarse para proporcionar intervenciones dirigidas y accionables para el clínico, permitiendo un despliegue más seguro de los LLM en la documentación médica de alto riesgo.