Resumen Técnico: Medición y Mitigación del Colapso de Plantillas en la Generación de Informes de TC 3D

1. Declaración del Problema: Colapso de Plantillas (Template Collapse)

El artículo identifica un modo de falla crítico en los modelos de visión-lenguaje (VLM) 3D modernos utilizados para la generación de informes radiológicos, denominado Colapso de Plantillas. Aunque estos modelos producen informes lingüísticamente fluidos que obtienen buenas puntuaciones en métricas estándar de PLN (p. ej., BLEU, ROUGE), exhiben una precisión clínica y una diversidad de salida críticamente bajas.

En lugar de generar descripciones específicas del paciente, los VLM autorregresivos tienden a converger en un pequeño conjunto de plantillas genéricas y "normales". Este comportamiento es impulsado por las restricciones únicas de la imagen médica 3D:

• Escasez de Datos: Los conjuntos de datos de informes de TC 3D son significativamente más pequeños que los de radiografías de tórax 2D.
• Desequilibrio de Etiquetas: Los hallazgos patológicos son extremadamente escasos; la mayoría de los hallazgos están ausentes en cualquier escaneo dado.
• Señales Débiles: Los codificadores volumétricos luchan por alinear grandes volúmenes 3D con semánticas clínicas finas.

Bajo estas condiciones, los objetivos estándar de predicción del siguiente token incentivan el "aprendizaje de atajos" (shortcut learning). Los modelos aprenden a reproducir frases frecuentes y genéricas (que a menudo describen la anatomía normal) para maximizar las métricas de fluidez, mientras suprimen hallazgos patológicos raros pero críticos. Esto resulta en informes que son lingüísticamente plausibles pero diagnósticamente informativos o incluso perjudiciales debido a la omisión de anomalías.

2. Metodología: Marco CLarGen

Para abordar el Colapso de Plantillas, los autores proponen CLarGen, un marco desacoplado que separa explícitamente la detección clínica (qué decir) de la síntesis de lenguaje (cómo decirlo). A diferencia de los enfoques de ajuste fino (fine-tuning) de extremo a extremo, CLarGen opera en tres etapas distintas:

Etapa 1: Transformador de Consulta Latente (LQT) para la Percepción Clínica

• Arquitectura: Un codificador de imagen 3D congelado (p. ej., HLIP) genera características $Z$. Un Transformador de Consulta Latente con $C=18$ consultas de patología aprendibles presta atención a estas características mediante atención cruzada.
• Mecanismo: Cada consulta corresponde a una patología específica (p. ej., derrame pleural, atelectasia). El modelo extrae evidencia específica de la patología y modela las correlaciones entre hallazgos mediante autoatención.
• Entrenamiento: El LQT se entrena con una pérdida focal (focal loss) para manejar el desequilibrio extremo de clases, optimizando la detección de patologías multietiqueta independientemente de la generación de lenguaje.

Etapa 2: Recuperación Guiada por Patología

• Objetivo: Recuperar informes ejemplares que sean visualmente similares al TC de la consulta pero que, crucialmente, sean clínicamente consistentes con las patologías predichas de la Etapa 1.
• Puntuación: Se calcula una puntuación de alineación clínica ($s_{find}$) que recompensa los informes que contienen hallazgos predichos de alta probabilidad y penaliza aquellos que contienen hallazgos improbables.
• Selección: Un algoritmo de selección codiciosa consciente de la cobertura elige iterativamente $k$ ejemplares para asegurar que el conjunto recuperado cubra colectivamente todas las patologías predichas de alta confianza, evitando la recuperación de solo plantillas "normales".

Etapa 3: Síntesis de LLM Médico Congelado

• Arquitectura: Un LLM médico grande y pre-entrenado (MedGemma-27B) se mantiene congelado durante el entrenamiento.
• Entrada: El LLM recibe:
  1. Etiquetas de patología predichas del LQT.
  2. Los $k$ informes ejemplares recuperados.
  3. Metadatos del paciente (edad, sexo).
• Razonamiento: El LLM sintetiza el informe final razonando sobre los hallazgos detectados y el contexto recuperado. Mantener el LLM congelado evita que se sobreajuste a los atajos específicos del conjunto de datos o aprenda el sesgo de la "plantilla normal", preservando sus capacidades de razonamiento clínico pre-entrenadas.

3. Contribuciones Clave

1. Identificación del Colapso de Plantillas: El artículo caracteriza formalmente un modo de falla donde los VLM sacrifican la precisión diagnóstica por la fluidez, convergiendo en plantillas genéricas y suprimiendo hallazgos raros.
2. Medición Sistemática: Los autores proponen un marco de diagnóstico multidimensional para medir este fallo, que incluye:
   • Fidelidad Clínica: Macro-F1, Precisión, Recall y puntuaciones CRG.
   • Diversidad de Salida: Puntuaciones Distinct-n y vocabulario de n-gramas efectivo ($effV_n$) para detectar la degeneración semántica.
   • Análisis de Sesgo: Similitud de Sesgo de Normalidad (NBS) y métricas de supervivencia estratificadas por prevalencia ($Survrare$ vs. $Survcommon$) para cuantificar la supresión de patologías raras.
3. Marco CLarGen: Un pipeline de generación aumentada por recuperación, guiado por la patología, que desacopla la percepción de la síntesis, demostrando que la fundamentación clínica explícita es necesaria para mitigar el colapso de plantillas.

4. Resultados Experimentales

El marco fue evaluado en el conjunto de datos CT-RATE (25,678 estudios de TC de tórax) contra líneas base de vanguardia (CT-CHAT, SAMF, Reg2Rg, HULU-Med).

• Precisión Clínica: CLarGen logró un Macro-F1 de 0.486 y una puntuación CRG de 0.472, superando significativamente a la mejor línea base (HULU-Med, F1=0.194). Esto representa una mejora de ~150% en la precisión de detección clínica.
• Supervivencia de Hallazgos Raros: Las líneas base mostraron una brecha masiva entre la recuperación de patologías comunes y raras (p. ej., SAMF tuvo una recuperación de 0.000 para hallazgos raros). CLargen logró un rendimiento equilibrado con $Survrare$= 0.628** y **$Survcommon$ = 0.622, recuperando eficazmente los hallazgos raros al mismo ritmo que los comunes.
• Diversidad: Las líneas base exhibieron vocabularios de n-gramas efectivos bajos (p. ej., SAMF $effV_2$ = 271 frente a Ground Truth 2402), lo que indica una fuerte dependencia de las plantillas. CLarGen alcanzó el 76% del repertorio de bigramas efectivo de la verdad fundamental (ground truth).
• LLM-as-a-Judge: Mientras que las líneas base puntuaron alto en "Estilo Radiológico", cayeron drásticamente en "Precisión Fáctica" y "Seguridad Clínica". CLarGen mantuvo puntuaciones altas en todas las dimensiones, incluyendo el estilo.
• Escalado del Codificador Visual: A diferencia de los VLM de extremo a extremo, cuyo rendimiento se estancaba independientemente de la calidad del codificador, el rendimiento de CLarGen escaló fielmente con codificadores visuales más fuertes (recuperando el 89-95% del potencial de detección bruto).

5. Significado y Reivindicaciones

El artículo argumenta que la fundamentación clínica explícita y medible es esencial para la generación robusta de informes de TC 3D. Los autores afirman que:

• Los objetivos estándar de optimización de texto son insuficientes para tareas médicas donde la precisión es primordial; inherentemente sesgan a los modelos hacia plantillas "normales" frecuentes en regímenes de baja señal y alto desequilibrio.
• Desacoplar la percepción clínica (detección) de la síntesis de lenguaje permite al sistema atender a señales visuales débiles que los pipelines conjuntos pasan por alto.
• Mantener el LLM congelado evita que el modelo aprenda atajos específicos del conjunto de datos, asegurando que actúe como un módulo de razonamiento genuino en lugar de un predictor de coincidencia de patrones.

Los autores concluyen que la generación de informes de TC 3D confiable requiere ir más allá de una generación de texto más fuerte y, en su lugar, priorizar la integración de evidencia clínica explícita. Reconocen las limitaciones respecto al alcance actual (solo conjunto de datos CT-RATE) y la dependencia de la calidad de los codificadores médicos 3D ascendentes.