From Documents to Spans: Code-Centric Learning for LLM-based ICD Coding

Aquí presento un resumen técnico detallado del artículo "From Documents to Spans: Code-Centric Learning for LLM-based ICD Coding" en español.

1. Problema: Limitaciones de los Enfoques Actuales de Codificación ICD

La codificación de la Clasificación Internacional de Enfermedades (ICD) es una tarea crítica en el sistema de salud para el reembolso y el análisis de datos, pero es laboriosa y propensa a errores humanos. Aunque los Métodos de Modelos de Lenguaje Grande (LLM) han demostrado una mejor generalización que los métodos discriminativos tradicionales, el ajuste fino (fine-tuning) de LLMs para esta tarea enfrenta tres desafíos principales:

1. Cobertura Limitada de Códigos: Los conjuntos de datos públicos (como MIMIC-IV) cubren solo una pequeña fracción del espacio de códigos ICD (aprox. el 10% de los 70k códigos ICD-10-CM). Esto limita severamente la capacidad del modelo para generalizar a códigos no vistos (unseen codes).
2. Falta de Interpretabilidad: La mayoría de los conjuntos de datos proporcionan solo las etiquetas de código sin evidencia explícita que los respalde. El ajuste fino en estos datos fomenta la predicción directa de códigos sin fundamentación textual, lo que dificulta la revisión humana y la colaboración humano-IA.
3. Ineficiencia Computacional: Los documentos clínicos son largos, y el ajuste fino de LLMs sobre textos extensos es computacionalmente costoso debido a la complejidad cuadrática en relación con la longitud de entrada.

2. Metodología: Aprendizaje Centrado en el Código (Code-Centric Learning - CCL)

Los autores proponen un nuevo marco de entrenamiento que cambia el paradigma de la supervisión a nivel de documento completo a la supervisión a nivel de fragmentos de evidencia (spans). La intuición central es que si un LLM aprende a asignar el código correcto a un fragmento de evidencia específico, implícitamente aprenderá a reconocer y localizar dicha evidencia dentro de un documento clínico completo.

El marco CCL se basa en dos estrategias clave:

A. Estrategia de Entrenamiento Mixto

En lugar de entrenar solo con documentos completos, el modelo se entrena con una combinación de dos tipos de instancias:

1. Datos a Nivel de Documento: Documentos clínicos completos anotados con evidencia y códigos ICD (datos escasos pero valiosos, como MDACE). Esto enseña al modelo a agregar evidencia de todo el contexto y asignar múltiples códigos.
2. Datos a Nivel de Fragmento (Span-level): Pares de "evidencia-código" donde el modelo recibe un fragmento de texto corto y debe predecir el código correspondiente. Esto es eficiente computacionalmente y permite inyectar conocimiento específico de códigos a gran escala.

La función de pérdida combina ambas tareas:
$$\min_{\theta} [L_{SFT}(f_\theta(x), (E, C)) + L_{SFT}(f_\theta(e), c)]$$
Donde $x$ es el documento, $E$ son las evidencias, $C$ son los códigos, $e$ es un fragmento de evidencia y $c$ es el código asociado.

B. Expansión de Datos Centrada en el Código

Para lograr una cobertura completa de todos los códigos ICD, los autores construyen una base de conocimiento multinivel compuesta por tres tipos de pares evidencia-código:

1. Pares Dorados (Gold): Extraídos de recursos oficiales (Índice Alfabético y Lista Tabular de ICD-10). Son de alta calidad pero limitados en variedad.
2. Pares de Plata (Silver): Extraídos automáticamente de conjuntos de datos públicos (como MIMIC-IV) utilizando LLMs para identificar fragmentos de texto que apoyan los códigos etiquetados.
3. Pares Sintéticos (Synthetic): Para los códigos que no aparecen en las fuentes anteriores, se utilizan LLMs avanzados (como GPT-5.1) para inferir y sintetizar evidencia plausible basándose en códigos vecinos y conocimiento jerárquico de ICD.

3. Contribuciones Clave

• Nuevo Paradigma de Entrenamiento: Se propone un marco que aborda simultáneamente la cobertura de códigos, la interpretabilidad y la eficiencia, desplazando la supervisión de documentos largos a fragmentos escalables.
• Estrategia Híbrida: La combinación de datos documentales (para contexto global) y datos de fragmentos (para conocimiento específico de códigos) permite que modelos pequeños aprendan tareas complejas de nivel de documento.
• Generación de Evidencia Explicativa: El modelo no solo predice códigos, sino que extrae primero los fragmentos de evidencia que los justifican, permitiendo la intervención humana y la corrección.
• Escalabilidad y Eficiencia: Demuestra que se puede lograr un rendimiento comparable a modelos propietarios masivos utilizando modelos de escala pequeña (ej. Llama-3.1-8B) y reduciendo drásticamente el tiempo de entrenamiento.

4. Resultados Experimentales

Los experimentos se realizaron en los conjuntos de datos MDACE (datos de alta calidad con evidencia anotada) y ACI-Bench (datos sintéticos para evaluar generalización fuera de distribución).

• Rendimiento Superior: El método CCL superó consistentemente a los baselines más fuertes (incluyendo métodos de ajuste fino tradicionales, métodos de agentes como CLH y enfoques Chain-of-Thought) utilizando el mismo modelo base (ej. Qwen3-4B o Llama3.1-8B).
  • En ACI-Bench, CCL mejoró el Micro-F1 en un 2.4% y el Macro-F1 en un 8.2% sobre el ajuste fino estándar con Llama3.1-8B.
  • Logró un rendimiento comparable a modelos propietarios mucho más grandes (como Qwen3-235B).
• Generalización a Códigos No Vistos: La mejora más significativa se observó en códigos que no aparecían en los datos de entrenamiento a nivel de documento. La precisión en estos códigos no vistos aumentó de un 8.8% a un 50.0% gracias a la expansión de datos basada en fragmentos.
• Eficiencia de Entrenamiento:
  • El tiempo total de entrenamiento se redujo en un 80% (de 210 horas a 40 horas en una GPU H20).
  • Esto se logró entrenando con solo 200 documentos anotados con evidencia, más 150k pares de fragmentos, en lugar de 100k documentos completos sin anotación de evidencia.
• Interpretabilidad y Colaboración Humana:
  • El modelo logra un Recall de evidencia del 74.0% (frente al 0% en métodos que solo predicen códigos).
  • Cuando se reemplaza la evidencia generada por el modelo con evidencia anotada por humanos durante la inferencia, el rendimiento (Micro-F1) salta del 59.3% al 78.0%, demostrando el potencial de colaboración humano-IA.

5. Significado e Impacto

Este trabajo es significativo porque redefine cómo se deben entrenar los LLMs para tareas médicas de alta precisión y gran escala de etiquetas.

1. Viabilidad en Entornos Reales: Al reducir los requisitos computacionales y permitir el uso de modelos más pequeños y locales, CCL hace que la automatización de la codificación ICD sea más accesible para hospitales con recursos limitados y estrictas restricciones de privacidad.
2. Resolución del Problema de "Códigos No Vistos": La estrategia de expansión de datos sintéticos y basada en fragmentos resuelve uno de los mayores cuellos de botella en la codificación automática: la incapacidad de los modelos para manejar la larga cola de códigos raros o no presentes en los conjuntos de datos de entrenamiento.
3. Confianza y Auditoría: Al integrar la extracción de evidencia como parte intrínseca del proceso de generación, el sistema facilita la auditoría y la corrección por parte de codificadores humanos, un requisito indispensable en el sector salud.

En conclusión, el aprendizaje centrado en el código (CCL) demuestra que la calidad de los datos (fragmentos de evidencia específicos) y la estrategia de entrenamiento (mixta) son más determinantes para el rendimiento que simplemente aumentar el tamaño del modelo o la cantidad de documentos crudos.