Automated ICD Classification of Psychiatric Diagnoses: From Classical NLP to Large Language Models

Resumen Técnico: Clasificación Automatizada de Diagnósticos Psiquiátricos mediante CIE

Planteamiento del Problema
La clasificación de diagnósticos psiquiátricos en códigos de la Clasificación Internacional de Enfermedades (CIE) es una tarea administrativa crítica, pero laboriosa. En el contexto de la salud mental, donde las notas clínicas a menudo contienen descripciones subjetivas y pistas semánticas implícitas en lugar de nombres explícitos de trastornos, la codificación manual es propensa a la inconsistencia y al error. Este estudio aborda el desafío de automatizar la asignación de descripciones psiquiátricas en texto libre en español a códigos CIE estandarizados. La tarea se enmarca como un problema de clasificación multietiqueta extrema caracterizado por una distribución de "cola larga" de etiquetas, donde un pequeño número de diagnósticos comunes domina el conjunto de datos, mientras que las condiciones raras sufren un desequilibrio de clases severo.

Metodología
La investigación utilizó un conjunto de datos especializado compuesto por 145.513 descripciones de diagnósticos de salud mental en español, que fueron curados en un subconjunto de 79.048 entradas con etiquetas de verdad fundamental anotadas por expertos a través de 85 códigos CIE específicos. La metodología siguió una pipeline integral que evaluó tres niveles distintos de representación y clasificación de texto:

1. Paradigmas de Representación de Texto:

   • Basados en Frecuencia: Bolsa de Palabras (BoW) clásica y Frecuencia de Término-Frecuencia Inversa de Documento (TF-IDF).
   • Incrustaciones/Reducción de Dimensionalidad: Análisis Semántico Latente (LSA), Asignación Dirichlet Latente (LDA) y Doc2Vec.
   • Modelos de Lenguaje Grandes (LLM): Incrustaciones contextuales extraídas de modelos de última generación, incluidos e5 large, BioLORD, Llama-3-8B y varias variantes de BERT biomédico en español (por ejemplo, roberta-base-biomedical-clinical-es).

2. Estrategias de Clasificación:

   • Aprendizaje Automático: Se aplicaron clasificadores de Random Forest y XGBoost a los diversos conjuntos de características.
   • Aprendizaje Profundo: Se diseñó un Perceptrón Multicapa (MLP) con arquitectura optimizada dinámicamente (profundidad, ancho, dropout) para manejar tanto datos dispersos de alta dimensionalidad como incrustaciones densas.
   • Ajuste Fino de Extremo a Extremo: Se ajustaron finamente LLMs seleccionados (específicamente e5 large) con una cabeza de clasificación específica para la tarea. Este enfoque utilizó una estrategia de sondeo lineal seguida de ajuste fino (LP-FT) con tasas de aprendizaje separadas para la base y la cabeza, junto con ajustes en la función de pérdida para abordar el desequilibrio de clases.

3. Configuración Experimental:
   El estudio empleó una división estricta de mezcla estratificada (70% entrenamiento, 15% validación, 15% prueba) para preservar la distribución de probabilidad marginal de las etiquetas raras. La optimización de hiperparámetros se realizó utilizando Optuna con optimización bayesiana (TPE) para maximizar la puntuación micro-F1.

Resultados Clave
La evaluación experimental, medida principalmente por micro-F1 (ponderada por frecuencia) y macro-F1 (promedio no ponderado), arrojó los siguientes hallazgos:

• Superioridad de las Incrustaciones de Transformadores: Los modelos que utilizan incrustaciones basadas en transformadores superaron consistentemente a los métodos clásicos basados en frecuencia y a los modelos de temas no supervisados. Específicamente, el modelo e5 large logró el rendimiento más alto entre los enfoques de representación fija cuando se emparejó con XGBoost (F1micro ≈ 0.861).
• Sinergias de Clasificadores: El estudio identificó emparejamientos óptimos distintos: XGBoost demostró ser más robusto para incrustaciones contextuales densas, mientras que los MLPs demostraron una efectividad única para datos dispersos de alta dimensionalidad (BoW/TF-IDF), superando a los conjuntos basados en árboles en esos contextos específicos.
• Impacto del Ajuste Fino: La transición de la extracción de características estática al ajuste fino activo de extremo a extremo del modelo e5 large produjo el rendimiento máximo del estudio. El modelo ajustado finamente logró una puntuación F1micro de prueba de 0.866 y una puntuación F1macro de 0.804, con una precisión micro de 0.910 y una recuperación micro de 0.826.
• El Desafío de la Cola Larga: A pesar del alto rendimiento general, persistió una brecha significativa entre el micro-F1 y el macro-F1. El análisis reveló que, si bien las clases frecuentes se clasificaron con alta estabilidad, las condiciones raras (por ejemplo, F32.0, F65.0) a menudo resultaron en precisión cero, lo que indica que la riqueza semántica por sí sola no puede compensar completamente la escasez extrema de datos.

Significado y Contribuciones
El artículo afirma que su contribución principal radica en demostrar que adaptar los Modelos de Lenguaje Grandes a la nomenclatura clínica específica es esencial para superar la ambigüedad inherente del discurso psiquiátrico. Al aprovechar un conjunto de datos clínico masivo y del mundo real en español, la investigación valida que las incrustaciones contextuales específicas del dominio capturan pistas semánticas implícitas y terminología médica matizada mucho mejor que los enfoques tradicionales de coincidencia de palabras clave.

El estudio destaca que, si bien los sistemas automatizados pueden reducir significativamente las cargas administrativas y mejorar la consistencia de la codificación, actualmente enfrentan una limitación fundamental: están optimizados para la eficiencia administrativa (manejo de trastornos frecuentes) en lugar de la comprehensividad clínica para condiciones raras. Los autores concluyen que los avances futuros deben centrarse en mejorar la explicabilidad (mediante visualización de atención) y abordar la escasez de datos para diagnósticos raros mediante técnicas como la generación de datos sintéticos o funciones de pérdida especializadas, en lugar de depender únicamente de la escalabilidad del modelo.