Automated ICD Classification of Psychiatric Diagnoses: From Classical NLP to Large Language Models

Riepilogo Tecnico: Classificazione Automatica ICD delle Diagnosi Psichiatriche

Enunciato del Problema
La classificazione delle diagnosi psichiatriche in codici della Classificazione Internazionale delle Malattie (ICD) è un compito amministrativo critico ma laborioso. Nel contesto della salute mentale, dove le note cliniche contengono spesso descrizioni soggettive e indizi semantici impliciti piuttosto che nomi espliciti dei disturbi, la codifica manuale è soggetta a incoerenza ed errori. Questo studio affronta la sfida di automatizzare la mappatura delle descrizioni psichiatriche in testo libero in lingua spagnola verso codici ICD standardizzati. Il compito è inquadrato come un problema di classificazione multi-etichetta estremo caratterizzato da una distribuzione "a coda lunga" delle etichette, dove un piccolo numero di diagnosi comuni domina il dataset mentre le condizioni rare soffrono di uno squilibrio di classe severo.

Metodologia
La ricerca ha utilizzato un dataset specializzato composto da 145.513 descrizioni diagnostiche di salute mentale in spagnolo, curate in un sottoinsieme di 79.048 voci con etichette di verità fondamentale annotate da esperti su 85 codici ICD specifici. La metodologia ha seguito una pipeline completa che valutava tre livelli distinti di rappresentazione del testo e classificazione:

1. Paradigmi di Rappresentazione del Testo:

   • Basati sulla frequenza: Classici Bag of Words (BoW) e Term Frequency-Inverse Document Frequency (TF-IDF).
   • Embedding/Riduzione della dimensionalità: Analisi Semantica Latente (LSA), Allocazione Dirichlet Latente (LDA) e Doc2Vec.
   • Modelli Linguistici di Grande Formato (LLM): Embedding contestuali estratti da modelli all'avanguardia tra cui e5 large, BioLORD, Llama-3-8B e varie varianti BERT biomediche in spagnolo (ad esempio, roberta-base-biomedical-clinical-es).

2. Strategie di Classificazione:

   • Machine Learning: Classificatori Random Forest e XGBoost sono stati applicati ai vari set di caratteristiche.
   • Deep Learning: Un Perceptron Multistrato (MLP) con architettura ottimizzata dinamicamente (profondità, larghezza, dropout) è stato progettato per gestire sia dati sparsi ad alta dimensionalità sia embedding densi.
   • Fine-tuning End-to-End: LLM selezionati (specificamente e5 large) sono stati sottoposti a fine-tuning con un classificatore specifico per il compito. Questo approccio ha utilizzato una strategia di linear probing seguita da fine-tuning (LP-FT) con tassi di apprendimento separati per il backbone e il classificatore, insieme a regolazioni della funzione di perdita per affrontare lo squilibrio di classe.

3. Configurazione Sperimentale:
   Lo studio ha impiegato una rigorosa suddivisione stratificata casuale (70% addestramento, 15% validazione, 15% test) per preservare la distribuzione di probabilità marginale delle etichette rare. L'ottimizzazione degli iperparametri è stata condotta utilizzando Optuna con ottimizzazione bayesiana (TPE) per massimizzare il punteggio micro-F1.

Risultati Chiave
La valutazione sperimentale, misurata principalmente tramite micro-F1 (ponderato per frequenza) e macro-F1 (media non ponderata), ha prodotto le seguenti scoperte:

• Superiorità degli Embedding Transformer: I modelli che utilizzano embedding basati su transformer hanno costantemente superato i metodi classici basati sulla frequenza e i modelli tematici non supervisionati. Nello specifico, il modello e5 large ha raggiunto le prestazioni più elevate tra gli approcci a rappresentazione fissa quando accoppiato con XGBoost (F1micro ≈ 0,861).
• Sinergie dei Classificatori: Lo studio ha identificato accoppiamenti ottimali distinti: XGBoost si è rivelato il più robusto per gli embedding contestuali densi, mentre gli MLP hanno dimostrato un'efficacia unica per i dati sparsi ad alta dimensionalità (BoW/TF-IDF), superando gli ensemble basati su alberi in quei contesti specifici.
• Impatto del Fine-tuning: Il passaggio dall'estrazione di caratteristiche statica al fine-tuning attivo end-to-end del modello e5 large ha prodotto le prestazioni di picco dello studio. Il modello sottoposto a fine-tuning ha raggiunto un punteggio F1micro di test di 0,866 e un punteggio F1macro di 0,804, con una precisione micro di 0,910 e un richiamo micro di 0,826.
• La Sfida della Coda Lunga: Nonostante l'alta prestazione complessiva, è rimasto un divario significativo tra micro-F1 e macro-F1. L'analisi ha rivelato che, mentre le classi frequenti sono state classificate con alta stabilità, le condizioni rare (ad esempio, F32.0, F65.0) hanno spesso portato a una precisione zero, indicando che la ricchezza semantica da sola non può compensare pienamente la scarsità estrema dei dati.

Significato e Contributi
Il documento afferma che il suo contributo principale risiede nel dimostrare che l'adattamento dei Modelli Linguistici di Grande Formato a una nomenclatura clinica specifica è essenziale per superare l'ambiguità intrinseca del discorso psichiatrico. Sfruttando un massiccio dataset clinico reale in spagnolo, la ricerca convalida che gli embedding contestuali specifici del dominio catturano indizi semantici impliciti e terminologia medica sfumata molto meglio degli approcci tradizionali basati sulla corrispondenza di parole chiave.

Lo studio sottolinea che, sebbene i sistemi automatizzati possano ridurre significativamente i carichi amministrativi e migliorare la coerenza della codifica, attualmente affrontano una limitazione fondamentale: sono ottimizzati per l'efficienza amministrativa (gestione dei disturbi frequenti) piuttosto che per la completezza clinica delle condizioni rare. Gli autori concludono che i progressi futuri devono concentrarsi sul miglioramento della spiegabilità (tramite visualizzazione dell'attenzione) e sull'affrontare la scarsità di dati per le diagnosi rare attraverso tecniche come la generazione di dati sintetici o funzioni di perdita specializzate, piuttosto che affidarsi esclusivamente al scaling del modello.