From Documents to Spans: Code-Centric Learning for LLM-based ICD Coding

1. Il Problema

La codifica ICD (International Classification of Diseases) è un compito critico nei sistemi sanitari per il rimborso assicurativo e l'analisi dei dati, ma è laborioso e soggetto a errori umani. Sebbene i recenti metodi basati su Large Language Models (LLM) mostrino una migliore generalizzazione rispetto ai metodi discriminativi, l'addestramento (fine-tuning) degli LLM per la codifica ICD affronta tre sfide principali:

1. Copertura limitata dei codici: I dataset pubblici esistenti (es. MIMIC-IV) coprono solo una piccola frazione dello spazio dei codici ICD (circa il 10% dei 70.000 codici ICD-10-CM), limitando la capacità del modello di generalizzare su codici mai visti (unseen codes).
2. Mancanza di interpretabilità: La maggior parte dei dataset fornisce solo i codici assegnati senza le evidenze testuali di supporto. Il fine-tuning su tali dati porta i modelli a prevedere direttamente i codici senza un grounding esplicito, rendendo difficile la revisione umana e la collaborazione uomo-AI.
3. Inefficienza computazionale: I documenti clinici sono lunghi. Il fine-tuning degli LLM su interi documenti comporta un costo computazionale elevato (complessità quadratica rispetto alla lunghezza dell'input), rendendo l'addestramento proibitivo per modelli grandi o risorse limitate.

2. Metodologia: Code-Centric Learning (CCL)

Gli autori propongono un nuovo framework di addestramento chiamato Code-Centric Learning (CCL). L'idea centrale è spostare la supervisione dall'intero documento clinico a span di evidenze brevi e scalabili. La premessa è che un modello addestrato ad assegnare il codice corretto a uno span di evidenza specifico impara implicitamente a riconoscere tale evidenza all'interno di un documento lungo.

Il framework si basa su due strategie chiave:

A. Strategia di Addestramento Misto (Mixed Training)

Il modello viene addestrato su due tipi di istanze simultaneamente:

1. Livello Documento: Documenti clinici completi annotati con evidenze e codici ICD. Questo insegna al modello ad aggregare le evidenze dal contesto completo e ad assegnare più codici.
2. Livello Span: Coppie di "Evidenza-Codice" (span brevi). Questo permette un addestramento efficiente e fornisce conoscenza specifica sui codici, superando i limiti di copertura dei documenti.

La funzione di perdita combina l'addestramento su documenti completi e su coppie span-codice, permettendo al modello di imparare sia il ragionamento contestuale globale che la mappatura diretta evidenza-codice.

B. Espansione dei Dati Centrata sul Codice (Code-Centric Data Expansion)

Per garantire una copertura completa di tutti i codici ICD (inclusi quelli mai visti nei dataset pubblici), gli autori costruiscono una base di conoscenza multi-livello composta da tre tipi di coppie evidence-code:

1. Coppie Gold: Derivate da risorse ufficiali (Indice Alfabetico e Tabular List), dove i termini sono associati ai loro codici ICD predefiniti.
2. Coppie Silver: Estratte automaticamente da dataset pubblici rumorosi (es. MIMIC-IV) utilizzando un LLM per estrarre le evidenze testuali che supportano i codici assegnati, seguite da una fase di consolidamento.
3. Coppie Sintetiche: Per i codici non presenti né nelle risorse ufficiali né nei dataset pubblici, vengono sintetizzate evidenze plausibili utilizzando un LLM avanzato (GPT-5.1). Il modello infere evidenze per un codice target basandosi sui suoi codici "vicini" nella gerarchia ICD e sulle conoscenze delle coppie Gold/Silver.

3. Contributi Chiave

• Nuovo Paradigma di Addestramento: Introduzione di un framework che risolve simultaneamente i problemi di copertura dei codici, interpretabilità ed efficienza, spostando il focus dai documenti agli span di evidenze.
• Strategia Ibrida: Combinazione di addestramento misto (documento + span) ed espansione dei dati (Gold, Silver, Sintetico) per massimizzare la conoscenza del modello.
• Prestazioni con Modelli Piccoli: Dimostrazione che piccoli LLM (es. Llama-3.1-8B, Qwen3-4B) addestrati con CCL possono raggiungere prestazioni comparabili a modelli proprietari molto più grandi, rendendo la soluzione praticabile per l'implementazione locale.
• Interpretabilità Intrinseca: Il modello è progettato per estrarre esplicitamente le evidenze prima di assegnare i codici, facilitando la revisione umana e la correzione degli errori.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti sui benchmark MDACE (con annotazioni di evidenze) e ACI-Bench (dati sintetici, più fuori distribuzione).

• Prestazioni Superiori: CCL supera significativamente i baselines (metodi discriminativi, CoT, SFT standard) su tutti i backbones LLM testati. Ad esempio, su Llama-3.1-8B, CCL migliora il Micro-F1 del 2,4% e il Macro-F1 dell'8,2% rispetto allo SFT standard su ACI-Bench.
• Generalizzazione sui Codici Non Visti: Il metodo mostra un miglioramento drastico (fino al +41,2% di F1) sulla codifica di codici mai visti durante l'addestramento documentale, dimostrando che l'apprendimento a livello di span è efficace per la generalizzazione.
• Efficienza: L'approccio riduce il tempo di addestramento totale di circa il 5,2x (da 210 ore a 40 ore per un modello Llama-8B) rispetto al fine-tuning tradizionale su documenti completi, pur utilizzando solo 200 documenti annotati + 150k span.
• Collaborazione Uomo-AI: Quando le evidenze generate dal modello vengono sostituite con evidenze annotate da umani, le prestazioni salgono drasticamente (Micro-F1 dal 59,3% al 78,0%), confermando che il modello impara a localizzare correttamente le evidenze e che il sistema è controllabile.

5. Significato e Impatto

Questo lavoro rappresenta un passo avanti significativo verso la codifica ICD completamente automatizzata e affidabile.

• Scalabilità: Dimostra che è possibile addestrare modelli efficaci su dataset pubblici limitati espandendo la conoscenza attraverso span sintetici e risorse ufficiali.
• Praticità Clinica: Risolve il collo di bottiglia computazionale, permettendo l'uso di modelli più piccoli e locali, cruciali per la privacy dei dati sanitari.
• Trasparenza: Fornendo evidenze testuali esplicithe, il sistema supporta il flusso di lavoro clinico reale, dove i codificatori umani devono verificare le basi delle assegnazioni dei codici, superando il limite dei modelli "black-box".

In sintesi, il paper propone che l'apprendimento a livello di span non solo è più efficiente, ma è anche un meccanismo più potente per trasferire la conoscenza dei codici ICD rispetto all'addestramento su documenti completi, aprendo la strada a sistemi di codifica medica più robusti, economici e interpretabili.