Training-Free Adaptation of New-Generation LLMs using Legacy Clinical Models

1. Enunciato del Problema

Il rapido avanzamento dei Modelli Linguistici su larga scala (LLM) a dominio generale ha superato la loro adattamento al dominio clinico. Sebbene i modelli generali all'avanguardia possiedano un ragionamento e una fluidità superiori, spesso mancano di conoscenze cliniche specifiche, manifestano allucinazioni e non aderiscono agli stili di documentazione clinica.

• Limitazione attuale: L'adattamento di dominio tradizionale (pre-addestramento continuato e sintonizzazione delle istruzioni) è computazionalmente costoso e richiede molte risorse. Richiede un nuovo addestramento per ogni nuova generazione di modelli (ad esempio, passando da MedPalm 1 a MedPalm 2), creando un ritardo in cui le istituzioni sanitarie non possono sfruttare le nuove capacità dei modelli senza un significativo reinvestimento.
• Lacuna nelle soluzioni esistenti: I metodi esistenti di ensemble di modelli (come UNiTE) e le tecniche di proxy tuning assumono generalmente tokenizer condivisi o capacità sovrapposte. Faticano a combinare modelli con vocabolari disgiunti (tokenizer diversi) e capacità asimmetriche (ad esempio, un nuovo modello generale rispetto a un vecchio modello clinico specializzato).

2. Metodologia: Proxy Tuning Cross-Architettura (CAPT)

Gli autori propongono CAPT, un approccio di ensemble di modelli senza addestramento, eseguito al momento dell'inferenza, che combina un modello generale di nuova generazione ($M_{new}$) con un modello clinico legacy ($M_{old-clin}$) e la sua controparte di base ($M_{old}$).

Meccanismo Principale

CAPT opera al passo di decodifica utilizzando la decodifica contrastiva per iniettare selettivamente segnali clinici preservando al contempo il ragionamento del modello generale.

1. Selezione dei Candidati: Ad ogni passo di decodifica, il sistema seleziona i top-$k$ token candidati (predefinito $k=20$) dal modello generale di nuova generazione ($M_{new}$).
2. Mappatura Cross-Architettura: Poiché $M_{new}$ e i modelli clinici hanno vocabolari disgiunti, CAPT impiega una mappatura decodifica-retokenizzazione ($f$):
   • Un token dal vocabolario di $M_{new}$ viene decodificato nella sua forma stringa.
   • La stringa viene retokenizzata utilizzando il tokenizer del modello clinico ($T_{old}$) per trovare il token corrispondente nel vocabolario clinico.
3. Regolazione della Log-Probabilità: La log-probabilità di ogni token candidato viene regolata utilizzando un "offset di conoscenza clinica". Questo offset è la differenza tra le log-probabilità del modello clinico ($M_{old-clin}$) e della sua base non addestrata ($M_{old}$):
   $$s(i) = \log p_{new}(i | x_{1:t}) + \alpha \left( \log p_{old-clin}(f(i) | x_{1:t}) - \log p_{old}(f(i) | x_{1:t}) \right)$$
   • Dove $\alpha$ è un fattore di scala (impostato a 1.0).
   • Questo delta isola la conoscenza appresa durante il fine-tuning clinico, rimuovendo il bias linguistico generale del modello di base.
4. Selezione: Il token con il punteggio regolato più alto viene selezionato e aggiunto al contesto.

Dettagli di Implementazione

• Modelli Utilizzati:
  • $M_{new}$: Qwen3-30B (Modello generale di nuova generazione).
  • $M_{old-clin}$: MeLLaMA-13B-chat (Modello clinico legacy).
  • $M_{old}$: LLaMA-2-13B-base (Controparte di base).
• Vincoli: Il metodo supporta API black-box dove sono esposte solo le log-probabilità top-$k$, rendendolo pratico per il deployment.

3. Contributi Chiave

1. Adattamento Senza Addestramento: Introduce CAPT, consentendo il riutilizzo di modelli legacy adattati al dominio per adattare nuovi modelli generali senza alcun ulteriore addestramento o fine-tuning.
2. Supporto per Vocabolari Disgiunti: Risolve la barriera architetturale di combinare modelli con tokenizer diversi tramite la mappatura decodifica-retokenizzazione, permettendo l'integrazione di vecchi modelli clinici con architetture moderne.
3. Integrazione Selettiva: Dimostra che CAPT non si limita a mediare le probabilità, ma amplifica selettivamente i token relativi al processo decisionale clinico e allo stile di documentazione, lasciando al modello generale il controllo della struttura linguistica e della fluidità.

4. Risultati

Il metodo è stato valutato su sei compiti clinici (3 classificazione, 3 generazione di testo) utilizzando metriche come Macro-F1, Accuratezza, punteggi MedHELM LLM-jury e percentuali MedVAL senza rischi.

• Miglioramenti delle Prestazioni:
  • CAPT ha costantemente superato sia i modelli individuali che le linee di base all'avanguardia (UniTE e Proxy Tuning).
  • Miglioramento Medio: +17,6% su UniTE e +41,4% su Proxy Tuning su tutte le metriche.
  • Sicurezza: Miglioramenti significativi negli output "senza rischi" (ad esempio, +13,94% su UniTE sulla generazione di testo), indicando una migliore sicurezza clinica.
• Analisi a Livello di Token:
  • Influenza del Modello Clinico: Ha influenzato fortemente i token relativi al processo decisionale clinico (ad esempio, intestazioni, termini di valutazione) e allo stile di documentazione (ad esempio, attenuazioni, verbi di reporting).
  • Influenza del Modello Generale: Ha mantenuto il controllo sulla struttura linguistica, sulla formattazione e sui morfemi generali.
  • Conoscenza Medica: Ha rilevato spostamenti quasi nulli per la terminologia medica di base, suggerendo che entrambi i modelli concordano sui fatti, ma CAPT migliora come quella conoscenza è espressa per conformarsi alle convenzioni cliniche.
• Casi di Studio con Medici:
  • Due medici certificati dal consiglio di amministrazione hanno revisionato gli output, notando che CAPT ha migliorato la specificità clinica (ad esempio, cambiando "agenti" in "analgesici"), l'accuratezza contestuale (ad esempio, correggendo le tempistiche di monitoraggio da 24-72h a 24-48h) e le raccomandazioni critiche per la sicurezza (ad esempio, enfatizzando i segni di emorragia postpartum rispetto ai segni generici di infezione).

5. Significato e Impatto

• Efficienza delle Risorse: CAPT offre un percorso praticabile per le istituzioni sanitarie con risorse computazionali limitate per adottare LLM all'avanguardia senza il costo proibitivo del riaddestramento.
• Adattamento Modulare: Trasforma i modelli clinici legacy in "adattatori" riutilizzabili che possono essere accoppiati con futuri modelli fondazione, accelerando la traduzione dei progressi dell'AI nei flussi di lavoro clinici.
• Colmare il Divario: Affronta efficacemente il "ritardo" tra le capacità dei modelli generali e l'applicabilità clinica, garantendo che i nuovi modelli ereditino la sicurezza e le sfumature stilistiche dell'AI clinica consolidata senza sacrificare il loro potere di ragionamento.
• Limitazioni e Lavori Futuri: Il metodo aumenta il calcolo dell'inferenza (richiedendo tre passaggi del modello) e potrebbe ereditare stili eccessivamente esplicativi dai modelli generali. I lavori futuri includono la regolazione adattiva del coefficiente di regolazione ($\alpha$) in base all'esperienza dell'utente e l'esplorazione di modelli clinici più piccoli per ridurre la latenza.

In conclusione, CAPT rappresenta un cambiamento di paradigma dal "riaddestramento per ogni modello" all'"adattamento tramite ensemble", fornendo una soluzione pratica e ad alte prestazioni per il deployment di NLP clinico.