Riepilogo Tecnico: PACT – Apprendimento di Strategie Diagnostiche Diverse tramite Sintesi Privilegiata e Consenso di Branch

1. Definizione del Problema

La diagnosi clinica è intrinsecamente una conversazione multi-turno e incerta che richiede ai medici di impiegare in modo flessibile molteplici paradigmi di ragionamento (ad esempio, test di ipotesi passo dopo passo, diagnosi differenziale parallela, prioritizzazione basata sull'urgenza o revisione guidata dalle evidenze) in condizioni di informazione incompleta. Sebbene i Large Language Models (LLM) dimostrino una forte conoscenza medica, gli agenti medici esistenti faticano ad apprendere questi diversi paradigmi di ragionamento simultaneamente senza interferenze.

Due sfide primarie ostacolano lo sviluppo di agenti diagnostici robusti:

1. Sintesi dei Dati: Generare dialoghi diagnostici di alta qualità e controllati è difficile a causa dell' "asimmetria informativa" tra medici e pazienti. Un sistema di sintesi necessita di cartelle clinhe elettroniche (EMR) complete per il controllo della qualità, ma l'agente medico simulato non deve vedere le risposte cliniche nascoste (ad esempio, diagnosi finale, risultati di laboratorio) per evitare la fuga di informazioni o la formulazione di domande orientate. I dataset esistenti spesso mancano di traiettorie controllate o soffrono di allucinazioni quando generati tramite role-play non vincolato.
2. Addestramento del Modello: Integrare molteplici paradigmi di ragionamento in un singolo modello distribuibile non è banale. Semplicemente mescolare i dialoghi per il Supervised Fine-Tuning (SFT) confonde l'apprendimento specifico per paradigma. Al contrario, addestrare modelli separati (o adapter) per ogni paradigma porta a un "conflitto di gradiente", in cui i branch addestrati indipendentamente aggiornano in direzioni incompatibili, rendendoli difficili da fondere in un singolo modello senza degradazione delle prestazioni.

2. Metodologia

Gli autori propongono PACT (Periodic Anchor Consensus Training), un framework che accoppia un nuovo modulo di sintesi dei dati con una strategia di addestramento basata sul consenso.

A. DPS: Sintesi dei Dati Medico-Paziente-Supervisore

Per affrontare la sfida della sintesi dei dati, gli autori introducono DPS, un modulo di distillazione ispirato al Learning Using Privileged Information (LUPI).

• Separazione dello Stato: Ogni EMR è partizionata in informazioni visibili al paziente ($s_{vis}$: reclamo principale, sintomi) e informazioni cliniche privilegiate ($s_{priv}$: esami nascosti, diagnosi target).
• Generazione Separata per Ruolo: L'agente Medico genera domande basandosi solo sulla traiettoria accumulata e su $s_{vis}$, senza mai vedere $s_{priv}$. L'agente Paziente risponde basandosi su $s_{vis}$.
• Validazione del Supervisore: Due supervisori (Supervisore del Medico e Supervisore del Paziente) utilizzano l'intero EMR ($s$) per validare il dialogo. Essi eseguono un controllo "PASS-or-REWRITE" (Passa o Riscrivi) per correggere problemi come la fuga di informazioni, il ritmo o la mancanza di domande ad alto valore, senza riscrivere l'intera risposta.
• Condizionamento del Paradigma: Questo processo genera dialoghi validati sotto quattro distinti paradigmi di ragionamento clinico:
  1. Seriale (Serial): Test di ipotesi passo dopo passo.
  2. Albero (Tree): Mantenimento di diagnosi concorrenti per l'indagine differenziale.
  3. Heap (Cumulo): Prioritizzazione delle domande per urgenza e valore informativo atteso.
  4. Feedback: Autocritica prima di rispondere.

B. PACT: Periodic Anchor Consensus Training

Per affrontare la sfida dell'addestramento, PACT evita di mescolare i dati o di effettuare un merging post-hoc. Invece, addestra un singolo modello distribuibile attraverso l'aggregazione periodica.

• Addestramento dei Branch: Il modello addestra un LoRA Branch (adapter) per ogni paradigma di ragionamento.
• Regolarizzazione dell'Ancora: Un'Ancora condivisa ($\Delta_{anc}$) è mantenuta come consenso distribuibile. Durante l'addestramento locale, ogni Branch minimizza una funzione di perdita composta dalla loss del task e da un termine di regolarizzazione L1 ($\lambda \|\Delta^{(k)} - \Delta_{anc}\|_1$) per mantenere i branch vicini all'Ancora.
• Aggregazione Periodica: Ogni $T^*$ epoche, l'Ancora viene aggiornata tramite un processo di sign-consensus (consenso di segno) per il merging:
  1. Trim (Potatura): Gli aggiornamenti a bassa magnitudo (rumore) vengono rimossi.
  2. Elect (Elezione): Un voto di maggioranza determina il segno di ogni dimensione di parametro tra i branch.
  3. Merge-Project (Fusione e Proiezione): Solo i valori coerenti con il segno vengono mediati, e il risultato viene proiettato nuovamente nel rango LoRA tramite SVD troncata per mantenere la struttura a basso rango.
• Distribuzione: Dopo l'addestramento, tutti i LoRA Branch vengono scartati. Il modello finale è semplicemente il modello base più l'Ancora finale ($M + \Delta_{anc}$), il che non richiede cambiamenti architettonici o meccanismi di routing durante l'inferenza.

3. Contributi Chiave

1. Modulo DPS: Un metodo di costruzione dei dati che sintetizza dialoghi multi-paradigma validati, preservando rigorosamente l'asimmetria informativa medico-paziente, evitando la fuga di etichette (label leakage).
2. Framework PACT: Un metodo di addestramento basato sul consenso che apprende branch LoRA specifici per paradigma e li aggrega periodicamente in un singolo modello distribuibile, evitando l'interferenza del Mixed-SFT e l'incompatibilità dell'addestramento indipendente.
3. Benchmark Dinamico: L'introduzione di un benchmark dinamico di diagnosi medica in cinese, progettato per valutare gli agenti sulle capacità di consultazione interattiva (raccolta prove, diagnosi e raccomandazione di esami) piuttosto che su semplici QA a turno singolo statici.

4. Risultati Sperimentali

Gli autori hanno valutato PACT su un benchmark dinamico multi-turno utilizzando un simulatore di paziente basato su GPT-4o.

• Prestazioni: PACT (addestrato su Qwen3-8B) ha raggiunto una Strict Diagnosis Accuracy (DA) del 55.31% e un Soft Score del 76.16, superando significativamente il più forte baseline proprietario zero-shot (GPT-4.1) e i modelli LLM specializzati in medicina (es. Doctor-R1, HuatuoGPT-o1).
  • Rispetto a GPT-4.1, PACT ha migliorato la Strict DA di +18.61 punti e l'Exam F1 di +44.06 punti.
  • Rispetto al modello base Qwen3-8B, PACT ha migliorato la Strict DA di +22.78 punti.
• Studi di Ablazione:
  • Dati: Rimuovere uno qualsiasi dei quattro paradigmi di ragionamento dai dati di addestramento ha ridotto l'Exam F1 di 5–6 punti, indicando che i paradigmi forniscono una supervisione complementare.
  • Addestramento: PACT ha superato il Mixed-SFT, il Sequential Curriculum e varie tecniche di merging post-hoc (TIES, DARE-TIES). Notevolmente, il merging post-hoc standard (TIES) ha degradato significativamente le prestazioni (40.41% di Strict DA), validando la necessità di un'aggregazione periodica durante l'addestramento.
• Generalizzazione: L'approccio ha dimostrato una generalizzazione cross-architettura su Llama3.1-8B e Ministral-3-8B, e ha mostrato trasferibilità in un contesto tradotto in inglese.

5. Significato e Rivendicazioni

Il paper sostiene che PACT affronta con successo le doppie sfide dell'asimmetria dei dati e dell'interferenza dei paradigmi nella medicina IA.

• Efficienza: A differenza dei metodi che richiedono complessi routing o molteplici modelli, PACT produce un singolo modello LoRA standard senza costi aggiuntivi di inferenza.
• Efficacia: Modellando esplicitamente diverse strategie di ragionamento clinico e imponendo il consenso durante l'addestramento, PACT raggiunge prestazioni allo stato dell'arte in scenari diagnostici interattivi, superando sia gli LLM general-purpose che quelli medici specializzati.
• Scalabilità: Il framework dimostra che diverse strategie diagnostiche possono essere apprese all'interno di un singolo modello senza il "catastrophic forgetting" (oblio catastrofico) o il "gradient conflict" tipicamente associati al multi-task learning nei domini medici.

Gli autori sottolineano che, sebbene la raccolta dei sintomi sia importante (dove GPT-4.1 ha performato leggermente meglio), il ragionamento diagnostico strutturato acquisito attraverso l'addestramento al consenso multi-paradigma è il fattore critico che guida la superiore accuratezza diagnostica e la qualità della raccomandazione degli esami.