Technische Samenvatting: PACT – Leren van Diverse Diagnostische Strategieën via Geprivilegieerde Synthese en Tak-Consensus

1. Probleemstelling

Klinische diagnose is inherent een multi-turn, onzekere conversatie die artsen vereist om flexibel meerdere redeneerparadigma's toe te passen (bijv. stapsgewijze hypothese-toetsing, parallelle differentiële diagnose, urgentie-gebaseerde prioritering, of bewijs-gestuurde revisie) onder onvolledige informatie. Hoewel Large Language Models (LLMs) over sterke medische kennis beschikken, worstelen bestaande medische agenten met het gelijktijdig leren van deze diverse redeneerparadigma's zonder interferentie.

Twee primaire uitdagingen belemmeren de ontwikkeling van robuuste diagnostische agenten:

1. Data-synthese: Het genereren van hoogwaardige, gecontroleerde diagnostische dialogen is moeilijk vanwege de "informatie-asymmetrie" tussen artsen en patiënten. Een synthesesysteem heeft volledige Elektronische Medische Dossiers (EMR's) nodig voor kwaliteitscontrole, maar de gesimuleerde arts-agent mag de verborgen klinische antwoorden (bijv. definitieve diagnose, laboratoriumresultaten) niet zien om informatielekken of het stellen van sturende vragen te voorkomen. Bestaande datasets missen vaak gecontroleerde trajecten of lijden aan hallucinaties wanneer ze via onbeperkte rollenspellen worden gegenereerd.
2. Modeltraining: Het integreren van meerdere redeneerparadigma's in één enkel inzetbaar model is niet triviaal. Het simpelweg mengen van dialogen voor Supervised Fine-Tuning (SFT) vertroebelt de paradigma-specifieke leerprocessen. Omgekeerd leidt het trainen van aparte modellen (of adapters) voor elk paradigma tot "gradiëntconflict", waarbij onafhankelijk getrainde takken updates uitvoeren in incompatibele richtingen, wat het moeilijk maakt om ze zonder prestatieverlies samen te voegen tot één model.

2. Methodologie

De auteurs stellen PACT (Periodic Anchor Consensus Training) voor, een framework dat een nieuw datasynthesemodule koppelt aan een consensus-gebaseerde trainingsstrategie.

A. DPS: Doctor-Patient-Supervisor Data Synthese

Om de uitdaging van datasynthese aan te pakken, introduceren de auteurs DPS, een distillatie-gebaseerde module geïnspireerd door Learning Using Privileged Information (LUPI).

• Toestands-scheiding: Elk EMR wordt opgedeeld in patiënt-zichtbare informatie ($s_{vis}$: klacht, symptomen) en geprivilegieerde klinische informatie ($s_{priv}$: verborgen onderzoek, doeldiagnose).
• Rol-gescheiden Generatie: De Doctor-agent genereert vragen op basis van alleen het geaccumuleerde traject en $s_{vis}$, zonder ooit $s_{priv}$ te zien. De Patient-agent antwoordt op basis van $s_{vis}$.
• Supervisor Validatie: Twee supervisors (Doctor-Supervisor en Patient-Supervisor) maken gebruik van het volledige EMR ($s$) om de dialoog te valideren. Zij voeren een "PASS-of-REWRITE"-controle uit om problemen zoals informatielekkage, tempo of ontbrekende hoogwaardige vragen te corr corrected, zonder de volledige respons te herschrijven.
• Paradigma Conditionering: Dit proces genereert gevalideerde dialogen onder vier verschillende klinische redeneerparadigma's:
  1. Serial: Stapsgewijze hypothese-toetsing.
  2. Tree: Het in stand houden van concurrerende diagnoses voor differentiële enquête.
  3. Heap: Prioriteren van vragen op basis van urgentie en verwachte informatiewaarde.
  4. Feedback: Het uitvoeren van zelfkritiek voordat men reageert.

B. PACT: Periodic Anchor Consensus Training

Om de trainingsuitdaging aan te pakken, vermijdt PACT het mengen van data of post-hoc samenvoeging. In plaats daarvan traint het één inzetbaar model via periodieke aggregatie.

• Branch Training: Het model traint één LoRA Branch (adapter) per redeneerparadigma.
• Anchor Regularisatie: Een gedeelde Anchor ($\Delta_{anc}$) wordt onderhouden als de inzetbare consensus. Tijdens lokale training minimaliseert elke Branch een verliesfunctie die bestaat uit de taakverlies en een L1-regularisatieterm ($\lambda \|\Delta^{(k)} - \Delta_{anc}\|_1$) om de branches dicht bij de Anchor te houden.
• Periodieke Aggregatie: Elke $T^*$ epochs wordt de Anchor bijgewerkt via een sign-consensus samenvoegingsproces:
  1. Trim: Laag-magnitude updates (ruis) worden verwijderd.
  2. Elect: Een meerderheidsstem bepaalt het teken van elke parameterdimensie over de branches heen.
  3. Merge-Project: Alleen teken-consistente waarden worden gemiddeld, en het resultaat wordt geprojecteerd terug naar de LoRA-rang via truncated SVD om de low-rank structuur te behouden.
• Deployment: Na de training worden alle Branch-adapters weggegooid. Het uiteindelijke model is simpelweg het basismodel plus de definitieve Anchor ($M + \Delta_{anc}$), wat geen architecturale wijzigingen of routingmechanismen vereist tijdens inferentie.

3. Belangrijkste Bijdragen

1. DPS Module: Een methode voor dataconstructie die gevalideerde, multi-paradigma dialogen synthetiseert terwijl de arts-patiënt informatie-asymmetrie strikt behouden blijft, wat informatielekkage voorkomt.
2. PACT Framework: Een consensus-gebaseerde trainingsmethode die paradigma-specifieke LoRA-branches leert en deze periodiek aggregeert in één enkel inzetbaar model, waardoor de interferentie van gemengde SFT en de incompatibiliteit van onafhankelijke training wordt vermeden.
3. Dynamische Benchmark: De introductie van een dynamische, multi-turn Chinese medische diagnose benchmark, ontworpen om agenten te evalueren op interactieve consultatievaardigheden (bewijsverzameling, diagnose en onderzoeksaanbeveling) in plaats van statische single-turn QA.

4. Experimentele Resultaten

De auteurs evalueerden PACT op een dynamische multi-turn benchmark met behulp van een GPT-4o-gestuurde patiëntsimulator.

• Prestaties: PACT (getraind op Qwen3-8B) behaalde 55,31% Strict Diagnosis Accuracy (DA) en 76,16 Soft Score, waarmee het de sterkste zero-shot propriëtaire baseline (GPT-4.1) en medisch-gespecialiseerde LLM's (bijv. Doctor-R1, HuatuoGPT-o1) significant overtrof.
  • Vergeleken met GPT-4.1 verbeterde PACT de Strict DA met +18,61 punten en de Exam F1 met +44,06 punten.
  • Vergeleken met het Qwen3-8B basismodel verbeterde PACT de Strict DA met +22,78 punten.
• Ablatie studies:
  • Data: Het verwijderen van een van de vier redeneerparadigma's uit de trainingsdata verminderde de Exam F1 met 5–6 punten, wat aangeeft dat de paradigma's complementaire supervisie bieden.
  • Training: PACT presteerde beter dan Mixed-SFT, Sequential Curriculum en diverse post-hoc samenvoegingstechnieken (TIES, DARE-TIES). Opvallend genoeg degradeerde standaard post-hoc samenvoeging (TIES) de prestaties aanzienlijk (40,41% Strict DA), wat de noodzaak voor periodieke aggregatie tijdens de training valideert.
• Generalisatie: De aanpak demonstreerde cross-architectuur generalisatie op Llama3.1-8B en Ministral-3-8B, en toonde overdraagbaarheid naar een Engelstalige setting.

5. Betekenis en Claims

Het artikel beweert dat PACT er succesvol in is geslaagd de dubbele uitdagingen van data-asymmetrie en paradigma-interferentie in medische AI aan te pakken.

• Efficiëntie: In tegenstelling tot methoden die complexe routing of meerdere modellen vereisen, produceert PACT een standaard single-LoRA model zonder extra inferentie-overhead.
• Effectiviteit: Door expliciet diverse klinische redeneerstrategieën te modelleren en consensus tijdens de training af te dwingen, bereikt PACT state-of-the-art prestaties in interactieve diagnostische scenario's, waarmee zowel algemene als gespecialiseerde medische LLM's worden overtroffen.
• Schaalbaarheid: Het framework demonstreert dat diverse diagnostische strategieën binnen één enkel model geleerd kunnen worden zonder de "catastrophic forgetting" of "gradiëntconflict" die gewoonlijk geassocieerd worden met multi-task learning in medische domeinen.

De auteurs benadrukken dat hoewel het verzamelen van symptomen belangrijk is (waarbij GPT-4.1 iets beter presteerde), de gestructureerde diagnostische redenering verkregen door multi-paradigma consensus training de kritieke factor is die de superieure diagnostische nauwkeurigheid en de kwaliteit van onderzoeksaanbevelingen drijft.