Technische Samenvatting: De Consistentie-illusie in Multi-Agent Medische QA

1. Probleemstelling

Multi-agent Large Language Model (LLM) systemen worden steeds vaker ingezet voor medische vraag-en-antwoordsystemen (QA), uitgaande van de aanname dat consensus op antwerpniveau (meerdere agenten die het eens zijn over een uiteindelijke diagnose of behandeling) dient als een betrouwbare proxy voor redenering-niveau alignment. Frameworks zoals MedAgents en MDAgents rapporteren nauwkeurigheidswinsten ten opzichte van single-agent baselines door gebruik te maken van debat- en stemmechanismen.

Dit paper betoogt echter dat deze vertrouwensaanname incompleet is. De auteurs identificeren een faalmodus die zij de Consistentie-illusie noemen: een fenomeen waarbij multi-agent debat detecteerbare tegenstrijdigheden tussen agenten vermindert, terwijl tegelijkertijd de semantische gelijkenis van hun onderliggende redeneerketens afneemt. In deze staat lijken agenten vaker het eens te zijn, maar redeneren ze minder consistent. Zoals geïllustreerd in het motiverende voorbeeld van het paper, kunnen drie agenten onafhankelijk convergeren naar het juiste klinische antwoord (bijv. atropine voor symptomatische bradycardie), terwijl ze wederzijds uitsluitende farmacologische mechanismen aanvoeren (bijv. $\beta_1$-agonisme versus M2-blokkade versus acetylcholinesterase-inhibitie).

Bestaande evaluatiepipelines meten primair macroscopische antwoordnauwkeurigheid of single-agent redeneervolheid, waardoor cross-agent redenerings-alignment ongemeten blijft. Gevolgelijk kunnen systemen een betrouwbaar lijkende consensus produceren op basis van medisch incompatibele rationales, wat een kritiek risico vormt in veiligheidskritische domeinen.

2. Methodologie

2.1 CARA: Cross-Agent Reasoning Alignment

Om dit fenomeen te kwantificeren, introduceren de auteurs CARA, een familie van geautomatiseerde metrieken ontworpen om te meten of agenten die het eens zijn over een antwoord, ook het eens zijn over de redenering erachter. CARA opereert post-hoc op systeemtraces zonder dat daar extra LLM-calls voor nodig zijn.

• Definitie van de Agreement Set: Voor een gegeven vraag isoleert CARA de subset van agenten $S(q)$ die stemden voor het meerderheidsantwoord.
• Stap-gewijze Decompositie: De rationale van elke agent wordt gedecomponeerd in redeneringsstappen met behulp van een deterministische tekstsegmentatie-pipeline.
• Hybride Alignment Metriek (CARA-HYB): De metriek berekent paargewijze alignment tussen stappen van verschillende agenten met een hybride van:
  • NLI-gebaseerde Tegenstrijdigheidsdetectie: Gebruikmakend van een DeBERTa-v3 model om tegenstrijdigheden te markeren ($P_{NLI} > \tau$).
  • Embedding Gelijkenis: Gebruikmakend van Stella embeddings om cosinusgelijkenis te berekenen voor niet-tegenstrijdige stappen.
  • Logica: Tegenstrijdigheden overruilen gelijkenis (een stap-paar wordt gescoord als -1 als het tegenstrijdig is, anders wordt de cosinusgelijkenis gebruikt).
• Aggregatie: Scores worden gesymmetriseerd over agent-paren en geaggregeerd op vraag- en corpusniveau.
• Diagnostiek: Het framework rapporteert ook de Contradiction Rate (CR), het fractie van de best-gematchte stap-paren die als tegenstrijdigheden zijn gemarkeerd.

2.2 Grounded Debate Protocol (GDP)

Om te testen of de consistentie-illusie een fundamenteel gebrek is van multi-agent interactie of een tekortkoming in het protocol, stellen de auteurs GDP voor, een interventie op prompt-niveau. GDP dwingt een gestructureerd communicatieformaat af waarbij agenten voor elke redeneringsstap drie machine-parseerbare velden moeten produceren:

1. CLAIM: Een enkelvoudige, falsifieerbare klinische bewering.
2. GROUND: Een benoemde medische feit, mechanisme of richtlijn die de claim ondersteunt (bijv. specifieke drug targets, receptorpaden).
3. STANCE: (In debatrondes) Een expliciete positie (AGREE, DISAGREE, EXTEND) ten opzichte van de claim van een andere agent, waarbij een tegenovergestelde COUNTER-GROUND vereist is bij onenigheid.

GDP bevat een "anti-sycophancy" regel, waarin agenten de instructie krijgen alleen van antwoord te veranderen als ze een feitelijke fout identificeren of een meer overtuigende ground ontvangen, in plaats van simpelweg het meerderheidsstandpunt over te nemen.

2.3 Experimentele Opzet

• Datasets: MedQA-USMLE (D1, N=500, gesloten MCQ's) en MedThink-Bench (D2, N=499, open-ended redeneren met expert-annotaties).
• Backbones: Qwen 2.5 72B Instruct (primair) en Llama 3.3 70B Instruct (replicatie).
• Systemen:
  • M4: Onafhankelijke stemming controle (geen debat).
  • M3: Standaard symmetrisch debat (Du et al., 2024).
  • M3-GDP: Standaard debatarchitectuur met GDP prompt-constraints.
• Validatie: CARA-scores werden gevalideerd tegen GPT-4o als judge en drie medisch getrainde menselijke annotatoren, waarbij sterke monotoniciteit en correlatie werden aangetoond.

3. Belangrijkste Resultaten

3.1 De Consistentie-illusie

Het toepassen van CARA op standaard debat (M3) onthulde de illusie:

• Contradiction Rate (CR) Daalde: Debat verminderde expliciete tegenstrijdigheden tussen agenten (bijv. D1 CR daalde van 0.104 naar 0.035).
• Semantische Gelijkenis (SIM) Daalde: Tegelijkertijd nam de semantische gelijkenis van redeneerketens af (bijv. D1 SIM daalde van 0.801 naar 0.787).
• Interpretatie: Standaard debat onderdrukt oppervlakkige onenigheid (het gladstrijken van tegenstrijdigheden) maar zorgt ervoor dat redeneringen verder uiteenlopen, wat een vals gevoel van consensus creëert. Op D2 was dit effect significant ($d = -0.30$ voor Qwen, $d = -1.32$ voor Llama).

3.2 Effectiviteit van Grounded Debate (GDP)

GDP draaide deze trend om en produceerde de "ware alignment" signatuur:

• CR Daalde: Tegenstrijdigheden werden verminderd (bijv. D1 CR: 0.117 $\to$ 0.098).
• SIM Steeg: De semantische gelijkenis van redeneerketens verbeterde aanzienlijk (bijv. D1 SIM steeg van 0.835 naar 0.912).
• Magnitude: GDP produceerde grote, consistente alignment-winsten onder alle condities (Tier A effectgroottes: $d = +1.43$ tot $+1.99$).
• Expert Alignment: CARA-GT (alignment met expert Scoring Points) liet zien dat GDP de agenten dichter bij de expert-redenering bracht ($d = +0.32$), terwijl standaard debat hen er juist van weg beweegde ($d = -0.21$).

3.3 Faalmodus Analyse

Analyse van de laagste CARA-gevallen toonde aan dat GDP twee ernstige faalmodi structureel elimineerde:

1. Complementaire Redenering (FM1): Agenten die verschillende, niet-tegenstrijdige paden gebruiken naar hetzelfde antwoord (geëlimineerd: 23 $\to$ 0 op D1).
2. Sycophantic Convergence (FM4): Agenten die het meerderheidsantwoord adopteren zonder enige redeneringsstappen (geëlimineerd: 11 $\to$ 0 op D1).
   Residuele misalignment onder GDP verschoof naar "Partial Overlap" (FM6), een lage-ernst baseline.

3.4 Overwegingen over Nauwkeurigheid

Het paper merkt expliciet op dat CARA alignment meet, niet correctheid.

• Standaard Debat: Veranderde de antwoordnauwkeurigheid niet significant ten opzichte van onafhankelijke stemming.
• GDP: Verbeterde de nauwkeurigheid niet significant; in sommige gevallen was er zelfs een lichte, niet-significante afname.
• Conclusie: GDP verbetert de betrouwbaarheid van het redeneerproces zonder noodzakelijkerwijs de nauwkeurigheid van het uiteindelijke antwoord te veranderen in deze benchmarks.

4. Betekenis en Claims

Het paper claimt een eerder niet gemeten faalmodus in multi-agent medische QA te hebben geïdentificeerd en gekwantificeerd: de Consistentie-illusie. De auteurs betogen dat de heersende aanname — dat multi-agent consensus een betrouwbare klinische redenering impliceert — onjuist is omdat oppervlakkige overeenstemming divergente, medisch incompatibele rationales kan maskeren.

De significantie van dit werk ligt in:

1. Metrische Innovatie: De introductie van CARA als een noodzakelijk audit-instrument voor veiligheidskritische domeinen, dat redenerings-alignment meet naast nauwkeurigheid.
2. Protocol Interventie: Het aantonen dat lichtgewicht, op grounding gebaseerde prompting (GDP) de cross-agent redenerings-alignment substantieel kan verbeteren zonder de systeemarchitectuur te wijzigen of de LLM-call budgetten te verhogen.
3. Veiligheidsimplicaties: Het benadrukken dat in hoog-risico omgevingen "overeenstemming" onvoldoende is; systemen moeten worden geaudit op consistente redenering om te waarborgen dat consensus niet slechts een statistisch artefact is van sycophancy of vage smoothing.

De auteurs hanteren een bescheiden standpunt door te verduidelijken dat GDP een alignment-auditing interventie is, geen gegarandeerde nauwkeurigheids-booster, en dat de bevindingen specifiek zijn voor de geteste debat-topologieën en open-weight modellen. Zij positioneren GDP als een diagnostische en auditieve interventie om de kloof tussen oppervlakkige consensus en redeneerbetrouwbaarheid te dichten.