Principled Uncertainty in Clinical AI: End-to-End Bayesian Modelling and Algorithmic Equity Auditing Across Multimodal Patient Data

Technische Samenvatting: Geprincipeerde Onzekerheid in Klinische AI

Probleemstelling
Huidige klinische kunstmatige intelligentie (AI)-systemen vertrouwen voornamelijk op deterministische modellen die puntramingen voor risico of ziektekans produceren zonder de zekerheid of betrouwbaarheid van die voorspellingen te kwantificeren. Deze beperking creëert twee kritieke problemen in omgevingen met een hoge inzet:

1. Technische Blindheid: Deterministische modellen kunnen niet het onderscheid maken tussen gevallen waarin een hoge mate van vertrouwen gerechtvaardigd is en gevallen waarin het model buiten zijn trainingsdistributie opereert (bijv. een patiënt uit een rurale instelling met onvolledige dossiers versus een goed gedocumenteerde patiënt in een tertiaire zorginstelling).
2. Equity Invisibility (Onzichtbaarheid van Gelijkheid): Het ontbreken van onzekerheidskwantificatie maakt systematische modelfouten die kwetsbare populaties treffen onzichtbaar voor clinici en bestuurders. Bijgevolg blijven vooroordelen (biases) gedreven door verschillen in datakwaliteit ongedetecteerd door standaard accuratiewaarden.

Methodologie
De auteurs stellen een geïntegreerd onderzoeksprogramma voor bestaande uit een volledig end-to-end Bayesiaans onzekerheidsmodelleringsframework en een algoritmische equity-audit.

• Systeemarchitectuur: Het systeem maakt gebruik van een probabilistische deep learning-architectuur die is ontworig voor multimodale data (Elektronische Patiëntendossiers, medische beeldvorming en klinische tekst).
  • Modality-Specific Encoders: Elke datamodaliteit wordt verwerkt door een variationele encoder die inputs mapt naar de parameters van een Gaussische distributie in een gedeelde latente ruimte ($q_\phi(z|x) = \mathcal{N}(z; \mu_\phi(x), \sigma^2_\phi(x)I)$).
  • Precision-Weighted Late Fusion: Het framework gebruikt een fusiemechanisme dat modaliteiten weegt op basis van hun precisie ($\Lambda_m = 1/\sigma^2_m$). Ontbrekende modaliteiten worden afgehandeld door hun log-variantie op een hoge waarde in te stellen, wat hun precisie effectief tot nul reduceert en hen uitsluit van de fusie, terwijl het patiëntendossier behouden blijft.
  • Onzekerheidsdecompositie: De output-head scheidt onzekerheid in twee verschillende typen:
    • Aleatorische onzekerheid: Geschat via een specifieke head om irreducibele ruis te vangen die inherent is aan observaties.
    • Epistemische onzekerheid: Geschat middels Monte Carlo Dropout (MC Dropout) met $T$ stochastische forward passes om het gebrek aan kennis van het model over onbekende patiëntprofielen te vangen.
• Trainingsdoelstelling: Het model wordt geoptimaliseerd met behulp van een samengestelde Bayesiaanse loss-functie bestaande uit:
  1. Binary cross-entropy voor voorspellingsnauwkeurigheid.
  2. Kullback-Leibler (KL) divergentie regularisatie om de latente distributie te beperken.
  3. Een onzekerheid-kalibratiepenalty om epistemische onzekerheid af te stemmen op de voorspellingsfout.
• Evaluatiemetrieken:
  • Kalibratie: Gemeten via Expected Calibration Error (ECE).
  • Equity (Gelijkheid): Geformaliseerd met behulp van de Uncertainty Disparity Ratio (UDR) en de Uncertainty Equity Gap (UEG) over subgroepen gedefinieerd door type instelling, sociaaleconomische status (SES), leeftijd en biologisch geslacht.

Experimentele Opzet
De studie maakte gebruik van een synthetische klinische dataset van 1.000 patiënten met realistische multimodale data en subgroepstructuren. Datacompleetheid werd expliciet gemodelleerd als een functie van subgroeplidmaatschap om realiteitscenari's te simuleren (bijv. primaire/rurale patiënten hadden een kans van 45% op ontbrekende beeldvormingsdata vergeleken met 10% voor tertiaire patiënten). Het model werd getraind voor 50 epochs met de Adam-optimizer.

Belangrijkste Resultaten

• Modelprestaties: Het systeem behaalde een heldere nauwkeurigheid (held-out accuracy) van 85,7% en een ECE van 0,096, wat duidt op goed gekalibreerde voorspellingen. De samengestelde loss nam tijdens de training met 94,5% af.
• Onzekerheidspropagatie: Het model propageerde onzekerheid van ontbrekende data correct. Patiënten met ontbrekende beeldvormingsdata vertoonden een toename van 42,2% in de gefuseerde latente standaarddeviatie vergeleken met patiënten met volledige data.
• Equity Audit Bevindingen: Gekalibreerde epistemische onzekerheid identificeerde systematisch onderbediende populaties, waarbij het ongelijkheden aan het licht bracht die standaard accuratiewaarden misten (bijv. primaire/rurale nauwkeurigheid was 85,5% vs. tertiaire 82,6%, een verwaarloosbaar verschil van 2,9%, terwijl de onzekerheidsgap 15,3% bedroeg):
  • Type Instelling: Primaire/rurale patiënten vertoonden de grootste equity gap (UEG = 15,3%, $p < 0,001$, effectgrootte $r = 0,698$). Zij waren oververtegenwoordigd in de groep met hoge onzekerheid met 42,8%.
  • Sociaaleconomische Status: Patiënten met een lage SES vertoonden een onzekerheidsgap van 6,8% ($p < 0,001$).
  • Leeftijd: Oudere patiënten vertoonden een gap van 3,9% ($p < 0,001$).
  • Biologisch Geslacht: Er werd geen significante discrepantie gedetecteerd (UEG = 0,5%, $p = 0,909$), wat suggereert dat de waargenomen ongelijkheden structureel en op basis van middelen zijn en niet demografisch van aard.

Significantie en Claims
Het artikel stelt een herconceptualisering voor van onzekerheid in klinische AI: in plaats van onzekerheid louter te zien als een technische beperking die geminimaliseerd moet worden, moet gekalibreerde onzekerheid worden behandeld als een actiegericht equity-signaal.

De auteurs beweren dat hun framework aantoont dat:

1. Epistemische onzekerheid correleert met gezondheidsongelijkheid: Wanneer een model een data-omgeving tegenkomt met beperkte middelen (gekenmerkt door lagere datakwaliteit en ontbrekende modaliteiten), vertoont het van nature een hogere epistemische onzekerheid.
2. Onzekerheid een diagnostisch instrument is voor bias: Door ongelijkheden in onzekerheid te meten, kunnen belanghebbenden populaties identificeren voor wie het model systematisch minder betrouwbaar is, zelfs wanneer de algehele nauwkeurigheid hoog lijkt.
3. Betrouwbaarheid door transparantie: Een klinisch AI-systeem dat "weet wat het niet weet" en dit betrouwbaar communiceert, is niet alleen nauwkeuriger, maar fundamenteel rechtvaardiger.

De studie concludeert dat gekalibreerde onzekerheid een formele maatstaf vormt voor algoritmische gelijkheid, en een mechanisme biedt om structurele verschillen in gezondheidszorgdata te detecteren en aan te pakken zonder uitsluitend te vertrouwen op post-hoc bias-correctie.