Technische Samenvatting: Hoe een Bayesiaanse Besluitvormer Leert van AI-Beslissingsondersteuning

Probleemstelling

Systemen voor Machine Learning Beslissingsondersteuning (ML-DS) worden steeds vaker ingezet in kritieke domeinen zoals de gezondheidszorg en de rechtspraak om menselijke actoren te assisteren. Hoewel deze systemen voorspellingen doen op basis van historische data, blijft het mechanisme waarmee rationele menselijke actoren deze voorspellingen integreren in hun besluitvormingsproces slecht begrepen. Specifiek is er een gebrek aan kwantitatieve kaders die beschrijven hoe een actor zijn overtuigingen over een populatie en de onderliggende causale mechanismen (bijv. behandelingseffecten) bijwerkt na het observeren van een ML-voorspelling.

Er bestaat een kritieke kloof in het begrip van hoe de prior-overtuigingen van een actor met betrekking tot het proces dat de data genereert en de trainingsdata van het ML-model de bruikbaarheid van ML-DS beïnvloeden. Zoals de motiverende voorbeelden in het artikel illustreren, kunnen identieke ML-voorspellingen leiden tot diametraal tegenovergestelde acties, afhankelijk van of de actor gelooft dat de trainingsdata bestond uit behandelde of onbehandelde patiënten. Bovien is het onduidelijk of een verkeerd afgestemde prior-overtuiging kan ervoor zorgen dat een rationele actor suboptimale beslissingen neemt, zelfs wanneer het ML-model correct gespecificeerd is.

Methodologie: De 2-Staps Actor Framework

De auteurs stellen een algemeen computationeel framework voor, de 2-Staps Actor, om de interactie tussen een Bayesiaanse actor en een ML-DS systeem te modelleren. Het framework bestaat uit twee afzonderlijke fasen:

1. Bayesiaanse Update van Overtuigingen (Stap 1)

De actor observeert niet de ruwe trainingsdata, maar ontvangt een voorspelling ($Pred_o$) voor een nieuwe observatie ($X_o$) van een model dat getraind is op historische data ($D_{Hist}$).

• Wereldmodel van de Actor ($A_{Hist}$): De actor onderhoudt een probabilistisch model van de wereld dat overtuigingen bevat over de populatiebrede distributies (covariaten, behandelingsruis, uitkomstruis) en het causale mechanisme (behandelingseffect). Cruciaal is dat dit model ook de overtuigingen codeert over het trainingsproces van het ML-model, inclus\n bij de omvang van de trainingsset en de modelklasse.
• Inferentie: Bij het observeren van $X_o$ en $Pred_o$ voert de actor een Bayesiaanse update uit. De voorspelling wordt behandeld als gecomprimeerde informatie over de latente variabelen van de trainingsdata. De actor leidt de posterior distributie af over de populatiebrede parameters (specifiek de behandelingseffectruis $N_E$ en historische beleidsparameters) door te redeneren via de "plaat" van uitwisselbare trainingsvariabelen.
• Oplossing voor Tractabiliteit: De auteurs pakken de computationele onhandelbaarheid aan van inferentie door een grote plaat van uitwisselbare variabelen. Voor een lineaire Gaussische setting bewijzen zij (Theorema 2.8) dat de likelihood van de ML-modelparameters gereduceerd kan worden tot een functie van populatiebrede variabelen en een kleine set voldoende statistieken (specifiek $O(k^2)$ statistieken voor $k$ confounders). Deze reductie maakt efficiënte sampling van de posterior mogelijk zonder de volledige historische dataset te simuleren.

2. Causale Inferentie en Besluitvorming (Stap 2)

Gebruikmakend van de bijgewerkte posterior overtuigingen uit Stap 1, schat de actor het Conditionele Gemiddelde Behandelingseffect (CATE) voor de nieuwe patiënt.

• Inferentie Model ($A_{Inf}$): De actor trekt samples uit de posterior distributie van de structurele causale model (SCM) parameters.
• Beslisregel: De actor berekent de verwachte CATE over de distributie van mogelijke SCM's. Als het verwachte voordeel van een specifieke behandeling een drempelwaarde $\tau$ overschrijdt, selecteert de actor die behandeling; anders selecteert hij de alternatieve behandeling.

Het framework kwantificeert de impact van ML-DS door de downstream uitkomsten ($Y$) van actoren met en zonder beslissingsondersteuning te vergelijken, gedefinieerd als $E_{Hist}(Y | do(A = ML\text{-}DS)) - E_{Hist}(Y | do(A = no\ ML\text{-}DS))$.

Experimentele Opzet

De auteurs implementeerden het framework met PyMC om een klinische use case te simuleren:

• Scenario: Een univariate regressie setting waarbij een patiëntgewicht ($X$) de chemotherapie dosering ($A$) en overlevingsmaanden ($Y$) beïnvloedt.
• Actoren: Gesimuleerde actoren met "correcte" priors (passend bij het werkelijke proces dat de data genereert) en actoren met misalignede (niet-afgestemde) priors (systematische afwijkingen in overtuigingen over het behandelingseffect, het historische behandelingsbeleid of de covariantendistributie).
• Vergelijking: De studie vergelijkt de uitkomsten voor actoren die ML-DS gebruiken (oranje serie) versus actoren die uitsluitend vertrouwen op hun priors (blauwe serie) over variërende graden van prior-misalignment.

Belangrijkste Resultaten

1. Leren van ML-DS: Wanneer de prior-overtuiging van een actor met betrekking tot het behandelingseffect ($N_E$) misaligned is, maar alle andere overtuigingen correct zijn, kan de actor succesvol leren van de ML-voorspelling. De Bayesiaanse update corrigeert de overtuiging, wat leidt tot verbeterde CATE-schattingen en betere downstream uitkomsten vergeleken met het niet gebruiken van ML-DS.
2. Het Gevaar van Misalignede Priors: Het artikel demonstreert dat een enkele misalignede prior voldoende is om de prestaties van ML-DS te verslechteren.
   • Als de actor onjuiste overtuigingen heeft over het historische behandelingsbeleid ($\alpha_{A\mu}$), kan de interactie met ML-DS leiden tot foutieve CATE-schattingen. De actor probeert de ML-voorspelling te verzoenen met de onjuiste prior, wat resulteert in suboptimale behandelingskeuzes en slechtere uitkomsten dan wanneer de actor de ML-ondersteuning zou hebben genegeerd.
   • Vergelijkbare negatieve effecten werden waargenomen wanneer actoren misalignede priors hadden met betrekking tot de covariantendistributie ($\alpha_{X\mu}$) of de uitkomstdistributie ($\alpha_{Y\mu}$).
3. Posterior Correlatie: Het leerproces manifesteert zich als een correlatie in de posterior overtuigingen van de actor. Wanneer een voorspelling de verwachtingen tegenspreekt, overweegt de actor meerdere hypothesen (bijv. de behandeling is minder effectief dan gedacht, OF de historische doseringen waren hoger dan aangenomen), wat een afhankelijkheid creëert tussen het geïnferreerde behandelingseffect en het geïnferreerde historische beleid.

Betekenis en Claims

Het artikel claimt de eerste expliciete framework te bieden die de interactie tussen een Bayesiaanse actor en ML-DS ontleedt, specif으로 door te modelleren hoe een actor leert over het proces dat de data genereert vanuit een ML-voorspelling.

• Theoretische Bijdrage: De afleiding van een tractabele oplossing voor Bayesiaanse inferentie door uitwisselbare trainingsvariabelen (Theorema 2.8) maakt de simulatie van leerdynamiek mogelijk die voorheen computationeel onhaalbaar was.
• Empirische Bijdrage: De studie levert kwantitatief bewijs dat ML-DS meer schade dan goed kan doen, zelfs onder ideale omstandigheden (waar het model correct gespecificeerd is en de actor perfect rationeel is). De primaire determinant van succes is de afstemming van de prior-overtuigingen van de actor met de realiteit van de trainingsdata.
• Praktische Implicatie: De bevindingen onderstrepen het cruciale belang van het verstrekken van uitgebreide documentatie over trainingsdata en protocollen aan gebruikers van ML-DS. Zonder de juiste afstemming van priors (bijv. door training of documentatie), kan de introductie van AI-ondersteuning leiden tot schadelijke downstream uitkomsten.

De auteurs merken op dat hun resultaten generaliseerbaar zijn naar elk veld dat voorspellingsmodellen voor beslissingsondersteuning gebruikt, hoewel de huidige implementatie beperkt is tot lineaire, behandelings-naïeve modellen en single-step interacties. Toekomstig werk wordt geïdentificeerd als noodzakelijk om causale ML-modellen, heterogene behandelingseffecten en herhaalde interacties te verkennen.