Shrinkage-Constrained Functional Calibration for Complex Computer Models

Technische Samenvatting: Shrinkage-geconstreerde Functionele Kalibratie voor Complexe Computermodellen

Probleemstelling
Het artikel behandelt de uitdagingen die inherent zijn aan het kalibreren van inexacte computermodellen binnen het kader van Bayesiaanse inferentie, specif으로 binnen het door Kennedy en O'Hagan (KOH) gevestigde kader. De standaard KOH-benadering behandelt kalibratieparameters ($\theta$) als vaste maar onbekende verdelingen met zwakke prior-beperkingen, waarbij ze gezamenlijk met een additieve discrepantie Gaussische Proces (GP), $\delta_\eta(x)$, worden geïnferieerd. De auteurs stellen dat deze formulering lijdt aan "confounding pathologieën" (verwarrende pathologieën), met name wanneer deze wordt toegepast op modellen met schaarse of ruizige data. In dergelijke scenario's staat het gebrek aan sterke beperkingen op $\theta$ ervoor dat de likelihood de posterior domineert, wat leidt tot een onvermogen om te onderscheiden of afwijkingen tussen de simulator en de observaties te wijten zijn aan onjuiste parametervariabelen of aan structurele model inadequaatheid (modelvorm-fout). Dit identificeerbaarheidsprobleem wordt verergeren wanneer de modelsimulator gevoelig is voor parameters, waardoor meerdere combinaties van $\theta$ en $\delta_\eta$ de data even goed kunnen fitten.

Methodologie: Integrated Bias with Full Uncertainty (IBFU)
De auteurs stellen een nieuwe formalisering voor, getiteld Integrated Bias with Full Uncertainty (IBFU). Deze benadering herinterpreteert parameterkalibratie door elke parameter te verankeren aan een vaste, door experts afgeleide "best-estimate" waarde ($\theta_0$) en de afwijkingen van deze ankerplaats te modelleren als een functionele correctie.

Belangrijke methodologische componenten zijn:

1. Parameterdecompositie: In plaats van $\theta$ als een globale onbekende te behandelen, stelt IBFU de effectieve kalibratieparameter voor als $\theta^* = \theta_0 + \kappa(x)$, waarbij $\kappa(x)$ een parametercorrectieveld is dat wordt gemodelleerd als een Gaussisch Proces over de inputruimte.
2. Shrinkage Priors: De kerninnovatie is de toepassing van sterke shrinkage-priors op de hyperparameters van de GP die $\kappa(x)$ regelt. Deze priors bestraffen afwijkingen van nul, waardoor de gemiddelde parametercorrectie effectief vlak wordt gehouden (convergerend naar $\theta_0$), tenzij de data sterk bewijs levert voor input-afhankelijke variatie. Hierdoor kan de methode de standaard KOH-formulering (waarbij $\kappa$ constant is) als een speciaal geval nesten en tegelijkertijd uitbreiden naar input-afhankelijke kalibratie.
3. Additieve Discrepantie: Een residuele additieve discrepantieterm, $\delta_\eta(x)$, wordt behouden om modelinadequaatheid te vangen die niet kan worden opgelost door parametercorrectie.
4. Orthogonaliteitsbeperkingen: Om confounding tussen de parametercorrectie $\kappa(x)$ en de additieve discrepantie $\delta_\eta(x)$ te mitigeren, leggen de auteurs orthogonaliteitsbeperkingen op. Met behulp van een Jacobiaanmatrix van de simulator-sensitiviteiten wordt de additieve discrepantie geprojecteerd op de subspace die orthogonaal staat op de parametersensitiviteiten. Dit zorgt ervoor dat $\delta_\eta(x)$ alleen fouten vangt die niet verklaard kunnen worden door het aanpassen van de parameters.
5. Inferentie-algoritme: De methode maakt gebruik van een Markov Chain Monte Carlo (MCMC)-algoritme (specifiek Metropolis-Hastings en Gibbs sampling) om de getransformeerde discrepantievervelden, de ruisvariantie en de GP-hyperparameters gezamenlijk te infereren.

Belangrijkste Bijdragen

• Nieuwe Formalisering: De introductie van IBFU, die kalibratieparameters verankert aan beste schattingen en gecontroleerde, data-gestuurde functionele correcties via shrinkage-priors mogelijk maakt.
• Regularisatie van Identificeerbaarheid: Het gebruik van hiërarchische shrinkage-priors fungeert als een regularisator, wat voorkomt dat modelvorm-fout wordt geabsorbeerd door parametercorrecties en vice versa, een veelvoorkomende faalmodus in standaard KOH-kalibratie.
• Orthogonalisering: De implementatie van sensitiviteits-gebaseerde orthogonale projectie om parametercorrecties structureel te scheiden van additieve modeldiscrepanties.
• Flexibiliteit: Het framework is universeel ontworpen en kan zowel constante parameters (terugkerend naar KOH-achtig gedrag) als state-afhankelijke parameters afhandelen, afhankelijk van het bewijs dat door de data wordt geleverd.

Resultaten
De auteurs evalueren IBFU tegenover standaard KOH en een vereenvoudigde Integrated Bias (IB) methode (die de additieve discrepantieterm mist) met behulp van twee synthetische studies en een real-world toepassing:

1. Synthetische Studie 1 (Constante Parameters): In een scenario waarin de ware parameters constant zijn, slaagt IBFU erin de ware waarden te herstellen binnen de onzekerheidsgrenzen. In contrast hiermee vertoont de standaard KOH-methode overfitting, waarbij de posteriorverdelingen een gebrek aan precisie en accuratesse vertonen, en de additieve discrepantie de parametermismatch absorbeert.
2. Synthetische Studie 2 (Functionele Parameters): Wanneer de ware parameters variëren over het domein, leert IBFU succesvol de functionele vorm van de parametercorrecties. De IB-methode faalt in regio's waar modelinadequaatheid bestaat maar niet verklaard kan worden door parameterschommelingen, terwijl KOH faalt in het vastleggen van de functionele aard van de parameters, wat resulteert in ruizige posteriorverdelingen.
3. Real-World Applicatie (Kristalplasticiteit): De methode wordt toegepast om een continuüm Discrete Dislocation Dynamics (DDD) model te kalibreren tegen Molecular Dynamics (MD) simulatiegegevens. De resultaten laten zien dat IBFU in staat is om onderscheid te maken tussen parametercorrecties (specifiek gerelateerd aan de afschuifmodulus) en additieve discrepanties. De analyse toont aan dat het model de geobserveerde data primair kan repliceren via parametercorrectie, waarbij de additieve discrepantie nabij nul blijft, wat de bekwaamheid van de methode valideert om foutbronnen correct toe te schrijven.

Significantie en Claims
De auteurs beweren dat IBFU een robuustere en fysiek meer gefundeerde aanpak biedt voor modelkalibratie. Door parameters te verankeren aan betrouwbare beste schattingen en shrinkage-priors te gebruiken om afwijkingen te regulariseren, behoudt de methode expertkennis terwijl deze flexibel genoeg blijft om van data te leren. Het artikel stelt dat deze aanpak effectief de confounding tussen parameterkalibratie en discrepantie-biascorrectie mitigeert, een hardnekkig probleem in Bayesiaanse kalibratie. Hoewel de auteurs erkennen dat identificeerbaarheidsproblemen niet volledig zijn geëlimineerd, stellen zij dat deze aanpak een significante verbetering vormt ten opzichte van bestaande routines door een "strak geconstreerd" doch "meer universeel" framework te bieden dat KOH als een speciaal geval nest. De methode is bijzonder waardevol voor complexe modellen waarbij domeinexperts over betrouwbare best-estimate waarden beschikken, maar waar de effectieve parameters kunnen variëren door onopgeloste fysica of modelinadequaatheid.