Corrected Integrated Laplace Approximation for Bayesian Inference in Latent Gaussian Models

Technisches Fazit: Korrigierte integrierte Laplace-Approximation für die bayessche Inferenz in latenten Gaußschen Modellen

Problemstellung

Latente Gaußsche Modelle (LGMs) sind eine allgegenwärtige Klasse bayesscher hierarchischer Modelle, einschließlich Gaußscher Prozesse, räumlicher Modelle und Modelle mit gemischten Effekten. Sie sind durch eine gemeinsame Dichte $\pi(\theta, z, y) = \pi(\theta)\pi(z|\theta)\pi(y|\theta, z)$ definiert, wobei $\theta$ Hyperparameter, $z$ latente Gaußsche Variablen und $y$ Beobachtungen repräsentiert.

Eine primäre Herausforderung bei der bayesschen Inferenz für LGMs ist die hohe Dimensionalität von $z$ und die komplexe Geometrie der gemeinsamen Posteriorverteilung $\pi(\theta, z|y)$, die häufig eine effiziente Stichprobenziehung behindert. Eine gängige Strategie besteht darin, $z$ zu marginalisieren, um $\pi(\theta|y)$, ein Ziel niedrigerer Dimension, zu inferieren. Wenn die Likelihood $\pi(y|\theta, z)$ nicht-Gaußsch ist, ist eine exakte Marginalisierung nicht handhabbar. Der Standardansatz, die Integrierte verschachtelte Laplace-Approximation (INLA), verwendet eine Laplace-Approximation, um die bedingte Posteriorverteilung $\pi(z|\theta, y)$ als eine Gaußsche Verteilung, zentriert am Modus $\hat{z}$, zu approximieren.

Obwohl effizient, führt diese Approximation zu einem systematischen „Posterior-Fehler". Wenn die Likelihood nicht-Gaußsch ist, unterscheidet sich die approximative marginale Posteriorverteilung $\hat{\pi}(\theta|y)$ von der wahren Posteriorverteilung $\pi(\theta|y)$, selbst asymptotisch. Bestehende Methoden wie die Adjoint-Differenzierte Laplace-Approximation (ADLA) ermöglichen eine gradientenbasierte Stichprobenziehung (z. B. Hamiltonian Monte Carlo) auf dieser approximativen Posteriorverteilung, korrigieren jedoch nicht den zugrunde liegenden Bias, der durch die Laplace-Approximation eingeführt wird. Das Durchführen von MCMC auf der vollständigen gemeinsamen Posteriorverteilung $\pi(\theta, z|y)$ ist asymptotisch exakt, aber aufgrund der hohen Dimensionalität von $z$ oft rechnerisch nicht durchführbar.

Methodik

Die Autoren schlagen einen Importance-Sampling-Rahmen vor, um den durch die Laplace-Approximation eingeführten Fehler zu korrigieren, während die rechnerischen Vorteile der Marginalisierung erhalten bleiben. Der Kerngedanke besteht darin, dass die integrierte Laplace-Approximation als ein Importance-Sampling-Schätzer mit einer einzigen Stichprobe umformuliert werden kann. Durch Erhöhung der Anzahl der Stichproben konvergiert der Schätzer zur wahren marginalen Verteilung.

Die Arbeit beschreibt drei spezifische Implementierungen dieser Idee, die alle in einen automatischen Differenzierungsrahmen (JAX) integriert sind, um gradientenbasierte Inferenz zu unterstützen:

1. Pseudo-Marginal ADLA (PM-ADLA):

   • Mechanismus: Dieser Ansatz zielt auf eine erweiterte Verteilung über die Parameter $\theta$ und Hilfszufallsvariablen $\epsilon$ ab, die zur Generierung von Stichproben $z_i$ aus der Laplace-Approximation verwendet werden. Spezifisch gilt $z_i = \hat{z} + \sqrt{\Sigma}\epsilon_i$, wobei $\epsilon_i \sim \mathcal{N}(0, I)$.
   • Eigenschaften: Es liefert einen erwartungstreuen Schätzer der marginalen Likelihood. Wenn die Anzahl der Stichproben $n \to \infty$ geht, konvergiert die Posteriorverteilung zur korrekten Verteilung.
   • Kompromiss: Es erhöht die Dimensionalität des Inferenzproblems um $(n-1)d_z$ (wobei $d_z$ die Dimension von $z$ ist) und erfordert $n$ Dichteauswertungen pro HMC-Schritt.

2. Quasi-Monte-Carlo ADLA (QMC-ADLA):

   • Mechanismus: Anstelle von zufälligen Hilfsvariablen fixiert diese Methode die Zufälligkeit unter Verwendung einer Sequenz mit niedriger Diskrepanz (LDS), wie z. B. der Sobol-Sequenz. Die Hilfsvariablen $u_i$ sind feste Punkte im Einheitswürfel, und $z_i$ werden über eine Inverse-CDF-Transformation generiert.
   • Eigenschaften: Dies reduziert die Schätzvarianz des Importance Sampling unter geeigneten Bedingungen auf $O(n^{-2})$ und bietet eine schnellere Konvergenz als Standard-Monte-Carlo. Es behält einen parameterraum niedrigerer Dimension bei (identisch mit ADLA).
   • Kompromiss: Obwohl asymptotisch korrekt, stellt die Arbeit fest, dass für endliches $n$ der Bias signifikant bleiben kann und die feste Natur der Punkte selbst bei moderatem $n$ in der Praxis zu großen Fehlern führen kann.

3. Randomized Quasi-Monte-Carlo ADLA (RQMC-ADLA):

   • Mechanismus: Dies vereint die beiden vorherigen Ansätze. Es verwendet eine einzige zufällige Verschiebungsvariable $U$, die auf eine feste LDS angewendet wird, um die Hilfsvariablen $u_i = (v_i + U) \pmod 1$ zu generieren.
   • Eigenschaften: Es liefert einen erwartungstreuen Schätzer der marginalen Likelihood und erhöht nicht die Modelldimension (die Hilfsvariable $U$ hat zwar dieselbe Dimension wie $z$, wird aber über alle Stichproben hinweg geteilt).
   • Kompromiss: Die Modulo-Operation führt zu Diskontinuitäten in der Ziel-Dichte bezüglich $U$, was Standard-HMC unanwendbar macht. Die Autoren schlagen einen Metropolis-Within-Gibbs (MwG)-Sampler vor: HMC aktualisiert $\theta$ bedingt auf $U$, und ein Metropolis-Hastings-Schritt aktualisiert $U$ bedingt auf $\theta$.

Wiederherstellung latenter Variablen:
Die Arbeit beschreibt zudem eine Methode, um Stichproben der latenten Variablen $z$ zu gewinnen, die näher an der wahren Posteriorverteilung $\pi(z|\theta, y)$ liegen als die Standard-Laplace-Approximation. Durch Berechnung von Importance-Gewichten für die $n$ Stichproben $z_1, \dots, z_n$ kann eine diskrete Approximation der wahren bedingten Posteriorverteilung konstruiert werden, wodurch auch die Inferenz der latenten Variablen effektiv korrigiert wird.

Hauptbeiträge

• Theoretische Umformulierung: Die Autoren zeigen, dass die integrierte Laplace-Approximation ein spezieller Fall eines Importance-Sampling-Schätzers mit einer Stichprobe ist. Sie beweisen, dass die Erhöhung der Stichprobengröße in diesem Rahmen eine asymptotisch korrekte Posteriorverteilung liefert.
• Algorithmische Varianten: Sie schlagen drei verschiedene Algorithmen vor und implementieren diese (PM-ADLA, QMC-ADLA, RQMC-ADLA), die rechnerische Effizienz, Dimensionalität und asymptotische Korrektheit in Einklang bringen.
• Gradientenberechnung: Die Arbeit erweitert den ADLA-Rahmen, um Gradienten für diese Importance-Sampling-Schätzer zu berechnen, was die Verwendung von Hamiltonian Monte Carlo (HMC) und anderen gradientenbasierten Samplern ermöglicht.
• Wiederherstellung latenter Variablen: Ein Verfahren wird bereitgestellt, um verbesserte Posterior-Stichproben für die latenten Variablen $z$ unter Verwendung der während der marginalen Inferenz abgeleiteten Importance-Gewichte zu erhalten.

Experimentelle Ergebnisse

Die Methoden wurden an synthetischen Gaußschen Prozessen mit Poisson-Likelihoods, Sparse-Kernel-Interaktionsmodellen (SKIMs) auf realen Daten und Modellen mit gemischten Effekten (Epil2-Datensatz) evaluiert.

• Fehlerreduktion: In allen Experimenten reduzierten die vorgeschlagenen Methoden (PM, QMC, RQMC) den Schätzfehler der Parametermittelwerte im Vergleich zur Standard-ADLA signifikant.
• Konvergenz:
  • PM-ADLA: Korrigierte den Posterior-Fehler effektiv, war jedoch aufgrund der erhöhten Dimensionalität und mehrerer Dichteauswertungen rechnerisch langsamer.
  • QMC-ADLA: Zeigte eine reduzierte Varianz, wies jedoch in einigen Fällen (z. B. bei der Schätzung von Mittelwerten spezifischer Parameter in SKIMs) auch bei großem $n$ einen anhaltenden Bias auf.
  • RQMC-ADLA: Erzielte einen Ausgleich, korrigierte den Bias der ADLA mit einer Leistung, die in Bezug auf den Fehler mit Standard-HMC vergleichbar war, wobei der Gibbs-Sampling-Schritt jedoch höhere rechnerische Kosten pro Iteration verursachte.
• Divergenzen: In Modellen, bei denen Standard-HMC auf der vollständigen Posteriorverteilung unter divergierenden Übergängen litt (was auf eine schlechte Geometrie hinweist), eliminierten alle Marginalisierungsmethoden (einschließlich ADLA und der vorgeschlagenen Korrekturen) die Divergenzen und zeigten damit, dass die approximative marginale Geometrie gutartig ist.
• Effizienz: Während ADLA die schnellste Methode war, litt sie unter Bias. Die vorgeschlagenen Methoden boten einen einstellbaren Kompromiss: Die Erhöhung von $n$ reduzierte den Bias auf Kosten der Rechenzeit.

Bedeutung und Behauptungen

Die Arbeit behauptet, eine „korrigierte" Version der integrierten Laplace-Approximation bereitzustellen, die die Skalierbarkeit der Marginalisierung beibehält und gleichzeitig asymptotische Garantien der Korrektheit bietet. Die Bedeutung liegt in der Überbrückung der Lücke zwischen der Effizienz approximativer Methoden (wie INLA/ADLA) und der Genauigkeit exaktem MCMC.

Die Autoren betonen, dass ihre Methoden es Benutzern ermöglichen, die Flexibilität probabilistischer Programmiersprachen (über automatische Differenzierung) zu nutzen, ohne durch die Genauigkeitsbeschränkungen der Laplace-Approximation eingeschränkt zu sein. Sie positionieren RQMC-ADLA als einen besonders vielversprechenden Ansatz, der die Erhöhung der Modelldimension vermeidet und gleichzeitig den Posterior-Fehler korrigiert, wenn auch mit einem komplexeren Sampling-Schema (MwG), um Diskontinuitäten zu handhaben. Die Arbeit legt nahe, dass für viele Anwendungen die rechnerischen Kosten dieser Korrekturen durch die Reduktion des Posterior-Bias gerechtfertigt sind, was zuverlässigere nachgelagerte Anwendungen ermöglicht.