📊 statistics

Interpretable epistemic uncertainty decomposition in sequential generative models via polynomial chaos surrogates

Dieser Beitrag stellt ein Framework vor, das Polynom-Chaos-Surrogate nutzt, um epistemische Unsicherheit in sequenziellen generativen Modellen analytisch zu zerlegen und zu interpretieren, wodurch die Identifizierung spezifischer Belohnungskomponenten ermöglicht wird, die generative Entscheidungen antreiben, und dies mit deutlich höherer Recheneffizienz und formaler Verifizierung als bestehende Deep-Learning-Methoden.

Ursprüngliche Autoren: Ramón Nartallo-Kaluarachchi, Shashanka Ubaru, Małgorzata J Zimoń, Dongsung Huh, Robert Manson-Sawko, Lior Horesh, Yoshua Bengio

Veröffentlicht 2026-05-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ramón Nartallo-Kaluarachchi, Shashanka Ubaru, Małgorzata J Zimoń, Dongsung Huh, Robert Manson-Sawko, Lior Horesh, Yoshua Bengio

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Koch, der versucht, ein neues Rezept zu erfinden. Sie haben einen „Geschmacksprüfer" (eine KI), der Ihnen sagt, wie gut ein Gericht möglicherweise sein könnte. Doch hier liegt der Haken: Ihr Geschmacksprüfer ist etwas wackelig. Manchmal mag er ein Gericht wegen des Salzes; manchmal mag er es wegen des Pfeffers. Sie wissen nicht, warum der Geschmacksprüfer Ihnen eine bestimmte Punktzahl gibt, und Sie wissen nicht, ob das von ihm vorgeschlagene Rezept tatsächlich gut ist oder ob es einfach nur Glück mit den Zutaten hatte, die Sie ihm zufällig gezeigt haben.

Diese Arbeit stellt ein neues Werkzeug vor, um genau dieses Problem für KI-Wissenschaftler zu lösen. Es hilft ihnen herauszufinden, warum eine KI eine bestimmte Wahl trifft und wie sehr sie dieser Wahl vertrauen sollten, insbesondere dann, wenn die „Regeln", aus denen die KI lernt, unvollkommen sind.

Hier ist eine einfache Aufschlüsselung der Funktionsweise, unter Verwendung der Analogien aus der Arbeit:

1. Das Problem: Das „Black-Box"-Ensemble

Normalerweise trainieren Wissenschaftler, um Unsicherheiten zu bewältigen, viele Versionen derselben KI (als würden sie 50 verschiedene Köche bitten, dasselbe Gericht zuzubereiten). Wenn alle 50 Köche sich auf das Rezept einigen, fühlen Sie sich sicher. Wenn sie alle verschiedene Dinge vorschlagen, wissen Sie, dass Sie in Schwierigkeiten stecken.

Aber es gibt einen Fehler: Sie wissen, dass sie sich nicht einig sind, aber Sie wissen nicht, warum.

Liegt die Uneinigkeit daran, dass das Salz unsicher ist?
Liegt es daran, dass die Hitze unsicher ist?
Oder ist es nur zufälliges Rauschen?

Standardmethoden können Ihnen sagen, „das Rezept ist wackelig", aber sie können nicht auf die spezifische Zutat zeigen, die das Wackeln verursacht.

2. Die Lösung: Das „Kristallprisma" (Polynomial-Chaos-Approximationen)

Die Autoren haben ein spezielles „Prisma" (eine Polynomial-Chaos-Entwicklung oder PCE) gebaut, das zwischen der KI und den Daten sitzt.

Stellen Sie sich den Entscheidungsprozess der KI als einen Strahl weißen Lichts (totale Unsicherheit) vor, der in einen dunklen Raum fällt.

Alte Methode: Sie sehen nur, ob das Licht hell oder dunkel ist. Sie wissen, dass Unsicherheit besteht, aber Sie können die Farben im Inneren nicht sehen.
Neue Methode (Das Prisma): Das Prisma spaltet dieses weiße Licht in einen Regenbogen auf. Plötzlich können Sie genau sehen, welche „Farbe" (welcher spezifische Teil der Daten) die meisten Probleme verursacht.

Dieses Prisma rät nicht nur; es verwendet Mathematik, um analytisch zu berechnen, wie stark jeder Teil der Eingabe (wie das Salz, der Pfeffer oder die Hitze) zur endgültigen Entscheidung der KI beiträgt.

3. Reale Beispiele aus der Arbeit

Die Autoren testeten dieses Prisma in drei sehr unterschiedlichen „Küchen", um zu sehen, ob es funktionierte:

A. Die Chemie-Küche (Herstellung von Medikamenten)

Die Aufgabe: Eine KI versucht herauszufinden, welche Mischung von Chemikalien am besten geeignet ist, um ein neues Medikament zu erzeugen.
Die Überraschung: Alle dachten, die „Grundstruktur" des Moleküls sei der wichtigste und stabilste Teil.
Was das Prisma fand: Das Prisma enthüllte das Gegenteil! Der „Linker" (das Teil, das die Molekülteile verbindet) war tatsächlich der fragilste Teil. Wenn die Daten über den Linker auch nur geringfügig falsch waren, änderte sich das gesamte Rezept. Die Grundstruktur war tatsächlich ziemlich robust.
Die Erkenntnis: Wissenschaftler wissen nun, dass sie spezifisch mehr Daten über den Linker und nicht über die Grundstruktur benötigen, um die KI zuverlässiger zu machen.

B. Die Biologie-Küche (Kartierung von Proteinsignalen)

Die Aufgabe: Eine KI versucht, eine Karte zu zeichnen, wie Proteine in einer Zelle miteinander kommunizieren.
Die Überraschung: Einige Teile der Karte waren klar, während andere ein Chaos waren.
Was das Prisma fand: Es teilte die Karte in zwei distincte Zonen auf. Eine Zone (der „MAPK"-Signalweg) war empfindlich gegenüber einer Art von Datenfehler, während eine andere Zone (die „PKA/PKC"-Knotenpunkte) empfindlich gegenüber einer anderen Art war.
Die Erkenntnis: Anstatt zu raten, wo weitere Experimente durchgeführt werden müssen, können Wissenschaftler nun auf den Regenbogen des Prismas schauen und genau sehen, welcher Teil der Karte mehr Daten benötigt, um klar zu werden.

C. Die Sprach-Küche (KI beibringen, zu schlussfolgern)

Die Aufgabe: Eine KI lernt, mathematische Probleme schrittweise zu lösen.
Die Überraschung: Die KI hält manchmal zu früh an oder geht zu lange weiter.
Was das Prisma fand: Es zeigte, dass die frühen Schritte der Schlussfolgerung stabil waren, aber spätere Schritte (wo die KI zwischen sehr ähnlich aussehenden Antworten wählen muss) hochgradig anfällig für Unsicherheit waren.
Die Erkenntnis: Das „Vertrauen" der KI sinkt zu bestimmten Momenten, und das Prisma sagt uns genau, wann und warum.

4. Warum dies eine große Sache ist

Geschwindigkeit: Das Prisma ist unglaublich schnell. Es kann 10.000 verschiedene Szenarien in einem Bruchteil einer Sekunde simulieren. Dies durch 10.000-maliges Neutrainieren der KI zu tun, würde Tage dauern. Das Prisma erledigt es in Millisekunden.
Klarheit: Es sagt nicht nur „Ich bin unsicher". Es sagt: „Ich bin unsicher wegen dieser spezifischen Zutat."
Vertrauen: Es hilft Wissenschaftlern zu entscheiden, welche KI-Vorschläge solide sind und welche nur glückliche Ratschläge auf Basis unvollständiger Daten sind.

Zusammenfassung

Diese Arbeit gibt Wissenschaftlern eine Lupe für KI-Unsicherheit. Anstatt nur ein unscharfes Bild von „vielleicht das, vielleicht das" zu sehen, spaltet das neue Werkzeug die Unschärfe auf, um genau zu zeigen, welcher Informationsbestandteil die Verwirrung verursacht. Dies ermöglicht es Forschern, die spezifischen Schwachstellen in ihren Daten zu beheben, anstatt blind zu raten.

Technisches Zusammenfassung: Interpretierbare Zerlegung epistemischer Unsicherheit in sequentiellen generativen Modellen mittels Polynomial-Chaos-Substituten

Problemstellung

Sequentielle generative Modelle, wie Generative Flow Networks (GFlowNets), gewinnen zunehmend an Bedeutung für die KI-gestützte wissenschaftliche Entdeckung, kombinatorische Optimierung und biologische Gestaltung. Diese Modelle operieren häufig unter Bedingungen epistemischer Unsicherheit, insbesondere wenn die sie steuernden Belohnungsfunktionen selbst unsicher sind (z. B. neuronale Netzwerk-Substitute, die auf begrenzten experimentellen Daten trainiert wurden). Während bestehende Methoden wie Deep Ensembles und Bayes'sche neuronale Netze die Größe der Vorhersageunsicherheit quantifizieren können, versagen sie darin, eine interpretierbare Zerlegung dieser Unsicherheit zu liefern. Folglich können Praktiker nicht bestimmen, welche spezifischen Komponenten der Eingabe-Belohnungsunsicherheit welche generativen Entscheidungen antreiben, noch können sie robuste chemische Signale von statistischen Artefakten unterscheiden, die aus Verzerrungen im Trainingsdatensatz resultieren.

Methodik

Die Autoren schlagen ein Substitut-Modellierungs-Framework vor, das epistemische Unsicherheit mittels Polynomial-Chaos-Entwicklungen (PCE) durch GFlowNets propagiert. Der Ansatz verläuft in drei Stufen:

Ensemble-Training und Parametrisierung: Ein bescheidenes Ensemble von GFlowNets wird unter variierenden Belohnungsbedingungen trainiert. Der Raum der Belohnungsfunktionen wird mittels Hauptkomponentenanalyse (PCA) oder analytischer Entwicklungen (z. B. Karhunen–Loève) in einen niedrigdimensionalen latenten Raum $\mu \in \mathbb{R}^d$ parametrisiert. PCA wird bevorzugt, da ihre orthogonalen Komponenten unabhängige Gaußsche Eingaben approximieren, eine Voraussetzung für eine gültige analytische Sobol-Zerlegung.
PCE-Substitut-Anpassung: Für jede Aktion $k$ am Trajektorien-Schritt $t$ wird eine PCE angepasst, um die niedrigdimensionalen Belohnungsparameter $\mu$ auf die logarithmisch-verhältnis-transformierten Aktionswahrscheinlichkeiten abzubilden (unter Verwendung einer additiven Log-Ratio-Transformation relativ zu einer Referenzaktion). Die Koeffizienten werden mittels regularisierter Ridge-Regression geschätzt.
Analytische Zerlegung: Die angepassten PCE-Koeffizienten ermöglichen die analytische Berechnung von Sobol-Sensitivitätsindizes. Im Gegensatz zu Monte-Carlo-Methoden, die eine kostspielige Integration erfordern, werden diese Indizes direkt aus den Polynomkoeffizienten abgeleitet und liefern eine exakte, varianzbasierte Zerlegung, wie stark jede Komponente der Belohnungsunsicherheit zur Varianz in der Policy-Verteilung beiträgt.

Das Framework umfasst formale Konvergenzgarantien für das Substitut und seine Sobol-Indizes. Vier von fünf Schlüsseleigenschaften (PCE-Konvergenz, Sobol-Index-Konvergenz, Simplex-Erhaltung und Unsicherheitspropagationsgrenzen) wurden im Lean 4-Beweisassistenten formal verifiziert.

Hauptbeiträge

Allgemeines Framework: Eine rechnerisch effiziente Methode zur Propagierung und Zerlegung epistemischer Unsicherheit in konditionierten sequentiellen generativen Modellen mittels PCE-Substituten, die an kleine Ensembles angepasst werden.
Formale Verifizierung: Theoretische Konvergenzgarantien für das Substitut und seine Sensitivitätsindizes, wobei vier von fünf Theoremen in Lean 4 formal verifiziert wurden.
Interpretierbare Sensitivitätszerlegung: Die erste analytische Methode zur Zerlegung der Policy-Unsicherheit in generativen Modellen, die genau aufdeckt, welche Belohnungskomponenten spezifische generative Entscheidungen antreiben. Diese Fähigkeit ist bei Standard-Deep-Ensembles, Bayes'schen neuronalen Netzen oder Monte-Carlo-Dropout nicht verfügbar.
Empirische Validierung: Demonstrationen über sieben Aufgaben zunehmender Komplexität, einschließlich drei realer Anwendungen und vier synthetischer Validierungsaufgaben.

Ergebnisse und Anwendungen

Das Framework wurde in drei primären realen Domänen evaluiert:

Optimierung chemischer Reaktionen (Buchwald–Hartwig): Auf dem Doyle–Dreher-Datensatz analysierte das Framework die Auswahl von Katalysator, Base, Arylhalogenid und Additiv. Es zeigte sich, dass die Katalysatorauswahl robust ist (niedriger Sobol-Index, $D \approx 71$ ), was auf ein echtes chemisches Signal hindeutet, während die Additivauswahl fragil ist (hoher Sobol-Index, $D \approx 179$ , 2,5 $\times$ höher), was eine Anfälligkeit für Verzerrungen im Trainingsdatensatz anzeigt. Dies adressiert direkt die „Chuang–Keiser-Debatte" über statistische Artefakte in Ausbeutevorhersagern.
Bayessche kausale Entdeckung (Sachs-Proteinsignalisierung): Auf das Sachs-Netzwerk angewendet, zeigte die Analyse, dass zwar alle Kanten aufgrund begrenzter Daten (200 Beobachtungen) eine hohe Varianz aufwiesen, sich die Unsicherheit jedoch in distincte Regime zerlegen ließ. MAPK-Weg-Kanten wurden von einer Hauptkomponente der Kovarianzvariation angetrieben, während PKA/PKC-Hub-Kanten von einer anderen angetrieben wurden. Dies liefert eine gezielte Karte für Perturbationsexperimente.
Fragmentbasiertes molekulares Design: Bei einer Aufgabe zum Design von Wirkstoffähnlichkeit widerlegte das Framework die konventionelle Annahme, dass Gerüste robust und Dekorationen fragil seien. Die Ergebnisse zeigten, dass die Linker-Position die fragilste Komponente war ( $D \approx 28,2$ ), während Gerüst- und Dekorationspositionen robuster waren. Dies legt nahe, dass experimentelle Bemühungen die Linker-Vielfalt priorisieren sollten.

In synthetischen Aufgaben (Gitterwelten, symbolische Regression und LLM-Reasoning-Proxy) erreichte das PCE-Substitut eine Kalibrierungsabdeckung von 95 % zwischen 0,97 und 1,00 für dominante Schritte. Rechnerisch bewertete das Substitut 10.000 Policy-Stichproben in Millisekunden und bot damit eine Beschleunigung von $10^3$ bis $10^4\times$ im Vergleich zur exhaustiven Neukalibrierung des Ensembles.

Bedeutung und Behauptungen

Die Arbeit behauptet, dass dieses Framework eine einzigartige Fähigkeit bietet: interpretierbare Unsicherheitszerlegung. Während andere Methoden angeben können, dass eine Vorhersage unsicher ist, erklärt dieser Ansatz, warum, indem er Varianz spezifischen Belohnungskomponenten zuordnet. Dies ermöglicht Wissenschaftlern:

Robuste Signale von statistischen Artefakten in Trainingsdaten zu unterscheiden.
Zu identifizieren, welche Teile eines Gestaltungsraums (z. B. Linker vs. Gerüste) zusätzliche experimentelle Validierung erfordern.
Experimentelle Ressourcen effizient zuzuteilen, indem die spezifischen Quellen epistemischer Unsicherheit gezielt adressiert werden.

Die Autoren betonen, dass die Methode unabhängig von der GFlowNet-Architektur und dem Trainingsziel ist. Sie weisen auf Einschränkungen hin, wie die Abhängigkeit von einer Low-Rank-Struktur im Belohnungslandschaft für die Wirksamkeit der PCA und die Notwendigkeit, das Substitut für verschiedene Trajektorien neu anzupassen (obwohl das Ensemble nicht neu trainiert werden muss). Die Arbeit positioniert sich als Brücke zwischen der computergestützten Ingenieur-Unsicherheitsquantifizierung und moderner generativer KI und bietet einen skalierbaren Weg zum Verständnis der „Black Box" sequentieller Entscheidungsfindung unter Unsicherheit.