📊 statistics

Multivariate Standardized Residuals for Conformal Prediction

Dieser Artikel schlägt ein multivariates konfidenzbasiertes Vorhersagerahmenwerk vor, das auf Mahalanobis-Abstands-basierten standardisierten Residuen beruht, um Heteroskedastizität und Output-Korrelationen effektiv zu behandeln, wodurch eine verbesserte bedingte Abdeckung erreicht und praktische Erweiterungen wie der Umgang mit fehlenden Werten ohne aufwendige Stichprobenziehung ermöglicht werden.

Ursprüngliche Autoren: Sacha Braun, Eugène Berta, Michael I. Jordan, Francis Bach

Veröffentlicht 2026-05-08

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Sacha Braun, Eugène Berta, Michael I. Jordan, Francis Bach

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind Wettervorhersager. Ihre Aufgabe besteht nicht nur darin, vorherzusagen: „Morgen wird es regnen." Sondern Sie sagen: „Es wird regnen, und ich bin zu 90 % sicher, dass die Menge zwischen 1 und 3 Zoll liegen wird."

In der Welt des maschinellen Lernens wird diese „Menge zwischen 1 und 3 Zoll" als konformer Vorhersagesatz (conformal prediction set) bezeichnet. Es ist ein Sicherheitsnetz, das garantiert, dass Ihre Vorhersage zu einem bestimmten Prozentsatz korrekt ist (z. B. zu 90 % der Zeit).

Allerdings gibt es einen Haken. Die meisten Standardmethoden garantieren nur, dass das Sicherheitsnetz im Durchschnitt über alle Tage hinweg funktioniert. Sie garantieren nicht, dass es für spezifische Tage funktioniert.

Das Problem: An einem ruhigen, vorhersehbaren Tag könnte Ihr Netz riesig sein (1 bis 10 Zoll) und Ihre Zeit verschwenden. An einem chaotischen, stürmischen Tag könnte Ihr Netz zu klein sein (1 bis 1,1 Zoll), und Sie werden im Regen erwischt. Dies wird als Heteroskedastizität bezeichnet – die Unsicherheit ändert sich je nach Situation.

Die von Ihnen bereitgestellte Arbeit „Multivariate Standardized Residuals for Conformal Prediction" stellt eine neue Methode vor, um dies zu beheben, insbesondere wenn mehrere Dinge gleichzeitig vorhergesagt werden (multivariat).

Hier ist die Aufschlüsselung in einfachen Worten:

1. Die Kernidee: Das „intelligente Gummiband"

Stellen Sie sich vor, Sie versuchen, einen Ball zu fangen, der von einem Freund geworfen wird.

Alte Methode (Naiv): Sie verwenden ein starres, festes Netz. Manchmal ist der Ball leicht zu fangen, und das Netz ist zu groß. Manchmal ist der Ball wild, und das Netz ist zu klein.
Die Methode der Arbeit: Sie verwenden ein intelligentes, dehnbares Gummiband.
- Wenn der Ball sanft geworfen wird (geringe Unsicherheit), zieht sich das Band eng um den Ball zusammen.
- Wenn der Ball wild geworfen wird (hohe Unsicherheit), dehnt sich das Band aus, um ihn zu fangen.
- Der Twist: Die Autoren haben herausgefunden, wie man dies tut, wenn man mehrere Bälle gleichzeitig fängt, die möglicherweise voneinander abprallen (korrelierte Ausgaben).

2. Wie es funktioniert: Der „Whitening"-Trick

In mathematischen Begriffen nimmt die Arbeit den Fehler (die Differenz zwischen Vorhersage und Realität) und „whitened" ihn.

Die Analogie: Stellen Sie sich vor, Sie versuchen zu messen, wie weit ein Auto vom Zentrum einer Strecke entfernt ist.
- Wenn die Strecke ein perfekter Kreis ist, messen Sie einfach die Entfernung.
- Aber was ist, wenn die Strecke eine ovale Form hat, oder eine gequetschte Kreisform, oder eine seltsame Form, die sich je nach Ort ändert?
- Die Methode der Autoren lernt die Form der Strecke (die lokale Kovarianz) für jeden einzelnen Moment. Sie dehnt oder staucht dann den Raum so, dass die Strecke wieder wie ein perfekter Kreis aussieht.
- Sobald der Raum „normalisiert" (ge whitened) ist, können sie einen perfekten Kreis (ein Ellipsoid in höheren Dimensionen) um die Vorhersage zeichnen. Dieser Kreis ist ihr Sicherheitsnetz.

3. Warum dies eine große Sache ist

Die Arbeit behauptet drei Hauptvorteile:

Es ist intelligenter: Es passt sich der spezifischen Situation an. Wenn die Daten verrauscht sind, wird das Netz größer. Wenn sie sauber sind, wird das Netz kleiner. Dies macht die Vorhersage viel nützlicher als Methoden, die ein „Einheitsnetz" verwenden.
Es ist schnell: Andere Methoden, die dies versuchen, beinhalten komplexe, langsame Stichprobenverfahren (wie das Ausführen einer Million Simulationen, um die Form zu erraten). Die Methode der Autoren verwendet eine geschlossene Lösung.
- Analogie: Anstatt die Form einer Wolke zu erraten, indem man sie eine Stunde lang beobachtet, haben sie eine Formel, die ihnen die Form sofort mitteilt. Es ist rechnerisch günstig.
Es bewältigt „fehlende Teile" und „neue Ansichten":
- Fehlende Daten: Manchmal haben Sie nicht alle Daten (z. B. kennen Sie die Temperatur, aber nicht die Luftfeuchtigkeit). Die Arbeit zeigt, wie man trotzdem ein gültiges Sicherheitsnetz nur mit den vorhandenen Teilen zeichnet, ohne die Mathematik zu brechen.
- Teilweise Enthüllung: Stellen Sie sich vor, Sie sagen den Blutzucker und den Cholesterinspiegel eines Patienten vorher. Wenn Sie den Blutzucker zuerst messen, können Sie das Sicherheitsnetz für das Cholesterin sofort verkleinern, da die beiden zusammenhängen. Die Arbeit ermöglicht es Ihnen, das Netz sofort zu aktualisieren, ohne das gesamte Modell neu zu trainieren.
- Transformationen: Wenn Sie die Differenz zwischen zwei Werten vorhersagen möchten (z. B. Gewinn = Umsatz - Kosten), kann die Methode direkt ein Netz für diese Differenz zeichnen, anstatt ein Netz für Umsatz und Kosten separat zu zeichnen und zu hoffen, dass sie korrekt überlappen.

4. Was sie bewiesen haben

Die Autoren haben nicht nur geraten; sie haben die Mathematik gemacht.

Sie bewiesen, dass, wenn die Fehler eine bestimmte „elliptische" Form haben (wie ein gestreckter Kreis oder eine Ellipse), ihre Methode garantiert, dass das Sicherheitsnetz für jeden einzelnen Eingabewert perfekt funktioniert, nicht nur im Durchschnitt.
Selbst wenn die Daten keine perfekte Ellipse bilden, zeigten sie, dass ihre Methode mit zunehmender Datenmenge immer näher an eine perfekte Genauigkeit herankommt.

5. Die Ergebnisse

Sie testeten dies an künstlichen Daten und realen Daten (wie der Vorhersage von Hauspreisen oder Taxirouten).

Das Ergebnis: Ihr „intelligentes Gummiband" (Mahalanobis-Distanz) erzeugte Sicherheitsnetze, die enger (präziser) und genauer (trafen das Ziel 90 % der Zeit) waren als andere Methoden.
Geschwindigkeit: Es war signifikant schneller als die anderen komplexen Methoden, was es für den Echtzeiteinsatz praktikabel macht.

Zusammenfassung

Die Arbeit löst das Problem: „Wie zeichne ich ein perfektes, maßgeschneidertes Sicherheitsnetz um mehrere Vorhersagen gleichzeitig, selbst wenn die Daten unordentlich, unvollständig oder sich verändernd sind?"

Ihre Antwort lautet: „Lerne die lokale Form der Unsicherheit, strecke den Raum, um ihn zu einem Kreis zu machen, und zeichne ein perfektes Netz." Dies führt zu Vorhersagen, die nicht nur statistisch gültig sind, sondern für die spezifische Situation tatsächlich nützlich und präzise.

Technische Zusammenfassung: Multivariate standardisierte Residuen für konforme Vorhersage

Problemstellung
Konforme Vorhersage bietet einen modellagnostischen Rahmen zur Konstruktion von Vorhersagemengen mit garantierter marginaler Abdeckung für endliche Stichproben. Eine wesentliche Einschränkung besteht jedoch in der Schwierigkeit, eine bedingte Abdeckung zu erreichen, bei der die Validität für spezifische beobachtete Eingaben gilt und nicht nur im Durchschnitt. Dies ist besonders kritisch in heteroskedastischen Settings, bei denen die Vorhersageunsicherheit von den Eingabevariablen abhängt. Bestehende Ansätze stehen vor Zielkonflikten:

Univariate Methoden: Techniken wie „standardisierte Residuen" (Normalisierung der Fehler durch lokale Varianz) verbessern die bedingte Abdeckung bei univariater Regression, lassen sich jedoch nicht natürlich auf multivariate Ausgaben erweitern.
Multivariate Dichteschätzung: Methoden, die die vollständige bedingte Dichte schätzen, können gültige Mengen liefern, sind jedoch rechenintensiv, erfordern oft Stichprobenziehung und kämpfen mit dem „Fluch der Dimensionalität".
Methoden mit fester Form: Ansätze, die Mengen fester Größe oder nicht-adaptive Mengen erzeugen, vermögen es nicht, eingabeabhängige Unsicherheit zu erfassen.
Stichprobenbasierte Methoden: Neuere Strategien zur Verbesserung der bedingten Abdeckung führen häufig Zufälligkeit und Variabilität für identische Eingaben ein, was die Reproduzierbarkeit untergräbt.

Methodik
Die Autoren schlagen einen Rahmen vor, der das Konzept der standardisierten Residuen auf den multivariaten Fall erweitert. Die Kernidee besteht darin, eine von den Merkmalen abhängige lokale Kovarianzmatrix zu erlernen, um die Residuen zu „whiten", wodurch Output-Korrelationen effektiv entkoppelt und die lokale Varianz standardisiert werden.

Modellierung: Gegeben einen Merkmalsvektor $X$ und eine multivariate Antwort $Y \in \mathbb{R}^k$ , lernt die Methode zwei Funktionen:
- Einen Prädiktor $f_\theta(X)$ , der den bedingten Erwartungswert $\mathbb{E}[Y|X]$ schätzt.
- Einen Kovarianzschätzer $\Sigma_\varphi(X)$ , der die bedingte Kovarianzmatrix schätzt.
  Diese können gemeinsam über Maximum-Likelihood (unter Annahme einer Gaußschen Approximation) erlernt oder auf einen bereits vorhandenen Black-Box-Punktprädiktor angewendet werden.
Nicht-Konformitäts-Score: Die Methode definiert einen Nicht-Konformitäts-Score basierend auf der Mahalanobis-Distanz:
$S_{\text{Mah}}(X, Y) = \|\Sigma_\varphi(X)^{-1/2}(Y - f_\theta(X))\|_2$
Dieser Score misst den Abstand eines Residuums vom Mittelwert, skaliert durch die lokale Kovarianzstruktur.
Konforme Mengen: Die resultierende Vorhersagemenge $C_\alpha(X_{\text{test}})$ ist ein Ellipsoid, zentriert bei $f_\theta(X_{\text{test}})$ , dessen Form und Größe durch $\Sigma_\varphi(X_{\text{test}})$ und einen Schwellenwert bestimmt werden, der aus dem Kalibrierungsdatensatz abgeleitet wird. Dies ermöglicht es der Menge, sich an Heteroskedastizität anzupassen.
Erweiterungen: Der Rahmen unterstützt natürlich mehrere praktische Erweiterungen:
- Fehlende Outputs: Durch Marginalisierung der Gaußschen Dichte auf beobachtete Dimensionen und Verwendung der Chi-Quadrat-Verteilungsfunktion (CDF) konstruiert die Methode gültige Scores, selbst wenn Kalibrierungsdaten fehlende Werte aufweisen.
- Teilweise offenbarte Outputs: Wenn ein Teil des Outputs $Y_r$ zum Testzeitpunkt offenbart wird, nutzt die Methode Eigenschaften der bedingten Gaußschen Verteilung, um die Vorhersagemenge für den verborgenen Teil $Y_h$ zu verfeinern, ohne das Modell neu zu trainieren.
- Output-Transformationen: Für lineare Transformationen des Outputs (z. B. Portfolio-Renditen) konstruiert die Methode konforme Mengen direkt auf den transformierten Variablen unter Verwendung des transformierten Mittelwerts und der transformierten Kovarianz, wodurch die Konservativität des Projektierens bestehender Mengen vermieden wird.

Theoretische Garantien
Die Arbeit stellt eine hinreichende Bedingung dafür auf, dass die Methode eine asymptotische bedingte Abdeckung erreicht. Spezifisch gilt: Wenn das standardisierte Residuum $U = \Sigma(X)^{-1/2}(Y - f(X))$ unabhängig von $X$ ist, liefert die Methode asymptotisch eine exakte bedingte Abdeckung. Diese Bedingung gilt für eine breite Klasse von Verteilungen, einschließlich elliptischer Verteilungen, erfordert jedoch nicht streng, dass das Rauschen elliptisch ist. Selbst wenn diese Unabhängigkeit nicht gegeben ist, zeigt sich, dass die Methode die bedingte Abdeckung verbessert, indem sie die ersten beiden Momente der Residuen normalisiert.

Hauptbeiträge

Multivariate Erweiterung: Eine natürliche Verallgemeinerung standardisierter Residuen auf multivariate Regression unter Verwendung einer erlernten lokalen Kovarianzmatrix.
Effizienz in geschlossener Form: Im Gegensatz zu dichte-basierten Methoden, die Stichprobenziehung erfordern, liefert dieser Ansatz konforme Mengen in geschlossener Form, was ihn zum Zeitpunkt der Inferenz rechnerisch effizient macht.
Theoretische Charakterisierung: Eine hinreichende Bedingung, die Verteilungen charakterisiert, für die standardisierte Residuen eine asymptotische bedingte Abdeckung liefern.
Praktische Flexibilität: Der Rahmen ermöglicht die Behandlung fehlender Kalibrierungs-Outputs, die Verfeinerung von Mengen bei teilweiser Offenbarung von Outputs sowie die Konstruktion gültiger Mengen für Output-Transformationen.

Experimentelle Ergebnisse
Die Autoren bewerten die Methode an synthetischen und realen Datensätzen (z. B. Bias, CASP, House, rf1, scm1d, Taxi) im Vergleich zu Baselines wie HPD (dichte-basiert), C-PCP, L-CP, ECM (empirische Kovarianz) und OT (optimaler Transport).

Bedingte Abdeckung: Die Methode erreicht eine bedingte Abdeckung, die näher am Zielniveau liegt (z. B. 90 %) als bestehende multivariate Baselines, wobei sie insbesondere „nur-marginale" Methoden übertrifft, die in einigen Regionen überdecken, um Unterdeckung anderswo auszugleichen.
Mengengröße: Die Methode erzeugt engere (kleineres Volumen) konforme Mengen im Vergleich zu dichte-basierten Methoden, während die Abdeckung aufrechterhalten wird.
Rechnerische Effizienz: Die Methode ist signifikant schneller als dichte-basierte Ansätze (HPD, PCP, C-PCP), die oft teure Monte-Carlo-Stichproben erfordern. Beispielsweise dauert die Bewertung der Abdeckung für 1.000 Punkte vernachlässigbar wenig Zeit im Vergleich zu den hundert oder tausend Sekunden, die von Baselines benötigt werden.
Robustheit: Die Methode funktioniert gut, selbst wenn die zugrunde liegende Gaußsche Annahme falsch spezifiziert ist (z. B. bei exponentiellem Rauschen), was auf Robustheit jenseits der theoretischen Annahmen hindeutet.

Bedeutung und Behauptungen
Die Arbeit behauptet, dass dieser Ansatz ein „ermutigender Schritt" in Richtung des Ziels einer zuverlässigen bedingten Abdeckung unter minimalen Annahmen darstellt. Indem die Notwendigkeit einer vollständigen bedingten Dichteschätzung vermieden wird, bietet die Methode eine rechnerisch handhabbare und robuste Alternative, die den Zielkonflikt zwischen den strengen Garantien der marginalen Abdeckung und der Adaptivität der bedingten Abdeckung ausbalanciert. Die Autoren betonen, dass zwar eine strikte bedingte Abdeckung für alle Verteilungen nicht garantiert werden kann, die Methode dies jedoch asymptotisch für eine breite Klasse erreicht und in der Praxis eine robuste approximative Abdeckung liefert. Die Fähigkeit, fehlende Werte zu behandeln und Vorhersagen mit partiellen Informationen zu verfeinern, erweitert die Anwendbarkeit der konformen Vorhersage zusätzlich auf reale Szenarien, in denen Daten oft unvollständig oder teilweise beobachtet sind.