📊 statistics

Conformal Prediction for Hierarchical Data

Dieser Beitrag schlägt eine Split-Conformal-Prediction-Methode für hierarchische Daten vor, die einen Projektions- (Rekonkiliations-)Schritt zur Nutzung struktureller Abhängigkeiten integriert, wodurch global kleinere Vorhersagebereiche bei gleichzeitiger Wahrung sowohl der gemeinsamen als auch der komponentenweisen Abdeckungsgarantien erreicht werden.

Ursprüngliche Autoren: Guillaume Principato, Gilles Stoltz, Yvenn Amara-Ouali, Yannig Goude, Bachir Hamrouche, Jean-Michel Poggi

Veröffentlicht 2026-05-28

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Guillaume Principato, Gilles Stoltz, Yvenn Amara-Ouali, Yannig Goude, Bachir Hamrouche, Jean-Michel Poggi

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, das Wetter für ein ganzes Land vorherzusagen. Sie haben ein Modell, das Ihnen eine Vorhersage für jede einzelne Stadt, jeden Ort und jedes Dorf liefert. Doch hier liegt der Haken: Ihr Modell ist etwas unordentlich. Es könnte vorhersagen, dass die gesamte Niederschlagsmenge für das ganze Land 100 mm beträgt, aber wenn Sie die Niederschläge aller einzelnen Städte addieren, ergibt sich eine Gesamtmenge von 120 mm. Die Zahlen stimmen nicht überein. In der Welt der Daten nennt man dies einen Mangel an Kohärenz.

Dieser Artikel handelt davon, dieses Durcheinander zu beheben und das „Sicherheitsnetz" um Ihre Vorhersagen kleiner und präziser zu machen, ohne das Netz weniger sicher zu machen.

Hier ist die Aufschlüsselung ihrer Arbeit, unter Verwendung einfacher Analogien:

1. Das Problem: Die „unordentliche Karte"

Stellen Sie sich eine Landkarte vor, die in Regionen unterteilt ist, und Regionen wiederum in Städte.

Die Hierarchie: Die gesamte Niederschlagsmenge des Landes muss gleich der Summe des Regens in allen seinen Regionen sein, was wiederum gleich der Summe des Regens in allen seinen Städten sein muss. Dies ist die „hierarchische Struktur".
Die Vorhersage: Sie verwenden ein intelligentes Computermodell, um den Regen für jede Stadt zu schätzen.
Das Problem: Der Computer ist gut, aber nicht perfekt. Wenn Sie einfach seine rohen Schätzungen nehmen, stimmen die Zahlen nicht überein. Die „Gesamtmenge des Landes" wird nicht mit der „Summe der Städte" übereinstimmen.

2. Das Sicherheitsnetz: Konforme Vorhersage

Wenn wir Vorhersagen treffen, kennen wir nie die genaue Antwort. Anstatt also zu sagen „Es wird genau 5 mm regnen", zeichnen wir eine Box (eine Vorhersageregion) und sagen: „Es wird irgendwo zwischen 4 mm und 6 mm regnen."

Das Ziel: Wir wollen, dass diese Box klein (präzise) ist, aber dennoch groß genug, um die tatsächliche Antwort in 90 % der Fälle zu erfassen (zuverlässig).
Die aktuelle Methode: Standardmethoden zeichnen diese Boxen unabhängig für jede Stadt. Ihnen ist es egal, ob sich die Boxen der Städte zur Box des Landes addieren. Dies führt oft zu riesigen, verschwenderischen Boxen, da die Methode zu vorsichtig spielt und ignoriert, dass die Städte miteinander verbunden sind.

3. Die Lösung: „Reconciliation" (Der Projektor)

Die Autoren kombinieren zwei Ideen:

Konforme Vorhersage: Die Methode zum Zeichnen der Sicherheitsboxen.
Forecast Reconciliation (Vorhersageabstimmung): Eine Technik zur Bereinigung der „unordentlichen Karte", damit die Zahlen übereinstimmen.

Die Analogie:
Stellen Sie sich vor, Sie werfen den Schatten eines 3D-Objekts auf eine 2D-Wand.

Die rohe Vorhersage: Sie haben ein 3D-Objekt (Ihre Vorhersagen), das leicht vor der Wand schwebt. Es berührt nicht die Oberfläche, wo es sein sollte.
Der Projektionsschritt: Die Autoren nehmen dieses schwebende Objekt und „projizieren" es direkt auf die Wand. Dies zwingt das Objekt, flach zu liegen und die Regeln der Wand (die Hierarchie) einzuhalten.
Das Ergebnis: Sobald das Objekt auf die Wand projiziert ist, werden die Schatten (die Vorhersageboxen) enger und effizienter.

4. Die große Entdeckung: Kleinere Boxen, gleiche Sicherheit

Der Artikel beweist zwei Hauptpunkte:

Für das Gesamtbild (Joint Coverage): Wenn Sie eine einzelne riesige Box wollen, die das gesamte Wetter des Landes gleichzeitig abdeckt, macht dieser „Projektions"-Schritt die Box kleiner (präziser), während dieselbe 90 %-Sicherheitsgarantie erhalten bleibt. Es ist wie das Zusammenziehen einer losen Decke, damit sie perfekt auf ein Bett passt, ohne Lücken zu hinterlassen.
Für einzelne Teile (Component-wise Coverage): Dies ist der schwierigere Teil. Sie wollten die Boxen für jede einzelne Stadt einzeln kleiner machen, während sie sicherstellten, dass das gesamte System funktioniert.
- Sie führten eine neue Art zu messen, wie effizient etwas ist, ein.
- Sie bewiesen, dass durch die Verwendung einer bestimmten Art von „Projektion" (genannt Abstimmungsschritt), die die Hierarchie respektiert, die einzelnen Boxen für jede Stadt kleiner werden, als wenn Sie sie einfach einzeln geschätzt hätten.
- Der Haken: Um die bestmöglichen kleinen Boxen zu erhalten, müssen Sie etwas darüber wissen, wie sich die Fehler in Ihrem Modell verhalten (insbesondere ihre „Kovarianz"). Wenn Sie dies nicht perfekt kennen, können Sie dennoch bessere Boxen mit einer „robusten" Version der Projektion erhalten, wenn auch vielleicht nicht die absolut kleinstmöglichen.

5. Was sie getestet haben

Sie haben nicht nur Mathematik auf Papier betrieben; sie führten Simulationen durch.

Sie erstellten fiktive Daten, die einer komplexen Hierarchie ähnelten (wie ein Stammbaum des Energieverbrauchs oder der Verkäufe).
Sie verglichen ihre neue „abgestimmte" (Reconciled) Methode mit der alten „rohen" (Raw) Methode.
Das Ergebnis: Die neue Methode erzeugte konsistent engere, effizientere Vorhersageregionen (kleinere Boxen), ohne die Sicherheitsgarantien zu verlieren. In einigen Fällen war die Verbesserung enorm (in ihren Tests wurde die Größe des Vorhersagebereichs um bis zu 65 % reduziert).

Zusammenfassung in einem Satz

Die Autoren haben herausgefunden, wie man eine unordentliche Menge von Vorhersagen, die nicht übereinstimmen, dazu zwingt, die Regeln ihrer Hierarchie (wie einen Stammbaum) einzuhalten, und diese Struktur nutzt, um die „Sicherheitsnetze" um die Vorhersagen zu verkleinern, wodurch sie viel präziser werden, ohne weniger zuverlässig zu werden.

Technisches Fazit: Konforme Vorhersage für hierarchische Daten

Problemstellung
Der Beitrag adressiert die Herausforderung, gültige Vorhersagebereiche für multivariate Daten mit hierarchischer Struktur zu konstruieren, bei denen bestimmte Komponenten lineare Kombinationen anderer sind (z. B. regionale Summen, die zu nationalen Gesamtwerten aggregieren). Während die Standard-Konforme Vorhersage (CP) für multivariate Daten Garantien für die Abdeckung in endlichen Stichproben bietet, ignoriert sie häufig die strukturellen Zwänge, die in hierarchischen Daten inhärent sind. Umgekehrt nutzen Techniken zur Vorhersage-Rekonkiliation diese linearen Zwänge, um die Kohärenz von Punktvorhersagen zu verbessern, hatten jedoch historisch Schwierigkeiten, diese Vorteile auf die probabilistische Vorhersage mit rigoroser Unsicherheitsquantifizierung zu übertragen. Das Kernproblem besteht darin, diese beiden nachgelagerten Verfahren zu kombinieren, um Vorhersagebereiche zu erzeugen, die sowohl statistisch gültig (Garantie der Abdeckung) als auch effizient (Minimierung der Bereichsgröße) sind und gleichzeitig die Kohärenzbedingungen der Hierarchie einhalten.

Methodik
Die Autoren schlagen einen Rahmen vor, der die Split-Konforme Vorhersage (SCP) über einen Projektionsschritt mit der Vorhersage-Rekonkiliation integriert. Die Methodik geht von einer i.i.d.-Annahme für die Daten und Nicht-Übereinstimmungswerte (non-conformity scores) aus, wobei für die Effizienzanalyse spezifische Verteilungsannahmen eingeführt werden.

Hierarchische Setting: Die Daten $y \in \mathbb{R}^m$ erfüllen $y = H y_{1:n}$ , wobei $H$ eine bekannte Strukturmatrix ist, die die am stärksten disaggregierten Ebenen ( $n$ ) auf die aggregierten Ebenen ( $m$ ) abbildet. Vektoren, die $u = H u_{1:n}$ erfüllen, werden als „kohärent" bezeichnet.
Zwei Abdeckungsziele:
- Gemeinsame Abdeckung: Sicherstellen, dass der wahre Vektor $y_{T+1}$ mit der Wahrscheinlichkeit $1-\alpha$ in einen multivariaten Vorhersagesatz $C(x_{T+1})$ fällt.
- Komponentenweise Abdeckung: Sicherstellen, dass jede einzelne Komponente $y_{T+1,i}$ mit der Wahrscheinlichkeit $1-\alpha$ in ihr spezifisches Intervall $C_i(x_{T+1})$ fällt. Dies wird als natürlicheres Ziel für hierarchische Daten identifiziert, bei denen Komponenten oft einzeln analysiert werden.
Vorgeschlagenes Verfahren (Rekonkilierte SCP):
- Für gemeinsame Abdeckung: Die Autoren passen den ellipsoiden SCP-Ansatz an (Johnstone & Cox, 2021; Messoudi et al., 2022). Sie führen eine Projektionsmatrix $P_A$ (orthogonal in der $A$ -Norm) auf den kohärenten Unterraum $\text{Im}(H)$ ein. Der Regressor wird zu $\hat{\mu} = P_A \hat{\mu}_{base}$ modifiziert, und Nicht-Übereinstimmungswerte werden basierend auf dem Abstand zwischen Beobachtungen und diesen projizierten Vorhersagen berechnet.
- Für Komponentenweise Abdeckung: Die Autoren verwenden vorzeichenbehaftete Nicht-Übereinstimmungswerte ( $s_t = y_t - \hat{\mu}_t$ ). Im Gegensatz zu absoluten Residuen bewahren vorzeichenbehaftete Residuen die lineare Kohärenzeigenschaft ( $s_t = P s_t$ , wenn $\hat{\mu}_t$ projiziert wird). Das Verfahren wendet die SCP komponentenweise auf diese vorzeichenbehafteten Werte an, nachdem die Basisvorhersagen auf den kohärenten Unterraum projiziert wurden.
Effizienzanalyse:
- Die theoretische Effizienz wird unter der Annahme analysiert, dass die Residuen einer elliptischen Verteilung folgen.
- Für einen festen Gewichtvektor $w$ beweisen die Autoren, dass das Projizieren der Vorhersagen unter Verwendung einer spezifischen Matrix $P_w$ (abgeleitet aus $H$ und $w$ ) die erwartete Summe der quadrierten Intervalllängen im Vergleich zu nicht-projizierten Vorhersagen reduziert.
- Ein stärkeres „Orakel"-Ergebnis wird abgeleitet, unter der Annahme, dass die Kovarianzmatrix $\Sigma$ der Werte bekannt ist. Unter Verwendung der Minimum-Trace (MinT)-Projektion ( $P_{\Sigma^{-1}}$ ) erzielt die Methode einheitliche Effizienzverbesserungen gegenüber jeder anderen Projektionsmatrix.

Hauptbeiträge

Neuartige Synthese: Diese Arbeit ist die erste, die konforme Vorhersage und Vorhersage-Rekonkiliation formal kombiniert, um gültige und effiziente Vorhersagebereiche für hierarchische Daten zu konstruieren.
Garantien für Komponentenweise Abdeckung: Der Beitrag führt ein Kriterium für die Komponentenweise Abdeckung ein und analysiert dieses, das für hierarchische Anwendungen relevanter ist als die gemeinsame Abdeckung. Er beweist, dass die vorgeschlagene rekonkilierte SCP (Algorithmus 5) diese Garantien aufrechterhält.
Effizienznachweise:
- Gemeinsame Abdeckung: Die Autoren beweisen, dass die rekonkilierten ellipsoiden Vorhersagebereiche einheitlich kleiner (im Sinne des Lebesgue-Maßes) sind als Standard-ellipsoide Bereiche, sofern die Projektionsmatrix korrekt gewählt ist.
- Komponentenweise Abdeckung: Unter Annahmen elliptischer Verteilungen stellt der Beitrag fest, dass die rekonkilierten Vorhersageintervalle effizienter (kleinere erwartete quadrierte Längen) sind als Standard-Komponentenintervalle. Dies wird erreicht, indem die Minimierung der Intervalllängen mit Minimierungsproblemen für die Spur in Verbindung gebracht wird, die in der Literatur zur Vorhersage-Rekonkiliation zentral sind (insbesondere der MinT-Ansatz).
Technische Innovation: Die Autoren überbrücken die Lücke zwischen den beiden Feldern, indem sie vorzeichenbehaftete Nicht-Übereinstimmungswerte nutzen, um den Mangel an Annahmen über die Erwartungstreue zu handhaben, die typischerweise in der Vorhersage-Rekonkiliation erforderlich sind, und gleichzeitig Spurungleichungen nutzen, um Effizienzgewinne im konformen Setting zu beweisen.

Ergebnisse
Theoretische Erkenntnisse werden durch umfangreiche Experimente mit synthetischen hierarchischen Daten mit variierenden Komplexitäten (bis zu 1.801 Knoten) validiert.

Abdeckung: Alle vorgeschlagenen Algorithmen erreichen erfolgreich die Zielabdeckungsniveaus (90 %) für sowohl gemeinsame als auch Komponenten-Ziele über alle Konfigurationen hinweg.
Effizienz (Gemeinsam): Die rekonkilierte ellipsoide Methode (Algorithmus 2) erzeugt konsistent kleinere Vorhersagevolumina als die Baseline (Algorithmus 1).
Effizienz (Komponentenweise):
- Die Weighted Least Squares (WLS)-Rekonkiliationsstrategie (unter Verwendung von Schätzungen der Diagonalkovarianz) schneidet konsistent besser ab als die Baseline (Direct) und andere Methoden (OLS, Combi) und reduziert die Gesamtlänge der Intervalle um 15 % bis 65 %.
- Die MinT-Strategie (unter Verwendung der vollständigen Kovarianzmatrix) schneidet für kleine Hierarchien am besten ab, wird jedoch für große Hierarchien (Konfigurationen 5 und 6) unzuverlässig aufgrund potenzieller Singularitätsprobleme bei der Schätzung der Kovarianzmatrix.
- Die Combi- und OLS-Methoden zeigen gemischte Leistungen, wobei OLS robust, aber weniger effizient als WLS ist.

Bedeutung und Behauptungen
Der Beitrag beansprucht, eine theoretische Grundlage für die Verbesserung der Unsicherheitsquantifizierung in hierarchischen Settings zu liefern. Indem gezeigt wird, dass strukturelle Zwänge nachträglich genutzt werden können, um Vorhersagebereiche zu verkleinern, ohne die Abdeckung zu opfern, bietet die Arbeit eine praktische Alternative zu rechenintensiver hierarchischer Modellierung während der Trainingsphase.

Die Autoren sind hinsichtlich des Umfangs ihrer theoretischen Garantien bescheiden und weisen darauf hin, dass die Analyse auf einem i.i.d.-Rahmen und Annahmen elliptischer Verteilungen beruht. Sie stellen ausdrücklich fest, dass reale hierarchische Zeitreihen oft die i.i.d.-Annahme für Nicht-Übereinstimmungswerte verletzen. Folglich positioniert der Beitrag seine Ergebnisse als einen grundlegenden Schritt und schlägt vor, dass zukünftige Arbeiten diese Prinzipien auf nicht-austauschbare Daten (z. B. durch adaptive konforme Inferenz) und dynamische Hierarchien erweitern sollten. Die primäre Bedeutung liegt darin, festzustellen, dass „Rekonkiliation" nicht nur ein Werkzeug für Punktvorhersagen ist, sondern ein gültiger Mechanismus zur Steigerung der Effizienz von verteilungsfreien Vorhersagemengen.