🤖 machine learning

RareCP: Regime-Aware Retrieval for Efficient Conformal Prediction

RareCP ist ein regimebewusstes Retrieval-Verfahren für die Zeitreihenvorhersage, das die Effizienz der konformen Vorhersage verbessert, indem es Mixture-of-Experts zur Unterscheidung verschiedener Fehlerregime und ein driftadaptives Hypernetzwerk zum Abrufen relevanter Kalibrierungsbeispiele zur Erzeugung zuverlässiger, asymmetrischer Vorhersageintervalle einsetzt.

Ursprüngliche Autoren: Manuel Heurich, Maximilian Granz, Tim Landgraf

Veröffentlicht 2026-05-12

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Manuel Heurich, Maximilian Granz, Tim Landgraf

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, das Wetter für morgen vorherzusagen. Sie haben ein superintelligentes Computermodell, das sagt: „Es wird 75 °F (ca. 24 °C) werden." Das ist eine Punktvorhersage. Aber in der realen Welt müssen Sie den Bereich der Möglichkeiten kennen. Wird es 70–80 °F (ca. 21–27 °C) sein? Oder könnte es ein wilder Bereich von 60–90 °F (ca. 16–32 °C) sein?

Dieser Bereich wird als Vorhersageintervall bezeichnet. Wenn das Intervall zu breit ist, ist es nicht sehr hilfreich (es ist, als würde man sagen: „Es könnte regnen oder es könnte nicht regnen"). Wenn es zu schmal ist, könnten Sie ohne Regenschirm im Regen erwischt werden.

Die Arbeit stellt ein neues Werkzeug namens RareCP (Regime-Aware Retrieval for Efficient Conformal Prediction) vor. Seine Aufgabe ist es, jedes bestehende Wettermodell (oder Aktienprognosemodell oder Verkehrsprognostiker) mit einer viel intelligenteren und effizienteren Methode auszustatten, um diese Vorhersagebereiche zu zeichnen.

Hier ist, wie RareCP funktioniert, aufgeschlüsselt in einfache Konzepte:

1. Das Problem: „Ein Modell passt nicht für alle"

Standardmethoden zum Zeichnen dieser Bereiche verhalten sich oft wie ein Einheits-Regenmantel. Sie gehen davon aus, dass die „Fehler", die ein Modell macht, immer gleich sind.

Die Realität: Zeitreihendaten (wie Wetter oder Aktienkurse) sind chaotisch. Manchmal ist das Modell sehr genau (ruhige Tage), und manchmal macht es enorme Fehler (stürmische Tage). Manchmal gleiten die Fehler langsam über die Zeit; zu anderen Zeiten wechselt die Welt plötzlich in einen völlig anderen „Modus" (ein Regime), wie eine plötzliche Hitzewelle oder ein Börsencrash.
Der Fehler: Alte Methoden reagieren entweder zu langsam auf diese Änderungen oder machen den Regenmantel einfach immer größer, um auf der sicheren Seite zu sein, was die Vorhersage unbrauchbar macht.

2. Die Lösung: Eine „smarte Bibliothekarin" mit einem „Chamäleon"

RareCP fungiert wie eine smarte Bibliothekarin, die nicht nur den aktuellen Tag betrachtet, sondern in die Archive zurückgeht, um Tage zu finden, die sich genau wie heute anfühlen.

Die „regime-bewusste" Bibliothekarin: Anstatt alle vergangenen Tage zu betrachten, weiß RareCP, dass es verschiedene „Typen" von Tagen gibt. Sie hat ein Team von Spezialisten-Bibliothekaren (genannt „Experten").
- Ein Spezialist betrachtet nur „Ruhige, sonnige Tage".
- Ein anderer betrachtet nur „Chaotische, stürmische Tage".
- Ein Dritter betrachtet „Langsam gleitende Jahreszeiten".
- Wenn eine neue Vorhersage hereinkommt, entscheidet ein „Torwächter", welcher Spezialist gerade am relevantesten ist, und bittet ihn um Hilfe.
Die „Rückgewinnung" (Finding the Twins): Sobald der richtige Spezialist ausgewählt ist, sucht RareCP in der Vergangenheit nach den top-k ähnlichsten Tagen (den „Zwillingen"). Es greift nicht einfach auf zufällige vergangene Daten zurück; es greift die spezifischen Tage heraus, an denen das Modell Fehler machte, die genau so aussehen wie die Fehler, die es heute machen könnte.
Das „Chamäleon" (Hypernetwork): Die Welt verändert sich. Ein „ruhiger Tag" vor 10 Jahren könnte anders aussehen als ein „ruhiger Tag" heute. RareCP verwendet einen chamäleonartigen Mechanismus (ein Hypernetwork), der seine Suchkriterien ständig anpasst, um zur aktuellen „Stimmung" der Daten zu passen. Es stellt sicher, dass die Bibliothekarin nach der richtigen Art von Ähnlichkeit sucht, nicht nur nach denselben alten Mustern.

3. Wie das Intervall erstellt wird

Sobald RareCP diese „Zwillingstage" aus der Vergangenheit gefunden hat:

Betrachtet es die tatsächlichen Fehler (die Differenz zwischen Vorhersage und Realität) an diesen Zwillingstagen.
Berechnet es den Bereich, in dem 80 % (oder 90 %) dieser vergangenen Fehler lagen.
Wendet es diesen Bereich auf die aktuelle Vorhersage an.

Das Ergebnis:

An ruhigen Tagen waren die „Zwillingstage" ebenfalls ruhig, also waren die Fehler klein. RareCP zeichnet ein enges, schmales Intervall.
An chaotischen Tagen waren die „Zwillingstage" ebenfalls chaotisch, mit großen Fehlern. RareCP zeichnet ein breites, sicheres Intervall.
Es macht das Intervall nicht einfach überall breiter; es passt sich lokal an.

4. Warum es besser ist (Die „Effizienz"-Behauptung)

Die Arbeit testete RareCP an einem massiven Benchmark namens GIFT-Eval, der 22 verschiedene Datensätze umfasst (Energie, Verkehr, Finanzen usw.).

Die Analogie: Stellen Sie sich zwei Personen vor, die versuchen, das Gewicht eines Kürbisses zu erraten.
- Person A (Alte Methode): Rät immer „Zwischen 5 und 50 Pfund". Sie liegen 80 % der Zeit richtig, aber der Bereich ist riesig und unhelplich.
- Person B (RareCP): Betrachtet die Größe, Farbe und den Stiel des Kürbisses. Wenn er wie ein kleiner Kürbis aussieht, raten sie „5 bis 8 Pfund". Wenn er riesig aussieht, raten sie „40 bis 50 Pfund". Sie liegen ebenfalls 80 % der Zeit richtig, aber ihre Schätzungen sind viel präziser.

Die Arbeit zeigt, dass RareCP dieselbe „Sicherheit" (Abdeckung) wie andere fortschrittliche Methoden erreicht, aber viel engere, nützlichere Intervalle produziert. Dies geschieht, ohne das Hauptvorhersagemodell neu trainieren zu müssen; es sitzt einfach wie ein intelligenter Adapter oben drauf.

Zusammenfassung der Behauptungen

Es funktioniert mit jedem Modell: Sie können es mit einfachen statistischen Modellen (ARIMA) oder massiven KI-Foundation-Modellen verwenden.
Es bewältigt Veränderungen: Es passt sich langsamen Drifts und plötzlichen Verschiebungen im Datenverhalten an.
Es ist effizient: Es verschwendet keinen Platz an breiten Intervallen, wenn die Daten vorhersehbar sind.
Es ist bewiesen: In Tests schlug es andere Top-Methoden (wie ACI, HopCPT und ResCP) bei der Erstellung von Intervallen, die sowohl genau als auch schmal waren.

Kurz gesagt ist RareCP ein kontextbewusstes Sicherheitsnetz, das weiß, wann es eng und wann es locker sein muss, und sicherstellt, dass Sie die genaueste mögliche Vorhersage erhalten, ohne Ihre Sicherheitsgarantie zu verlieren.

Technische Zusammenfassung: RareCP – Regimebewusste Retrieval für effiziente konforme Vorhersage

Problemstellung

Die Zeitreihenvorhersage erfordert eine zuverlässige Quantifizierung von Unsicherheiten (UQ) für risikobewusste Entscheidungsfindung. Während Konforme Vorhersage (CP) ein modellunabhängiges Framework mit Garantien für die Abdeckung in endlichen Stichproben unter der Annahme der Austauschbarkeit bietet, wird diese Annahme durch den sequenziellen Charakter von Zeitreihendaten fundamental verletzt. Bestehende Anpassungen zur Handhabung zeitlicher Abhängigkeiten und Drifts lassen sich allgemein in zwei Kategorien einteilen: (1) adaptive Methoden zur Fehlabdeckung, die die Zielabdeckungsrate über die Zeit anpassen, und (2) gewichtete CP-Ansätze, die Kalibrierungsgewichte basierend auf der Relevanz der Stichproben zuweisen.

Die Autoren argumentieren, dass diese bestehenden Methoden versagen, zwei zentrale Quellen von Nichtstationarität in Vorhersagefehlern explizit zu trennen:

Gleichmäßig driftende Fehlerverteilungen: Wo Residuenähnlichkeiten sich entwickeln, während sich der zugrunde liegende Prozess ändert.
Koexistierende, distinkte Fehlerregime: Wo Residuenverteilungen zwischen distinkten Kontexten wechseln, anstatt sich entlang einer einzigen Trajektorie gleichmäßig zu verändern.

Standardmethoden reagieren auf diese Probleme oft durch eine einheitliche Aufblähung von Intervallen oder durch die reliance auf feste Ähnlichkeitsgewichtung, was zu Ineffizienz (übermäßig breite Intervalle) oder schlechter Abdeckung während Regimewechseln führt.

Methodik: RareCP

RareCP (Regime-Aware Retrieval for Conformal Prediction) wird als backbone-agnostischer Adapter für feste Vorhersagemodelle eingeführt. Es kalibriert Vorhersageintervalle, indem es vergangene signierte Residuen aus lokal relevanten Fehlerregimen abruft. Die Architektur besteht aus drei Hauptkomponenten:

1. Lokale Kalibrierung signierter Residuen

Im Gegensatz zu Methoden, die absolute Residuen verwenden, kalibriert RareCP signierte Residuen ( $r_i = y_i - \hat{y}_i$ ). Dies ermöglicht, dass sich die unteren und oberen Schwänze des Vorhersageintervalls separat anpassen und damit asymmetrische Intervalle entstehen. Gegeben ein Abfragekontext $a_t$ bildet RareCP eine gewichtete empirische kumulative Verteilungsfunktion (CDF) der Residuen, $\hat{F}_t(\rho)$ , und extrahiert Quantile, um das Intervall $C_t = [\hat{y}_t + Q_t(\alpha/2), \hat{y}_t + Q_t(1-\alpha/2)]$ zu definieren.

2. Regimebewusste Top- $k$ -Retrieval

Um die „Regimestruktur" von Fehlern zu adressieren, setzt RareCP einen Mixture of Experts (MoE)-Retrievalmechanismus ein:

Hypernetzwerk-konditionierte Experten: Mehrere Retrieval-Experten mit geringer Kapazität werden trainiert. Jeder Experte verwendet ein Hypernetzwerk, das den aktuellen Abfragekontext ( $a_t$ ) und einen Datensatzdeskriptor ( $\eta_d$ , enthaltend Datensatz-ID und Statistiken) als Eingabe nimmt, um eine affine Retrieval-Karte auszugeben. Dies ermöglicht, dass die Ähnlichkeitsmetrik sowohl für den aktuellen Zeitschritt als auch für den Datensatz spezifisch ist.
Cosine-Attention-Ähnlichkeit: Experten normalisieren ihre gemappten Schlüssel und Abfragen auf die Einheitssphäre und verwenden die Kosinusähnlichkeit, um die top- $k$ relevantesten Kalibrierungsresiduen abzurufen.
Sparse Retrieval: Durch die Beschränkung des Supports auf die top- $k$ Nachbarn erzwingt die Methode Lokalität und reduziert die Masse, die irrelevanten Regimen zugewiesen wird.
Gate-Mixing: Ein leichtgewichtiges Gate-Netzwerk erzeugt Simplex-Gewichte, um die lokalen CDFs zu mischen, die von jedem Experten konstruiert wurden. Dies ermöglicht dem System, dynamisch zwischen gruppierten Fehlerregimen zu wechseln.

3. Training und Optimierung

Zielfunktion: Das Modell wird trainiert, um eine glatte Relaxierung des Winkler-Intervall-Scores zu minimieren.
Teacher-Ankerung: Um zu verhindern, dass die gelernten Retrieval-Karten kollabieren oder instabil werden, wird jedes Student-Hypernetzwerk über einen Parameter-Raum-Distillationsverlust an eine leichte, vorab angepasste Teacher-Karte angeankert.
Leave-One-Out (LOO): Das Training nutzt LOO-Kalibrierungsepisoden, bei denen das Abfrageziel aus dem Retrieval-Datensatz ausgeschlossen wird, was das Szenario zur Testzeit widerspiegelt.
Abdeckungskorrektur: Zur Testzeit integriert RareCP Adaptive Conformal Inference (ACI), um das Zielniveau der Fehlabdeckung $\alpha_t$ online anzupassen und Drifts zu korrigieren.

Hauptbeiträge

Wettbewerbsfähige Leistung mit Backbones: RareCP zeigt, dass konforme Vorhersage, wenn sie mit diesem Retrievalmechanismus ausgestattet ist, mit nativen quantilbasierten Vorhersageintervallen von State-of-the-Art-Zeitreihen-Foundation-Modellen (FMs) konkurrieren kann, während sie weiterhin auf jeden Punktvorhersager (einschließlich ARIMA) anwendbar bleibt, der keine native UQ besitzt.
Trade-off zwischen Effizienz und Abdeckung durch Retrieval: Die Arbeit führt sparse Residuen-Retrieval für konforme Kalibrierung ein. Sie analysiert den Trade-off, der durch $K_n$ (die Anzahl der abgerufenen Residuen) gesteuert wird: Ein kleineres $K_n$ verbessert die Effizienz durch Fokussierung auf lokales Verhalten, während ein größeres $K_n$ asymptotische Konsistenz unterstützt.
Architektur für strukturelle Verzerrungen: Die vorgeschlagene lineare Cosine-Attention-Retrieval-Architektur ist explizit darauf ausgelegt, zeitlich driftende Ähnlichkeiten und gruppierte Fehlerregime zu handhaben und vermeidet damit die Notwendigkeit von unbeschränkten Kalibrierungsgewichten.

Experimentelle Ergebnisse

Die Autoren bewerteten RareCP auf dem GIFT-Eval-Benchmark, der 10 Kern-Datensätze (Bench10) und ein vollständiges Set von 22 Datensätzen (Bench22) über die Bereiche Energie, Transport, Klima und Finanzen abdeckt.

Baselines: Vergleiche umfassten Standard-CP-Methoden (SplitCP, ACI, HopCPT, ResCP, KOWCPI) und native UQ-Köpfe von Foundation-Modellen (TiRex, Chronos, Moirai, TimesFM, etc.).
Leistung: RareCP erzielte den niedrigsten durchschnittlichen normalisierten Winkler-Score (nWink) über alle vier getesteten Backbones (TiRex, TimesFM-2.5, TabPFN-TS, ARIMA) auf Bench10. Auf Bench22 blieb es wettbewerbsfähig und lag nur bei einem spezifischen Backbone hinter ACI zurück.
Skalierung: Leistungsgewinne nahmen mit größeren Kalibrierungsströmen (100k und Tests mit vollständigen Serien) zu, was darauf hindeutet, dass reichhaltigere Regimestrukturen von einer retrievalbasierten Kalibrierung stärker profitieren als von einer einheitlichen Glättung.
Ablationsstudien: Die Studie bestätigte, dass jede Komponente zur Leistung beiträgt:
- Gelernte dichte Ähnlichkeit verbesserte nWink um ~13,9 %.
- Das Hinzufügen von hartem Top- $k$ -Retrieval fügte ~4,6 % hinzu.
- Hypernetzwerk-Konditionierung fügte ~1,7 % hinzu.
- Regime-Mischungen (MoE) fügten ~2,1 % hinzu.
- Teacher-Ankerung und ACI-Korrektur lieferten kleinere, aber konsistente Gewinne.
Abdeckung: RareCP hielt die empirische Abdeckung über die meisten Datensätze hinweg nahe am Ziel (80 %), während einige Baselines (z. B. KOWCPI) schmale Intervalle auf Kosten einer signifikanten Unterabdeckung erreichten.

Bedeutung und Einschränkungen

Bedeutung:
Die Arbeit geht davon aus, dass konforme Kalibrierung für Zeitreihen davon profitiert, Drift und Residuen-Regimestruktur separat zu modellieren. RareCP bietet einen retrievalbasierten Mechanismus, um die Intervalleffizienz zu verbessern, ohne Abdeckungsgarantien zu opfern, und überbrückt effektiv die Lücke zwischen der Flexibilität des Deep Learnings und der Strenge der konformen Vorhersage. Es ist die erste Methode, die Parameter von konformen Gewichtsregeln unter Verwendung eines Hypernetzwerks mit Teacher-Student-Distillation im Parameterraum amortisiert.

Einschränkungen:

Theoretischer Rahmen: Die theoretische Analyse geht von einem sauberen Setting aus, bei dem die Retrieval-Regel vor der Kalibrierung festgelegt oder aus Daten gelernt wird, die sich von den Kalibrierungsresiduen unterscheiden. Sie löst den Trade-off in endlichen Stichproben zwischen dem Erlernen einer starken Retrieval-Regel und dem Zurückhalten von Daten für die Kalibrierung nicht vollständig.
Heterogene Drifts: Während auf Bench10 effektiv, war die Abdeckung auf dem heterogeneren Bench22-Split schwächer, was darauf hindeutet, dass spärliche oder abrupte Drifts nach wie vor herausfordernd bleiben.
Rechenkosten: RareCP hat im Vergleich zu einfacheren konformen Baselines höhere Offline-Trainingskosten aufgrund des Trainings von Hypernetzwerken und des Teacher-Ankerungsprozesses.

Die Autoren schließen, dass zukünftige Arbeiten das Lernen von Kalibrierungsaufteilungen in größerem Maßstab untersuchen und die Trainingskosten durch zwischengespeicherte Embeddings oder approximatives Retrieval reduzieren sollten, während das Kernprinzip der Kalibrierung von Intervallen unter Verwendung von Residuen aus demselben lokalen Fehlerregime erhalten bleibt.