💻 computer science

Partially Performative Prediction

Dieses Paper führt das Framework der partiell performativen Vorhersage ein, welches die traditionelle performative Vorhersage verallgemeinert, indem es sowohl endogene Verteilungsverschiebungen durch den Einsatz von Modellen als auch exogene Verschiebungen durch externe Faktoren berücksichtigt und gleichzeitig Konzepte von Stabilität und Optimalität erweitert, um adaptive Lernheuristiken in solchen dynamischen Umgebungen zu analysieren.

Ursprüngliche Autoren: Jaewook Lee, Tijana Zrnic

Veröffentlicht 2026-06-09

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jaewook Lee, Tijana Zrnic

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das Kernproblem: Die selbsterfüllende Prophezeiung

Stellen Sie sich vor, Sie sind ein Wettervorhersager. Früher war Ihr Job einfach: Schauen Sie auf die Wolken, sagen Sie voraus, ob es regnen wird, und liegen Sie richtig. Das Wetter kümmerte sich nicht darum, was Sie sagten; es geschah einfach. Das ist das, was Informatiker als „klassische Vorhersage“ bezeichnen.

Aber stellen Sie sich nun vor, Sie sind ein Börsenanalyst. Wenn Sie vorhersagen, dass eine bestimmte Aktie steigen wird, kaufen die Leute sie vielleicht, was den Preis tatsächlich steigen lässt. Ihre Vorhersage hat die Realität, die Sie vorherzusagen versuchten, verändert. Dies nennt man „Performative Vorhersage“. Die Daten verschieben sich aufgrund Ihres Handelns.

Das Problem aktueller Modelle:
Die meisten bestehenden Forschungsarbeiten gehen von einem von zwei Extremen aus:

Rein performativ: Der einzige Grund für die Änderung der Daten ist Ihre Vorhersage (wie im Beispiel des Aktienmarktes).
Rein exogen: Die Daten ändern sich aus Gründen, die völlig außerhalb Ihrer Kontrolle liegen (wie das Wetter, das sich durch einen Hurrikan ändert), und Ihre Vorhersagen beeinflussen es überhaupt nicht.

Die Realität:
In der realen Welt ist es fast immer eine Mischung aus beidem.

Beispiel: Ein Algorithmus zur Kreditwürdigkeitsprüfung sagt voraus, wer wahrscheinlich zahlungsunfähig wird.
- Performativer Teil: Wenn die Bank Kredite an bestimmte Personen verweigert, könnten diese Menschen ihr Verhalten ändern (oder gar nicht erst beantragen), was die Daten verändert.
- Exogener Teil: Die Wirtschaft bricht zusammen oder ein neues Gesetz wird verabschiedet. Diese Dinge ändern die Daten, unabhängig davon, was der Algorithmus sagt.

Diese Arbeit führt die „Partially Performative Prediction“ (Teilweise performative Vorhersage) ein, ein Framework, das diese chaotische, reale Mischung handhabt.

Die Analogie: Autofahren in einer beweglichen Menge

Stellen Sie sich das Training eines KI-Modells wie das Autofahren vor.

Das Ziel: Sie wollen in der Mitte der Spur bleiben (den Fehler/Loss minimieren).
Die performative Verschiebung (Sie): Wenn Sie nach links lenken, könnten die anderen Autos um Sie herum ausweichen. Ihre Handlung verändert das Verkehrsmuster.
Die exogene Verschiebung (Die Straße): Die Straße selbst könnte kurvig sein oder es könnte Wind geben, der das Auto wegdrückt. Das sind Kräfte, die Sie nicht erzeugt haben.

Klassische performative Vorhersage nimmt an, dass die Straße gerade und flach ist und sich nur der Verkehr als Reaktion auf Sie bewegt.
Klassisches Online-Learning nimmt an, dass der Verkehr eingefroren ist, aber die Straße sich ständig unter Ihren Reifen verschiebt.

Der Ansatz dieser Arbeit: Er erkennt an, dass beides passiert. Sie lenken (beeinflussen den Verkehr), und die Straße kurvt (externe Kräfte).

Erläuterung der Schlüsselkonzepte

1. Das „bewegliche Ziel“

In den alten Modellen war das Ziel, einen „stabilen Punkt“ zu finden – ein perfektes Modell, das, einmal eingesetzt, keine weiteren Verschiebungen in den Daten mehr verursacht. Es war wie die Suche nach einem Parkplatz.

In dieser neuen „partiellen“ Welt gibt es keinen permanenten Parkplatz. Das „perfekte Modell“ ist ein bewegliches Ziel.

Da sich die Außenwelt (die exogene Verschiebung) verändert, ändert sich auch jeden Tag das „beste“ Modell.
Da Ihr Modell die Welt beeinflusst (die performative Verschiebung), bewegt Ihr Versuch, das Ziel einzuholen, das Ziel selbst ein Stück weit mit.

2. Regret (Reue): Wie weit sind Sie hinterher?

Da Sie nicht parken können, können Sie den Erfolg nicht daran messen, ob Sie „angehalten haben“. Stattdessen messen Sie die „Regret“ (Reue).

Regret ist der Unterschied zwischen dem, wie gut Sie abgeschnitten haben, und dem, wie gut Sie hätten abschneiden können, wenn Sie magisch für jeden einzelnen Tag das perfekte Modell gekannt hätten.
Die Arbeit definiert zwei Arten von Regret:
- Stability Reget (Stabilitäts-Reue): Wie weit sind Sie von dem Modell entfernt, das im Moment stabil wäre?
- Optimality Regret (Optimalitäts-Reue): Wie weit sind Sie von dem Modell entfernt, das im Moment die besten Ergebnisse liefern würde?

3. Path Length (Pfadlänge): Wie schnell verändert sich die Welt?

Die Arbeit führt eine Schlüsselmetrik namens „Path Length“ ein.

Stellen Sie sich vor, der „perfekte Läufer“ ist ein Sprinter. Die Path Length ist die Strecke, die dieser Läufer über die Zeit zurücklegt.
Wenn die Außenwelt ruhig ist (langsame exogene Verschiebung), bewegt sich der Läufer langsam. Es ist leicht, ihm zu folgen.
Wenn die Außenwelt chaotisch ist (schnelle exogene Verschiebung), sprintet und zickzackt der Läufer. Es ist schwer, ihm zu folgen.
Die Arbeit beweist, dass Ihr Fehler (Regret) stark von dieser Path Length abhängt. Je mehr sich die Welt von selbst verändert, desto schwieriger ist es für Ihren Algorithmus, Schritt zu halten.

Was haben sie herausgefunden? (Die Ergebnisse)

Die Autoren haben verschiedene gängige Methoden zur Aktualisierung von KI-Modellen (wie „Retraining“ oder „Gradient Descent“) in dieser gemischten Umgebung getestet. Hier sind ihre Erkenntnisse:

1. Der Trade-off von „Alpha“ ( $\alpha_t$ )
Sie verwenden eine Variable namens $\alpha$ , um darzustellen, wie viel die Außenwelt im Vergleich zu Ihrem Modell zählt.

Wenn $\alpha$ niedrig ist (Überwiegend performativ): Die Welt reagiert hauptsächlich auf Sie. Die Arbeit zeigt, dass Standard-Retraining hier gut funktioniert. Die „Path Length“ ist klein, da die Welt stabil ist, sofern Sie sie nicht beeinflussen.
Wenn $\alpha$ hoch ist (Überwiegend exogen): Die Welt verändert sich von selbst. Ihr Modell hat weniger Macht, die Daten zu formen. Die Arbeit zeigt, dass Retraining auch hier funktioniert, aber Ihr Fehler wird wachsen, wenn sich die Außenwelt zu schnell verändert. Sie jagen im Grunde einem entlaufenen Zug nach.

2. Retraining ist immer noch gut (mit Vorbehalten)
Sie analysierten das „Repeated Risk Minimization“ (RRM) – was lediglich ein schicker Begriff dafür ist, das Modell auf Basis der neuesten Daten neu zu trainieren.

Sie haben bewiesen, dass Sie Ihren Regret niedrig halten können, wenn Sie oft genug neu trainieren.
Die „Kosten“ dieses Regrets sind jedoch an die Geschwindigkeit gekoppelt, mit der die externe Umgebung driftet. Wenn die externe Drift unvorhersehbar ist, wird Ihr Fehler höher sein. Sie sind im Grunde ein fahrender Zug, der versucht, den Anschluss zu halten.

3. Optimalität ist schwieriger
Den „stabilen“ Punkt zu finden (wo das Modell aufhört, Verschiebungen zu verursachen), ist einfacher als den „optimalen“ Punkt zu finden (die absolut beste Leistung).

Um den optimalen Punkt zu finden, müssen Sie antizipieren, wie Ihr Modell die Zukunft verändern wird.
Die Arbeit nutzt „Zeroth-order optimization“ (im Wesentlichen das Testen des Systems, um zu sehen, wie es reagiert), um diese optimalen Punkte zu finden.
Sie zeigten, dass man auch mit dieser komplexen Methode das optimale bewegliche Ziel verfolgen kann, vorausgesetzt, das Ziel bewegt sich nicht zu erratisch.

Zusammenfassung in einem Satz

Diese Arbeit liefert die mathematischen Regeln dafür, wie KI-Modelle lernen sollten, wenn sie die Welt, die sie vorhersagen, beeinflussen, während sich die Welt gleichzeitig unabhängig von ihnen verändert – und beweist, dass Standard-Retraining-Methoden den KI weiterhin auf Kurs halten können, solange sich die Außenwelt nicht zu chaotisch verändert.

Technisches Resümee: Partiell performative Prädiktion

Problemstellung

Die Arbeit adressiert die Einschränkungen bestehender Frameworks für performative Prädiktion, welche Verteilungsverschiebungen als rein endogen (durch das eingesetzte Modell $\theta$ induziert) modellieren. In der klassischen performativen Prädiktion ändert sich die Datenverteilung $D(\theta)$ ausschließlich als Reaktion auf die Handlungen des Lernenden. Die Autoren beobachten jedoch, dass Verteilungsverschiebungen in realistischen konsequentiellen Domänen (z. B. Finanzen, Gesundheitswesen, Politikgestaltung) selten rein endogen sind. Sie werden oft durch eine Mischung aus dem Einfluss des Modells und exogenen Faktoren (z. B. saisonale Effekte, Marktkräfte, politische Änderungen) getrieben, die sich unabhängig vom Lernenden entwickeln.

Um dieses Zusammenspiel zu erfassen, führt das Paper die partiell performative Prädiktion ein. In diesem Setting ist die Datenverteilung in Runde $t$ eine zeitvariierende Mischung:
$D_t(\theta) = (1 - \alpha_t)D(\theta) + \alpha_t P_t$
wobei:

$D(\theta)$ die performative Komponente ist, die von $\theta$ abhängt.
$P_t$ eine exogene Verteilung ist, die sich unabhängig von $\theta$ über die Zeit entwickelt.
$\alpha_t \in [0, 1]$ die relative Stärke der exogenen Verschiebung steuert.

Dieses Framework generalisiert die klassische performative Prädiktion (wiederhergestellt, wenn $\alpha_t = 0$ ) und nähert sich einem rein exogenen Verschiebungsszenario an (wenn $\alpha_t = 1$ ). Die zentrale Herausforderung besteht darin, dass das "Ziel" (das optimale oder stabile Modell) nicht mehr statisch ist; es driftet sowohl aufgrund der Handlungen des Lernenden als auch aufgrund der externen Entwicklung von $P_t$ .

Methodik und Framework

1. Neudefinition der Ziele: Dynamischer Regret

Da die Umgebung nicht stationär ist, ist das Ziel, zu einem einzigen festen Modell zu konvergieren (wie bei der performativen Stabilität oder Optimalität), unzureichend. Die Autoren schlagen vor, die Leistung mittels dynamischem Regret im Vergleich zu zeitvariierenden Benchmarks zu messen:

Performative Stabilitäts-Regret ( $Reg^{PS}_T$ ): Vergleicht die Sequenz des Lernenden $\{\theta_t\}$ mit der Sequenz der performativ stabilen Punkte $\{\theta^{PS}_t\}$ , wobei $\theta^{PS}_t$ das entkoppelte Risiko unter der durch $\theta^{PS}_t$ induzierten Verteilung minimiert.
Performative Optimalitäts-Regret ( $Reg^{PO}_T$ ): Vergleicht den Lernenden mit der Sequenz der performativ optimalen Punkte $\{\theta^{PO}_t\}$ , welche das performative Risiko $PR_t(\theta) = \mathbb{E}_{Z \sim D_t(\theta)}[\ell(Z, \theta)]$ minimieren.

2. Zentrales Analysetool: Pfadlänge

Eine zentrale Größe in den theoretischen Schranken ist die Pfadlänge, definiert als die kumulative Bewegung der Vergleichssequenz:
$\sum_{t=1}^{T-1} \Delta^{PS}_t \quad \text{mit} \quad \Delta^{PS}_t = \|\theta^{PS}_t - \theta^{PS}_{t+1}\|$
Das Paper stellt fest, dass die Regret-Schranken explizit von dieser Pfadlänge abhängen, welche durch die Änderungsrate der exogenen Verteilung $P_t$ und den Mischungskoeffizienten $\alpha_t$ getrieben wird.

3. Analysierte Algorithmen

Das Paper analysiert mehrere Standard-Lernheuristiken, die an dieses Setting angepasst wurden:

Repeated Risk Minimization (RRM): Aktualisiert $\theta_{t+1} = \arg\min_\theta \mathbb{E}_{Z \sim D_t(\theta_t)}[\ell(Z, \theta)]$ .
Repeated Gradient Descent (RGD): Verwendet volle erwartete Gradienten.
Stochastic Gradient Descent (SGD): Beinhaltet "greedy" (ein Sample pro Deployment) und "lazy" (mehrere Samples/Updates pro Deployment) Varianten.
Zeroth-Order-Algorithmen: Werden für die performative Optimalität verwendet, wenn die Gradienten des performativen Risikos schwer berechenbar sind. Dies umfasst Two-Deployment (ZGD2) und Single-Deployment (ZGD) Methoden, die das Modell perturbieren, um Gradienten zu schätzen.

Zentrale Beiträge und Ergebnisse

1. Theoretische Schranken für Stabilität

Die Autoren leiten Regret-Schranken für RRM und RGD ab, die endogene und exogene Verschiebungen explizit abwägen.

Theorem 3.2 (RRM): Unter Annahmen der starken Konvexität und Glattheit ist der Stabilitäts-Regret beschränkt durch:
$Reg^{PS}_T(ARRM) = O\left(1 + \sum_{t=1}^{T-1} \Delta^{PS}_t\right)$
Der erforderliche Kontraktionsfaktor für die Konvergenz ist im Vergleich zum klassischen Setting gelockert: $\epsilon < \frac{\mu}{(1-\alpha_{\min})\beta_z}$ .
Erkenntnis: Wenn Verschiebungen hauptsächlich performativ sind ( $\alpha_t \approx 0$ ), verschwindet die Pfadlänge und der Regret ist konstant. Wenn Verschiebungen hauptsächlich exogen sind ( $\alpha_t \approx 1$ ), hängt der Regret von der Nichtstationarität von $P_t$ ab. Wenn $P_t$ schnell fluktuiert, kann der Regret groß sein; wenn $P_t$ nahezu konstant bleibt, bleibt der Regret niedrig.

2. Theoretische Schranken für Optimalität

Für die performative Optimalität nutzt das Paper Zeroth-Order-Optimierungstechniken.

Theorem 5.2 & 5.3: Die Autoren liefern Regret-Schranken für Two-Deployment- und Single-Deployment-Zeroth-Order-Algorithmen. Die Schranken skalieren mit der Dimension $d$ , dem Zeithorizont $T$ und der Pfadlänge der optimalen Sequenz $\sum \Delta^{PO}_t$ .
Konvexitäts-Trade-off: Das Paper stellt fest, dass eine große exogene Komponente ( $\alpha_t \approx 1$ ) das Verfolgen des Ziels erschwert (erhöht die Pfadlänge), aber gleichzeitig das performative Risiko wahrscheinlicher konvex macht (da der exogene Teil konvex ist, falls der Verlust dies ist). Umgekehrt kann starkes endogenes Feedback das performative Risiko nicht-konvex machen, selbst wenn der Verlust konvex ist.

3. Empirische Validierung

Experimente auf einem Datensatz zur Kreditbewertung (strategisches Antwortmodell) und synthetischen Gaußschen Daten validieren die theoretischen Befunde:

Zufällige exogene Verschiebungen: Ein schnelleres Abklingen von $\alpha_t$ (Reduzierung des Gewichts des beweglichen exogenen Terms) führt zu niedrigerem Regret.
Stationäre exogene Verschiebungen: Ein größeres $\alpha_t$ beizubehalten (näher an einer fixen, nicht-performativen Verteilung) liefert niedrigeren Regret.
Die empirischen Regret-Kurven stimmen mit den theoretischen oberen Schranken hinsichtlich der Ordnung der verschiedenen $\alpha_t$ -Schedules überein.

Bedeutung und Ansprüche

Das Paper beansprucht, das erste Framework bereitzustellen, das endogene und exogene Verteilungsverschiebungen unter einem einzigen Lernmodell vereint. Seine primäre Bedeutung liegt in:

Generalisierung: Es generalisiert die klassische performative Prädiktion strikt und zeigt, dass Standardalgorithmen (wie RRM) weiterhin effektiv sind, aber in Anwesenheit von exogenem Rauschen neu bewertet werden müssen.
Dynamisches Benchmarking: Es verschiebt das Paradigma von statischen Gleichgewichten hin zu dynamischem Regret und erkennt an, dass in realen Systemen das "beste" Modell ein bewegliches Ziel ist.
Identifikation von Trade-offs: Es charakterisiert explizit den Trade-off zwischen der Schwierigkeit, einem beweglichen Ziel zu folgen (exogener Drift), und der Schwierigkeit, eine nicht-konvexe Landschaft zu optimieren (endogenes Feedback).

Die Autoren bleiben bescheiden hinsichtlich offener Fragen und merken an, dass das Erreichen von unteren Schranken für die Regret-Raten (insbesondere für greedy SGD) und die Lockerung der Regularitätsannahmen (Konvexität, Sensitivität) offene Forschungsbereiche bleiben. Sie schlagen zudem vor, dass sich die Regret-Definitionen natürlich auf nicht-lineare Mischmodelle jenseits des aktuellen linearen Frameworks ausdehnen lassen.