🤖 machine learning

Optimal Regularization for Performative Learning

Diese Arbeit zeigt auf, dass im performativen Lernen, bei dem sich Datenverteilungen als Reaktion auf eingesetzte Modelle verschieben, die optimale Regularisierung mit der Stärke dieser Effekte skaliert und tatsächlich das Testrisiko in überparametrisierten Regimen verbessern kann, was eine Strategie bietet, um Verteilungsverschiebungen zu antizipieren und abzumildern.

Ursprüngliche Autoren: Edwige Cyffers, Alireza Mirrokni, Marco Mondelli

Veröffentlicht 2026-06-02

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Edwige Cyffers, Alireza Mirrokni, Marco Mondelli

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Trainer, der ein Team von Athleten trainiert. In einem normalen Trainingsszenario bleiben die Athleten gleich, und Sie passen lediglich Ihre Coaching-Strategie an, um das beste Ergebnis basierend auf ihrer aktuellen Leistung zu erzielen. So funktioniert der Großteil des heutigen maschinellen Lernens: Sie trainieren ein Modell mit Daten und hoffen, dass es bei neuen, ähnlichen Daten gut funktioniert.

Aber im Performative Learning ist die Situation eher wie ein Spiel „Schere, Stein, Papier“, bei dem die Spieler ihre Strategie ändern, weil sie Ihren Zug kennen.

Das Problem: Der „Das System austricksen“-Effekt

Stellen Sie sich vor, Sie sind eine KI, die entscheidet, wer einen Kredit erhält.

Der alte Weg: Sie schauen auf das Einkommen und die Kreditwürdigkeit. Wenn das Einkommen niedrig ist, sagen Sie „Nein“.
Der performative Twist: Die Antragsteller sind schlau. Sie merken, dass sie nur so tun können, als hätten sie ein etwas höheres Einkommen (oder ihre Daten manipulieren), und Sie dann „Ja“ sagen werden. Also ändern sie ihr Verhalten, um Ihr Modell zu „gaming“ (auszutricksen).
Das Ergebnis: Die Daten, die Sie morgen sehen, sehen anders aus als die Daten, die Sie heute gesehen haben. Die Verteilung der Antragsteller hat sich verschoben, weil Ihr Modell deren Verschiebung verursacht hat. Wenn Sie weiterhin auf diesen neuen, manipulierten Daten trainieren, ohne zu realisieren, was hier passiert, kann Ihr Modell im Laufe der Zeit schlechter werden oder könnte beginnen, unfaire Entscheidungen zu treffen.

Die Lösung: Die „Stützräder“ (Regularisierung)

Die Arbeit stellt die Frage: Wie verhindern wir, dass das Modell durch diese sich verändernden Spieler verwirrt wird?

Die Autoren schlagen die Verwendung einer Technik namens Regularisierung vor. Betrachten Sie Regularisierung als „Stützräder“ oder eine „Beschränkung“ für Ihr Modell. Sie verhindert, dass das Modell zu besessen von spezifischen, verrauschten Details in den Daten wird. Sie zwingt das Modell dazu, „einfach“ und „beständig“ zu bleiben, anstatt auf jeden kleinen Trick, den die Daten versuchen, überzureagieren.

Die große Entdeckung: Es kommt darauf an, wie viele Daten Sie haben

Die Arbeit findet heraus, dass die „perfekte Menge“ an Stützrädern davon abhängt, wie viele Daten Sie haben. Sie untersuchten zwei Hauptszenarien:

1. Das „Ozean der Daten“-Szenario (Populationsregime)

Stellen Sie sich vor, Sie haben einen unendlichen Vorrat an Daten (wie einen Ozean).

Was passiert: Der performative Effekt (die Spieler, die das System austricksen) macht die Vorhersagen Ihres Modells schlechter. Es ist, als würde der Wind das Boot vom Kurs abbringen.
Die Lösung: Sie benötigen mehr Stützräder (Regularisierung), um diesem Wind entgegenzuwirken. Je stärker die Spieler versuchen, das System auszutricksen, desto stärker müssen die Stützräder sein, um das Modell stabil zu halten.
Die Analogie: Wenn der Wind stark ist, benötigen Sie einen schweren Anker, um das Boot am Abdriften zu hindern.

2. Das „Winzige Pfütze“-Szenario (Überparametrisiertes Regime)

Stellen Sie sich vor, Sie haben sehr wenige Datenpunkte, aber Ihr Modell ist riesig und komplex (wie der Versuch, ein riesiges Puzzle in einen winzigen Karton zu passen). Dies ist in der modernen KI (wie Deep Learning) üblich.

Was passiert: Überraschenderweise kann das, wenn die Spieler versuchen, das System auszutricksen, in einigen Fällen sogar dem Modell helfen! Wenn alle Spieler ihr Verhalten in dieselbe Richtung ändern (einen Trend verstärken), kann das Modell diesen Trend schneller lernen.
Der Twist: Die „perfekte“ Menge an Stützrädern ändert sich jedoch basierend darauf, wie „verrauscht“ die Daten sind.
- Wenn die Daten sauber sind (geringer Rauschanteil): Sollte das Modell mit dem Trend gehen, den die Spieler erzeugen. Die Stützräder sollten so angepasst werden, dass sie dem Wind folgen.
- Wenn die Daten chaotisch sind (hoher Rauschanteil): Sollte das Modell gegen den Trend arbeiten. Die Stützräder sollten dagegenhalten, um zu verhindern, dass das Modell durch das Rauschen verwirrt wird.
Die Analogie: Wenn Sie in einer Menge laufen, die alle nach links geht, und der Boden glatt ist, können Sie einfach mit ihnen nach links gehen. Aber wenn der Boden rutschig und chaotisch ist, müssen Sie sich an einem Geländer festhalten (Regularisierung), um nicht umzukippen, selbst wenn alle anderen nach links lehnen.

Die wichtigste Erkenntnis

Die Arbeit beweist, dass Sie nicht genau wissen müssen, wie die Spieler ihr Verhalten ändern, um das Problem zu lösen. Sie müssen nur wissen, wie stark der Druck ist.

Stärkerer Druck, das System auszutricksen? Drehen Sie die Regularisierung hoch (fügen Sie mehr Stützräder hinzu).
Schwächerer Druck? Sie können die Stützräder lockern.

Die Autoren haben dies mit realen Daten (wie Hauspreisen und Zulassungen für Jurastudien) getestet und festgestellt, dass die Regel auch dann gilt, wenn die reale Welt chaotisch und nicht perfekt mathematisch ist: Das Anpassen der „Beschränkung“ Ihres Modells basierend auf der Stärke des performativen Effekts hilft ihm, besser zu performen.

Kurz gesagt: Wenn die Vorhersagen Ihres Modells die Welt verändern, und die Welt sich zurückverändert, um Ihr Modell auszutricksen, ist die beste Verteidigung eine einfache, anpassbare „Bremse“ (Regularisierung), die Sie fester oder lockerer ziehen, je nachdem, wie hart die Welt zurückdrückt.

Technische Zusammenfassung: Optimale Regularisierung für performatives Lernen

Problemstellung
Im performativen Lernen reagiert die Datenverteilung auf das eingesetzte Modell, was eine Rückkopplungsschleife erzeugt, in der strategische Nutzer ihre Merkmale anpassen, um das System zu manipulieren, oder in der sich selbst erfüllende Prophezeiungen die Ergebnisse verändern (z. B. bei Kreditbewilligungen oder vorausschauender Polizeiarbeit). Diese Dynamik erschwert das Standard-Überwachte Lernen, da die Optimierung für die aktuelle Datenverteilung die Verteilung in einen neuen, potenziell schlechteren Zustand steuern kann. Während bestehende Methoden versuchen, diese performativen Effekte zu schätzen und zu optimieren, stützen sie sich oft auf wiederholte Bereitstellungen und eine präzise Charakterisierung des Verteilungsshifts, was in hochdimensionalen Settings oder wenn die Bereitstellung auf ein einziges Instanz nach dem Training beschränkt ist (Repeated Risk Minimization, oder RRM), nicht praktikabel ist. Die Arbeit adresst die Herausforderung, diese Effekte zu mildern, ohne den Verteilungsshift explizit schätzen zu müssen, indem sie sich stattdessen auf die Rolle der Regularisierung konzentriert.

Methodik
Die Autoren untersuchen die Auswirkungen der Ridge-Regularisierung in der linearen Regression unter performativen Effekten und analysieren dabei zwei unterschiedliche Regime:

Populations-Regime: Ein Setting mit ausreichend Daten, um die Regressionskoeffizienten bei jeder Bereitstellung exakt zu rekonstruieren. Die Autoren modellieren den performativen Effekt als linearen Shift im Label ( $y = x^\top \theta^*_{pop} + x^\top D\theta + w$ ), wobei $D$ die Performativität kodiert. Sie leiten den Fixpunkt der RRM-Sequenz ab und analysieren das exzessive Risiko als Funktion des Regularisierungsparameters $\lambda$ .
Überparametrisiertes Regime: Ein hochdimensionales Setting, in dem die Anzahl der Merkmale $p$ die Anzahl der Stichproben $n$ übersteigt ( $p/n = \kappa > 1$ ). Hier verwenden die Autoren Werkzeuge der hochdimensionalen Statistik, um ein deterministisches Äquivalent des Risikos am performativen Fixpunkt zu etablieren. Dieses Äquivalent hängt nur von der Populationskovarianz, den wahren Parametern, der performativen Matrix $D$ und der Regularisierungsstärke ab, wodurch die Zufälligkeit endlicher Stichproben herausgemittelt wird.

Die Analyse unterscheidet zwischen prädiktiven Merkmalen (die mit dem wahren Label korrelieren) und spuriösen Merkmalen (die dies nicht tun), und untersucht, wie die Performativität mit beiden interagiert, insbesondere wenn sie über die Kovarianzmatrix korreliert sind.

Wesentliche Beiträge und Ergebnisse

Ergebnisse des Populations-Regimes:
- Der optimale Regularisierungsparameter $\lambda^*_{pop}$ ist proportional zur Stärke des performativen Effekts ( $\bar{b}$ ).
- Regularisierung mildert den Leistungsverlust durch Performativität ab. Ein exzessives Risiko von Null kann erreicht werden, wenn die Kovarianz isotrop ist und der performative Effekt über die Merkmale hinweg uniform ist.
- In Gegenwart komplexer Kovarianzstrukturen oder hochvariabler performativer Effekte bleibt das Risiko signifikant, aber die optimale Regularisierung bietet dennoch die bestmögliche Milderung.
- Die Arbeit stellt fest, dass in einigen Fällen die optimale Regularisierung negativ sein kann (d. h. „Anti-Regularisierung“), ein Phänomen, das bereits in überparametrisierten Settings beobachtet wurde, hier jedoch aufgrund der Performativität auch im Populations-Setting auftritt.
Ergebnisse des überparametrisierten Regimes:
- Die Autoren leiten ein deterministisches Äquivalent für das Risiko ab, das eine nuancierte Phänomenologie bezüglich der Richtung der optimalen Regularisierung offenbart:
  - Geringes Rauschen: Wenn die Rauschvarianz klein ist, bewegt sich die optimale Regularisierung in die gleiche Richtung wie der performative Effekt auf prädiktive Merkmale.
  - Hohes Rauschen: Wenn die Rauschvarianz groß ist, bewegt sich die optimale Regularisierung in die entgegengesetzte Richtung zum performativen Effekt. Dies wird so interpretiert, dass das Modell zu seinem „Prior“ zurückkehrt, wenn das Rauschen dominiert.
- Risikoverbesserung: Im Gegensatz zum Populations-Setting, in dem Performativität das Risiko verschlechtert, stellt die Arbeit fest, dass im überparametrisierten Regime, falls die Performativität bestehende Trends verstärkt (positives $\bar{b}$ ), das optimal regularisierte Risiko tatsächlich im Vergleich zum nicht-performativen Fall verbessert werden kann.
- Spurische Merkmale: Der Effekt der Performativität auf spurische Merkmale wird generell durch den Faktor $\rho^2$ (die Korrelation zwischen prädiktiven und spuriellen Merkmalen) abgeschwächt, was ihren Einfluss auf die optimale Regularisierung und das Risiko weniger ausgeprägt macht als auf prädiktive Merkmale.
Empirische Validierung:
- Experimente mit synthetischen Daten und realen Datensätzen (Housing und LSAC) bestätigen die theoretischen Vorhersagen.
- Im populationsähnlichen Setting (großes $n$ ) steigt die optimale Regularisierung mit der performativen Stärke, und das Risiko steigt mit der Performativität.
- Im überparametrisierten Setting (kleines $n$ ) stimmt das Verhalten mit der High-Noise-Theorie überein: Die optimale Regularisierung sinkt, wenn die performative Stärke zunimmt, und das Risiko verbessert sich.
- Die Ergebnisse lassen sich über die Ridge-Regression hinaus auf andere Regularisierer (Dropout, Lasso, Elastic Net) und sogar auf neuronale Netze in einem strategischen Klassifizierungsszenario übertragen, was die Robustheit des Phänomens nahelegt.

Bedeutung und Ansprüche
Die Arbeit beansprucht für sich, die erste zu sein, die hochdimensionale statistische Werkzeuge zur Untersuchung des performativen Lernens nutzt. Ihre primäre Bedeutung liegt in der Demonstration, dass Regularisierung ein prinzipieller, handhabbarer und agnostischer Mechanismus ist, um mit performativen Effekten umzugehen, selbst wenn die genaue Natur des Verteilungsshifts unbekannt ist.

Die Autoren argumenten, dass während schätzbasierte Methoden auf niedrigdimensionale oder Toy-Beispiele beschränkt sind, Regularisierung eine praktische Lösung für reale Szenarien bietet, in denen die Bereitstellung kostspielig und selten erfolgt. Die Arbeit legt nahe, dass Praktiker performative Verschiebungen antizipieren und die Regularisierung entsprechend anpassen können (Skalierung mit der erwarteten Stärke des Effekts), um die Robustheit und Leistung des Modells zu verbessern. Die Arbeit wahrt einen bescheidenen Ton und räumt ein, dass während die Theorie sich auf lineare Modelle und zufällige Daten konzentriert, die empirischen Ergebnisse auf realen Daten und neuronalen Netzen darauf hindeuten, dass diese Erkenntnisse generalisieren, wenngleich weitere Arbeiten nötig sind, um komplexere Daten und Modelle zu untersuchen.