📊 statistics

SAILS: Surrogate-based Analysis of Interactions via Local Effect Smooths

Das Papier stellt SAILS vor, ein modellagnostisches Framework, das interpretierbare Surrogatmodelle auf Basis generalisierter additiver Modelle nutzt, die auf lokale Effekte angepasst wurden, um nicht nur paarweise Merkmalsinteraktionen zu detektieren, sondern auch deren funktionale Formen zu kategorisieren und maßgeschneiderte Visualisierungen bereitzustellen, wodurch eine entscheidende Lücke bestehender Methoden der erklärbaren KI geschlossen wird.

Ursprüngliche Autoren: Timo Heiß, Julia Herbinger, Bernd Bischl, Giuseppe Casalicchio

Veröffentlicht 2026-06-09

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Timo Heiß, Julia Herbinger, Bernd Bischl, Giuseppe Casalicchio

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie besitzen eine superintelligente, aber geheimnisvolle „Black Box“-Maschine, die Vorhersagen trifft. Vielleicht sagt sie voraus, wie viel Strom eine Stadt verbrauchen wird, oder wie ein Patient auf ein Medikament reagieren könnte. Sie wissen, dass die Maschine gut funktioniert, aber Sie haben keine Ahnung, wie sie denkt. Es ist wie bei einem Koch, der ein köstliches Eintopf zubereitet, aber sich weigert, Ihnen das Rezept zu verraten.

In der Welt des maschinellen Lernens besteht das „Rezept“ oft aus Interaktionen. Das bedeutet, die Maschine betrachtet nicht nur eine einzelne Zutat (wie „Temperatur“) isoliert; sie schaut sich an, wie die Zutaten miteinander vermischt werden (wie „Temperatur“ + „Tageszeit“). Wenn es heiß ist und es Abend ist, sagt die Maschine einen hohen Energieverbrauch voraus (für die Klimaanlage). Aber wenn es heiß ist und es Morgen ist, sieht die Vorhersage völlig anders aus.

Das Problem ist, dass die meisten Werkzeuge, mit denen man in diese Black Boxes hineinblicken kann, wie ein verschwommenes Foto wirken. Sie können zwar sagen, dass zwei Zutaten miteinander interagieren, oder sie können einen unübersichtlichen 3D-Graphen zeigen, der schwer zu lesen ist. Sie können jedoch nicht klar erklären, wie diese Interaktion eigentlich aussieht.

Sails: Der „Rezept-Dekodierer“

Die Arbeit stellt ein neues Werkzeug namens Sails (Surrogate-based Analysis of Interactions via Local effect Smooths) vor. Stellen Sie sich Sails wie einen Detektiv vor, der nicht nur sagt: „Hey, diese zwei Dinge hängen zusammen!“, sondern tatsächlich eine klare Landkarte zeichnet, die zeigt, wie sie zusammenhängen.

So funktioniert Sails, erklärt anhand einer einfachen Analogie:

1. Die „Schneide- und Würfel-Strategie“

Stellen Sie sich die Black-Box-Maschine wie einen riesigen, komplexen Kuchen vor. Sails versucht nicht, den ganzen Kuchen auf einmal zu essen. Stattdessen nimmt es ein Messer und schneidet den Kuchen in dünne, handhabbare Schichten basierend auf einer spezifischen Zutat (nennen wir sie die „Fokus-Zutat“, wie zum Beispiel die „Tageszeit“).

Für jede Scheibe (oder jedes Zeitintervall) fragt Sails: „Wenn ich die Tageszeit konstant halte, wie verändert sich die Vorhersage, wenn ich die anderen Zutaten verändere?“

2. Der „Surrogate-Detektiv“

Für jede Scheibe baut Sails ein winziges, einfaches und transparentes Modell (einen „Surrogat-Modell“) auf, das das Verhalten der Black Box nur für diese spezifische Scheibe nachahmt. Es ist, als würde man einen lokalen Führer anheuern, um das Gelände eines nur kleinen Hügels zu erklären, anstatt zu versuchen, die gesamte Gebirgskette auf einmal zu kartieren.

Diese Führer sind mathematische Modelle, die GAMs (Generalized Additive Models) genannt werden. Diese sind besonders, weil sie für Menschen leicht lesbar sind. Sie können Ihnen sagen, ob die Beziehung eine gerade Linie, eine Kurve oder eine komplexe Windung ist.

3. Drei Superkräfte

Sobald Sails diese lokalen Führer gesammelt hat, führt es drei Hauptaufgaben aus:

Die Interaktion erkennen (Der „Ist sie da?“-Test):
Sails prüft, ob die lokalen Führer etwas Interessantes machen. Wenn die Führer für verschiedene Scheiben alle exakt gleich aussehen, gibt es keine Interaktion. Aber wenn die Führer je nach Scheibe die Form ändern, schlägt Sails Alarm: „Aha! Diese zwei Zutaten interagieren definitiv!“ Dabei nutzt es einen statistischen „Hörtest“ (ähnlich einem Signifikanztest), um sicherzustellen, dass es nicht nur ein Geräusch hört, das eigentlich nur Rauschen ist.
Die Form kategorisieren (Der „Wie sieht sie aus?“-Test):
Sails bleibt nicht bei einem bloßen „Sie interagieren“ stehen. Es fragt: „Was für eine Art von Interaktion ist das?“
- Linear: Ist es eine einfache, geradlinige Beziehung? (z. B. „Je heißer es wird, desto mehr nutzen wir die Klimaanlage, immer.“)
- Produkt-separabel: Ist es eine Beziehung, bei der eine Zutat die andere einfach nur hoch oder runter skaliert? (z. B. „Der Effekt der Temperatur hat dieselbe Form, wird aber durch die Windstärke multipliziert.“)
- Komplex/Nicht-separabel: Ist es eine chaotische, einzigartige Drehung, bei der die zwei Zutaten etwas völlig Neues erschaffen?
  Sails nutzt Mathematik, um zu messen, wie gut die Daten zu diesen Formen passen, und liefert einen Wert wie „90 % wahrscheinlich linear“.
Die Geschichte visualisieren (Das „Zeichnen der Landkarte“):
Basierend auf der Kategorie zeichnet Sails das bestmögliche Bild:
- Wenn es linear ist, zeichnet es eine einfache Linie.
- Wenn es produkt-separabel ist, zeichnet es eine Form, die zeigt, wie eine Zutat die andere skaliert.
- Wenn es komplex ist, zeichnet es eine Reihe von Kurven (eine für jede Scheibe), die genau zeigen, wie sich die Interaktion über den gesamten Bereich verändert. Dies vermeht die verwirrenden 3D-Graphen der Vergangenheit.

Ein Praxisbeispiel: Das Stromnetz einer Stadt

Die Autoren haben Sails an einem echten Datensatz über den Stromverbrauch in Tetouan, Marokko, getestet. Sie wollten verstehen, wie die „Solareinstrahlung“ (Sonnenlicht) mit anderen Faktoren wie der „Tageszeit“ und der „Temperatur“ interagiert.

Was sie fanden: Sails enthüllte, dass die Interaktion nicht nur einer einfachen Regel folgte. Beispielsweise stieg der Stromverbrauch an bewölkten Tagen (geringe Strahlung) während des Tages an, weil die Menschen das Licht einschalteten. Aber an sonnigen Tagen spielte die hohe Strahlung nur am Abend eine Rolle, wenn die Menschen nach Hause kamen.
Das Ergebnis: Sails zeichnete klare, farbige Kurven, die diese Muster zeigten. Es zeigte, dass das Black-Box-Modell sehr logische, für Menschen nachvollziehbare Entscheidungen darüber trifft, wann Strom benötigt wird, basierend auf dem komplexen Mix aus Wetter und Zeit.

Die Grenzen

Das Paper ist ehrlich darüber, wo Sails an seine Grenzen stoßen könnte:

Korrelierte Zutaten: Wenn zwei Zutaten fast immer identisch auftreten (wie „Temperatur“ und „Tageszeit“ in bestimmten Jahreszeiten), fällt es Sails schwerer, ihre Effekte perfekt voneinander zu trennen.
Komplexe Mischungen: Wenn drei oder mehr Zutaten gleichzeitig interagieren (eine „Dreier-Bedrohung“), ist Sails derzeit auf Paare ausgelegt und könnte einige Nuancen übersehen.

Das Fazament

Sails ist ein neues Werkzeug, das eine Lücke im Werkzeugkasten der „Erklärbaren KI“ (Explainable AI) füllt. Anstatt Ihnen nur zu sagen, dass ein maschinelles Lernmodell komplexe Interaktionen nutzt, zieht Sails den Vorhang beiseite und zeigt Ihnen, wie genau diese Interaktionen aussehen – und verwandelt so eine Black Box in ein transparentes, verständliches Rezept.

Technisches Resümee: Sails – Surrogatbasierte Analyse von Interaktionen mittels lokaler Effekt-Glättungen

Problemstellung

Merkmalsinteraktionen sind ein primärer Treiber der Vorhersagekraft in komplexen Modellen des maschinellen Lernens (ML), doch bestehende Methoden der erklärbaren KI (XAI) haben Schwierigkeiten, diese vollständig zu charakterisieren. Aktuelle Ansätze konzentrieren sich typischerweise entweder auf:

Detektion und Quantifizierung: Methoden wie die H-Statistik oder Shapley-Interaktionsindizes identifizieren, dass eine Interaktion existiert und messen deren Stärke, offenbaren jedoch nicht deren funktionale Form.
Eingeschränkte Visualisierung: Methoden wie 2D-ALE (Accumulated Local Effects) oder REPID (Regional Effects) visualisieren Interaktionen, erzeugen aber oft schwer interpretierbare 3D-Plots, können kontinuierliche Heterogenität nicht vollständig erfassen oder sind auf spezifische Interaktionstypen beschränkt (z. B. produkt-separabel).

Es besteht eine deutliche Lücke im XAI-Werkzeugkasten für ein integriertes, modellagnostisches Framework, das in der Lage ist, paarweise Interaktionen zu detektieren, ihre funktionale Form (linear, produkt-separabel oder nicht-produkt-separabel) zu kategorisieren und maßgeschneiderte, interpretierbare Visualisierungen für jeden Typ bereitzustellen.

Methodik: Das Sails-Framework

Sails (Surrogate-based Analysis of Interactions via Local effect Smooths) ist ein modellagnostisches Framework, das darauf ausgelegt ist, paarweise Interaktionen eines Merkmals von Interesse (Feature of Interest, FOI) zu analysieren, indem es interpretierbare Generalisierte Additive Modell (GAM)-Surrogatmodelle auf die lokalen Effekte eines Black-Box-Modells anpasst. Das Framework operiert in zwei aufeinanderfolgenden Schritten, gefolgt von drei integrierten Fähigkeiten.

1. Schätzung lokaler Effekte

Sails nutzt die lokale Zerlegbarkeit der ALE-Ableitungen (Accumulated Local Effects). Für ein Black-Box-Modell $\hat{f}$ ist der lokale Effekt bezüglich eines Merkmals $x_j$ als $h(x_j, x_{-j}) = \partial_j \hat{f}(x_j, x_{-j})$ definiert.

Intervallpartitionierung: Das FOI ( $X_j$ ) wird in $K$ Intervalle unterteilt.
Finite Differenzen: Lokale Effekte werden für Beobachtungen innerhalb jedes Intervalls mittels finiter Differenzen der Modellvorhersagen geschätzt, normiert durch die Intervallbreite.
Theoretische Grundlage: Gemäß der funktionalen ANOVA-Zerlegung (FANOVA) resultiert die Variation der lokalen Effekte bei festem $X_j$ ausschließlich aus den Interaktionen, an denen $X_j$ beteiligt ist. Somit deutet die Heterogenität dieser lokalen Effekte über andere Merkmale hinweg auf eine Interaktion hin.

2. Anpassung des GAM-Surrogats

Für jedes Intervall $k$ des FOI passt Sails ein separates GAM-Surrogatmodell an:

Inputs: Die verbleibenden Merkmale $X_{-j}$ .
Target: Die geschätzten lokalen Effekte $\hat{h}^{(i)}_k$ .
Struktur: $\hat{s}^{(k)}(x_{-j}) = \hat{s}^{(k)}_0 + \sum_{l \neq j} \hat{s}^{(k)}_l(x_l)$ .
Interpretation: Es wird vermutet, dass die Glättungsterme $\hat{s}^{(k)}_l$ die partiellen Ableitungen der Interaktionskomponenten ( $\partial_j g_{jl}$ ) bis auf eine Zentrierungskonstante approximieren.

3. Integrierte Fähigkeiten

Basierend auf den angepassten Surrogaten führt Sails drei Aufgaben aus:

(i) Detektion von Interaktionen

Sails testet die Signifikanz der Glättungsterme für jedes Merkmal $X_l$ innerhalb jedes Intervalls mittels F-Tests auf die Koeffizienten der Basisfunktionen.

Aggregation: Da die Tests über die Intervalle hinweg abhängig sind, werden die p-Werte mittels des harmonischen Mittelwerts der p-Werte aggregiert, um ein globales Signifikanzmaß zu erhalten.
Korrektur: Eine Benjamini-Hochberg-Verfahren zur Kontrolle der False Discovery Rate (FDR) wird für multiples Testen angewendet.
Heuristik: Aufgrund des Fehlens von additivem Rauschen in den lokalen Effektberechnungen und der Verwendung von penalisierten Splines werden die resultierenden p-Werte als Heuristik für die globale Interaktionssignifikanz und nicht als exakte statistische Werte behandelt.

(ii) Kategorisierung von Interaktionen

Sails kategorisiert detektierte Interaktionen in drei Typen unter Verwendung von $R^2$ -basierten Heuristikmaßen, die aus den Glättungstermen abgeleitet sind:

Linear: Wenn die Glättungsterme $\hat{s}^{(k)}_l$ über die Intervalle hinweg identisch sind (bis auf eine Konstante), ist die Interaktion bezüglich des FOI linear. Dies wird durch $R^2_{lin}$ gemessen, welches eine einzelne Kurve an die gepoolten Auswertungen anpasst.
Produkt-separabel: Wenn die Glättungsterme dieselbe Form besitzen, sich aber nur durch einen Skalierungsfaktor unterscheiden, ist die Interaktion produkt-separabel ( $g_{jl}(x_j, x_l) = \phi_j(x_j)\phi_l(x_l)$ ). Dies wird durch $R^2_{prod}$ gemessen, welches eine einzelne Kurve an die Verhältnisse der Glättungsterme an einem Referenzpunkt anpasst.
Nicht-Produkt-separabel: Wenn keine dieser Bedingungen erfüllt ist, wird die Interaktion als allgemein/nicht-separabel kategorisiert.

(iii) Maßgeschneiderte Visualisierung

Je nach Kategorisierung generiert Sails spezifische Visualisierungen:

Linear: Visualisiert den univariaten Glätter $\phi_l(x_l)$ .
Produkt-separabel: Visualisiert die Form von $\phi_l(x_l)$ über den verhältnisbasierten Glätter.
Allgemein: Für nicht-separable Interaktionen integriert Sails die Glättungsterme $\hat{s}^{(k)}_l$ über die Intervalle, um die Interaktionsfunktion $g_{jl}$ zu rekonstruieren, wobei eine doppelte Zentrierung angewendet wird, um die FANOVA-Constraints zu erzwingen. Dies liefert eine 2D-Visualisierung darüber, wie die Interaktionswirkung mit dem interagierenden Merkmal für verschiedene Intervalle des FOI variiert.

Empirische Evaluierung und Ergebnisse

Das Framework wurde durch kontrollierte Simulationen und eine reale Anwendung validiert.

Simulationen

Experimente wurden mit synthetischen Daten durchgeführt, die variierende Korrelationsstrukturen und Interaktionsordnungen (linear, produkt-separabel, nicht-separabel und höherer Ordnung) aufweisen.

Detektion: Sails identifizierte interagierende Merkmale korrekt mit niedrigen Falsch-Positiv-Raten sowohl bei unabhängigen als auch bei korrelierten Merkmalen. Es blieb selbst bei starken Korrelationen robust und identifizierte Rauschmerkmale korrekt als nicht-interagierend.
Kategorisierung: Unter unabhängigen Merkmalen unterschied Sails perfekt zwischen linearen, produkt-separablen und nicht-separablen Interaktionen.
- Limitierungen: $R^2_{prod}$ verschlechterte sich unter starken Korrelationen (aufgrund von Zentrierungsverschiebungen) und höheren Interaktionsordnungen (aufgrund von Modellfehlern beim Surrogat). $R^2_{lin}$ war robuster, verschlechterte sich jedoch ebenfalls leicht bei nicht-linearen Interaktionen höherer Ordnung.
Visualisierung:
- Lineare und produkt-separable Visualisierungen entsprachen unter Unabhängigkeit eng den Ground-Truth-Werten.
- Die auf Integration basierende Visualisierung für allgemeine Fälle konnte komplexe Interaktionsformen (z. B. Sinuskurven) unter Unabhängigkeit erfolgreich rekonstruieren.
- Unter Korrelationen und Interaktionen höherer Ordnung zeigten die Visualisierungen Artefakte oder eine reduzierte Aussagekraft, blieben jedoch informative Approximationen.

Reale Anwendung

Sails wurde auf ein XGBoost-Modell angewendet, das den Stromverbrauch in Tetouan, Marokko, vorhersagt, wobei general_diffuse_flows (Solareinstrahlung) als FOI dient.

Ergebnisse: Das Framework identifizierte Interaktionen mit Stunde (Hour), Temperatur (Temperature), UnixTime und Windgeschwindigkeit (WindSpeed).
Interpretation:
- Stunde: Zeigte auf, dass mittlere Strahlungsintensitäten mit erhöhtem Abendverbrauch (Dämmerungsbeleuchtung) korrelieren, während niedrige Strahlung mit Tagesverbrauch (bewölkte Beleuchtung) korreliert.
- Temperatur: Zeigte synergistische Effekte, wobei sowohl niedrige Strahlung + niedrige Temperatur (Heizung + Beleuchtung) als auch hohe Strahlung + hohe Temperatur (Kühlung) den Verbrauch erhöhten.
- Windgeschwindigkeit: Wies eine nahezu produkt-separable Form auf, wobei die Kurven über die Intervalle hinweg eine konsistente Form beibehielten.
Surrogat-Fit: Das durchschnittliche In-Sample- $R^2$ der GAM-Surrogate betrug 0,96, was zeigt, dass sie den Großteil der lokalen Effektvariation erfassen.

Bedeutung und Ansprüche

Das Paper behauptet, dass Sails eine kritische Lücke im XAI-Werkzeugkasten schließt, indem es über die bloße Detektion von Interaktionen hinausgeht und zur Charakterisierung der funktionalen Form von paarweisen Interaktionen übergeht.

Modellagnostisch: Es funktioniert mit jedem Black-Box-Modell.
Integrierter Workflow: Es kombiniert Detektion, Kategorisierung und Visualisierung in einer einzigen Pipeline.
Interpretierbarkeit: Durch die Kategorisierung von Interaktionen ermöglicht es maßgeschneiderte Visualisierungen, die leichter zu interpretieren sind als generische 3D-Konturplots.
Robustheit: Es demonstriert die Effektivität bei der Detektion von Interaktionen selbst in Gegenwart von Merkmalskorrelationen, einer häufigen Herausforderung in realen Datensätzen.

Limitierungen und zukünftige Arbeiten

Die Autoren räumen mehrere Limitierungen ein:

Aufgabenumfang: Derzeit auf Regressionsaufgaben beschränkt; die Erweiterung auf Klassifikation ist zukünftige Arbeit.
Theoretische Garantien: Die Vermutung, dass Glättungsterme die FANOVA-partiellen Ableitungen approximieren, entbehrt eines strengen theoretischen Beweises.
Korrelationssensitivität: Die Kategorisierungsmaße ( $R^2_{prod}$ ) reagieren empfindlich auf starke Merkmalskorrelationen.
Interaktionsordnung: Das Framework setzt paarweise Interaktionen voraus; Interaktionen höherer Ordnung können zu Fehlern bei der Surrogat-Anpassung und Artefakten führen.
Zukünftige Richtungen: Potenzielle Erweiterungen umfassen die Nutzung von GA2M-Surrogaten für Interaktionen höherer Ordnung, die Anwendung der Methode auf andere lokale Effektmethoden (z. B. ICE, Shapley-Werte) und die Vereinigung des Ansatzes mit GADGET für regionale Effekte.