A Geometry-Based View of Mahalanobis OOD Detection

Die Studie zeigt, dass die Zuverlässigkeit von Mahalanobis-basierten OOD-Detektoren stark von der geometrischen Struktur des Merkmalsraums abhängt, und führt eine neuartige radiale Skalierung der $\ell_2$-Normalisierung ein, um die Detektionsleistung durch gezielte Anpassung der In-Distribution-Geometrie zu verbessern.

Das Wesentliche

🕵️‍♂️ Der Detektiv, der manchmal den falschen Alarm schlägt

Stell dir vor, du hast einen sehr klugen Sicherheitsdetektiv. Seine Aufgabe ist es, zu erkennen, ob ein Bild, das er sieht, zu einer bekannten Gruppe gehört (z. B. „Das ist ein Hund") oder ob es etwas völlig Fremdes ist (z. B. „Das ist ein Alien").

In der Welt der künstlichen Intelligenz (KI) nennt man das OOD-Erkennung (Out-of-Distribution). Das ist super wichtig, damit eine KI nicht völlig verwirrt ist, wenn sie auf etwas Unbekanntes trifft.

Ein beliebter Detektiv-Typ ist der „Mahalanobis-Detektor". Er funktioniert wie ein Maßband: Er misst, wie weit ein neues Bild von den bekannten Bildern entfernt ist.

• Das Problem: Dieser Detektor ist sehr launisch. Manchmal ist er ein Genie und erkennt alles sofort. Manchmal ist er aber blind und verwechselt einen Alien mit einem Hund. Die Forscher haben herausgefunden: Es liegt nicht am Detektor selbst, sondern an der Brille, durch die er schaut (die sogenannte „Repräsentation" oder das „Feature-Space").

🧩 Die Brille, durch die die KI schaut

Stell dir vor, die KI hat eine riesige Bibliothek mit Bildern. Aber sie sieht sie nicht als Fotos, sondern als Punkte in einem riesigen, mehrdimensionalen Raum.

• Bei manchen KI-Modellen liegen die Punkte der „Hunde" sehr dicht und ordentlich zusammen (wie eine gut organisierte Herde Schafe).
• Bei anderen Modellen sind sie chaotisch verteilt (wie Schafe, die in einem Sturm herumtollen).

Der Detektor funktioniert nur dann gut, wenn die Herde ordentlich ist. Wenn die Herde chaotisch ist, kann der Detektor die Fremden (Aliens) nicht von den eigenen Schafen unterscheiden.

Die Forscher haben herausgefunden, dass zwei Dinge die Ordnung dieser Herde bestimmen:

1. Die lokale Komplexität: Wie viele verschiedene Richtungen gibt es, in die sich die Schafe bewegen können? (Wissenschaftlich: Lokale intrinsische Dimension).
2. Die Dichte der Herde: Wie eng stehen die Schafe beieinander? (Wissenschaftlich: Spektrale Struktur innerhalb der Klasse).

Wenn diese beiden Faktoren nicht zusammenpassen, versagt der Detektor.

🎚️ Der neue Trick: Der „Radial-Regler"

Bisher haben die Leute versucht, den Detektor zu reparieren, indem sie die Brille komplett austauschten oder die Messregeln änderten. Das ist aufwendig und oft nicht die beste Lösung.

Diese Forscher haben einen cleveren, einfachen Trick gefunden: Sie haben einen Regler (einen Drehknopf), den sie Beta ($\beta$) nennen.

Die Analogie:
Stell dir vor, die KI-Punkte sind wie Luftballons in einem Raum.

• Manche Ballons sind riesig, manche klein.
• Der Detektor misst die Entfernung vom Zentrum. Wenn die Ballons unterschiedlich groß sind, verzerrt das die Messung.

Der Regler $\beta$ erlaubt es, alle Ballons gleichzeitig auf- oder abzudeflationieren, ohne ihre Position im Raum zu verändern.

• Dreht man den Regler in eine Richtung, werden große Ballons kleiner und kleine größer, bis alle fast gleich groß sind.
• Dreht man ihn in die andere Richtung, passiert das Gegenteil.

Das Tolle daran: Man muss die KI nicht neu trainieren! Man dreht einfach den Regler, bis die „Herde" der Schafe wieder perfekt geordnet ist.

🧭 Wie findet man den richtigen Regler?

Die große Frage war: „Wie weiß man, auf welche Zahl man den Regler stellen muss, ohne den Alien zu kennen?" (Man darf den Alien ja nicht sehen, sonst wäre es ja kein Test mehr).

Die Forscher haben eine Lösung gefunden: Sie schauen nur auf die eigenen Schafe (die bekannten Daten).
Sie haben eine kleine Formel entwickelt, die sagt: „Wenn die Schafe so und so aussehen, dann drehe den Regler auf Zahl X."

• Es ist wie ein Navigationssystem, das nur die Straßenkarte der bekannten Stadt nutzt, um zu sagen: „Hier ist die beste Geschwindigkeit für den Verkehr."

🏆 Das Ergebnis

Wenn man diesen neuen Regler ($\beta$) benutzt, funktioniert der alte, einfache Detektor plötzlich viel besser als zuvor.

• Er ist robuster.
• Er macht weniger Fehler.
• Und das Beste: Man braucht keine neuen Daten oder teures Training. Man dreht nur den Regler.

Zusammengefasst:
Die Forscher haben gezeigt, dass der Erfolg eines KI-Detektors stark davon abhängt, wie „geordnet" die Daten im Inneren der KI sind. Sie haben einen einfachen Drehknopf erfunden, um diese Ordnung nachträglich zu verbessern, ohne die KI selbst zu verändern. Das macht KI-Sicherheit viel zuverlässiger – besonders in kritischen Bereichen wie autonomem Fahren oder medizinischer Diagnostik.

Technische Zusammenfassung

1. Problemstellung

Die Erkennung von Out-of-Distribution (OOD) Daten ist entscheidend für den zuverlässigen Einsatz von Vision-Modellen in der realen Welt. Mahalanobis-basierte Detektoren gelten als starke Baselines, da sie einfach und effizient sind. Allerdings zeigt die Arbeit, dass ihre Leistung stark von der spezifischen Repräsentation (Feature-Space) des verwendeten Modells abhängt.

• Herausforderung: Die Leistungsfähigkeit eines Mahalanobis-Detektors variiert erheblich zwischen verschiedenen vortrainierten Modellen (z. B. Vision Transformer, CLIP, BEiT) und hängt stark von den Vor-Trainingsdaten und dem Fine-Tuning-Regime ab.
• Lücke: Es ist unklar, welche geometrischen Eigenschaften des In-Distribution (ID) Feature-Space dazu führen, dass diese Methoden erfolgreich sind oder scheitern. Zudem gibt es keine universell optimale Normalisierungsmethode (z. B. $\ell_2$-Normalisierung auf die Einheitskugel), die für alle Modelle funktioniert.

2. Methodik und Ansatz

Die Autoren analysieren das Problem aus der Perspektive der Geometrie der Repräsentationen. Statt nur die Detektionsleistung zu messen, untersuchen sie die innere Struktur der Feature-Räume.

• Großangelegte Studie: Es wurde eine umfassende Benchmark über diverse Self-Supervised Learning (SSL) und Foundation-Modelle durchgeführt, einschließlich verschiedener Architekturen (ViT, BEiT, EVA, DeiT) und Trainingsregime (nur Pretraining, Fine-Tuning auf ImageNet-1k/21k).
• Geometrische Metriken: Die Leistung wurde mit zwei komplementären Familien von Metriken korreliert:
  1. Manifold-Metriken: Lokale intrinsische Dimensionalität (LID), gemessen über k-Nearest-Neighbors.
  2. Spektrale Metriken: Eigenwerte der Kovarianz- und Streumatrizen (insbesondere die spektrale Steigung innerhalb der Klassen).
• Neue Normalisierungsmethode: Die Autoren führen eine radial skalierte $\ell_2$-Normalisierung ein:
  $$\phi_\beta(z) = \frac{z}{\|z\|^\beta}$$
  Dabei kontrolliert der Parameter $\beta$ die Kontraktion oder Expansion der Feature-Radien, während die Richtungen (Winkel) erhalten bleiben.
  • $\beta = 0$: Original-Features.
  • $\beta = 1$: Standard $\ell_2$-Normalisierung (Einheitskugel).
  • $\beta \neq 0, 1$: Kontinuierliche Verformung der radialen Geometrie.

3. Schlüsselbeiträge

1. Benchmark und Analyse: Eine breite Benchmark von Mahalanobis-artigen OOD-Detektoren über diverse Modelle, inklusive einer dimensionsweisen Analyse, die zeigt, dass hohe Trennschärfe in einzelnen Eigenrichtungen nicht automatisch zu guter OOD-Leistung führt.
2. Geometrischer Prädiktor: Identifikation eines kompakten, nur auf ID-Daten basierenden Zusammenfassungsmaßes, das die OOD-Leistung konsistent vorhersagt: Das Produkt aus lokaler intrinsischer Dimensionalität (LID) und der Betragsgröße der spektralen Steigung innerhalb der Klassen ($m \cdot |s|$).
   • Dies deutet auf einen kompensatorischen Trade-off hin: Bei hoher lokaler Dimensionalität sind kompaktere Klassencluster notwendig, um eine gute Detektion zu gewährleisten.
3. Geometrischer Kontrollmechanismus ($\beta$-Scaling): Einführung des Parameters $\beta$ zur Nachbearbeitung der Features. Die Autoren zeigen, dass die optimale Wahl von $\beta$ modellabhängig ist und nicht universell festgelegt werden kann.
4. ID-only $\beta$-Auswahlregel: Entwicklung einer praktischen Methode, um den optimalen $\beta$-Wert allein anhand von ID-Geometrie-Signalen (dem Proxy $P(\beta) = m(\beta)|s(\beta)|$) zu wählen, ohne Zugriff auf OOD-Daten zu benötigen.

4. Ergebnisse

• Leistungsschwankungen: Die Studie bestätigt, dass Mahalanobis-Detektoren nicht universell zuverlässig sind. Modelle, die nur vortrainiert sind (ohne Fine-Tuning auf ImageNet), profitieren oft stark von der relativen Mahalanobis-Distanz (RMD), während Fine-Tuning die Leistung variieren lässt.
• Korrelation mit Geometrie: Es wurde eine starke Korrelation zwischen dem Produkt $m \cdot |s|$ und der OOD-Leistung (FPR@95) gefunden. Ein niedrigerer Wert dieses Produkts korreliert mit besserer Detektionsleistung.
• Überlegenheit der radialen Skalierung:
  • Die Auswahl von $\beta$ basierend auf dem geometrischen Proxy führt in den meisten Fällen zu einer besseren OOD-Leistung als feste Normalisierungen ($\beta=0$ oder $\beta=1$).
  • Die Methode (RS-MD und RS-RMD) erreicht Ergebnisse, die nahe an einer „Oracle"-Tuning (die den optimalen $\beta$ mit OOD-Daten kennt) liegen, aber ohne OOD-Daten auskommt.
  • In der Tabelle 1 wird gezeigt, dass die proxy-gewählte $\beta$-Variante den Durchschnitts-FPR über verschiedene Modelle und OOD-Datensätze (NINCO, iNaturalist, etc.) signifikant senkt.
• Stabilitätsanalyse: Die Autoren leiten eine theoretische Zerlegung der Instabilität der Scores her, die zeigt, dass die Varianz der Scores durch die Interaktion von „Größe" (Norm) und „Stretch" (Ausrichtung an der Kovarianzstruktur) bestimmt wird. Der Proxy $m \cdot |s|$ erfasst diese Interaktion effektiv.

5. Bedeutung und Fazit

Dieses Paper liefert einen fundamentalen Einblick in das Verhalten von Mahalanobis-Detektoren in modernen Vision-Modellen.

• Theoretische Einsicht: Es wird gezeigt, dass die OOD-Leistung nicht nur von der Trennschärfe der Klassen abhängt, sondern von der komplexen Wechselwirkung zwischen der lokalen Geometrie (Dimensionalität) und der spektralen Struktur der Klassencluster.
• Praktischer Nutzen: Die vorgeschlagene Methode zur nachträglichen Anpassung der Feature-Normen via $\beta$ bietet einen einfachen, rechnerisch günstigen Weg, um die Robustheit von OOD-Detektoren zu verbessern.
• Anwendbarkeit: Da die optimale $\beta$-Wahl nur auf In-Distribution-Daten geschätzt werden kann, ist die Methode ideal für den Einsatz in sicherheitskritischen Anwendungen (z. B. autonomes Fahren, medizinische Bildgebung), wo OOD-Daten für das Training oder die Validierung oft nicht verfügbar sind.

Zusammenfassend beweist die Arbeit, dass eine geometrische Kontrolle der Feature-Räume (durch radiale Skalierung) die Zuverlässigkeit von OOD-Detektoren signifikant steigern kann und dass die innere Geometrie der Repräsentation der Schlüssel zum Verständnis und zur Optimierung dieser Detektoren ist.