🤖 machine learning

Vendi Novelty Scores for Out-of-Distribution Detection

Dieser Beitrag stellt den Vendi Novelty Score (VNS) vor, einen nicht-parametrischen Out-of-Distribution-Detektor mit linearer Laufzeit, der Diversitätsmetriken nutzt, um über verschiedene Benchmarks hinweg State-of-the-Art-Leistung zu erzielen und dabei auch mit minimalen Trainingsdaten effektiv bleibt.

Ursprüngliche Autoren: Amey P. Pasarkar, Adji Bousso Dieng

Veröffentlicht 2026-05-22

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Amey P. Pasarkar, Adji Bousso Dieng

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen sehr klugen, hochqualifizierten Sicherheitsbeamten am Eingang eines Museums. Dieser Beamte hat Jahre damit verbracht, Tausende von Gemälden aus der Renaissance zu studieren. Er kann Ihnen sofort sagen, ob ein neues Gemälde ein echtes Rembrandt oder eine Fälschung ist. Doch was passiert, wenn jemand mit einem Bild eines Toasters, einer Cartoon-Katze oder einer modernen abstrakten Skulptur auf ihn zukommt?

Der Wache könnte trotzdem sagen: „Ich bin zu 99 % sicher, dass dies ein Gemälde ist!", weil er so sehr auf seine Ausbildung vertraut, obwohl er völlig falsch liegt. In der Welt der Künstlichen Intelligenz nennt man dies ein Out-of-Distribution (OOD)-Problem. Die KI sieht etwas, das sie noch nie gesehen hat, weiß aber nicht, dass sie verwirrt ist.

Diese Arbeit stellt ein neues Werkzeug vor, das Vendi Novelty Score (VNS) genannt wird, um KI-Systeme dabei zu unterstützen, zu erkennen, wenn sie etwas völlig Fremdes betrachten. Hier ist die Funktionsweise, erklärt durch einfache Analogien.

Der alte Weg: Vertrauenswürdigkeit raten

Die meisten aktuellen Methoden versuchen, diese „Fremden" zu erkennen, indem sie die KI fragen: „Wie sicher sind Sie?"

Der Fehler: Wenn die KI auf Katzen und Hunde trainiert wurde und Sie ihr einen Toaster zeigen, könnte sie sich trotzdem sehr sicher fühlen, weil der Toaster einige visuelle Merkmale (wie Kanten oder Farben) mit einem Katzenohr teilt. Es ist wie ein Wache, der so sehr an rote Mäntel gewöhnt ist, dass er einen roten Feuerhydranten für eine Person hält.

Der neue Weg: „Vielfalt der Menge" messen

Die Autoren dieser Arbeit haben beschlossen, nicht mehr zu fragen: „Wie sicher sind Sie?", sondern stattdessen: „Wie stark verändert dieser neue Mensch die Menge?"

Sie verwenden ein Konzept namens Vendi Score, das im Grunde eine ausgefeilte Methode zur Messung von Vielfalt ist.

Die Analogie: Die Gästeliste einer Party

Stellen Sie sich vor, die KI hat eine Erinnerung an alle Menschen, die sie getroffen hat (die Trainingsdaten).

Die In-Distribution (ID)-Menge: Das sind die Menschen, die die KI gut kennt. Sie sind in „Cliquen" gruppiert (wie eine Gruppe aller Rothaarigen, eine Gruppe aller großen Menschen usw.).
Die Testprobe: Eine neue Person betritt den Raum.

Wie VNS funktioniert:

Der lokale Check (Die Clique): Die KI betrachtet die spezifische Clique, der die neue Person vielleicht angehören könnte (z. B. „Ist diese Person rothaarig?"). Sie fragt: „Wenn wir diese neue Person zur Gruppe der Rothaarigen hinzufügen, wird die Gruppe vielfältiger oder repetitiver?"
- Wenn die neue Person rothaarig ist und eine einzigartige Frisur hat, wird die Gruppe vielfältiger.
- Wenn die neue Person rothaarig ist und genau wie alle anderen aussieht, ändert sich die Gruppe kaum.
- Der Twist: Wenn die neue Person tatsächlich ein Toaster (oder eine Cartoon-Katze) ist, erzeugt das Hinzufügen zur „rothaarigen" Gruppe eine seltsame, störende Mischung. Der „Vielfaltscore" schießt in die Höhe, weil der Toaster überhaupt nicht in das Muster passt.
Der globale Check (Die ganze Party): Die KI betrachtet auch die gesamte Party. „Wenn wir diesen Toaster zum ganzen Raum hinzufügen, wirkt der Raum dann chaotisch?"
- VNS berechnet, wie stark die neue Probe die allgemeine Harmonie der Daten stört.
Der Endscore: Die KI kombiniert diese beiden Checks. Wenn die neue Probe die lokale Gruppe seltsam und die globale Party chaotisch macht, steigt der Vendi Novelty Score. Ein hoher Score bedeutet: „Hey, das gehört hier nicht hin! Wir sollten vorsichtig sein."

Warum dies eine große Sache ist

Die Arbeit behauptet, dass diese Methode aus drei Hauptgründen ein Wendepunkt ist:

1. Es ist schnell und leichtgewichtig
Die Berechnung von Vielfalt erfordert normalerweise schwere Mathematik, die viel Zeit in Anspruch nimmt (wie das Abgleichen jedes einzelnen Menschen in einem Stadion mit jedem anderen).

Der Trick der Arbeit: Sie haben einen Abkürzungsweg gefunden. Anstatt die gesamte Menge zu betrachten, schauen sie nur auf die „wichtigste" Person in der Gruppe (das mathematische Äquivalent des „Hauptanführers" der Clique).
Das Ergebnis: Es ist unglaublich schnell. Die Arbeit zeigt, dass es fast genauso schnell läuft wie die einfachsten Methoden, was es für den Echtzeiteinsatz praktikabel macht (wie bei autonomen Fahrzeugen).

2. Es benötigt kein vollständiges Gedächtnis
Normalerweise müssen Sie, um zu prüfen, ob etwas neu ist, jedes einzelne Beispiel merken, das Sie je gesehen haben. Das beansprucht viel Computerspeicher.

Die Behauptung der Arbeit: VNS funktioniert erstaunlich gut, selbst wenn Sie ihr nur 1 % der Trainingsdaten zeigen. Es ist wie ein Sicherheitsbeamter, der einen Fremden erkennen kann, auch wenn er sich nur an 1 % der Menschen erinnert, die er getroffen hat, weil er die Struktur der Menge versteht und nicht nur die Gesichter.

3. Es funktioniert überall
Die Autoren haben dies an vielen verschiedenen Arten von KI-„Gehirnen" (Architekturen) und vielen verschiedenen Arten von „Museen" (Datensätzen wie CIFAR-10, CIFAR-100 und ImageNet) getestet.

Das Ergebnis: VNS hat die besten bestehenden Methoden konsequent geschlagen oder gleichgezogen. Es war besonders gut darin, „Near-OOD"-Objekte zu erkennen – Dinge, die fast so aussehen wie das, was die KI kennt, aber nicht ganz richtig sind (wie ein Bild eines Hundes, das ein bisschen wie ein Wolf aussieht).

Zusammenfassung

Der Vendi Novelty Score ist eine neue Möglichkeit, einer KI mitzuteilen, wenn sie überfordert ist. Anstatt nur zu fragen: „Sind Sie sicher?", fragt er: „Passt dieses neue Ding in das Muster der Gruppe?"

Indem gemessen wird, wie stark eine neue Probe die Vielfalt des Gedächtnisses der KI stört, kann sie Fremde (wie Toaster in einem Katzenmuseum) mit hoher Genauigkeit erkennen, dabei sehr wenig Speicherplatz verbrauchen und sehr schnell arbeiten. Dies hilft, KI-Systeme sicher zu halten, indem sie wissen, wann sie sagen müssen: „Ich weiß nicht, was das ist, lassen Sie einen Menschen damit umgehen."

Technische Zusammenfassung: Vendi-Neuheitsscores für die Erkennung von Out-of-Distribution-Daten

Problemstellung

Moderne maschinelle Lernsysteme zeigen oft unvorhersehbares Verhalten, wenn sie Eingaben außerhalb der Trainingsverteilung (Out-of-Distribution, OOD) verarbeiten, und liefern häufig hochkonfidente, aber falsche Vorhersagen. Dies birgt erhebliche Risiken in hochriskanten Bereichen wie dem autonomen Fahren, der medizinischen Bildgebung und der wissenschaftlichen Entdeckung. Obwohl die OOD-Erkennung für die Sicherheit entscheidend ist, stoßen bestehende nachgelagerte Methoden an Grenzen:

Logit-basierte Methoden (z. B. Maximum Softmax Probability, Energy-Scores) ignorieren statistische Merkmale der In-Distribution-Daten, was die Zuverlässigkeit verringert.
Dichtebasierte Methoden im Merkmalsraum (z. B. Mahalanobis-Distanz) beruhen häufig auf einschränkenden Annahmen über die Geometrie der Repräsentationen (z. B. Gaußsche Verteilung, neuronaler Kollaps), die bei diversen Architekturen möglicherweise nicht zutreffen.
Ähnlichkeitsbasierte Methoden (z. B. k-Nächste-Nachbarn) verursachen einen erheblichen Rechenaufwand zur Inferenzzeit.
Gradientenbasierte Methoden erfordern oft mehrere Vorwärts- und Rückwärtsdurchläufe, was sie für latenzsensitive Anwendungen unpraktisch macht.

Es besteht ein Bedarf an einem rechnerisch effizienten, nachgelagerten OOD-Detektor, der keine einschränkenden Verteilungsannahmen trifft und auch bei begrenztem Zugriff auf Trainingsdaten effektiv arbeiten kann.

Methodik: Der Vendi-Neuheitsscore (VNS)

Die Autoren schlagen den Vendi-Neuheitsscore (VNS) vor, einen nachgelagerten OOD-Detektor, der auf dem Konzept der Vielfalt (Diversity) statt auf Dichteschätzung basiert. VNS nutzt den Vendi-Score (VS), eine Familie von Ähnlichkeits-basierten Vielfaltsmetriken, um zu quantifizieren, inwieweit ein Testsample die Vielfalt eines In-Distribution (ID)-Merkmalsatzes erhöht.

Kernalgorithmus

Klassenbedingte Neuheit:
- Für einen trainierten Klassifikator $f_\theta$ mit $C$ Klassen extrahiert die Methode Einbettungen $h(x)$ aus der vorletzten Schicht.
- Für jede Klasse $c$ wird eine klassenbedingte Dichtematrix $\rho_c$ aus den Trainingseinbettungen dieser Klasse berechnet.
- Die Neuheit eines Testsamples $x$ bezüglich der Klasse $c$ wird definiert als die logarithmische Zunahme des Vendi-Scores der Ordnung 2 ( $VS_2$ ), wenn $x$ zum Klassensatz hinzugefügt wird:
  $\Delta_c(x) = \log VS_2(\rho'_c) - \log VS_2(\rho_c)$
- Um Effizienz zu gewährleisten, verwenden die Autoren eine Rang-1-Näherung. Anstatt das volle Eigenwertspektrum von $\rho_c$ zu speichern, approximieren sie die Änderung von $VS_2$ ausschließlich unter Verwendung des größten Eigenwerts $\lambda_c$ und des zugehörigen Eigenvektors $u_c$ . Dies reduziert die Komplexität der Berechnung klassenbedingter Scores pro Klasse auf $O(D)$ .
Wahrscheinlichkeitsgewichtete Aggregation:
- Anstatt sich auf eine einzelne vorhergesagte Klasse zu verlassen, aggregiert VNS klassenbedingte Neuheitsscores unter Verwendung der vom Modell vorhergesagten Klassenwahrscheinlichkeiten $p(x)$ .
- Der lokale OOD-Score wird berechnet als:
  $S_{\text{LOCAL-OOD}}(x) = \sum_{c \in T_K(x)} N_c p_c(x)^\gamma \Delta_c(x)$
  wobei $T_K(x)$ die Top- $K$ vorhergesagten Klassen darstellt, $N_c$ die Klassenstärke (zur Skalierung verwendet) ist und $\gamma$ die Schärfe der Aggregation steuert.
Globale Vielfaltskorrektur:
- Um globale Dichteschwankungen zu berücksichtigen, wird ein globaler Neuheitsscore basierend auf der Änderung von $VS_\infty$ (der vom größten Eigenwert der globalen Dichtematrix abhängt) berechnet, wenn das Testsample zum gesamten Datensatz hinzugefügt wird.
- Der endgültige VNS-Score kombiniert lokale und globale Signale:
  $\text{VNS}(x) = S_{\text{LOCAL-OOD}}(x) - g \cdot S_{\text{GLOBAL-OOD}}(x)$
  wobei $g \in \{0, 1\}$ ein binärer Koeffizient ist, der bestimmt, ob die globale Korrektur angewendet wird.

Komplexität

Zeitkomplexität: $O(CD)$, wobei $C$ die Anzahl der Klassen und $D$ die Einbettungsdimension ist. Dies ist linear in beiden Parametern, was es deutlich schneller macht als Mahalanobis-basierte Methoden ( $O(CD^2)$ ) und k-NN-Ansätze.
Speicherkomplexität: $O(CD)$, da nur der größte Eigenwert und der zugehörige Eigenvektor für jede Klasse gespeichert werden müssen.

Hauptbeiträge

Neues Paradigma: Einführung einer auf Vielfalt basierenden Perspektive für die OOD-Erkennung, die sich von traditioneller Dichtemodellierung oder Logit-Analyse löst.
Vendi-Neuheitsscore (VNS): Vorschlag eines spezifischen Algorithmus, der Neuheit über den Einfluss eines Testsamples auf die Repräsentationsvielfalt quantifiziert und effiziente Rang-1-Näherungen des Vendi-Scores nutzt.
Hybride Signalintegration: Kombination lokaler (klassenbedingter) und globaler Neuheitssignale, gewichtet mit Vorhersagewahrscheinlichkeiten, um die Robustheit zu verbessern.
Dateneffizienz: Nachweis, dass VNS auch dann State-of-the-Art-Leistung beibehält, wenn es nur mit 1 % der Trainingsdaten berechnet wird, was den Einsatz in speicherbeschränkten Umgebungen ermöglicht.
Theoretische und empirische Validierung: Bereitstellung theoretischer Begründungen für die Rang-1-Näherung und umfangreiche empirische Validierung über mehrere Datensätze und Architekturen hinweg.

Experimentelle Ergebnisse

Die Autoren evaluierten VNS auf Standard-OOD-Benchmarks: CIFAR-10, CIFAR-100 und ImageNet-1K, unter Verwendung von Architekturen wie ResNet, ViT und Swin-T.

Leistung: VNS erzielte auf CIFAR-10 State-of-the-Art (SOTA)-Ergebnisse und konkurrenzfähige Ergebnisse auf CIFAR-100. Auf dem ImageNet-1K-Benchmark reduzierte VNS die False-Positive-Rate bei 95 % True-Positive-Rate (FPR@95) im Durchschnitt um 13 % im Vergleich zum zweitbesten Algorithmus.
Robustheit: Im Gegensatz zu einigen Aktivierungsformungsmethoden, die auf ResNet gut funktionieren, aber bei Transformern nachlassen, zeigte VNS konsistente Leistung über verschiedene Architekturen hinweg (ResNet, ViT, Swin-T).
Effizienz: VNS ist um Größenordnungen schneller als die zweitgenaueste Methode (RMDS++) und in der Latenz mit reinen Logit-Methoden (z. B. GEN, NCI) vergleichbar.
Datenknappheit: Bei Training mit nur 1 % der ImageNet-Trainingsdaten erreichte VNS eine durchschnittliche AUROC von 88,96 %, was nahezu identisch mit der Leistung bei vollem Datenzugriff ist (88,59 % AUROC).

Bedeutung und Behauptungen

Die Autoren behaupten, dass VNS eine prinzipielle, effiziente und robuste Lösung für die OOD-Erkennung bietet. Ihre Bedeutung liegt in:

Vermeidung einschränkender Annahmen: Durch die reliance auf Vielfaltsmetriken statt auf Gaußsche Dichteannahmen ist VNS weniger empfindlich gegenüber Verletzungen geometrischer Annahmen, die in tiefen Lernrepräsentationen häufig vorkommen.
Praktischer Einsatz: Die lineare Zeitkomplexität und die Fähigkeit, mit minimalen Trainingsdaten zu funktionieren, machen VNS für reale Szenarien geeignet, in denen der Zugriff auf Trainingsdaten begrenzt ist oder Latenz kritisch ist.
Sicherheit: Die Methode bietet einen Mechanismus, mit dem ML-Systeme Eingaben jenseits ihrer Kompetenz identifizieren können, was sicherere Reaktionen wie Enthaltung oder Eskalation an menschliche Operateure auslöst.

Die Autoren weisen auf Einschränkungen hin, darunter die Notwendigkeit der Hyperparameteroptimierung (die sie über einen automatisierten Validierungssatz adressieren) und die Abhängigkeit vom Kosinus-Kernel. Sie betonen, dass VNS zwar die Sicherheit verbessert, aber keine vollständige Lösung darstellt und Teil eines umfassenderen Sicherheitsprotokolls sein sollte, das Überwachung und menschliche Aufsicht beinhaltet.