t-SNE Exaggerates Clusters, Provably

Die Autoren beweisen, dass t-SNE die Stärke von Eingabe-Clustern und die Ausreißer-Extremität nicht zuverlässig widerspiegelt, was die gängige Annahme einer strukturellen Übereinstimmung zwischen Eingabe und Ausgabe widerlegt.

Das Wesentliche

Die große Lüge des T-SNE: Warum die schöne Karte trügt

Stellen Sie sich vor, Sie sind ein Kartograph, der eine riesige, komplexe Welt (Ihre Daten) auf ein kleines Stück Papier (eine 2D-Grafik) abbilden muss. T-SNE ist derzeit der beliebteste Kartograph in der Wissenschaft. Er wird verwendet, um riesige Datenmengen – von Genen bis zu Sprachmodellen – so darzustellen, dass wir Muster erkennen können.

Die allgemeine Annahme ist: „Wenn ich auf der Karte zwei getrennte Gruppen sehe, dann gibt es im Original auch zwei getrennte Gruppen. Und wenn ein Punkt weit draußen steht, dann ist er ein echter Außenseiter."

Das neue Papier sagt jedoch: „Vorsicht! Diese Karte ist oft eine Fälschung."

Die Autoren beweisen mathematisch, dass T-SNE zwei gefährliche Tricks beherrscht, die uns täuschen können.

1. Der „Magische Vergrößerungs-Trick" (Cluster-Übertreibung)

Die Analogie:
Stellen Sie sich vor, Sie haben eine Gruppe von Menschen in einem riesigen, leeren Raum.

• Szenario A: Die Menschen stehen in zwei völlig getrennten Gruppen, die 100 Meter voneinander entfernt sind.
• Szenario B: Die Menschen stehen alle in einem einzigen, winzigen Haufen, fast aufeinander gestapelt.

Normalerweise würden Sie erwarten, dass T-SNE diese beiden Szenarien unterschiedlich zeichnet. Aber T-SNE ist wie ein magischer Fotoapparat, der den Abstand zwischen den Menschen nicht wirklich misst, sondern nur die Reihenfolge ihrer Nachbarn betrachtet.

Das Problem:
Die Forscher haben bewiesen, dass T-SNE aus Szenario B (dem winzigen Haufen) exakt dieselbe Karte zeichnen kann wie aus Szenario A (den weit entfernten Gruppen).

• Die Folge: Sie schauen auf die Grafik und sehen zwei wunderschöne, getrennte Inseln. Sie denken: „Wow, da sind zwei starke Gruppen!"
• Die Realität: Im Original waren die Daten vielleicht gar nicht getrennt oder nur hauchdünn getrennt. T-SNE hat die Cluster künstlich „aufgebläht" (exaggerated). Es ist, als würde ein Fotograf mit einem Weitwinkelobjektiv aus einer kleinen Menschenmenge eine riesige, weitläufige Landschaft zaubern.

Die Lehre: Wenn Sie auf einer T-SNE-Karte zwei getrennte Gruppen sehen, können Sie nicht sicher sein, wie stark diese Gruppen im Original tatsächlich getrennt waren. Es könnte ein optischer Täuschungseffekt sein.

2. Der „Einzelner Störenfried" (Die Instabilität)

Die Analogie:
Stellen Sie sich ein perfekt organisiertes Dinner vor, bei dem sich alle Gäste in zwei Gruppen unterhalten.

• Der Trick: Sie fügen nur einen einzigen Gast hinzu, der genau in der Mitte des Raumes sitzt und alle anderen anzieht.
• Das Ergebnis: Plötzlich zerfällt die ganze Party. Alle Gäste drehen sich um und schauen nur noch auf diesen einen neuen Gast. Die ursprünglichen zwei Gruppen verschwinden auf der Karte komplett.

Das Problem:
Die Autoren zeigen, dass man mit dem Hinzufügen von nur einem einzigen, geschickt platzierten Datenpunkt (einem „Gift-Punkt" oder „Poison Point") die gesamte Struktur einer T-SNE-Karte zerstören kann.

• Selbst wenn Ihre Daten perfekt in Cluster unterteilt sind, kann ein einziger „schlechter" Punkt die Karte so verzerren, dass die Cluster verschmelzen oder sich auflösen.
• Umgekehrt kann T-SNE auch extrem weit entfernte Punkte (echte Ausreißer) so manipulieren, dass sie plötzlich mitten in einer Gruppe sitzen, als wären sie dazugehörig.

3. Der „Unsichtbare Außenseiter"

Die Analogie:
Stellen Sie sich vor, Sie haben eine Gruppe von Schülern in einem Klassenzimmer und einen Schüler, der auf dem Dach des Schulgebäudes steht (ein extremer Ausreißer).

• PCA (ein anderer Kartograph): Zeichnet den Schüler auf dem Dach genau dort ein – weit weg von allen anderen.
• T-SNE: Zieht den Schüler vom Dach herunter und drückt ihn sanft in die Mitte der Klasse.

Das Problem:
T-SNE ist darauf programmiert, die Nachbarschaften zu erhalten. Wenn ein Punkt extrem weit weg ist, „vergisst" T-SNE die wahre Distanz und versucht verzweifelt, ihn trotzdem mit jemandem zu verbinden.

• Die Folge: Echte Ausreißer (z. B. betrügerische Transaktionen in Finanzdaten oder seltene Krankheiten in medizinischen Daten) werden auf der Karte oft unsichtbar gemacht oder in die normale Gruppe integriert. T-SNE ist also ein schlechtes Werkzeug, um Ausreißer zu finden.

Zusammenfassung für den Alltag

Stellen Sie sich T-SNE nicht als einen ehrlichen Spiegel vor, der die Welt genau so zeigt, wie sie ist. Stellen Sie es sich eher vor wie einen Künstler, der gerne dramatische Effekte mag:

1. Er liebt Cluster: Wenn er eine Chance sieht, zwei Gruppen zu trennen, tut er das – selbst wenn sie im Original nur sehr schwach getrennt waren. Er macht die Trennung dramatischer, als sie ist.
2. Er hasst extreme Distanzen: Er zieht weit entfernte Punkte zurück in die Menge, damit die Karte „schöner" und kompakter aussieht.
3. Er ist empfindlich: Ein einziger Störenfried kann sein gesamtes Kunstwerk ruinieren.

Was bedeutet das für Sie?
Wenn Sie eine T-SNE-Karte sehen:

• Glauben Sie nicht blind an die „Schönheit" der getrennten Inseln.
• Seien Sie skeptisch, wenn Sie keine Ausreißer sehen – sie könnten einfach versteckt sein.
• Nutzen Sie T-SNE, um Ideen zu generieren, aber verifizieren Sie Ihre Entdeckungen immer mit anderen Methoden (wie PCA oder statistischen Tests), bevor Sie wissenschaftliche Schlussfolgerungen ziehen.

Die Botschaft des Papiers ist klar: T-SNE ist ein mächtiges Werkzeug, aber es ist kein unfehlbarer Richter. Man muss die Karte mit einem Körnchen Salz nehmen.

Technische Zusammenfassung

Titel: T-SNE Übertreibt Cluster, Beweisbar

Autoren: Noah Bergam, Szymon Snoeck & Nakul Verma (Columbia University)
Veröffentlicht: ICLR 2026

---

1. Problemstellung

Die t-distributed Stochastic Neighbor Embedding (t-SNE) Methode ist ein Standardwerkzeug in der explorativen Datenanalyse, insbesondere in Bereichen wie Single-Cell-Genomik und der Interpretierbarkeit von Sprachmodellen. Die weitverbreitete Annahme ist, dass die von t-SNE erzeugten Visualisierungen die Struktur der Eingabedaten (insbesondere Clusterbildung und Ausreißer) treu widerspiegeln.

Das Paper stellt diese Annahme in Frage und identifiziert zwei kritische Lücken im theoretischen Verständnis von t-SNE:

1. Falsche Positiv/Negativ-Raten bei Clustern: Kann man aus einem gut strukturierten t-SNE-Plot auf die tatsächliche Stärke der Cluster im Eingabedatensatz schließen? Umgekehrt, können unstrukturierte Eingaben clusterartige Ausgaben erzeugen?
2. Darstellung von Ausreißern: Ist t-SNE in der Lage, extreme Ausreißer (Punkte, die weit entfernt vom Rest der Daten liegen) korrekt als solche zu visualisieren, oder werden sie fälschlicherweise in die Clusterstruktur integriert?

Bisherige theoretische Arbeiten haben gezeigt, dass t-SNE wahre Cluster erkennt (wenn die Eingabe stark getrennt ist), aber es fehlte an Beweisen für die Umkehrung und für die Analyse von Fehlfunktionen (False Positives/Negatives).

---

2. Methodik

Die Autoren kombinieren strenge mathematische Beweise mit experimentellen Validierungen, um die Grenzen von t-SNE zu analysieren.

• Theoretischer Rahmen:

  • Die Analyse basiert auf der Minimierung der KL-Divergenz zwischen der Eingabe-Affinitätsmatrix $P$ (basierend auf Gaußschen Verteilungen) und der Ausgabe-Affinitätsmatrix $Q$ (basierend auf einer t-Verteilung).
  • Der Fokus liegt auf stationären Punkten des t-SNE-Optimierungsproblems ($\nabla_Y L_X(Y) = 0$).
  • Es werden etablierte Cluster-Indizes verwendet, um die „Stärke" der Cluster im Eingabedatensatz zu quantifizieren: Average Silhouette Score, Calinski-Harabasz Index und Dunn Index.
  • Für Ausreißer wird eine geometrische Definition verwendet: Ein Punkt ist ein $(\alpha, x_0)$-Ausreißer, wenn er durch eine Hyperebene mit einem Abstand von mindestens $\alpha \cdot \text{Durchmesser}$ vom Rest der Daten getrennt ist.

• Experimentelle Validierung:

  • Es werden synthetische Datensätze (z. B. Mischungen von Gaußschen Verteilungen, reguläre Simplexe) und reale Datensätze (PBMC3k Single-Cell-Daten, BBC News Artikel, Finanztransaktionen) verwendet.
  • Es werden „Adversarial Attacks" durchgeführt, bei denen gezielt Datenpunkte manipuliert oder hinzugefügt werden, um die Stabilität von t-SNE zu testen.
  • Ein Vergleich mit PCA (Principal Component Analysis) und UMAP dient als Benchmark.

---

3. Schlüsselbeiträge und Theoreme

Das Paper liefert zwei Hauptkategorien von Ergebnissen, die die Unzuverlässigkeit von t-SNE bei der Interpretation von Eingabestrukturen belegen.

A. Verzerrung der Cluster-Salienz (Cluster-Stärke)

1. Theorem 3 & Korollar 4 (Gleiche Ausgabe, unterschiedliche Eingabe):

   • Aussage: Jeder stationäre t-SNE-Ausgabepunkt (auch ein perfekt getrennter Cluster) kann identisch durch einen Eingabedatensatz mit extrem schwacher Cluster-Trennung (nahezu zufällige Verteilung) erzeugt werden.
   • Beweisidee: t-SNE ist invariant gegenüber additiven Verschiebungen der quadrierten Abstände ($\|x'_i - x'_j\|^2 = \|x_i - x_j\|^2 + C$). Man kann einen „Imposter-Datensatz" konstruieren, der fast ein reguläres Simplex ist (keine Cluster), aber durch Hinzufügen einer Konstante $C$ zu den Abständen exakt die gleiche Affinitätsmatrix $P$ und somit das gleiche t-SNE-Ergebnis wie ein stark clusternder Datensatz liefert.
   • Folge: Aus einer schönen t-SNE-Visualisierung lässt sich nicht ableiten, wie stark die Cluster im Original waren.

2. Theorem 5 (Instabilität bei kleinen Störungen):

   • Aussage: Winzige Änderungen in den Eingabeabständen (z. B. $\epsilon$-Perturbationen) können zu völlig unterschiedlichen t-SNE-Visualisierungen führen.
   • Folge: Die Visualisierung ist hochgradig instabil, insbesondere bei hochdimensionalen Daten, die sich oft einem regulären Simplex annähern (Konzentration des Maßes).

3. Theorem 7 (Angriff durch einen einzelnen „Poison Point"):

   • Aussage: Das Hinzufügen eines einzigen, strategisch platzierten Punktes (z. B. im Mittelwert des Datensatzes) kann die Clusterstruktur in der t-SNE-Visualisierung vollständig zerstören.
   • Mechanismus: In hohen Dimensionen wird dieser Punkt zum nächsten Nachbarn für fast alle anderen Punkte. Dies verändert die Affinitätsmatrix drastisch, sodass alle Punkte um den „Vergiftungspunkt" gruppiert werden, unabhängig von der ursprünglichen Clusterstruktur.

B. Verzerrung von Ausreißern

4. Theorem 9 (Unfähigkeit, extreme Ausreißer darzustellen):
   • Aussage: Kein stationärer t-SNE-Ausgabepunkt kann einen Ausreißer mit einem $\alpha$-Wert größer als ca. 3,266 darstellen.
   • Beweisidee: Die Analyse des Gradienten zeigt, dass wenn ein Punkt zu weit entfernt ist, der Gradient nicht null wird (Verletzung der Stationarität). Aufgrund der Asymmetrie zwischen Eingabe- und Ausgabe-Affinität (die Ausgabe tendiert dazu, Ausreißer näher an die Hauptmasse zu ziehen, um die KL-Divergenz zu minimieren), werden extreme Ausreißer „unterdrückt" und oft innerhalb der konvexen Hülle der anderen Punkte platziert.
   • Vergleich: PCA behält die relative Distanz von Ausreißern weitgehend bei, während t-SNE sie systematisch in die Clusterstruktur integriert (siehe Abbildungen 5 und 6).

---

4. Ergebnisse und Experimente

• Imposter-Datensätze: In Experimenten mit Single-Cell-Daten (PBMC3k) wurde gezeigt, dass ein Datensatz mit minimaler Cluster-Trennung (Silhouette-Score $\approx 0$) die exakt gleiche 2D-Visualisierung erzeugt wie der Originaldatensatz mit hohem Silhouette-Score.
• Poison Points: Bei der Hinzufügung eines einzigen Punktes in die Mitte eines zweiklusterigen Gaußschen Datensatzes verschwand die Clusterstruktur in der t-SNE-Visualisierung vollständig, während PCA die Struktur beibehielt.
• Ausreißer-Tests: In Finanzdaten (Betrugserkennung) und synthetischen Datensätzen wurden Ausreißer von t-SNE nicht als isolierte Punkte erkannt, sondern in die Hauptcluster integriert. Im Gegensatz dazu zeigte PCA die Ausreißer korrekt als weit entfernt an.
• Vergleich mit UMAP: Die Autoren zeigen, dass UMAP ähnliche Fehlermuster aufweist (z. B. Unterdrückung von Ausreißern), wenn auch mit leicht unterschiedlichen Nuancen (UMAP integriert Ausreißer oft tiefer in Cluster, t-SNE platziert sie eher am Rand).

---

5. Bedeutung und Fazit

Das Paper widerlegt die intuitive Annahme, dass t-SNE-Visualisierungen eine verlässliche Grundlage für die Hypothesenbildung in der Wissenschaft sind.

• Warnung vor Fehlinterpretation: Praktiker können aus der Existenz von Clustern in einem t-SNE-Plot nicht auf die tatsächliche Stärke der Trennung in den Rohdaten schließen. Ebenso können extreme Ausreißer in den Daten unsichtbar gemacht werden.
• Theoretische Lücke: Es ist das erste Werk, das diese spezifischen Fehlfunktionen von t-SNE theoretisch beweist, anstatt sie nur empirisch zu beobachten.
• Implikationen: Die Ergebnisse haben weitreichende Konsequenzen für Felder wie die Genomik und die KI-Interpretierbarkeit, wo t-SNE häufig zur Validierung von Modellen oder zur Entdeckung neuer Zelltypen verwendet wird. Die Autoren raten dazu, t-SNE-Ergebnisse „mit einem Körnchen Salz" zu nehmen und sie nicht als alleinige Grundlage für wissenschaftliche Schlussfolgerungen zu verwenden.
• Zukünftige Forschung: Die Arbeit regt an, die Grenzen anderer dimensionsreduzierender Techniken (wie UMAP) zu untersuchen und nach Visualisierungsmethoden zu suchen, die theoretisch fundierte Garantien für die Wiedergabe von Abstands- und Strukturinformationen bieten.

Zusammenfassend: t-SNE ist ein mächtiges Werkzeug zur Exploration, aber es ist mathematisch bewiesen, dass es die Stärke von Clustern übertrieben darstellt und Ausreißer systematisch verschleiert.