Emergent Ordinal Geometry in Transformers Trained on Local Comparisons

Technisches Resümee: Emergente ordinale Geometrie in Transformern, die auf lokalen Vergleichen trainiert wurden

Problemstellung
Die vorliegende Arbeit untersucht, ob Transformer-Modelle, wenn sie ausschließlich auf lokalen (benachbarten) Vergleichen innerhalb einer verborgenen totalen Ordnung trainiert werden, denselben primitiven Mechanismus erwerben, den biologische Systeme für transitive Inferenz (TI) nutzen. TI ist die Fähigkeit, eine nicht benachbarte Beziehung (z. B. $A < C$) aus bekannten benachbarten Beziehungen ($A < B, B < C$) abzuleiten. Während die biologische Kognition dies über eine „analoge mentale Zahlenlinie“ löst – belegt durch den symbolischen Distanzeffekt (bei dem weit entfernte Vergleiche schneller/genauer verarbeitet werden als benachbarte) – werden Transformer nicht explizit dazu gedrängt, die Ordnung linear zu repräsentieren. Die Studie fragt, ob diese spezifische geometrische Repräsentation und die damit verbundene Verhaltenssignatur spontan in neuronalen Netzen entstehen, die nach dem klassischen Paradigma von Bryant und Trabasso [1971] trainiert wurden.

Methodik
Die Autoren konstruierten eine synthetische Aufgabe mit einer verborgenen totalen Ordnung von $N$ Entitäten ($e_0 \prec e_1 \prec \dots \prec e_{N-1}$).

• Trainingsdaten: Das Modell wird nur auf benachbarten Paaren in beide Richtungen trainiert ($D_{train} = \{(e_i, e_{i+1}), (e_{i+1}, e_i)\}$).
• Evaluationsdaten: Das Modell wird auf einem disjunkten Satz distanter Paare evaluiert ($D_{OOD} = \{(e_i, e_j) : |i-j| > 1\}$), was die Rekonstruktion der globalen Ordnung aus lokalen Daten allein erfordert.
• Modellarchitektur: Ein Single-Layer-Transformer mit Entitäts-Embeddings, einem Attention-Head (im Abstrakt) oder zwei (im Ergebnisteil), einem 4d-breiten GELU-MLP und einem linearen Unembedding-Head. Die Relation wird aus dem Residual der finalen Position dekodiert.
• Metriken:
  1. Geometrische Struktur: Hauptkomponentenanalyse (PCA) der Entitäts-Embeddings zur Messung der Linearität (Varianz auf der ersten Hauptkomponente, $\rho_1$) und der Rangausrichtung (Korrelation zwischen projizierter Position und wahrem Rang).
  2. Verhaltenssignaturen: Entscheidungszuversicht (Logit-Margin) und geometrische Trennung ($g_{ij}$) werden gegenüber dem Rangabstand ($|i-j|$) gemessen, um den symbolischen Distanzeffekt zu detektieren.

Zentrale Beiträge

1. Isolation der synthetischen Aufgabe: Die Arbeit führt eine kontrollierte Aufgabe ein, die die ordinale Generalisierung strikt von lokalen Vergleichen isoliert und damit das biologische TI-Paradigma exakt spiegelt.
2. Emergente 1D-Mannigfaltigkeit: Sie liefert Belege dafür, dass Transformer die Entitäts-Embeddings spontan in eine eindimensionale Mannigfaltigkeit organisieren. Die Hauptachse dieser Mannigfaltigkeit rekonstruiert die verborgene Rangordnung mit nahezu perfekter Treue.
3. Komputationeller Analogon des Distanzeffekts: Die Studie zeigt, dass selbst wenn die Genauigkeit ein Plateau erreicht, das Modell den symbolischen Distanzeffekt aufweist: Sowohl die Entscheidungszuversicht als auch die geometrische Trennung skalieren monoton mit dem Rangabstand zwischen den Objekten.

Ergebnisse
Die Experimente wurden auf Datensätzen mit $N=10, 15$ und $20$ Entitäten durchgeführt.

• Grokking-ähnliche Dynamiken: Die Entstehung der Out-of-Distribution (OOD)-Generalisierung geht mit einer geometrischen Reorganisation der Embeddings einher. Dieser Übergang reagiert empfindlich auf die Optimierung (speziell Weight Decay) und erzeugt transiente Dynamiken, die dem „Grokking“-Phänomen ähneln.
• Geometrische Rekonstruktion: Während das Modell lernt, kollabieren die Embeddings auf einer Linie, deren Hauptkomponente mit der wahren Rangordnung übereinstimmt.
• Verhaltensspiegelung: Bei maximaler OOD-Genauigkeit folgen die internen Repräsentationen und die Output-Zuversicht des Modells strikt dem symbolischen Distanzeffekt. Distante Paare werden nicht nur korrekt klassifiziert, sondern sind im Vergleich zu benachbarten Paaren mit höherer Zuversicht und größerer geometrischer Trennung im Embedding-Raum assoziiert.

Bedeutung
Die Arbeit behauptet, eine 50 Jahre alte Verhaltensregularität (den symbolischen Distanzeffekt in der TI) in der Geometrie gelernter neuronaler Repräsentationen zu fundieren. Durch den Nachweis, dass Transformer ohne explizite Überwachung spontan eine „mentale Zahlenlinie“ entwickeln, bietet die Arbeit eine mechanistische Erklärung der transitiven Inferenz, die die kognitive Psychologie mit der modernen Interpretierbarkeit neuronaler Netze verbindet. Sie legt nahe, dass die Fähigkeit zur abstrakten relationalen Argumentation ein natürliches Nebenprodukt der Optimierung lokaler Constraints innerhalb einer totalen Ordnung sein kann.