🧬 biology

Revealing the core dimensions underlying representations in brains, behavior and AI

Dieser Beitrag stellt die Ähnlichkeitsbasierte Repräsentationsfaktorisierung (SRF) vor, eine allgemeine computergestützte Methode, die aus Ähnlichkeitsmatrizen in Datensätzen aus den Bereichen Neurowissenschaften, Psychologie und KI niedrigdimensionale, interpretierbare und nicht-negative Embeddings extrahiert und damit die Grenzen aktueller Ansätze überwindet, um die den Repräsentationen zugrunde liegenden Kernstrukturen aufzudecken.

Ursprüngliche Autoren: Florian P. Mahner, Ka Chun Lam, Francisco Pereira, Martin N. Hebart

Veröffentlicht 2026-05-27

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Florian P. Mahner, Ka Chun Lam, Francisco Pereira, Martin N. Hebart

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen zu verstehen, wie eine Bibliothek ihre Bücher organisiert. Sie haben keinen Katalog; Sie haben nur eine Liste darüber, welche Bücher Menschen als „ähnlich" bezeichnen. Vielleicht sagen die Leute „eine Katze ist wie ein Hund" und „ein Auto ist wie ein LKW", aber sie sagen nicht „eine Katze ist wie ein Auto".

Lange Zeit waren Wissenschaftler, die das Gehirn, menschliches Verhalten und künstliche Intelligenz erforschen, nur mit dieser Liste von Ähnlichkeiten konfrontiert. Sie konnten sehen, dass Dinge zusammen gruppiert waren, aber sie konnten nicht leicht erkennen, warum. Sie wussten, dass eine Katze und ein Hund Nachbarn in der Bibliothek waren, aber sie wussten nicht, ob sie Nachbarn waren, weil sie beide Tiere sind, weil sie Fell haben oder weil sie klein sind.

Dieser Artikel stellt ein neues Werkzeug namens SRF (Similarity-Based Representation Factorization) vor. Denken Sie an SRF als einen magischen „Ähnlichkeits-Decoder", der diese unordentliche Liste von „was wie was aussieht" in die spezifischen, verständlichen Gründe zerlegt, warum sie ähnlich aussehen.

So funktioniert es, unter Verwendung einiger alltäglicher Analogien:

1. Das Problem: Die „Black Box" der Ähnlichkeit

Stellen Sie sich vor, Sie haben einen riesigen, verwickelten Wollknäuel. Sie wissen, dass bestimmte Fäden miteinander verknotet sind, aber Sie können die einzelnen Fäden nicht sehen.

Alte Methoden: Frühere Werkzeuge konnten den Knäuel ein wenig entwirren, um Ihnen die allgemeine Form zu zeigen (wie einen großen Knoten aus „Tieren" und einen Knoten aus „Fahrzeugen"), aber sie konnten Ihnen nicht sagen, welcher spezifische Faden „Fell" und welcher „Räder" war. Oder, wenn sie die Fäden doch fanden, waren sie oft so abstrakt (wie „Faden #4"), dass niemand wusste, was sie bedeuteten.
Die fehlenden Teile: Oft ist die Liste der Ähnlichkeiten unvollständig. Vielleicht haben Sie nur bei 10 % aller möglichen Buchpaare nachgefragt. Alte Werkzeuge würden entweder durch die fehlenden Daten verwirrt werden oder versuchen, die fehlenden Verbindungen zu erraten (zu imputieren), was oft zu falschen Schlussfolgerungen führte.

2. Die Lösung: SRF als „Gemeinschaftsdetektiv"

Die Autoren haben SRF entwickelt, um dieses Problem zu lösen. Stellen Sie sich SRF als einen Detektiv vor, der den Wollknäuel betrachtet und sagt: „Ich muss nicht jeden einzelnen Knoten sehen, um das Muster zu erkennen."

Finden der Gemeinschaften: SRF betrachtet das Netz der Ähnlichkeiten und findet „Gemeinschaften". Wenn ein Löwe stark auf eine „pelzige" Dimension und eine „wild" Dimension lädt, sieht SRF das. Wenn ein Ball auf „rund" und „spielend" lädt, sieht es das ebenfalls.
Weiche Mitgliedschaft: Im Gegensatz zu einer strengen Regel, nach der ein Buch nur im Bereich „Fiktion" sein muss, erlaubt SRF eine „weiche Mitgliedschaft". Ein Buch kann zu 80 % „Krimi" und zu 20 % „historisch" sein. Dies entspricht der Funktionsweise unseres Gehirns; Dinge sind nicht immer schwarz oder weiß.
Umgang mit fehlenden Daten: Dies ist die Superkraft von SRF. Selbst wenn Sie nur 1 % der Ähnlichkeitsdaten haben (wie eine sehr spärliche Karte), kann SRF die zugrunde liegende Struktur ermitteln, ohne die fehlenden Teile zu erraten. Es lernt das Muster aus dem, was da ist, und füllt die Lücken logisch auf, anstatt einfach Zahlen zu erfinden.

3. Warum es besser ist als der alte Weg (RSA)

Wissenschaftler verwendeten oft eine Methode namens RSA (Representational Similarity Analysis), um Ideen zu testen.

Die RSA-Analogie: Stellen Sie sich vor, Sie wollen beweisen, dass „Beseeltheit" (lebendig vs. unbelebt) wichtig ist. Mit RSA vergleichen Sie Ihren gesamten verwickelten Wollknäuel mit einer Hypothese. Doch der Knäuel ist auch mit „Größe", „Farbe" und „Form" verwickelt. Das Signal für „Beseeltheit" wird von all dem anderen Rauschen übertönt. Es ist wie der Versuch, ein Flüstern in einem Rockkonzert zu hören.
Der SRF-Vorteil: SRF entwirrt den Knäuel zuerst in separate Fäden (Dimensionen). Jetzt können Sie nur den „Beseeltheit"-Faden aufnehmen und testen. Da Sie ihn vom Rauschen isoliert haben, können Sie das Flüstern klar hören. Der Artikel zeigt, dass SRF viel besser darin ist, diese spezifischen, versteckten Muster zu finden, insbesondere wenn die Daten verrauscht oder unvollständig sind.

4. Was sie fanden (Die Ergebnisse)

Die Forscher testeten SRF an vielen verschiedenen Arten von Daten:

Menschliche Gehirne: Betrachtung, wie Gehirnzellen auf Bilder reagieren.
Menschliches Verhalten: Menschen gefragt, welche Wörter oder Objekte sich ähnlich anfühlen.
KI-Modelle: Betrachtung, wie Computerprogramme (wie diejenigen, die Bilder generieren) die Welt „sehen".

Die Ergebnisse:

Es funktioniert überall: SRF fand in all diesen Bereichen klare, verständliche Dimensionen. Zum Beispiel fand es bei Wortassoziationen Dimensionen wie „lebensmittelbezogen", „tierbezogen" und sogar abstrakte wie „körperliche Stärke" oder „Zuneigung".
Es sagt Verhalten vorher: Als sie die Dimensionen, die SRF aus Wortassoziationen fand, nahmen, konnten sie genau vorhersagen, wie Menschen Wörter bewerten würden, etwa „wie glücklich ein Wort klingt" oder „wie groß ein Objekt ist". Dies beweist, dass die Dimensionen nicht nur mathematische Tricks sind; sie erfassen echte Bedeutung.
Es ist stabil: Selbst wenn Sie die Mathematik 30 Mal mit unterschiedlichen Startpunkten durchführen, findet SRF jedes Mal dieselben Kern-Dimensionen.

Das Fazit

Dieser Artikel stellt eine neue Art vor, zu betrachten, wie Gehirne, Menschen und Maschinen Informationen organisieren. Anstatt nur zu sagen „diese Dinge sind ähnlich", sagt SRF Ihnen die spezifischen Gründe, warum sie ähnlich sind. Es verwandelt ein verschwommenes, verwickeltes Bild der Ähnlichkeit in eine klare, organisierte Karte der Dimensionen, die wichtig sind – wie Beseeltheit, Größe, Farbe oder emotionale Tönung – selbst wenn Sie nur eine winzige, unvollständige Menge an Daten haben, um zu beginnen.

Es ist wie der Übergang von einem verschwommenen Foto einer Menschenmenge zu einer hochauflösenden Liste, die genau angibt, wer in der Menge ist und was sie tragen.

Technische Zusammenfassung: Aufdeckung der zugrundeliegenden Kern-Dimensionen von Repräsentationen in Gehirnen, Verhalten und KI

Problemstellung
Die Untersuchung von Repräsentationen in den Neurowissenschaften, der Psychologie und der Künstlichen Intelligenz stützt sich stark auf die Charakterisierung, wie Stimuli relativ zueinander organisiert sind, typischerweise mittels Ähnlichkeitsmatrizen. Während Methoden wie die Representational Similarity Analysis (RSA) den Vergleich dieser Matrizen über verschiedene Systeme hinweg ermöglichen, rekonstruieren sie nicht die zugrundeliegenden Dimensionen, die die beobachteten Ähnlichkeiten erzeugen. Umgekehrt können Techniken zur Dimensionsreduktion wie Multidimensionale Skalierung (MDS), Hauptkomponentenanalyse (PCA) und t-SNE Daten zusammenfassen, liefern jedoch oft Achsen, die schwer als sinnvolle repräsentationale Eigenschaften interpretierbar sind. Darüber hinaus kämpfen bestehende Methoden mit zwei kritischen praktischen Einschränkungen: (1) die Dimensionalität des repräsentationalen Raums ist in der Regel unbekannt, und (2) empirische Ähnlichkeitsdaten sind oft spärlich oder unvollständig (z. B. Verhaltensurteile, bei denen nicht alle Stimuluspaare verglichen werden). Aktuelle Ansätze versagen darin, die Probleme der Rekonstruktion interpretierbarer Dimensionen, der Bestimmung der notwendigen Anzahl von Dimensionen und des Lernens aus unvollständigen Daten ohne Verzerrung der Ähnlichkeitsstruktur durch Imputation gemeinsam zu lösen.

Methodik: Ähnlichkeitsbasierte Repräsentationsfaktorisierung (SRF)
Die Autoren stellen die Ähnlichkeitsbasierte Repräsentationsfaktorisierung (Similarity-Based Representation Factorization, SRF) vor, ein allgemeines computergestütztes Framework, das entwickelt wurde, um niedrigdimensionale, nicht-negative und interpretierbare Einbettungen direkt aus Ähnlichkeitsmatrizen zu rekonstruieren.

Kernformulierung: SRF basiert auf der Symmetrischen Nicht-Negativen Matrixfaktorisierung (SNMF). Sie modelliert eine symmetrische, nicht-negative Ähnlichkeitsmatrix $S \in \mathbb{R}^{n \times n}_{\ge 0}$ als Produkt einer niedrigrangigen Einbettungsmatrix $W$ und ihrer Transponierten: $S \approx WW^\top$ , wobei $W \in \mathbb{R}^{n \times r}_{\ge 0}$ und $r \ll n$ . Die Nicht-Negativitätsbedingung fördert additive, teilebasierte Faktoren, die oft interpretierbarer sind als die subtraktiven Komponenten der PCA.
Umgang mit unvollständigen Daten: Im Gegensatz zur Standard-Matrixfaktorisierung operiert SRF direkt auf beobachteten Einträgen, ohne fehlende Werte zu imputieren. Sie definiert eine binäre Maske $M$ , wobei $M_{ij}=1$ , falls die Ähnlichkeit $S_{ij}$ beobachtet wurde. Die Zielfunktion minimiert die Frobenius-Norm des Rekonstruktionsfehlers nur über die beobachteten Einträge: $\min_{W \ge 0} \frac{1}{2} \| M \odot (S - WW^\top) \|_F^2$ . Dies ermöglicht es dem Modell, aus spärlichen Graphen (z. B. Wortassoziationen) zu lernen und nicht beobachtete Ähnlichkeiten vorherzusagen.
Optimierung: Die Autoren wenden die Alternating Direction Method of Multipliers (ADMM) an, um das Optimierungsproblem zu lösen. Sie liefern theoretische Beweise bezüglich der Konvergenz des Algorithmus und der Stabilität der Lösung bei Fehlspezifikation des Rangs.
Dimensionsauswahl: Um die unbekannte Dimensionalität $r$ zu adressieren, nutzt SRF ein spezialisiertes Kreuzvalidierungsprotokoll. Da Einträge in einer Ähnlichkeitsmatrix statistisch abhängig sind (durch die niedrigrangige Struktur gekoppelt), kann eine herkömmliche einzeilige Kreuzvalidierung zu Informationsleckagen und aufgeblähten Randschätzungen führen. SRF verwendet ein „eingeschränktes Hold-out"-Schema, das sicherstellt, dass der Trainingsdatensatz unterhalb der Matrix-Vervollständigungsschwelle bleibt und verhindert, dass der Validierungsdatensatz implizit durch den Trainingsdatensatz bestimmt wird. Der optimale Rang wird am Minimum der Validierungsfehlerkurve ausgewählt.

Hauptergebnisse
Die Arbeit validiert SRF durch Simulationen und Anwendungen über diverse empirische Datensätze hinweg:

Simulationsleistung:
- Rekonstruktionsgenauigkeit: SRF rekonstruiert präzise Ground-Truth-latente Dimensionen aus synthetischen Ähnlichkeitsmatrizen, selbst wenn die Dimensionen diffus oder überlappend sind.
- Robustheit gegenüber Rauschen: Die Methode behält unter moderaten Messrauschpegeln eine hohe Rekonstruktionsgenauigkeit bei.
- Fehlende Daten: SRF übertrifft Standard-Imputations-Baselines (k-nächste Nachbarn und Median-Imputation) signifikant bei der Vorhersage zurückgehaltener Ähnlichkeiten und der Rekonstruktion zugrundeliegender Dimensionen, insbesondere in unterbestimmten Regimen, in denen die Anzahl der Beobachtungen geringer ist als die Anzahl der Parameter.
- Rangerkennung: Der Kreuzvalidierungsansatz zur Rangselektion übertrifft traditionelle Methoden wie den Scree-Test und Horns Parallele Analyse bei der Identifizierung der wahren Dimensionalität.
Statistische Power:
- Bei Hypothesentests zeigt SRF eine größere statistische Power als RSA. Durch die Zerlegung der Ähnlichkeitsmatrix in distincte Dimensionen ermöglicht SRF es Forschern, spezifische Hypothesen gegen die Dimension zu testen, die am besten zu ihnen passt, anstatt gegen die gesamte, verrauschte Ähnlichkeitsmatrix. Dieser Vorteil ist am ausgeprägtesten für Dimensionen, die nur eine geringe Varianz zur Gesamtstruktur beitragen, welche in der RSA oft überdeckt werden.
Empirische Anwendungen:
- Datensätze: SRF wurde auf Verhaltensurteile (THINGS, Peterson-Datensätze, Mur-92), neuronale Aufzeichnungen (makakus IT-Kortex, menschliches fMRI aus NSD), Aktivierungen tiefer neuronaler Netze (CLIP) und semantische Assoziationen (Small World of Words, SWOW) angewendet.
- Interpretierbarkeit: Die Methode rekonstruierte stabile, interpretierbare Dimensionen über alle Domänen hinweg. Beispiele umfassen Unterscheidungen zwischen belebten und unbelebten Objekten bei der Objekterkennung, taxonomische Gruppierungen bei Tieren, perzeptive Merkmale (Farbe) und semantische Merkmale (Belebtheit) in CLIP sowie abstrakte Themen (z. B. körperliche Stärke, Zuneigung) bei Wortassoziationen.
- Generalisierung: Dimensionen, die aus dem spärlichen SWOW-Wortassoziationsgraphen abgeleitet wurden, sagten erfolgreich unabhängige Verhaltensbewertungen (z. B. Valenz, Erregung, Konkretion) aus den Glasgow Norms voraus, was zeigt, dass die rekonstruierten Dimensionen generalisierbare semantische Informationen erfassen.
- Effizienz: Bei der THINGS-Aufgabe „Odd-one-out" erreichte SRF eine Vorhersagegenauigkeit für Verhalten, die mit dem State-of-the-Art-SPoSE-neuronalen Netzwerkmodell vergleichbar war, jedoch mit etwa der Hälfte der Dimensionen (35 vs. 66).

Bedeutung und Behauptungen
Die Arbeit positioniert SRF als eine allgemeine Methode, die die Lücke zwischen deskriptiver Ähnlichkeitsanalyse und mechanistischem Verständnis schließt. Ihre primäre Bedeutung liegt in ihrer Fähigkeit, über skalare Vergleiche von Ähnlichkeitsmatrizen hinauszugehen, um die spezifischen Faktoren zu identifizieren, die Repräsentationen organisieren.

Einheitliches Framework: SRF vereint die Stärken der ähnlichkeitsbasierten Analyse (Vergleich von Systemen über ein gemeinsames Format) mit der Fähigkeit, die latenten Dimensionen zu inferieren, die diese Struktur erzeugen.
Umgang mit Spärlichkeit: Durch das direkte Lernen aus unvollständigen Daten ohne Imputation ermöglicht SRF die Analyse von Datensätzen, die zuvor schwer zu verarbeiten waren, wie groß angelegte Wortassoziationsnetzwerke oder spärliche Verhaltensurteile.
Verbesserte Inferenz: Die Methode bietet ein sensibleres Werkzeug für konfirmatorische Hypothesentests im Vergleich zu RSA, insbesondere für die Detektion von Dimensionen mit geringer Varianz.
Interpretierbarkeit: Die nicht-negative, teilebasierte Natur der rekonstruierten Einbettungen erleichtert die direkte Interpretation und unterstützt Theorien über Gehirnmuster, Stimuli-Eigenschaften und Modellversagen.

Die Autoren schließen daraus, dass SRF einen prinzipiellen, allgemeinen Ansatz zur Aufdeckung, zum Verständnis und zur Nutzung der Dimensionen liefert, die Repräsentationen in Gehirnen, Verhalten und KI zugrunde liegen, und dies überall dort anwendbar ist, wo paarweise Beziehungen spärlich oder teilweise beobachtet sind.

1. Das Problem: Die „Black Box" der Ähnlichkeit

2. Die Lösung: SRF als „Gemeinschaftsdetektiv"

3. Warum es besser ist als der alte Weg (RSA)

4. Was sie fanden (Die Ergebnisse)

Das Fazit

Mehr davon