Characterizing Human Semantic Navigation in Concept Production as Trajectories in Embedding Space

Probleemstelling

Semantische representaties worden vaak gezien als een gestructureerde, dynamische kennisruimte waar mensen doorheen navigeren om betekenis op te halen en te manipuleren. Traditionele cognitieve modellen (zoals die van Hills et al.) beschouwen deze zoektocht als een vooraging-proces, gemeten via twee hoofdcategorieën: clustering (exploitatie binnen een subcategorie) en switching (exploratie naar een nieuwe subcategorie).

De huidige uitdagingen in dit veld zijn:

1. Afhankelijkheid van handmatige verwerking: Bestaande methoden vereisen vaak arbeidsintensieve, heterogene pipelines voor linguïstische preprocessing, wat de vergelijkbaarheid tussen studies beperkt.
2. Gebrek aan granulariteit: De binaire indeling in clustering en switching vangt de stap-voor-stap dynamiek van de zoektocht niet volledig.
3. Behoefte aan kwantitatieve metrics: Er is een behoefte aan een computationeel onderbouwd kader dat semantische representaties als beweging in een geometrische ruimte kan modelleren, zonder dat dit afhankelijk is van specifieke linguïstische annotaties.

Methodologie

De auteurs introduceren een raamwerk dat conceptproductie modelleert als navigatie door een embedding-ruimte (gebaseerd op transformer-modellen). In plaats van embeddings onafhankelijk te berekenen voor elk woord, gebruiken ze een cumulatieve aanpak.

1. Constructie van Semantische Trajecten:

• Voor elke participant en elk concept wordt een stroom van woorden gegenereerd (bijv. "kat", "hond", ...).
• In plaats van een statisch punt per woord, wordt een punt $x_t$ in de semantische ruimte gedefinieerd als de cumulatieve embedding van alle woorden tot en met tijdstip $t$ ($1:t$).
• Dit creëert een traject $X = (x_1, ..., x_N)$ dat de contextuele afhankelijkheid en het geheugen van de zoektocht vastlegt.

2. Geometrische en Dynamische Metrics:
Uit deze trajecten worden vijf kinematische en informatieve metrics afgeleid, geïnspireerd op de fysica:

• Distance to Next: De cosinus-afstand tussen opeenvolgende eenheids-normalisaties. Dit meet de grootte van de "semantische sprong" tussen twee opeenvolgende items.
• Entropy: Een schaalvrije benadering van Shannon-entropie, gebaseerd op de binaire sequentie van afstanden (boven/onder de mediaan). Dit kwantificeert de voorspelbaarheid en variabiliteit van de zoektocht.
• Velocity: De vectoriële verschil tussen opeenvolgende embeddings ($\Delta x$). Dit meet de snelheid en richting van de beweging in de ruimte.
• Acceleration: Het verschil tussen opeenvolgende snelheidsvectoren ($\Delta v$). Dit meet veranderingen in richting of snelheid (instabiliteit van de zoekstrategie).
• Distance to Centroid: De afstand van elk punt in het traject tot het zwaartepunt (centroid) van alle unieke embeddings voor dat concept/participant. Dit meet de globale spreiding van de zoektocht ten opzichte van een centrale betekenis.

3. Experimentele Opzet:
Het framework werd getest op vier datasets in verschillende talen en taken:

• Neurodegeneratief (Spaans): 76 deelnemers (Parkinson, bvFTD, gezonde controles) bij een eigenschappenlijst-taak.
• Swear Fluency (Engels): 274 deelnemers bij een vloekwoorden-taak.
• Italiaans en Duits: Eigenschappenlijst-taken voor concrete concepten.

De analyse vergeleek verschillende embedding-modellen (OpenAI text-embedding-3-large, Google text-embedding-004, Qwen3-Embedding-0.6B, en fastText als baseline) en onderzocht het effect van cumulatieve versus niet-cumulatieve embeddings.

Belangrijkste Resultaten

1. Differentiatie van Klinische Groepen:
In de neurodegeneratieve dataset toonden patiënten met Parkinson (PD) en frontotemporele dementie (bvFTD) een duidelijk ander navigatieprofiel dan gezonde controles (HC):

• Hogere kinematische waarden: Patiënten hadden hogere Distance to Next, Velocity en Acceleration. Dit duidt op een ongestructureerde, volatiele zoektocht met erratic "semantische sprongen" en frequente richtingsveranderingen.
• Hogere Entropie: De zoektocht was minder voorspelbaar en meer chaotisch.
• Kleinere Distance to Centroid: Ondanks de chaos in de beweging, bleven de antwoorden van patiënten dichter bij het centrale zwaartepunt hangen. Dit suggereert een beperktere semantische ruimte (minder rijke sensorimotorische traces) ondanks de gebrekkige executieve controle.

2. Semantische Structuur van Vloekwoorden:
De "Swear Fluency" dataset onthulde een uniek profiel:

• Vloekwoorden vertoonden de grootste Distance to Next, Velocity en Acceleration, vergeleken met dieren of letters.
• Ze hadden de hoogste Entropy, wat wijst op een zeer variabele en onvoorspelbare zoekstrategie binnen een semantisch compacte ruimte (lage Distance to Centroid). Dit ondersteunt het idee dat vloekwoorden een unieke, niet-taxonomische structuur hebben.

3. Robustheid van Modellen en Cumulatieve Aanpak:

• Model-onafhankelijkheid: Verschillende embedding-modellen (causal vs. bidirectioneel, verschillende trainingsdata) leverden zeer vergelijkbare patronen op voor lokale dynamische metrics (velocity, acceleration, entropy). Dit suggereert convergente geometrie in geleerde representaties.
• Cumulatief vs. Niet-cumulatief: Cumulatieve embeddings presteerden beter bij langere trajecten (zoals de neurodegeneratieve dataset), omdat ze bredere semantische patronen vangen. Bij zeer korte trajecten (Italiaans/Duits datasets) presteerden niet-cumulatieve embeddings beter, omdat er te weinig context was om te aggregeren.
• Anisotropie: Een ZCA-whitening-transformatie (om anisotropie in embedding-ruimtes te corrigeren) had slechts een minimaal effect op de resultaten, wat de robuustheid van de methode bevestigt.

Kernbijdragen

1. Nieuw Framework: Een computationeel raamwerk dat semantische navigatie modelleert als een fysiek traject in een embedding-ruimte, gebruikmakend van cumulatieve embeddings.
2. Geautomatiseerde Metrics: Introductie van vijf nieuwe, schaalbare metrics (kinematisch en informatief) die de zoekdynamiek kwantificeren zonder handmatige linguïstische annotatie.
3. Klinische Validatie: Demonstreert dat deze metrics subtielere verschillen kunnen detecteren tussen klinische groepen (PD, bvFTD) dan traditionele methoden, wat potentieel heeft voor vroege diagnose en stratificatie.
4. Cross-linguale en Cross-model Validatie: Bewijst dat de gevonden dynamische patronen robuust zijn over verschillende talen (Spaans, Engels, Italiaans, Duits) en verschillende transformer-architecturen.

Significantie en Toekomstperspectief

Dit paper biedt een brug tussen cognitieve modellering en moderne learned representations (LLMs). Door semantische retrieval te benaderen als een gestructureerd traject, biedt het een kwantitatieve basis voor het bestuderen van menselijk denken en het vergelijken daarvan met kunstmatige agenten.

De methodologie heeft directe toepassingen in:

• Klinisch onderzoek: Objectieve biomarkers voor neurodegeneratieve en psychiatrische aandoeningen (bijv. schizofrenie, Alzheimer).
• Cross-linguale analyse: Het begrijpen van hoe semantische structuren variëren tussen talen.
• AI-evaluatie: Het testen van hoe Large Language Models (LLMs) navigeren door semantische ruimtes in vergelijking met mensen.

De auteurs benadrukken dat dit een eerste stap is en dat toekomstig werk zich moet richten op het integreren van tijdstempels (voor echte tijdsdynamiek), het gebruik van niet-Euclidische metrieken voor complexere ruimtes, en het uitbreiden van de toolkit voor informatie-theoretische analyse.