Characterizing Human Semantic Navigation in Concept Production as Trajectories in Embedding Space

1. Problématique et Contexte

Les représentations sémantiques sont souvent modélisées comme un espace de connaissances structuré et dynamique dans lequel les humains naviguent pour récupérer et manipuler le sens. Les modèles cognitifs classiques (comme ceux de Hills et al.) décrivent cette navigation comme un processus de "fourrage" (foraging) équilibrant l'exploitation (regroupement/clustering) et l'exploration (changement/switching).

Cependant, les approches actuelles pour analyser ces processus reposent souvent sur des pipelines manuels, hétérogènes et laborieux (comme le codage manuel des regroupements), ce qui limite la comparabilité entre les études. De plus, les méthodes existantes utilisent souvent des représentations statiques qui ne capturent pas la nature cumulative et dépendante du contexte de la récupération sémantique.

Le problème central est de trouver un cadre computationnel automatisé, scalable et géométriquement fondé pour quantifier la dynamique de la navigation sémantique humaine, capable de distinguer des groupes cliniques, des types de concepts et de s'adapter à différentes langues, tout en modélisant la séquence temporelle des mots produits.

2. Méthodologie

L'article propose un cadre novateur qui représente la production de concepts comme des trajectoires dans un espace d'incorporation (embedding space) basé sur des modèles de transformateurs.

A. Construction des Trajectoires Sémantiques

Au lieu de calculer des embeddings indépendants pour chaque mot, les auteurs construisent des embeddings cumulatifs.

• Pour une séquence de mots $x_1, x_2, ..., x_N$, le point $x_t$ dans l'espace sémantique représente l'embedding du préfixe complet $1:t$ (ex: si les mots sont "chat", "chien", le deuxième point encode "chat chien").
• Cette approche capture les dépendances entre les items successifs et modélise la mémoire de travail nécessaire à la navigation sémantique.

B. Métriques Géométriques et Dynamiques

Cinq métriques inspirées de la physique et de la théorie de l'information sont extraites de ces trajectoires pour caractériser la navigation :

1. Distance au suivant (Distance to Next) : Distance cosinus entre les embeddings cumulatifs successifs. Mesure la magnitude du "saut sémantique" entre deux concepts.
2. Vitesse et Accélération : Dérivées discrètes des vecteurs d'embedding. La vitesse capture la direction et la magnitude d'un pas, tandis que l'accélération mesure le changement de direction ou de vitesse (instabilité de la recherche).
3. Entropie : Une approximation de l'entropie de Shannon basée sur la binarisation des distances au seuil de la médiane intra-trajectoire. Elle quantifie la variabilité et la prévisibilité de la dynamique de recherche.
4. Distance au Centroïde (Distance to Centroid) : Distance cosinus entre chaque point de la trajectoire et le centroïde moyen de toutes les propriétés uniques produites pour un concept donné. Mesure la dispersion globale de la recherche par rapport à un sens central.

C. Données et Validation

L'approche est évaluée sur quatre jeux de données publics couvrant différentes langues (Espagnol, Anglais, Italien, Allemand) et tâches :

• Neurodégénératif : Comparaison de patients Parkinson (PD), démence frontotemporale comportementale (bvFTD) et contrôles sains lors d'une tâche de liste de propriétés.
• Fluence des insultes (Swear Fluency) : Génération de mots dans des catégories variées (animaux, lettres, insultes).
• Italien et Allemand : Tâches de liste de propriétés pour 10 catégories sémantiques.

Les auteurs comparent également leur approche cumulative avec des embeddings non cumulatifs (fastText) et testent la robustesse avec différents modèles d'encodage (OpenAI text-embedding-3-large, Google text-embedding-004, Qwen3-Embedding-0.6B).

3. Résultats Clés

A. Distinction des Groupes Cliniques (Données Neurodégénératives)

Les métriques ont permis de distinguer clairement les patients (PD et bvFTD) des contrôles sains (HC) :

• Patients : Présentent des distances au suivant, vitesses et accélérations plus élevées, indiquant une trajectoire volatile avec des sauts sémantiques erratiques et des changements de direction brusques. L'entropie est plus élevée (recherche moins prévisible).
• Paradoxe de la dispersion : Bien que la trajectoire soit kinématiquement volatile, la distance au centroïde est plus faible pour les patients. Cela suggère que leur recherche est plus restreinte spatialement (plus proche d'un sens central) mais désorganisée, reflétant une perte de traces sensorimotrices riches et une dysfonction exécutive.

B. Analyse des Types de Concepts (Fluence des Insultes)

• Les insultes ont généré les plus grands sauts sémantiques (distance, vitesse, accélération élevées) et la plus haute entropie, suggérant une exploration sémantique très variable dans un espace lexical contraint.
• Les animaux ont montré la plus faible variabilité et la plus grande distance au centroïde, indiquant une exploration structurée et taxonomique.

C. Robustesse et Comparaison des Modèles

• Convergence des modèles : Les métriques de dynamique locale (vitesse, accélération, distance au suivant) sont fortement corrélées entre les différents modèles d'embedding (OpenAI, Google, Qwen), malgré leurs architectures et données d'entraînement différentes. Cela suggère que la dynamique de navigation humaine est une propriété fondamentale capturée par diverses représentations apprises.
• Spécificité du centroïde : La distance au centroïde montre une corrélation inter-modèle plus faible, car elle dépend de la géométrie globale spécifique à chaque modèle.
• Cumulatif vs Non-cumulatif : L'approche cumulative fonctionne mieux pour les trajectoires longues (données neurodégénératives, insultes), car elle capture le contexte. Pour les séquences très courtes (données italiennes/allemandes), les embeddings non cumulatifs peuvent parfois être plus discriminants car ils préservent la variabilité ponctuelle sans la "lisser" par l'accumulation.

4. Contributions Principales

1. Cadre de Navigation Sémantique Dynamique : Passage d'une analyse statique ou binaire (regroupement/changement) à une analyse continue et granulaire basée sur la cinématique des trajectoires dans l'espace d'embedding.
2. Méthode Automatisée et Scalable : Élimination des pipelines de prétraitement linguistique manuels et laborieux, permettant une analyse reproductible et applicable à de grands volumes de données.
3. Validation Transversale : Démonstration que cette approche fonctionne à travers différentes langues, tâches cognitives et populations (saines et cliniques), et est robuste au choix du modèle d'embedding.
4. Biomarqueurs Sémantiques : Identification de signatures cinématiques spécifiques (volatilité vs dispersion) pour caractériser les déficits cognitifs dans les maladies neurodégénératives.

5. Signification et Perspectives

Ce travail établit un pont crucial entre la modélisation cognitive (théories de la navigation sémantique) et les représentations apprises (LLMs et embeddings). En traitant la récupération de concepts comme un mouvement géométrique, l'article offre un outil puissant pour :

• La recherche clinique : Classifier les troubles neurodégénératifs et étudier les mécanismes de contrôle exécutif.
• L'analyse interlinguistique : Comprendre comment la structure sémantique varie selon la langue et la culture.
• L'évaluation de l'intelligence artificielle : Tester comment les agents artificiels (LLMs) naviguent dans l'espace sémantique par rapport aux humains, en utilisant les mêmes métriques dynamiques.

L'article ouvre la voie à une compréhension plus fine de la dynamique de la pensée humaine, en quantifiant non seulement ce que les gens pensent, mais comment ils se déplacent dans l'espace des significations.