Résumé Technique : Au-delà des comportements isolés : Modélisation hiérarchique de l'utilisateur pour la personnalisation des LLM

Problématique

Malgré les capacités remarquables des grands modèles de langage (LLM) dans divers domaines, la personnalisation de leurs sorties pour des utilisateurs individuels demeure un défi important. Les approches existantes adoptent principalement un paradigme comportemental plat, traitant les interactions de l'utilisateur comme une collection non ordonnée d'instances isolées. Cette formulation entraîne deux limitations critiques :

1. Fragmentation du comportement : Les historiques individuels des utilisateurs manquent de structure interne, échouant à consolider les comportements isolés en modèles stables à long terme.
2. Isolement de l'utilisateur : Les utilisateurs sont modélisés indépendamment, ignorant les régularités comportementales partagées entre des utilisateurs ayant des profils similaires. Cela limite la généralisation, particulièrement dans les scénarios avec un historique utilisateur parcimonieux.

L'article soutient qu'une personnalisation efficace nécessite une vision structurée qui modélise à la fois la manière dont les comportements se consolident au sein d'un individu et comment les régularités sont partagées à travers une population d'utilisateurs.

Méthodologie : Le cadre PHF

S'appuyant sur la Théorie de la pratique de Pierre Bourdieu, les auteurs proposent le PHF (Pratique-Habitus-Champ), un cadre hiérarchique ancré dans la sociologie pour la personnalisation des LLM. Ce cadre conceptualise le comportement de l'utilisateur à travers trois niveaux :

• Pratique : Comportements individuels et épisodiques (ex. : un couple requête-réponse unique).
• Habitus : L'accumulation temporelle des pratiques en dispositions comportementales stables et à long terme propres à un utilisateur.
• Champ : Régularités comportementales partagées et modèles collectifs parmi des utilisateurs ayant des dispositions similaires.

Implémentation de PHFCompass

Pour instancier le PHF, les auteurs ont développé PHFCompass, une architecture légère et agnostique au modèle qui opère sur un LLM gelé. Le système fonctionne via quatre étapes clés :

1. Extraction de pratiques débruitées (Quantification sémantique) :
   Les comportements bruts des utilisateurs sont encodés et soumis à une quantification vectorielle résiduelle multi-niveaux. Ce processus abstrait les interactions continues en Identifiants Sémantiques discrets (prototypes). En cartographiant des comportements ayant des formes de surface différentes mais des intentions similaires vers des prototypes partagés, le système filtre le bruit de surface tout en préservant la sémantique comportementale centrale.

2. Construction de l'Habitus (Agrégation temporelle) :
   La séquence des représentations de pratiques débruitées d'un utilisateur est agrégée au fil du temps à l'aide d'un Fusionneur Temporel (Time Fusioner). Pour tenir compte de l'effet de récence sans que les comportements récents ne dominent, le modèle emploie un schéma d'agrégation temporelement pondéré utilisant une mise à l'échelle par racine carrée. Cela produit un embedding d'Habitus qui encode la disposition comportementale stable et à long terme de l'utilisateur.

3. Formation du Champ (Clustering collaboratif) :
   Les utilisateurs sont organisés en Champs latents basés sur leurs embeddings d'Habitus. En utilisant le K-Means clustering, les utilisateurs ayant des dispositions à long terme similaires sont regroupés. Chaque centroïde de cluster sert d'embedding de Champ, capturant les régularités comportementales collectives. Cela permet aux utilisateurs de bénéficier de signaux partagés, aidant particulièrement dans les scénarios de démarrage à froid (cold-start) ou d'historique parcimonieux.

4. Génération hiérarchique :
   Lors de l'inférence, le LLM est conditionné par une séquence d'entrée unifiée comprenant l'embedding d'Habitus (disposition individuelle), l'embedding de Champ (modèle collectif) et l'embedding de la Requête actuelle. Seules des couches de projection légères sont entraînées, laissant le LLM sous-jacent gelé.

Contributions clés

1. Cadre théorique : La proposition du PHF, un modèle hiérarchique unifié qui intègre la formation comportementale individuelle (Pratique $\to$ Habitus) avec les régularités structurelles inter-utilisateurs (Champ), ancré dans la théorie sociologique.
2. Architecture PHFCompass : Une implémentation concrète et légère du PHF qui opérationnalise ces concepts via l'abstraction comportementale résiduelle, l'agrégation temporelle et le clustering collaboratif sans nécessiter de modifications du LLM de base.
3. Validation empirique : Des expériences approfondies démontrant que la modélisation hiérarchique de la structure comportementale surpasse les méthodes d'agrégation plate et les approches basées sur la recherche (retrieval).

Résultats expérimentaux

Les auteurs ont évalué PHFCompass sur le benchmark Language Model Personalization (LaMP), couvrant six tâches (trois de classification, trois de génération).

• Performance : PHFCompass a obtenu des améliorations constantes de l'état de l'art sur toutes les tâches par rapport aux bases solides, incluant les méthodes basées sur la recherche (BM25, Dense), les méthodes basées sur l'agrégation (OPPU, PPlug) et les modèles zero-shot.
  • Dans les tâches de classification (LaMP-1 à 3), le modèle a montré des gains substantiels, attribués à la composante de champ compensant les historiques individuels parcimonieux.
  • Dans les tâches de génération (LaMP-4, 5, 7), le modèle a maintenu des performances compétitives, bénéficiant d'une modélisation robuste de la pratique et de l'habitus.
• Études d'ablation :
  • La suppression de la composante Habitus a causé la plus grande dégradation des performances, confirmant que la représentation comportementale individuelle fine est fondamentale.
  • La suppression de la composante Champ a entraîné des déclins modérés, particulièrement en classification, validant l'utilité des signaux collaboratifs.
  • Le remplacement de la pondération temporelle par une moyenne uniforme et la suppression de la quantification résiduelle ont tous deux entraîné des baisses de performance, soulignant l'importance de la sensibilité temporelle et de l'abstraction comportementale.
• Extensibilité : Le cadre a démontré sa robustesse à travers différentes combinaisons encodeur-décodeur (ex. : Contriever/Qwen, RoBERTa/LLaMA), confirmant sa nature agnostique au modèle.
• Interprétabilité : L'analyse des Identifiants Sémantiques a révélé que la quantification hiérarchique parvient à désentendre l'intention spécifique de l'utilisateur des structures sémantiques partagées, avec des codes spécifiques correspondant à des groupes thématiques cohérents (ex. : romance fantastique vs romance axée sur l'identité).

Signification et Revendications

L'article affirme que le PHF représente un changement de paradigme, passant du traitement des données utilisateur comme une collection plate d'instances à une modélisation sous forme de système hiérarchique structuré. En capturant explicitement la cohérence temporelle au sein du comportement individuel et les régularités partagées entre les utilisateurs, le PHF répond à la fragmentation et à l'isolement inhérents aux méthodes de personnalisation actuelles.

Les auteurs soulignent que leur approche offre une perspective unifiée qui est à la fois interprétable (via les prototypes sémantiques discrets et les champs de clusters) et extensible (agnostique au modèle). Bien que le travail actuel soit validé sur le benchmark LaMP, le cadre est présenté comme une approche généralisable pour organiser le comportement des utilisateurs dans la personnalisation des LLM, offrant une alternative sociologiquement fondée aux méthodes purement statistiques ou de recherche.

L'article reconnaît des limites, notant que les expériences sont actuellement restreintes à des tâches textuelles en anglais avec des historiques statiques, et que les implémentations spécifiques (ex. : K-Means pour les champs) ne sont qu'une possibilité parmi d'autres pour l'instanciation du concept PHF plus large.