Technische Samenvatting: Voorbij Geïsoleerd Gedrag: Hiërarchische Gebruikersmodellering voor LLM-Personalisatie

Probleemstelling

Ondanks de opmerkelijke capaciteiten van Large Language Models (LLMs) over diverse domeinen heen, blijft het personaliseren van hun output voor individuele gebruikers een aanzienlijke uitdaging. Bestaande benaderingen hanteren voornamelijk een plat gedragsparadigma, waarbij gebruikersinteracties worden behandeld als een ongeordende verzameling van geïsoleerde instanties. Deze formulering leidt tot twee kritieke beperkingen:

1. Gedragsfragmentatie: Individuele gebruikersgeschiedenissen missen een interne structuur, waardoor het niet lukt om geïsoleerde gedragingen te consolideren tot stabiele, langetermijnpatronen.
2. Gebruikersisolatie: Gebruikers worden onafhankelijk van elkaar gemodelleerd, waarbij gedeelde gedragsregulariteiten tussen gebruikers met vergelijkbare profielen worden genegeerd. Dit beperkt de generalisatie, met name in scenario's met een schaarse gebruikersgeschiedenis.

Het artikel betoogt dat effectieve personalisatie een gestructureerd beeld vereist dat zowel modelleert hoe gedrag zich binnen een individu consolideert als hoe regulariteiten worden gedeeld binnen een gebruikerspopulatie.

Methodologie: Het PHF-raamwerk

Geïnspireerd door Pierre Bourdieu's Theorie van de Praktijk, stellen de auteurs PHF (Practice-Habitus-Field) voor, een sociologisch gefundeerd, hiërarchisch raamwerk voor LLM-personalisatie. Dit raamwerk conceptualiseert gebruikersgedrag over drie niveaus:

• Praktijk (Practice): Individuele, episodische gedragingen (bijv. een enkele vraag-antwoord paren).
• Habitus: De temporele accumulatie van praktijken tot stabiele, langdurige gedragsdisposities die uniek zijn voor een gebruiker.
• Veld (Field): Gedeelde gedragsregulariteiten en collectieve patronen onder gebruikers met vergelijkbare disposities.

PHFCompass Implementatie

Om PHF te instantiëren, hebben de auteurs PHFCompass ontwikkeld, een lichtgewicht, model-agnostische architectuur die opereert op een bevroren LLM. Het systeem functioneert via vier sleutelstadia:

1. Gedemondeerde Praktiekextractie (Semantische Kwantisatie):
   Ruwe gebruikersgedragingen worden gecodeerd en onderworpen aan multi-level residuele vectorkwantisatie. Dit proces abstraheert continue interacties naar discrete Semantische ID's (prototypes). Door gedragingen met verschillende oppervlakkige vormen maar vergelijkbare intenties te mappen naar gedeelde prototypes, filtert het systeem ruis op oppervlakkig niveau weg terwijl de kern van de gedragsemantiek behouden blijft.

2. Habitus Constructie (Temporele Aggregatie):
   De sequentie van gedemondeerde praktijkrepresentaties voor een gebruiker wordt in de loop van de tijd geaggregeerd met behulp van een Time Fusioner. Om rekening te houden met het recentheidseffect zonder dat recente gedragingen domineren, gebruikt het model een temporeel gewogen aggregatieschema met wortel-kwadraat schaling. Dit resulteert in een Habitus-embedding die de stabiele, langdurige gedragsdispositie van de gebruiker codeert.

3. Veldvorming (Collaboratieve Clustering):
   Gebruikers worden georganiseerd in latente Velden op basis van hun Habitus-embeddings. Met behruik van K-Means clustering worden gebruikers met vergelijkbare langetermijndisposities gegroepeerd. Elk cluster-centraal punt dient als een Field-embedding, die collectieve gedragsregulariteiten vastlegt. Dit stelt gebruikers in staat te profiteren van gedeelde signalen, wat met name helpt in cold-start of scenario's met een schaarse geschiedenis.

4. Hiërarchische Generatie:
   Tijdens de inferentie wordt de LLM geconditioneerd op een verenigde inputsequentie bestaande uit de Habitus-embedding (individuele dispositie), de Field-embedding (collectief patroon) en de huidige Query-embedding. Alleen lichtgewicht projectielagen worden getraind, waardoor de onderliggende LLM bevroren blijft.

Belangrijkste Bijdragen

1. Theoretisch Raamwerk: De voorstel van PHF, een verenigd hiërarchisch model dat zowel de individuele gedragsvorming (Praktiek $\to$ Habitus) als de structurele regulariteiten tussen gebruikers (Veld) integreert, geworteld in de sociologische theorie.
2. PHFCompass Architectuur: Een concrete, lichtgewicht implementatie die deze concepten operationaliseert via residuele gedragsabstractie, temporele aggregatie en collaboratieve clustering zonder wijzigingen aan de basis-LLM te vereisen.
3. Empirische Validatie: Uitgebreide experimenten die aantonen dat het hiërarchisch modelleren van de gedragsstructuur superieur is aan platte aggregatie en retrieval-gebaseerde baselines.

Experimentele Resultaten

De auteurs hebben PHFCompass geëvalueerd op de Language Model Personalization (LaMP) benchmark, die zes taken beslaat (drie classificatie, drie generatie).

• Prestaties: PHFCompass behaalde consistente state-of-the-art verbeteringen over alle taken vergeleken met sterke baselines, inclusal retrieval-gebaseerde methoden (BM25, Dense), aggregatie-gebaseerde methoden (OPPU, PPlug) en zero-shot modellen.
  • In classificatietaken (LaMP-1 tot 3) vertoonde het model substantiële winst, toegeschreven aan het feit dat het veld-component de schaarse individuele geschiedenissen compenseert.
  • In generatietaken (LaMP-4, 5, 7) behield het model een concurrerende prestatie, profiterend van robuuste praktijk- en habitusmodellering.
• Ablatie-studies:
  • Het verwijderen van de Habitus component veroorzaakte de grootste prestatiedegradatie, wat bevestigt dat fijnmazige individuele gedragsrepresentatie fundamenteel is.
  • Het verwijderen van de Field component leidde tot matige dalingen, met name in classificatie, wat het nut van collaboratieve signalen valideert.
  • Het vervangen van temporele weging door uniforme middeling en het verwijderen van residuele kwantisatie resulteerden beide in prestatiedalingen, wat het belang van temporele sensitiviteit en gedragsabstractie benadrukt.
• Uitbreidbaarheid: Het raamwerk toonde robuustheid aan over verschillende encoder-decoder combinaties (bijv. Contriever/Qwen, RoBERTa/LLaMA), wat het model-agnostische karakter bevestigt.
• Interpreteerbaarheid: Analyse van Semantische ID's onthulde dat de hiërarchische kwantisatie er succesvol in slaagde de gebruiker-specifieke intentie te scheiden van gedeelde semantische structuren, waarbij specifieke codes overeenkwamen met coherente thematische groepen (bijv. fantasy romance versus identiteitsgerichte romance).

Betekenis en Claims

Het artikel claimt dat PHF een paradigmaverschuiving vertegenwoordigt: van het behandelen van gebruikersdata als een platte verzameling instanties naar het modelleren ervan als een gestructureerd, hiërarchisch systeem. Door expliciet de temporele coherentie binnen individueel gedrag en de gedeelde regulariteiten tussen gebruikers te vangen, adresseert PHF de fragmentatie en isolatie die inherent zijn aan huidige personalisatiemethoden.

De auteurs benadrukken dat hun aanpak een verenigd perspectief biedt dat zowel interpreteerbaar is (door discrete semantische prototypes en cluster-velden) als uitbreidbaar (model-agnostisch). Hoewel het huidige werk is gevalideerd op de LaMP-benchmark, wordt het raamwerk gepresenteerd als een generaliseerbare aanpak voor het organiseren van gebruikersgedrag in LLM-personalisatie, wat een sociologisch gefundeerd alternatief biedt voor louter statistische of retrieval-gebaseerde methoden.

Het artikel erkent beperkingen en merkt op dat de experimenten momenteel beperkt zijn tot Engelse tekstgebaseerde taken met statische geschiedenissen, en dat de specifieke implementaties (bijv. K-Means voor velden) slechts één mogelijke instantiatie zijn van het bredere PHF-concept.