Sintesi Tecnica: Oltre i comportamenti isolati: Modellazione gerarchica dell'utente per la personalizzazione degli LLM

Definizione del problema

Nonostante le straordinarie capacità dei Large Language Models (LLM) in diversi domini, la personalizzazione dei loro output per i singoli utenti rimane una sfida significativa. Gli approcci esistenti adottano prevalentemente un paradigma comportamentale piatto, trattando le interazioni dell'utente come una collezione non ordinata di istanze isolate. Questa formulazione porta a due criticità fondamentali:

1. Frammentazione del comportamento: Le cronologie dei singoli utenti mancano di una struttura interna, fallendo nel consolidare i comportamenti isolati in schemi stabili a lungo termine.
2. Isolamento dell'utente: Gli utenti sono modellati indipendentemente, ignorando le regolarità comportamentali condivise tra utenti con profili simili. Ciò limita la generalizzazione, in particolare in scenari con una cronologia utente scarsa.

Il documento sostiene che una personalizzazione efficace richieda una visione strutturata che modelli sia come i comportamenti si consolidano all'interno di un individuo, sia come le regolarità siano condivise tra una popolazione di utenti.

Metodologia: Il framework PHF

Ispirandosi alla Teoria della Prassi di Pierre Bourdieu, gli autori propongono il PHF (Pratica-Habitus-Campo), un framework gerarchico per la personalizzazione degli LLM, fondato sulla sociologia. Questo framework concettualizza il comportamento dell'utente attraverso tre livelli:

• Pratica: Comportamenti individuali ed episodici (ad esempio, una singola coppia query-risposta).
• Habitus: L'accumulo temporale delle pratiche in disposizioni comportamentali stabili e a lungo termine, uniche per un utente.
• Campo: Regolarità comportamentali condivise e schemi collettivi tra utenti con disposizioni simili.

Implementazione di PHFCompass

Per istanziare il PHF, gli autori hanno sviluppato PHFCompass, un'architettura leggera e agnostica rispetto al modello che opera su un LLM congelato. Il sistema funziona attraverso quattro fasi chiave:

1. Estrazione della pratica denoisata (Quantizzazione Semantica):
   I comportamenti grezzi dell'utente vengono codificati e sottoposti a una quantizzazione vettoriale residua multi-livello. Questo processo astrae le interazioni continue in ID Semantici discreti (prototipi). Mappando comportamenti con forme superficiali diverse ma intenti simili verso prototipi condivisi, il sistema filtra il rumore superficiale preservando al contempo il nucleo semantico del comportamento.

2. Costruzione dell'Habitus (Aggregazione Temporale):
   La sequenza di rappresentazioni delle pratiche denoisate per un utente viene aggregata nel tempo utilizzando un Time Fusioner. Per tenere conto dell'effetto di recenza senza lasciare che i comportamenti recenti dominino, il modello impiega uno schema di aggregazione pesato temporalmente utilizzando la scalatura radice quadrata. Ciò produce un embedding di Habitus che codifica la disposizione comportamentale stabile e a lungo termine dell'utente.

3. Formazione del Campo (Clustering Collaborativo):
   Gli utenti sono organizzati in Campi latenti basati sui loro embedding di Habitus. Utilizzando il clustering K-Means, utenti con disposizioni a lungo termine simili vengono raggruppati. Ogni centroide del cluster funge da embedding di Campo, catturando le regolarità comportamentali collettive. Ciò consente agli utenti di beneficiare di segnali condivisi, aiutando particolarmente in scenari di cold-start o con cronologia scarsa.

4. Generazione Gerarchica:
   Durante l'inferenza, l'LLM è condizionato da una sequenza di input unificata composta dall'embedding di Habitus (disposizione individuale), dall'embedding di Campo (schema collettivo) e dall'embedding della Query corrente. Solo gli strati di proiezione leggeri vengono addestrati, lasciando il sottostante LLM congelato.

Contributi Chiave

1. Framework Teorico: La proposta del PHF, un modello gerarchico unificato che integra la formazione del comportamento individuale (Pratica $\to$ Habitus) con le regolarità strutturali tra gli utenti (Campo), fondato sulla teoria sociologica.
2. Architettura PHFCompass: Un'implementazione concreta e leggera del PHF che operazionalizza questi concetti tramite astrazione comportamentale residua, aggregazione temporale e clustering collaborativo senza richiedere modifiche al modello base.
3. Validazione Empirica: Esperimenti estesi che dimostrano come la modellazione gerarchica della struttura comportamentale superi l'aggregazione piatta e i baseline basati sul recupero.

Risultati Sperimentali

Gli autori hanno valutato PHFCompass sul benchmark Language Model Personalization (LaMP), coprendo sei task (tre di classificazione, tre di generazione).

• Performance: PHFCompass ha ottenuto miglioramenti costanti allo stato dell'arte in tutti i task rispetto a forti baseline, inclusi i metodi basati sul recupero (BM25, Dense), i metodi basati sull'aggregazione (OPPU, PPlug) e i modelli zero-shot.
  • Nei task di classificazione (LaMP-1 a 3), il modello ha mostrato guadagni sostanziali, grazie alla componente di campo che compensa le cronologie individuali scarse.
  • Nei task di generazione (LaMP-4, 5, 7), il modello ha mantenuto prestazioni competitive, beneficiando di una robusta modellazione di pratica e habitus.
• Studi di Ablazione:
  • Rimuovere la componente Habitus ha causato il più grande degrado delle prestazioni, confermando che la rappresentazione fine-grained del comportamento individuale è fondamentale.
  • Rimuovere la componente Field ha portato a cali moderati, in particolare nella classificazione, validando l'utilità dei segnali collaborativi.
  • Sostituire il pesaggio temporale con la media uniforme e rimuovere la quantizzazione residua ha causato entrambi un calo delle prestazioni, evidenziando l'importanza della sensibilità temporale e dell'astrazione comportamentale.
• Estensibilità: Il framework ha dimostrato robustezza attraverso diverse combinazioni encoder-decoder (ad esempio, Contriever/Qwen, RoBERTa/LLaMA), confermando la sua natura agnostica rispetto al modello.
• Interpretabilità: L'analisi degli ID Semantici ha rivelato che la quantizzazione gerarchica riesce a disgiungere l'intento specifico dell'utente dalle strutture semantiche condivise, con codici specifici che corrispondono a gruppi tematici coerenti (ad esempio, romance fantasy vs. romance focalizzato sull'identità).

Significato e Rivendicazioni

Il documento afferma che PHF rappresenta un cambio di paradigma dal trattare i dati dell'utente come una collezione piatta di istanze al modellamento di un sistema gerarchico strutturato. Catturando esplicitamente la coerenza temporale all'interno del comportamento individuale e le regolarità condivise tra gli utenti, il PHF affronta la frammentazione e l'isolamento inerenti agli attuali metodi di personalizzazione.

Gli autori sottolineano che il loro approccio fornisce una prospettiva unificata che è sia interpretabile (attraverso prototipi semantici discreti e campi di cluster) che estensibile (agnostica rispetto al modello). Sebbene l'attuale lavoro sia validato sul benchmark LaMP, il framework è presentato come un approccio generalizzabile per organizzare il comportamento dell'utente nella personalizzazione degli LLM, offrendo un'alternativa sociologicamente fondata ai metodi puramente statistici o basati sul recupero.

Il documento riconosce i limiti, notando che gli esperimenti sono attualmente limitati a task basati su testo in lingua inglese con cronologie statiche, e che le implementazioni specifiche (ad esempio, K-Means per i campi) sono solo una possibile istanza del concetto PHF più ampio.