Semantic Structure of Feature Space in Large Language Models

1. Enunciato del Problema

Sebbene ricerche recenti abbiano stabilito che specifiche caratteristiche semantiche (ad esempio, inganno, rifiuto, adulatorietà) nei Modelli Linguistici di Grande Dimensione (LLM) sono codificate come direzioni lineari negli stati nascosti, l'approccio prevalente tratta queste caratteristiche in isolamento. Questa prospettiva assume che le caratteristiche siano ortogonali (indipendenti). Tuttavia, la ricerca psicologica (in particolare la tradizione del "differenziale semantico") suggerisce che le associazioni semantiche umane sono altamente intercorrelate e possono essere ridotte a un sottospazio a bassa dimensionalità (ad esempio, Valutazione, Potenza, Attività).

Il documento affronta un vuoto critico: Le relazioni geometriche tra le caratteristiche semantiche negli LLM riflettono le associazioni psicologiche umane? Nello specifico, indaga se gli spazi delle caratteristiche degli LLM siano composti da assi indipendenti o se mostrino una non ortogonalità significativa (intreccio) che riflette le strutture culturali e cognitive umane.

2. Metodologia

Lo studio impiega una metodologia multistep che combina dati di sondaggio, analisi delle attivazioni ed esperimenti di intervento su modelli Llama 3 (3B e 70B) e modelli Qwen3.

A. Costruzione dei Dati

• Baseline Umana: Un sondaggio di 1.750 partecipanti ha valutato 360 parole su 32 scale semantiche (ad esempio, bello-brutto, morbido-duro). Questo dataset funge da verità fondamentale per le associazioni semantiche umane.
• Vettori di Caratteristica LLM (Parole): Per ciascuna delle 360 parole, sono stati estratti vettori di caratteristica dagli stati nascosti dell'LLM.
  • Protocollo: Sono stati utilizzati quattro prompt per parola (ad esempio, "Raccontami di {parola}", "Definisci {parola}").
  • Estrazione: Le attivazioni sono state raccolte da livelli specifici (Livello 8 per 3B, Livello 40 per 70B) e mediate tra token e prompt per creare un singolo vettore robusto per parola.
• Assi Semantici LLM: 32 assi semantici sono stati costruiti utilizzando un design di coppie contrastive.
  • Per ogni scala (ad esempio, buono-cattivo), sono state selezionate 10 coppie di antonimi.
  • Sono stati generati vettori di caratteristica per ciascun antonimo e il vettore dell'asse è stato calcolato come la differenza media tra i vettori degli antonimi positivi e negativi:
    $$\vec{f}_{axis} = \frac{1}{10} \sum_{j=1}^{10} (\vec{v}_{pos_j} - \vec{v}_{neg_j})$$

B. Tecniche Analitiche

1. Correlazione di Proiezione: Proiezione dei vettori di caratteristica delle parole sugli assi semantici e correlazione di queste proiezioni con le valutazioni dei sondaggi umani.
2. Allineamento Geometrico: Calcolo delle Similitudini del Coseno tra gli assi semantici stessi per verificare se gli assi sono non ortogonali. Queste similarità geometriche sono state poi correlate con le correlazioni a coppie trovate nei dati del sondaggio umano.
3. Riduzione della Dimensionalità: Applicazione dell'Analisi delle Componenti Principali (PCA) sia ai dati del sondaggio che agli assi semantici LLM per determinare se la varianza in entrambi gli spazi è catturata da un sottospazio a bassa dimensionalità (specificamente le prime 3 componenti). È stata utilizzata l'Analisi delle Correlazioni Canoniche (CCA) per allineare i sottospazi dei dati LLM e umani.
4. Interventi di Steering (Guida): Per testare le implicazioni pratiche, gli autori hanno eseguito interventi di "steering".
   • Meccanismo: Aggiunta di un vettore di asse semantico scalato ($\alpha \hat{f}$) al flusso residuo durante il passaggio in avanti di un prompt che chiedeva al modello di valutare una parola.
   • Misurazione: Misura della variazione nella probabilità del modello di selezionare un specifico antonimo (effetto di spillover) su scale non target.
   • Ipotesi: Se gli assi sono allineati geometricamente, lo steering lungo un asse dovrebbe causare effetti di spillover prevedibili su altri assi, proporzionali alla loro similitudine del coseno.

3. Contributi Chiave

1. Validazione di una Geometria Simile all'Uomo: Dimostrazione che la struttura geometrica degli spazi delle caratteristiche degli LLM non è casuale o puramente ortogonale, ma riflette da vicino le associazioni semantiche psicologiche umane.
2. Non Ortogonalità delle Caratteristiche: Prova che gli assi semantici negli LLM sono significativamente non ortogonali. La similitudine del coseno tra due assi nel modello predice la correlazione tra quelle scale nei sondaggi umani.
3. Sottospazio a Bassa Dimensionalità: Dimostrazione che una porzione sostanziale della varianza nelle caratteristiche semantiche degli LLM (come nei dati umani) risiede all'interno di un sottospazio a bassa dimensionalità (circa 3 dimensioni), riproducendo la struttura "Valutazione-Potenza-Attività" trovata nella psicologia classica.
4. Spillover Predittivo dello Steering: Stabilimento di un nesso causale tra allineamento geometrico e comportamento del modello. Lo steering di un modello lungo un asse semantico induce effetti di "spillover" prevedibili su altri assi, la cui entità è determinata dalla similitudine del coseno tra gli assi.

4. Risultati Chiave

• Correlazione di Proiezione: Esiste una forte correlazione positiva ($r > 0,3$ fino a $r > 0,8$) tra la proiezione dei vettori delle parole sugli assi semantici LLM e le valutazioni umane di quelle parole. Questo vale sia per modelli piccoli (3B) che grandi (70B).
• Correlazione degli Assi: Le similitudini del coseno tra gli assi semantici LLM sono altamente predittive delle correlazioni tra quelle scale nel sondaggio umano ($r \approx 0,8$). Ciò conferma che la geometria interna del modello codifica le associazioni culturali umane.
• Allineamento PCA:
  • I dati del sondaggio umano sono stati ridotti efficacemente a 3 dimensioni.
  • Gli assi semantici LLM hanno mostrato anche che le prime tre componenti principali spiegavano la maggior parte della varianza (>45% per 3B, >33% per 70B).
  • La CCA ha rivelato alte correlazioni tra i sottospazi 3D dell'LLM e del sondaggio umano, indicando che i modelli "pensano" a questi concetti in modo strutturalmente simile agli umani.
• Spillover dello Steering:
  • Lo steering di una parola verso un attributo specifico (ad esempio, bello) ha causato al modello di valutare la parola più in alto su attributi geometricamente simili (ad esempio, morbido).
  • Esiste una forte relazione lineare ($r \approx 0,65 - 0,68$) tra la similitudine del coseno di due assi e la magnitudine dell'effetto di spillover.
  • Nota: Il modello 70B ha mostrato magnitudini di spillover più piccole rispetto al modello 3B, suggerendo che i modelli più grandi sono più resilienti allo steering, ma la relazione strutturale (la geometria che predice lo spillover) rimane coerente.

5. Significato e Implicazioni

• Oltre l'Isolamento: I risultati sfidano la visione delle caratteristiche degli LLM come un catalogo di "manopole" indipendenti. Invece, le caratteristiche devono essere comprese attraverso le loro relazioni geometriche e i sottospazi che formano.
• Sicurezza e Controllo dell'AI: Se caratteristiche critiche per la sicurezza (ad esempio, vero-falso, sicuro-pericoloso) giacciono su un sottospazio a bassa dimensionalità condiviso, il controllo di una potrebbe influenzare involontariamente le altre a causa dell'intreccio geometrico. Ciò complica lo "steering delle caratteristiche" ma offre anche un modo per auditare i modelli comprendendo queste strutture relazionali.
• Ingegneria delle Rappresentazioni: Lo studio valida che le tecniche utilizzate su embedding di parole statici (come l'analisi degli angoli e delle dimensioni culturali) sono applicabili e fruttuose per le rappresentazioni profonde degli LLM.
• Allineamento Cognitivo: I risultati suggeriscono che, nonostante siano addestrati su testo grezzo, gli LLM sviluppano rappresentazioni interne che si allineano strutturalmente con i modelli cognitivi umani del mondo, rafforzando l'idea che gli LLM catturino strutture semantiche umane.

In conclusione, il documento sostiene che la geometria dello spazio delle caratteristiche è significativamente umana. Comprendere gli angoli tra le caratteristiche e i sottospazi che definiscono è essenziale per interpretare, auditare e controllare i Modelli Linguistici di Grande Dimensione.