Semantic Sections: An Atlas-Native Feature Ontology for Obstructed Representation Spaces

1. Il Problema: L'Ontologia Globale Fallisce negli Spazi Obstruiti

La maggior parte dei lavori attuali nell'interpretabilità meccanica (mechanistic interpretability) si basa su un'assunzione ontologica fondamentale: una "feature" (caratteristica semantica) è un singolo oggetto globale, rappresentabile come una direzione unica nello spazio di attivazione, un atomo di dizionario sparso o una coordinata latente condivisa in tutti i contesti.

Tuttavia, ricerche recenti basate su "atlas" (mappe locali) hanno dimostrato che questa visione fallisce negli spazi di rappresentazione obstruiti. In questi spazi:

• Le strutture delle feature possono essere coerenti localmente (entro una "chart" o finestra contestuale) ma non assemblarsi in un'unica direzione globale coerente.
• Fenomeni geometrici come lo shearing (scorrimento) dei proxy e l'olonomia non banale (la rotazione di un vettore dopo un trasporto lungo un ciclo chiuso) impediscono l'esistenza di una singola identità semantica globale.
• Di conseguenza, un significato che appare coerente localmente può fallire nel "incollarsi" (glue) in un'unica entità globale.

Il paper pone la domanda: Qual è l'oggetto sostitutivo corretto quando le feature globali non esistono?

2. Metodologia e Formalismo: Le "Semantic Sections"

L'autore propone una nuova ontologia basata su sezioni semantiche (semantic sections), che sostituisce il vettore globale con una famiglia di rappresentanti locali compatibili.

Concetti Teorici Chiave

• Definizione di Sezione Semantica: Una famiglia di vettori locali $\{s_c\}$ definita su un sotto-grafo connesso di un atlas di contesto, dove ogni vettore appartiene allo spazio di feature locale $F_c$. L'identità della feature è tracciata attraverso mappe di trasporto ($T_{vu}$) tra le sovrapposizioni delle chart.
• Coerenza e Difetti: La coerenza è misurata dal "difetto di bordo" ($\delta_{vu}$), che quantifica quanto un vettore trasportato si discosti dal vettore locale target.
• Classificazione delle Sezioni:
  1. Sezioni Tree-Local (Locali ad Albero): Coerenti solo lungo percorsi privi di cicli. La coerenza è debole perché non testa la consistenza globale.
  2. Sezioni Globalizzabili (Globalizable): Coerenti sia localmente che globalmente. Il trasporto lungo qualsiasi ciclo restituisce lo stesso vettore (a meno di segno), indicando un'olonomia nulla o trascurabile.
  3. Sezioni "Twisted" (Avvolte): Localmente coerenti, ma falliscono la globalizzazione. Il trasporto lungo un ciclo restituisce un vettore ruotato (olonomia non banale), impedendo l'identità semantica singola.

Pipeline di Scoperta e Certificazione

Per scoprire queste sezioni nei LLM congelati, l'autore sviluppa una pipeline empirica:

1. Propagazione Seminata (Seeded Propagation): Si parte da un vettore seme in una chart e lo si propaga attraverso il grafo delle chart.
2. Sincronizzazione: Quando una chart è raggiunta da percorsi multipli, i vettori in arrivo vengono allineati e aggregati per stimare un rappresentante locale unificato.
3. Potatura basata sui Difetti (Defect-based Pruning): Vengono rimossi i nodi e i bordi con difetti di trasporto superiori a una soglia, isolando i nuclei coerenti.
4. Tassonomia Consapevole dei Cicli: Le sezioni candidate sono classificate in base alla loro struttura ciclica (Betti number) e ai difetti di olonomia.
5. Deduplicazione: Le sezioni ridondanti scoperte da diversi semi vengono fuse per stimare il numero di entità semantiche uniche.

3. Risultati Sperimentali

Lo studio è stato applicato agli atlas di livello 16 (e altri livelli per Llama) di tre modelli: Llama 3.2 3B, Qwen 2.5 3B e Gemma 2 2B.

Census Cross-Model

• Gemma 2: Mostra la struttura più ricca, con un'alta popolazione di sezioni globalizzabili e "twisted" supportate da cicli.
• Llama 3.2: Presenta una tassonomia completa ma sparsa (esiste almeno un esempio di ogni tipo: globalizzabile, twisted, tree-local).
• Qwen 2.5: Funziona come regime di controllo, dominato da sezioni "tree-local" (coerenza debole senza cicli), con poche strutture globalizzabili.
• Robustezza: I risultati sono stabili rispetto alla variazione delle soglie geometriche e persistono attraverso diversi livelli di profondità (es. layer 12, 16, 20 di Llama), sebbene la densità delle strutture cicliche vari con la profondità.

Scoperta Cruciale: L'Identità Semantica non è Similarità Globale

Il risultato empirico più significativo è la dimostrazione che l'identità semantica non può essere recuperata dalla similarità dei vettori globali grezzi.

• Anche per le sezioni certificate come "globalizzabili", la similarità del coseno tra i rappresentanti locali nelle diverse chart è spesso molto bassa (es. media < 0.25).
• Le baselines basate sulla similarità dei vettori recuperano solo una frazione minima delle coppie "vero-positive" (spesso < 5% a soglie moderate come 0.5 o 0.7).
• Al contrario, la ricupero basato sulle sezioni è perfetto (100%) sui supporti certificati.

4. Contributi Chiave

1. Nuova Ontologia: Introduzione delle "sezioni semantiche" come sostituto nativo dell'atlas per le feature in spazi obstruiti, superando la limitazione del vettore globale.
2. Formalizzazione Teorica: Distinzione rigorosa tra regimi tree-local, globalizzabili e twisted, identificando la consistenza ciclica e l'olonomia come criteri decisivi per la globalizzazione semantica.
3. Pipeline Pratica: Sviluppo di un metodo di scoperta e certificazione per isolare queste strutture in modelli LLM congelati.
4. Evidenza Empirica: Dimostrazione che le feature in questi regimi sono eterogenee e che l'identità semantica è preservata dalla struttura di trasporto locale, non dall'allineamento vettoriale globale.

5. Significato e Impatto

Questo lavoro rappresenta un cambio di paradigma nell'interpretabilità meccanica:

• Cambio di Paradigma: Sposta l'attenzione dalla ricerca di "direzioni globali" alla modellazione di "famiglie locali compatibili".
• Risoluzione del Fallimento: Spiega perché i metodi tradizionali falliscono nel riconoscere un'unica feature in contesti diversi: non perché la feature non esista, ma perché la sua rappresentazione è intrinsecamente locale e soggetta a torsione (holonomy).
• Implicazioni Future: Suggerisce che l'interpretazione dei modelli deve diventare "locale-globale". Le sezioni semantiche offrono un framework per comprendere, editare e intervenire su feature che sono coerenti localmente ma non globalmente, aprendo nuove strade per l'analisi della sicurezza e della struttura interna dei LLM.

In sintesi, il paper sostiene che in presenza di ostacoli rappresentazionali, la feature non è un punto o una direzione fissa, ma un oggetto geometrico complesso (una sezione) la cui identità è definita dalla sua capacità di essere trasportata coerentemente attraverso l'atlas del modello.