Sintesi Tecnica: Apprendimento di Rappresentazioni Coerenti: Un Approccio Topologico all'Interpretabilità

Definizione del Problema

Le reti neurali profonde (DNN) spesso apprendono rappresentazioni in cui i singoli tratti latenti mancano di un significato interpretabile. Sebbene l'addestramento alla classificazione riesca a separare i manifold delle classi nello spazio latente, ciò non garantisce che i singoli neuroni corrispondano a concetti comprensibili dall'uomo. In contesti non supervisionati come gli auto-encoder, il problema è esacerbato: senza etichette di classe che guidino la separazione, le reti possono apprendere rappresentazioni in cui campioni semanticamente correlati sono dispersi, e i singoli tratti si attivano su sottoinsiemi disconnessi e incoerenti del manifold dei dati.

Le tecniche di regolarizzazione esistenti, come la sparsità (L1), incoraggiano i tratti ad attivarsi su pochi campioni ma non riescono a garantire che tali campioni siano geometricamente correlati. Un tratto sparso può comunque attivarsi su regioni sparse del manifold dei dati. Al contrario, i circuiti neurali biologici (ad esempio, le cellule a griglia e le cellule di direzione della testa) ottengono l'interpretabilità attraverso la località: i neuroni rispondono a regioni contigue dello spazio di stato. Questo articolo postula che la località sia un principio di progettazione per codici neurali interpretabili e cerca di formalizzare tale principio per imporlo alle reti neurali artificiali.

Metodologia

1. Quadro Teorico: Matrici Coerenti

Gli autori introducono la coerenza, una proprietà geometrica ispirata alla codifica neurale e fondata sull'analisi topologica dei dati (TDA). Modellano lo spazio latente di una rete con attivazioni non negative come una matrice non negativa $M$, dove le righe rappresentano i campioni e le colonne i tratti.

Una matrice è definita $\epsilon$-coerente se soddisfa due condizioni:

1. $\epsilon$-località: Ogni riga (campione) attende a un insieme geometricamente raggruppato di colonne (tratti), e viceversa. Ciò è quantificato tramite la varianza di Fréchet. Nello specifico, la mappa baricentrica $\phi$ (che mappa un campione alla media ponderata dei tratti) e $\psi$ (che mappa un tratto alla media ponderata dei campioni) devono avere una bassa varianza rispetto ai tratti/campioni effettivi.
2. $\epsilon$-copertura: Ogni campione è ben descritto da un qualche tratto, e ogni tratto è necessario per un qualche campione. Ciò assicura che nessuna parte dello spazio sia lasciata scoperta o ridondante.

Garanzia Topologica:
Il documento dimostra che se una matrice è $\epsilon$-coerente e le mappe baricentriche sono Lipschitz continue, le filtrations di Vietoris-Rips dei campioni e dei tratti sono $\epsilon^{1/2}$-interleaved. Ciò implica che lo spazio dei campioni e lo spazio dei tratti condividono strutture topologiche compatibili. Ad esempio, se i dati giacciono su un cerchio, i tratti coerenti devono piastrellare quel cerchio in archi contigui, garantendo che lo spazio dei tratti rispecchi la topologia dello spazio dei campioni.

2. L'Obiettivo COH

Per imporre la coerenza durante l'addestramento, gli autori derivano un obiettivo differenziabile chiamato COH, basato sulla varianza di Fréchet.

• Normalizzazione: Il metodo utilizza la normalizzazione L1 al quadrato per trattare righe e colonne come distribuzioni di probabilità.
• Componenti della Perdita: La perdita penalizza le quantità di varianza (località) e copertura sia per le righe che per le colonne.
• Implementazione: L'obiettivo viene aggiunto a qualsiasi architettura con attivazioni non negative (ad esempio, usando Softplus). Esso calcola le mappe baricentriche e le relative varianze, aggregando i top-$k$ peggiori casi per garantire robustezza contro gli outlier.

Contributi Chiave

1. Definizione di Coerenza: Gli autori definiscono formalmente la $\epsilon$-coerenza per matrici non negative, collegandola all'interleaving delle filtrations di Vietoris-Rips. Ciò fornisce una garanzia teorica che lo spazio dei campioni latenti e lo spazio dei tratti latenti condividano una topologia compatibile.
2. Obiettivo Differenziabile (COH): Introducono COH, una funzione di perdita pratica che impone vincoli di località e copertura. A differenza della sparsità, che limita il numero di attivazioni, COH limita la connettività geometrica delle attivazioni.
3. Validazione Empirica: Il metodo è validato in tre scenari distinti:
   • Dati Sintetici: Recupero della topologia di cerchi disgiunti.
   • MNIST Ruotato: Apprendimento di tratti interpretabili per cifre ruotate.
   • Modelli Linguistici: Applicazione della coerenza agli embedding dei token di BERT per ottenere tratti interpretabili allineati con categorie leggibili dall'uomo.

Risultati Sperimentali

Auto-encoder su Dati Sintetici e MNIST Ruotato

• Recupero della Topologia: Nell'esperimento sui giocattoli "Due Cerchi", gli auto-encoder standard e i modelli regolarizzati con L1 non sono riusciti a produrre uno spazio dei tratti con la corretta topologia circolare. Solo il modello COH ha recuperato la prevista topologia circolare disgiunta sia nello spazio dei campioni che in quello dei tratti.
• Cifra Singola (MNIST Ruotato): Per una singola cifra ruotata (6), COH ha ottenuto il 100% di tratti sintonizzati (tratti che si attivano su archi coerenti di rotazione), rispetto al 63% di L1. I tratti COH erano meno sparsi ma significativamente più interpretabili rispetto all'angolo di rotazione.
• Doppia Cifra (MNIST Ruotato): In un contesto più complesso con due cifre, COH ha prodotto costantemente spazi latenti coerenti. Sebbene le metriche di interpretabilità (come la purezza) variassero tra i diversi seed a causa dell'esistenza di molteplici soluzioni coerenti valide (ad esempio, cerchi separati vs cerchi uniti), le metriche di coerenza (Località e Copertura) sono rimaste stabili. Combinare COH con la sparsità L1 ha guidato con successo il modello verso una soluzione disentangled con una separazione delle classi affidabile.

Embedding dei Token di BERT

• Configurazione: Un piccolo modello BERT è stato addestrato con embedding dei token non negativi (tramite Softplus) e l'obiettivo COH.
• Interpretabilità:
  • Sovrapposizione: I tratti nel modello COH hanno mostrato una sovrapposizione significativamente maggiore con i vicini più prossimi dei token di un modello BERT standard (con segno) (Sovrapposizione Media: 0,45 vs 0,22 per il solo Softplus).
  • Categorie Leggibili dall'Uomo: Utilizzando un LLM (Claude Opus) per giudicare l'interpretabilità, 87,6 su 256 tratti nel modello COH sono stati giudicati interpretabili, rispetto a 0 per il baseline con solo Softplus.
  • Categorie Identificate: I tratti COH si sono allineati con specifiche categorie semantiche inclusi anni, termini di parentela, nomi di luoghi, unità di misura, avverbi di attenuazione, preposizioni direzionali e tipi specifici di verbi (es. movimento, cognizione, passato prossimo).

Significato e Rivendicazioni

Il documento sostiene di fornire un quadro rigoroso per accoppiare campioni latenti e tratti latenti affinché condividano una topologia compatibile. Il significato risiede nello spostare il focus dall'interpretabilità del singolo tratto all'interpretabilità dello spazio dei tratti nel suo complesso.

• Garanzia Geometrica: Il lavoro dimostra che imporre la connettività geometrica (coerenza) produce tratti che non sono solo sparsi, ma strutturalmente allineati con il manifold dei dati.
• Complementarità: Gli autori osservano che la coerenza è complementare ad altri obiettivi; ad esempio, la sparsità può essere utilizzata per selezionare tra molteplici soluzioni coerenti valide senza sacrificare la garanzia geometrica.
• Limitazioni: Gli autori riconoscono con modestia che l'assunzione di Lipschitz sulle mappe baricentriche è verificata empiricamente piuttosto che imposta. Notano inoltre che il metodo non controlla quale specifica soluzione coerente venga trovata in scenari complessi a più classi (ad esempio, se le cifre si uniscono o si separano), sebbene garantisca che la soluzione sia coerente.

Il lavoro connette l'analisi topologica dei dati, le neuroscienze e l'apprendimento delle rappresentazioni, offrendo sia una base teorica (tramite analoghi della dualità di Dowker e l'interleaving) sia uno strumento pratico per apprendere spazi latenti interpretabili senza richiedere una supervisione esplicita.