Lost and Found in Translation: Variational Diagnostics for Neural Codebook Channels

Riepilogo Tecnico: Persi e Trovati nella Traduzione: Diagnosi Variazionali per Canali di Codice Neurale

Enunciato del Problema
Gli Autoencoder Variazionali (VAE) addestrano congiuntamente un codificatore $q_\phi(z|x)$ e un decodificatore $p_\theta(x|z)$, trattando spesso lo spazio latente risultante come un codice discreto per compiti quali il clustering, la generazione condizionata e l'interpretabilità meccanicistica. Tuttavia, le diagnosi standard dei VAE — come l'ELBO, le unità attive, l'informazione reciproca e gli istogrammi marginali del codice — certificano solo se lo spazio latente viene utilizzato. Esse non riescono a rispondere alla domanda accoppiata: Il decodificatore interpreta una regione dello spazio latente con lo stesso codice che il codificatore ha utilizzato per collocarvi la massa?

Questa modalità di fallimento, nota nella teoria classica delle comunicazioni come decodifica non corrispondente (mismatched decoding), si verifica quando il trasmettitore (codificatore) e il ricevitore (decodificatore) utilizzano dizionari operativi incompatibili. Le diagnosi esistenti non riescono a rilevare ciò perché sono grandezze marginali o aggregate; non esaminano l'accoppiamento tra la mappa di codice del codificatore e la mappa di lettura del decodificatore. Di conseguenza, un decodificatore può permutare le regioni del codificatore, fondere più regioni in una, o collassare banalmente su un singolo codice, mentre le statistiche marginali appaiono sane.

Metodologia
Il documento introduce un nuovo quadro diagnostico incentrato sul Canale di Codice Neurale, indicato come $K_{e \to d}(j | i)$.

1. Mappe di Codice Operativo: Il quadro definisce mappe di codice rigido misurabili $c^*_{enc}: Z \to \{1, \dots, K\}$ e $c^*_{dec}: Z \to \{1, \dots, K\}$ per il codificatore e il decodificatore, rispettivamente. Queste mappe inducono partizioni operative sullo spazio latente condiviso $Z$.

   • Mappa del Codificatore: Istanteata come una regola di Voronoi con pesi additivi derivata da un riepilogo del modello a mistura gaussiana (GMM) della posteriore aggregata.
   • Mappa del Decodificatore: Istanteata come una regola di Voronoi di Bregman di Tipo-1 nello spazio di uscita del decodificatore, riportata indietro nello spazio latente.

2. L'Oggetto Diagnostico:

   • Tabella Congiunta: $P_{ed}(i, j) = \Pr[c^*_{enc}(Z)=i, c^*_{dec}(Z)=j]$ registra la distribuzione congiunta delle etichette del codificatore e del decodificatore.
   • Canale: $K_{e \to d}(j | i)$ è il canale normalizzato per righe che rappresenta come i codici del codificatore vengono letti dal decodificatore.
   • Accordo sul Dizionario ($A$): La massa diagonale del canale, $A = \sum_i P_{ed}(i, i)$, misura la probabilità che un singolo estratto latente riceva la stessa etichetta sia dal codificatore che dal decodificatore.
   • Velocità di Codice Effettiva ($R_{eff}$): L'informazione reciproca $I(C_{enc}; C_{dec})$.

3. Risultato di Impossibilità Marginale:
   Il documento dimostra (Proposizione 4) che le diagnosi scalari standard (istogrammi marginali, entropie, conteggi di codici attivi, informazione reciproca) sono insufficienti per determinare il canale congiunto $K_{e \to d}$. Nello specifico, per ogni $K \ge 2$, esistono due canali accoppiati con marginali e informazione reciproca identici ma accordo grezzo opposto ($A=1$ vs. $A=0$). Ciò stabilisce che $K_{e \to d}$ è un'unità diagnostica rigorosamente nuova e non ridondante.

4. Certificato di Audit Variazionale:
   Il documento deriva un limite di audit unidimensionale per la massa fuori diagonale (interferenza inter-codice, $1-A$) utilizzando il gap variazionale del VAE ($\bar{\Delta}$). Applicando una regola di catena KL sotto disintegrazione all'evento di disaccordo binario $E = \{c^*_{enc} \neq c^*_{dec}\}$, il gap variazionale medio si decompone come:
   $$\bar{\Delta} = d_{bin}(1 - A \parallel \bar{\eta}_p) + J_E + \bar{\rho}_E$$
   Dove:

   • $d_{bin}$ è la divergenza KL di Bernoulli tra il tasso di disaccordo osservato ($1-A$) e il tasso di riferimento della posteriore del modello ($\bar{\eta}_p$).
   • $J_E$ è un residuo di Jensen (il disaccordo per esempio che si annulla nella media).
   • $\bar{\rho}_E$ è un residuo intra-cellula (disaccordo nascosto all'interno delle fibre della mappa di codice).

   Ciò produce il certificato: $d_{bin}(1 - A \parallel \bar{\eta}_p) \le \bar{\Delta}$. Quando $\bar{\Delta}$ e $\bar{\eta}_p$ sono controllati (ad esempio, tramite enumerazione esatta su una griglia finita o limiti di campionamento per importanza), la massa fuori diagonale è provabilmente vincolata.

Risultati Chiave
Il quadro è stato sottoposto ad audit su quattro dataset a bassa dimensionalità di sklearn (cifre, vino, cancro al seno, due lune) e su MNIST:

• Audit Esatti su Griglia Finita: Su quattro dataset con cinque semi ciascuno (20 coppie totali), il certificato KL di Bernoulli è stato soddisfatto in tutti i casi. Il limite non era vacuo, con il disaccordo osservato vincolato dal gap variazionale.
• Regime Auditato su MNIST: Utilizzando Autoencoder con Importanza Ponderata (IWAE) e Campionamento per Importanza Auto-Normalizzato (SNIS) per vincolare il gap, il quadro ha rilevato interferenza inter-codice. Per un Conv-VAE, il limite è stato rispettato con un margine di $\sim 160\times$ (dominato dal budget residuo e dalla lassità dell'IWAE).
• Limite VQ-VAE: Un VQ-VAE su MNIST ha raggiunto un Accordo sul Dizionario $\hat{A} = 1.000$ (10.000/10.000 di accordo esatto), raggiungendo il limite previsto di Livello 3 in cui il dizionario è un oggetto variazionale primitivo.
• Dinamiche: In un setting a orizzonte lungo (Setting 1-long), la geometria del canale ha mostrato un allineamento progressivo delle celle di Voronoi del codificatore e delle celle di Bregman del decodificatore nel corso di 200.000 epoche, con le diagnosi scalari ($A, I_{code}, R_{eff}$) che tracciavano tale allineamento.

Significato e Affermazioni
Il documento apporta un contributo modesto, incentrato sulla teoria:

1. Identificazione di un Vuoto: Identifica formalmente che le diagnosi standard dei VAE lasciano aperta la questione della coerenza tra codificatore e decodificatore. Dimostra che i riepiloghi marginali non possono rilevare la decodifica non corrispondente (Proposizione 4).
2. Nuova Unità Diagnostica: Fornisce il Canale di Codice Neurale ($K_{e \to d}$) e l'Accordo sul Dizionario ($A$) come un'unità di reporting portatile e pronta per l'audit. Questa unità è necessaria per qualsiasi compito a valle (clustering, recupero, interpretabilità) che tratta lo spazio latente come un codice discreto.
3. Limite Auditabile: Specializza la regola di catena KL classica per fornire un certificato KL di Bernoulli che vincola la probabilità di disaccordo tra codificatore e decodificatore utilizzando il gap variazionale. Ciò rende visibile e quantificabile la modalità di fallimento della "decodifica non corrispondente" all'interno di un singolo modello generativo profondo.
4. Ambito: Gli autori dichiarano esplicitamente di non rivendicare una generazione all'avanguardia, un teorema universale sulle dinamiche di addestramento, o che un alto accordo da solo dimostri simboli emergenti. L'affermazione è strettamente diagnostica: quando lo spazio latente di un VAE è trattato come un codice, il canale accoppiato è l'oggetto mancante, e il gap variazionale specifica quando il suo certificato di disaccordo è matematicamente autorizzato.

Il quadro riformula l'analisi dei VAE da "i codici sono usati?" a "i codici sono letti in modo coerente?", offrendo uno strumento rigoroso per rilevare incompatibilità strutturali che le metriche scalari ignorano.