Lost and Found in Translation: Variational Diagnostics for Neural Codebook Channels

Resumen Técnico: Perdido y Encontrado en la Traducción: Diagnósticos Variacionales para Canales de Libros de Códigos Neuronales

Enunciado del Problema
Los Autoencoders Variacionales (VAE) entrenan un codificador $q_\phi(z|x)$ y un decodificador $p_\theta(x|z)$ conjuntamente, a menudo tratando el espacio latente resultante como un código discreto para tareas como agrupamiento, generación condicional e interpretabilidad mecánica. Sin embargo, los diagnósticos estándar de VAE, como ELBO, unidades activas, información mutua e histogramas marginales de códigos, solo certifican si el espacio latente es utilizado. No logran responder la pregunta acoplada: ¿Interpreta el decodificador una región del espacio latente bajo el mismo código que el codificador utilizó para colocar la masa allí?

Este modo de fallo, conocido en la teoría clásica de la comunicación como decodificación desajustada, ocurre cuando el transmisor (codificador) y el receptor (decodificador) utilizan libros de códigos operativos incompatibles. Los diagnósticos existentes no pueden detectar esto porque son cantidades marginales o agregadas; no inspeccionan el acoplamiento entre el mapa de códigos del codificador y el mapa de lectura del decodificador. En consecuencia, un decodificador puede permutar regiones del codificador, fusionar múltiples regiones en una, o colapsar trivialmente en un único código, mientras que las estadísticas marginales parecen saludables.

Metodología
El artículo introduce un nuevo marco diagnóstico centrado en el Canal de Libro de Códigos Neuronal, denotado como $K_{e \to d}(j | i)$.

1. Mapas de Códigos Operativos: El marco define mapas de códigos duros medibles $c^*_{enc}: Z \to \{1, \dots, K\}$ y $c^*_{dec}: Z \to \{1, \dots, K\}$ para el codificador y el decodificador, respectivamente. Estos mapas inducen particiones operativas en el espacio latente compartido $Z$.

   • Mapa del Codificador: Instanciado como una regla de Voronoi ponderada aditivamente derivada de un resumen de Modelo de Mezcla Gaussiana (GMM) de la posterior agregada.
   • Mapa del Decodificador: Instanciado como una regla de Voronoi de Bregman de Tipo 1 en el espacio de salida del decodificador, retrotraída al espacio latente.

2. El Objeto Diagnóstico:

   • Tabla Conjunta: $P_{ed}(i, j) = \Pr[c^*_{enc}(Z)=i, c^*_{dec}(Z)=j]$ registra la distribución conjunta de las etiquetas del codificador y del decodificador.
   • Canal: $K_{e \to d}(j | i)$ es el canal normalizado por filas que representa cómo los códigos del codificador son leídos por el decodificador.
   • Acuerdo de Libro de Códigos ($A$): La masa diagonal del canal, $A = \sum_i P_{ed}(i, i)$, mide la probabilidad de que una sola extracción latente reciba la misma etiqueta tanto del codificador como del decodificador.
   • Tasa de Código Efectiva ($R_{eff}$): La información mutua $I(C_{enc}; C_{dec})$.

3. Resultado de Imposibilidad Marginal:
   El artículo demuestra (Proposición 4) que los diagnósticos escalares estándar (histogramas marginales, entropías, conteos de códigos activos, información mutua) son insuficientes para determinar el canal conjunto $K_{e \to d}$. Específicamente, para cualquier $K \ge 2$, existen dos canales acoplados con marginales e información mutua idénticas pero acuerdo en bruto opuesto ($A=1$ vs. $A=0$). Esto establece que $K_{e \to d}$ es una unidad diagnóstica estrictamente nueva y no redundante.

4. Certificado de Auditoría Variacional:
   El artículo deriva un límite de auditoría unidimensional para la masa fuera de la diagonal (interferencia inter-código, $1-A$) utilizando la brecha variacional del VAE ($\bar{\Delta}$). Al aplicar una regla de la cadena de KL bajo desintegración al evento binario de desacuerdo $E = \{c^*_{enc} \neq c^*_{dec}\}$, la brecha variacional promedio se descompone como:
   $$\bar{\Delta} = d_{bin}(1 - A \parallel \bar{\eta}_p) + J_E + \bar{\rho}_E$$
   Donde:

   • $d_{bin}$ es la divergencia Bernoulli-KL entre la tasa de desacuerdo observada ($1-A$) y la tasa de referencia de la posterior del modelo ($\bar{\eta}_p$).
   • $J_E$ es un residuo de Jensen (desacuerdo por ejemplo que se cancela en el promedio).
   • $\bar{\rho}_E$ es un residuo dentro de la celda (desacuerdo oculto dentro de las fibras del mapa de códigos).

   Esto produce el certificado: $d_{bin}(1 - A \parallel \bar{\eta}_p) \le \bar{\Delta}$. Cuando $\bar{\Delta}$ y $\bar{\eta}_p$ están controlados (por ejemplo, mediante enumeración exacta en una cuadrícula finita o límites de muestreo por importancia), la masa fuera de la diagonal está acotada demostrablemente.

Resultados Clave
El marco fue auditado en cuatro conjuntos de datos de baja dimensión de sklearn (dígitos, vino, cáncer de mama, dos lunas) y MNIST:

• Auditorías Exactas en Cuadrícula Finita: En cuatro conjuntos de datos con cinco semillas cada uno (20 pares en total), el certificado Bernoulli-KL se cumplió en todos los casos. El límite fue no vacío, con el desacuerdo observado acotado por la brecha variacional.
• Régimen Auditado en MNIST: Utilizando Autoencoders Variacionales Ponderados por Importancia (IWAE) y Muestreo por Importancia Auto-Normalizado (SNIS) para acotar la brecha, el marco detectó interferencia inter-código. Para un Conv-VAE, el límite se mantuvo con una holgura de $\sim 160\times$ (dominada por el presupuesto residual y la laxitud de IWAE).
• Límite de VQ-VAE: Un VQ-VAE en MNIST logró un Acuerdo de Libro de Códigos $\hat{A} = 1.000$ (10,000/10,000 de acuerdo exacto), alcanzando el límite predicho de Nivel-3 donde el libro de códigos es un objeto variacional primitivo.
• Dinámicas: En un escenario de horizonte largo (Configuración 1-largo), la geometría del canal mostró una alineación progresiva de las celdas de Voronoi del codificador y las celdas de Bregman del decodificador a lo largo de 200,000 épocas, con diagnósticos escalares ($A, I_{code}, R_{eff}$) rastreando esta alineación.

Significado y Afirmaciones
El artículo hace una contribución modesta, primero teórica:

1. Identificación de una Brecha: Identifica formalmente que los diagnósticos estándar de VAE dejan abierta la pregunta de la consistencia codificador-decodificador. Demuestra que los resúmenes marginales no pueden detectar la decodificación desajustada (Proposición 4).
2. Nueva Unidad Diagnóstica: Proporciona el Canal de Libro de Códigos Neuronal ($K_{e \to d}$) y el Acuerdo de Libro de Códigos ($A$) como una unidad de reporte portátil y lista para auditoría. Esta unidad es necesaria para cualquier tarea posterior (agrupamiento, recuperación, interpretabilidad) que trate el espacio latente como un código discreto.
3. Límite Auditables: Especializa la regla de la cadena clásica de KL para proporcionar un certificado Bernoulli-KL que acota la probabilidad de desacuerdo codificador-decodificador utilizando la brecha variacional. Esto hace que el modo de fallo de "decodificación desajustada" sea visible y cuantificable dentro de un único modelo generativo profundo.
4. Alcance: Los autores declaran explícitamente que no afirman generación de última generación, un teorema universal de dinámicas de entrenamiento, o que un alto acuerdo por sí solo evidencia símbolos emergentes. La afirmación es estrictamente diagnóstica: cuando el espacio latente de un VAE se trata como un código, el canal acoplado es el objeto faltante, y la brecha variacional especifica cuándo su certificado de desajuste está matemáticamente licenciado.

El marco reformula el análisis de VAE de "¿se usan los códigos?" a "¿se leen los códigos consistentemente?", ofreciendo una herramienta rigurosa para detectar incompatibilidades estructurales que las métricas escalares pasan por alto.