Lost and Found in Translation: Variational Diagnostics for Neural Codebook Channels

Resumo Técnico: Perdido e Encontrado na Tradução: Diagnósticos Variacionais para Canais de Código Neural

Declaração do Problema
Autoencoders Variacionais (VAEs) treinam um codificador $q_\phi(z|x)$ e um decodificador $p_\theta(x|z)$ conjuntamente, frequentemente tratando o espaço latente resultante como um código discreto para tarefas como agrupamento, geração condicional e interpretabilidade mecânica. No entanto, diagnósticos padrão de VAE — como ELBO, unidades ativas, informação mútua e histogramas marginais de código — apenas certificam se o espaço latente é utilizado. Eles falham em responder à questão acoplada: O decodificador interpreta uma região do espaço latente sob o mesmo código que o codificador usou para colocar massa ali?

Essa modalidade de falha, conhecida na teoria clássica da comunicação como decodificação incompatível, ocorre quando o transmissor (codificador) e o receptor (decodificador) utilizam livros de códigos operacionais incompatíveis. Diagnósticos existentes não conseguem detectar isso porque são quantidades marginais ou agregadas; eles não inspecionam o acoplamento entre o mapa de códigos do codificador e o mapa de leitura do decodificador. Consequentemente, um decodificador pode permutar regiões do codificador, fundir múltiplas regiões em uma, ou colapsar trivialmente em um único código, enquanto estatísticas marginais parecem saudáveis.

Metodologia
O artigo introduz um novo framework de diagnóstico centrado no Canal de Código Neural, denotado como $K_{e \to d}(j | i)$.

1. Mapas de Código Operacionais: O framework define mapas de código rígidos mensuráveis $c^*_{enc}: Z \to \{1, \dots, K\}$ e $c^*_{dec}: Z \to \{1, \dots, K\}$ para o codificador e o decodificador, respectivamente. Esses mapas induzem partições operacionais no espaço latente compartilhado $Z$.

   • Mapa do Codificador: Instanciado como uma regra de Voronoi com pesos aditivos derivada de um resumo de Modelo de Mistura Gaussiana (GMM) da posterior agregada.
   • Mapa do Decodificador: Instanciado como uma regra de Voronoi Bregman Tipo-1 no espaço de saída do decodificador, puxada de volta para o espaço latente.

2. O Objeto de Diagnóstico:

   • Tabela Conjunta: $P_{ed}(i, j) = \Pr[c^*_{enc}(Z)=i, c^*_{dec}(Z)=j]$ registra a distribuição conjunta dos rótulos do codificador e do decodificador.
   • Canal: $K_{e \to d}(j | i)$ é o canal normalizado por linha representando como os códigos do codificador são lidos pelo decodificador.
   • Acordo de Código ($A$): A massa diagonal do canal, $A = \sum_i P_{ed}(i, i)$, mede a probabilidade de que uma única amostra latente receba o mesmo rótulo tanto do codificador quanto do decodificador.
   • Taxa de Código Efetiva ($R_{eff}$): A informação mútua $I(C_{enc}; C_{dec})$.

3. Resultado de Impossibilidade Marginal:
   O artigo prova (Proposição 4) que diagnósticos escalares padrão (histogramas marginais, entropias, contagens de códigos ativos, informação mútua) são insuficientes para determinar o canal conjunto $K_{e \to d}$. Especificamente, para qualquer $K \ge 2$, existem dois canais acoplados com marginais e informação mútua idênticos, mas com acordo bruto oposto ($A=1$ vs. $A=0$). Isso estabelece que $K_{e \to d}$ é uma unidade de diagnóstico estritamente nova e não redundante.

4. Certificado de Auditoria Variacional:
   O artigo deriva um limite de auditoria unidimensional para a massa fora da diagonal (interferência inter-código, $1-A$) usando a lacuna variacional do VAE ($\bar{\Delta}$). Ao aplicar uma regra da cadeia de KL sob desagregação ao evento de discordância binária $E = \{c^*_{enc} \neq c^*_{dec}\}$, a lacuna variacional média decompõe-se como:
   $$\bar{\Delta} = d_{bin}(1 - A \parallel \bar{\eta}_p) + J_E + \bar{\rho}_E$$
   Onde:

   • $d_{bin}$ é a divergência KL Bernoulli entre a taxa de discordância observada ($1-A$) e a taxa de referência da posterior do modelo ($\bar{\eta}_p$).
   • $J_E$ é um resíduo de Jensen (discordância por exemplo que se cancela na média).
   • $\bar{\rho}_E$ é um resíduo dentro da célula (discordância oculta dentro das fibras do mapa de código).

   Isso produz o certificado: $d_{bin}(1 - A \parallel \bar{\eta}_p) \le \bar{\Delta}$. Quando $\bar{\Delta}$ e $\bar{\eta}_p$ são controlados (por exemplo, via enumeração exata em uma grade finita ou limites de amostragem por importância), a massa fora da diagonal é comprovadamente restringida.

Resultados Chave
O framework foi auditado em quatro conjuntos de dados de baixa dimensão do sklearn (dígitos, vinho, câncer de mama, duas luas) e MNIST:

• Auditorias Exatas em Grade Finita: Em quatro conjuntos de dados com cinco sementes cada (20 pares no total), o certificado KL-Bernoulli foi satisfeito em todos os casos. O limite foi não-vazio, com a discordância observada limitada pela lacuna variacional.
• Regime Auditado MNIST: Usando Autoencoders de Importância Ponderada (IWAE) e Amostragem por Importância Auto-Normalizada (SNIS) para limitar a lacuna, o framework detectou interferência inter-código. Para um Conv-VAE, o limite manteve-se com uma folga de $\sim 160\times$ (dominada pelo orçamento de resíduo e pela frouxidão do IWAE).
• Limite VQ-VAE: Um VQ-VAE no MNIST alcançou Acordo de Código $\hat{A} = 1.000$ (10.000/10.000 de acordo exato), atingindo o limite previsto do Nível 3 onde o livro de códigos é um objeto variacional primitivo.
• Dinâmica: Em um cenário de horizonte longo (Configuração 1-long), a geometria do canal mostrou alinhamento progressivo das células de Voronoi do codificador e das células Bregman do decodificador ao longo de 200.000 épocas, com diagnósticos escalares ($A, I_{code}, R_{eff}$) rastreando esse alinhamento.

Significado e Alegações
O artigo faz uma contribuição modesta, focada na teoria:

1. Identificação de uma Lacuna: Identifica formalmente que os diagnósticos padrão de VAE deixam em aberto a questão da consistência entre codificador e decodificador. Prova que resumos marginais não conseguem detectar decodificação incompatível (Proposição 4).
2. Nova Unidade de Diagnóstico: Fornece o Canal de Código Neural ($K_{e \to d}$) e o Acordo de Código ($A$) como uma unidade de relógio portátil e pronta para auditoria. Esta unidade é necessária para qualquer tarefa downstream (agrupamento, recuperação, interpretabilidade) que trate o espaço latente como um código discreto.
3. Limite Auditável: Especializa a regra da cadeia KL clássica para fornecer um certificado KL-Bernoulli que limita a probabilidade de discordância entre codificador e decodificador usando a lacuna variacional. Isso torna a modalidade de falha de "decodificação incompatível" visível e quantificável dentro de um único modelo generativo profundo.
4. Escopo: Os autores afirmam explicitamente que não reivindicam geração state-of-the-art, um teorema universal de dinâmica de treinamento, ou que alto acordo sozinho evidencia símbolos emergentes. A alegação é estritamente diagnóstica: quando um espaço latente de VAE é tratado como um código, o canal acoplado é o objeto faltante, e a lacuna variacional especifica quando seu certificado de incompatibilidade é matematicamente licenciado.

O framework reestrutura a análise de VAE de "os códigos são usados?" para "os códigos são lidos consistentemente?", oferecendo uma ferramenta rigorosa para detectar incompatibilidades estruturais que métricas escalares ignoram.