Mutual Information Optimization via K-Recursion and Automatic Differentiation for Linear Gaussian Wireless Networks

Definição do Problema

O artigo aborda o desafio de otimizar a informação mútua (IM) de ponta a ponta em redes sem fio modeladas como grafos acíclicos direcionados (DAGs) gaussianos lineares. Sistemas sem fio modernos — como transceptores MIMO, relés de múltiplos saltos do tipo amplifica-e-encaminha (AF) e canais auxiliados por superfícies inteligentes reconfiguráveis (RIS) — envolvem transformações de sinal em cascata, distribuídas e reconfiguráveis. Embora a otimização de blocos individuais isoladamente seja comum, a otimização conjunta de toda a rede sob restrições globais (ex: potência de transmissão total) oferece um desempenho superior.

As abordagens existentes enfrentam limitações significativas:

• Soluções clássicas de forma fechada (ex: water-filling, gradientes de Palomar–Verdú) são derivadas problema por problema e não se generalizam para topologias arbitrárias de DAGs que envolvem caminhos de ramificação e fusão.
• Estimadores de IM variacionais (ex: MINE, InfoNCE) focam na estimativa em vez do design e introduzem problemas de viés e variância.
• Estruturas baseadas em score para DAGs estocásticos gerais exigem estimativa de Monte Carlo e correspondência de score de denoising (denoising score matching), que são computacionalmente pesadas e desnecessárias para a classe gaussiana linear analiticamente tratável.

O artigo busca um mecanismo agnóstico à topologia que se estenda a quaisquer DAGs gaussianos lineares e seja compatível com a diferenciação automática (AD) moderna, eliminando a necessidade de derivar novas fórmulas de gradiente para cada nova estrutura de rede.

Metodologia

Os autores propõem uma estrutura diferenciável unificada composta por três componentes principais:

1. O Modelo DAG Gaussiano Linear
A rede é abstraída como um DAG onde os nós são vetores gaussianos circulares complexos e as arestas são transformações lineares. Cada matriz de aresta é fatorizada em parâmetros controláveis (ex: precoders, ganhos de relé, fases de RIS) e fatores físicos constantes (ex: realizações de canal). Ruído gaussiano aditivo entra em cada nó que não seja a raiz.

2. K-Recursão (Passagem para Frente / Forward Pass)
A inovação analítica central é a K-recursão, uma recursão de ordem topológica que constrói todas as covariâncias entre pares de nós ($K_{jk} = E[V_j V_k^H]$) como funções diferenciáveis dos fatores controláveis.

• Diferente das abordagens padrão que rastreiam apenas autocovariâncias ($K_{jj}$), a K-recursão computa explicitamente as cocovariâncias entre nós não adjacentes.
• Isso é crítico para lidar com caminhos de ramificação e fusão, onde o sinal de diferentes pais em um nó de fusão torna-se correlacionado.
• A recursão propaga essas covariâncias para frente através do DAG, gerando uma expressão de forma fechada para a covariância de saída ($\Sigma_Y$) e a covariância condicional de saída ($\Sigma_{Y|X}$) via complemento de Schur.

3. Computação de Gradiente Exato e Otimização (Passagem para Trás / Backward Pass)

• Formulação da Informação Mútua: A IM é expressa em forma fechada como um log-determinante: $I(X; Y) = \log \det \Sigma_Y - \log \det \Sigma_{Y|X}$.
• Diferenciação Automática: Como a K-recursão consiste inteiramente em primitivas matriciais diferenciáveis (produtos, somas, transpostas hermitianas), a estrutura utiliza diferenciação automática de modo reverso de valores complexos. Isso computa o gradiente de Wirtinger exato ($\nabla_{\Theta^*} I$) para cada fator controlável em uma única passagem reversa, sem a necessidade de derivar manualmente fórmulas de gradiente específicas para cada topologia.
• Gradiente Projetado (PGA): A estrutura emprega PGA para maximizar a IM sob restrições globais (ex: orçamentos de potência de norma de Frobenius total). O gradiente é projetado no conjunto viável em cada iteração.

Principais Contribuições

1. Modelo Unificado de DAG Gaussiano: Uma formalização que cobre MIMO de link único, relés de múltiplos saltos e topologias de ramificação/fusão sob uma estrutura comum de fatoração de aresta.
2. K-Recursão: Um método analítico para construir todas as covariâncias de pares de nós (incluindo cocovariâncias essenciais) em ordem topológica, permitindo a avaliação exata da IM para DAGs gerais.
3. Otimização Agnóstica à Topologia: Um pipeline onde a mesma implementação se aplica a qualquer DAG gaussiano linear. O gradiente exato da IM é obtido via AD de modo reverso, removendo a necessidade de derivações de gradiente por topologia.
4. Modelagem de Covariância de Entrada (Input Covariance Shaping): Uma expansão de aresta virtual que permite que a otimização da covariância de entrada seja subsumida no mesmo pipeline de K-recursão + PGA, recuperando os resultados clássicos de capacidade de water-filling.

Resultados Numéricos

A estrutura foi validada em quatro classes representativas de DAGs e uma rede multicamada complexa usando um único código base inalterado:

• MIMO de Link Único: A estrutura recuperou o ótimo de water-filling clássico com precisão numérica ($\sim 10^{-5}$ de erro relativo), servindo como uma verificação de correção contra o gradiente de forma fechada de Palomar–Verdú.
• DAG Diamante (Ramificação/Fusão): Em uma topologia com caminhos de ramificação que convergem no output, a estrutura melhorou a IM em 2,27 nats em relação a uma linha de base uniforme. Os resultados destacaram a necessidade de rastrear as cocovariâncias ($K_{32}$) para o cálculo correto da IM.
• Relé AF de Dois Saltos: A estrutura otimizou os ganhos do relé, melhorando a IM em 0,26 nats em relação a uma linha de base uniforme sem utilizar fórmulas de gradiente específicas para o relé.
• Aresta Virtual (Modelagem de Entrada): A otimização da covariência de entrada via uma aresta virtual produziu resultados idênticos ao ótimo de water-filling, confirmando a equivalência teórica.
• Rede Multicamada (11 nós, 5 camadas): Para uma topologia complexa sem solução de forma fechada conhecida, a estrutura aumentou a IM de ponta a ponta de 4,56 para 9,28 nats (uma melhoria de 2,0$\times$). Ela descobriu com sucesso uma alocação de potência não uniforme entre os relés sob um orçamento compartilhado, demonstrando escalabilidade para topologias não triviais.

Significância e Alegações

O artigo alega que sua principal significância reside em fornecer um mecanismo simples e agnóstico à topologia para a otimização de IM que preenche a lacuna entre soluções clássicas de forma fechada e ferramentas modernas de aprendizado profundo.

• Generalidade: Estende o design baseado em IM para quaisquer DAGs gaussianos lineares, uma classe que inclui muitas arquiteturas práticas de comunicação sem fio, mas que era anteriormente difícil de otimizar conjuntamente devido à falta de fórmulas de gradiente gerais.
• Exatidão: Ao contrário dos estimadores variacionais, o método fornece avaliação exata de IM e gradientes exatos via construção analítica e AD, evitando o viés e a variância de métodos baseados em amostragem.
• Eficiência: Ao aproveitar a estrutura de DAG, o método garante que a K-recursão direta e a varredura AD reversa sejam ambas bem definidas e eficientes (custando no máximo um pequeno múltiplo constante da passagem direta).
• Praticidade: A estrutura não requer derivação manual de gradiente para novas topologias; uma única implementação lida com diversos cenários, desde links MIMO simples até redes complexas de múltiplos saltos com ramificação e fusão.

Os autores concluem que, embora o método garanta a convergência para um ponto estacionário KKT (devido à não concavidade do objetivo), ele recupera efetivamente os ótimos conhecidos em casos solucionáveis e descobre configurações de alto desempenho em topologias complexas e anteriormente intratáveis. Sugere-se como trabalho futuro a aplicação para objetivos estocásticos em canais com fading e extensões para elementos de rede não lineares.