Mutual Information Optimization via K-Recursion and Automatic Differentiation for Linear Gaussian Wireless Networks

Planteamiento del problema

El artículo aborda el desafío de optimizar la información mutua (MI, por sus siglas en inglés) de extremo a extremo en redes inalámbricas modeladas como grafos acíclicos dirigidos (DAG) gaussianos lineales. Los sistemas inalámbricos modernos —como los transceptores MIMO, los relés de múltiples saltos de amplificación y retransmisión (AF) y los canales asistidos por superficies inteligentes reconfigurables (RIS)— involucran transformaciones de señal en cascada, distribuidas y reconfigurables. Si bien la optimización de bloques individuales de forma aislada es común, la optimización conjunta de toda la red bajo restricciones globales (por ejemplo, potencia de transmisión total) ofrece un rendimiento superior.

Los enfoques existentes enfrentan limitaciones significativas:

• Las soluciones clásicas de forma cerrada (por ejemplo, water-filling, gradientes de Palomar–Verdú) se derivan problema por problema y no se generalizan a topologías DAG arbitrarias que involucren caminos de ramificación y fusión.
• Los estimadores de MI variacionales (por ejemplo, MINE, InfoNCE) se centran en la estimación más que en el diseño e introducen problemas de sesgo y varianza.
• Los marcos basados en puntuación (score-based) para DAG estocásticos generales requieren estimación de Monte Carlo y ajuste de puntuación de eliminación de ruido (denoising score matching), lo cual es computacionalmente pesado e innecesario para la clase gaussiana lineal analíticamente tratable.

El artículo busca un mecanismo agnóstico a la topología que se extienda a DAG gaussianos lineales arbitrarios y sea compatible con la diferenciación automática (AD) moderna, eliminando la necesidad de derivar nuevas fórmulas de gradiente para cada nueva estructura de red.

Metodología

Los autores proponen un marco unificado diferenciable que consta de tres componentes principales:

1. El modelo DAG Gaussiano Lineal
La red se abstrae como un DAG donde los nodos son vectores gaussianos complejos circulares y las aristas son transformaciones lineales. Cada matriz de arista se factoriza en parámetros controlables (por ejemplo, precodificadores, ganancias de relé, fases de RIS) y factores físicos constantes (por ejemplo, realizaciones de canales). El ruido gaussiano aditivo entra en cada nodo que no es la raíz.

2. K-Recursión (Paso hacia adelante)
La innovación analítica central es la K-recursión, una recursión de orden topológico que construye todas las covarianzas de pares de nodos ($K_{jk} = E[V_j V_k^H]$) como funciones diferenciables de los factores controlables.

• A diferencia de los enfoques estándar que solo rastrean las autocovarianzas ($K_{jj}$), la K-recursión computa explícitamente las covarianzas cruzadas entre nodos no adyacentes.
• Esto es crítico para manejar caminos de ramificación y fusión donde la señal de diferentes padres en un nodo de fusión está correlacionada.
• La recursión propaga estas covarianzas hacia adelante a través del DAG, produciendo una expresión de forma cerrada para la covarianza de salida ($\Sigma_Y$) y la covarianza condicional de salida ($\Sigma_{Y|X}$) mediante el complemento de Schur.

3. Computación de Gradiente Exacto y Optimización (Paso hacia atrás)

• Formulación de la Información Mutua: La MI se expresa en forma cerrada como un log-determinante: $I(X; Y) = \log \det \Sigma_Y - \log \det \Sigma_{Y|X}$.
• Diferenciación Automática: Debido a que la K-recursión consiste enteramente en primitivas matriciales diferenciables (productos, sumas, transpuestas hermitianas), el marco utiliza diferenciación automática de modo inverso de valores complejos. Esto computa el gradiente de Wirtinger exacto ($\nabla_{\Theta^*} I$) para cada factor controlable en un solo barrido hacia atrás, sin requerir la derivación manual de fórmulas de gradiente específicas para cada topología.
• Ascenso de Gradiente Proyectado (PGA): El marco emplea PGA para maximizar la MI bajo restricciones globales (por ejemplo, presupuestos de potencia de norma de Frobenius total). El gradiente se proyecta sobre el conjunto factible en cada iteración.

Contribuciones Clave

1. Modelo Unificado de DAG Gaussiano: Un formalismo que cubre enlaces MIMO de un solo enlace, relés de dos saltos (AF) y topologías de ramificación/fusión bajo una estructura común de factorización de aristas.
2. K-Recursión: Un método analítico para construir todas las covarianzas de pares de nodos (incluyendo las covarianzas cruzadas esenciales) en orden topológico, permitiendo la evaluación exacta de la MI para DAG generales.
3. Optimización Agnóstica a la Topología: Un flujo de trabajo donde la misma implementación se aplica a cualquier DAG gaussiano lineal. El gradiente exacto de la MI se obtiene mediante AD de modo inverso, eliminando la necesidad de derivaciones de gradiente por topología.
4. Moldeado de la Covarianza de Entrada: Un aumento de arista virtual que permite que la optimización de la covarianza de entrada sea subsumida en el mismo flujo de K-recursión + PGA, recuperando los resultados clásicos de capacidad de water-filling.

Resultados Numéricos

El marco fue validado en cuatro clases representativas de DAG y en una red compleja de múltiples capas utilizando un único código base sin modificaciones:

• MIMO de un solo enlace: El marco recuperó el óptimo de water-filling clásico con una precisión numérica ($\sim 10^{-5}$ de error relativo), sirviendo como una comprobación de corrección contra el gradiente de forma cerrada de Palomar–Verdú.
• DAG de Diamante (Ramificación/Fusión): En una topología con caminos de ramificación que convergen en la salida, el marco mejoró la MI en 2.27 nats respecto a una línea base uniforme. Los resultados resaltaron la necesidad de rastrear las covarianzas cruzadas ($K_{32}$) para un cálculo correcto de la MI.
• Relé AF de dos saltos: El marco optimizó las ganancias del relé, mejorando la MI en 0.26 nats sobre una línea base uniforme sin utilizar fórmulas de gradiente específicas para el relé.
• Arista Virtual (Moldeado de entrada): La optimización de la covarianza de entrada mediante una arista virtual produjo resultados idénticos al óptimo de water-filling, confirmando la equivalencia teórica.
• Red de múltiples capas (11 nodos, 5 capas): Para una topología compleja sin solución de forma cerrada conocida, el marco aumentó la MI de extremo a extremo de 4.56 a 9.28 nats (una mejora de 2.0$\times$). Logró descubrir una asignación de potencia no uniforme entre los relés bajo un presupuesto compartido, demostrando escalabilidad a topologías no triviales.

Significancia y Reivindicaciones

El artículo afirma que su principal significancia radica en proporcionar un mecanismo simple y agnóstico a la topología para la optimización de la MI que cierra la brecha entre las soluciones clásicas de forma cerrada y las herramientas modernas de aprendizaje profundo.

• Generalidad: Extiende el diseño basado en MI a DAG gaussianos lineales arbitrarios, una clase que incluye muchas arquitecturas inalámbricas prácticas pero que anteriormente era difícil de optimizar conjuntamente debido a la falta de fórmulas de gradiente generales.
• Exactitud: A diferencia de los estimadores variacionales, el método proporciona una evaluación de la MI exacta y gradientes exactos mediante construcción analítica y AD, evitando el sesgo y la varianza de los métodos basados en muestreo.
• Eficiencia: Al aprovechar la estructura del DAG, el método asegura que tanto la K-recursión hacia adelante como el barrido de AD hacia atrás estén bien definidos y sean eficientes (costando como máximo un pequeño múltiplo constante del paso hacia adelante).
• Practicidad: El marco no requiere la derivación manual de gradientes para nuevas topologías; una sola implementación maneja diversos escenarios, desde enlaces MIMO simples hasta redes compleas de múltiples saltos con ramificación y fusión.

Los autores concluyen que, si bien el método garantiza la convergencia a un punto estacionario KKT (debido a la no concavidad del objetivo), recupera efectivamente los óptimos conocidos en casos resolubles y descubre configuraciones de alto rendimiento en topologías complejas y previamente intratables. Se sugiere como trabajo futuro el estudio de objetivos estocásticos en canales con desvanecimiento y extensiones a elementos de red no lineales.