Capacity of Uniform Noise Channels Under Average Input Power Constraints

Resumo Técnico: Capacidade de Canais de Ruído Uniforme sob Restrições de Potência Média de Entrada

Enunciado do Problema
Este artigo aborda um problema de longa data em teoria da informação referente à capacidade de um canal de ruído aditivo $Y = X + Z$, onde o ruído $Z$ segue uma distribuição uniforme em um intervalo centrado $[-v, v)$, sujeito a uma restrição de potência média de entrada $E[X^2] \le u$. Embora o trabalho fundamental de Shannon tenha estabelecido a capacidade para ruído Gaussiano, e pesquisas subsequentes tenham resolvido o caso para ruído uniforme sob restrições de amplitude ($|X| \le u$), a capacidade sob restrições de potência média para ruído uniforme permaneceu sem solução. Os limites existentes para canais aditivos gerais não são precisos neste cenário, e técnicas analíticas padrão que dependem da regularidade do ruído (por exemplo, positividade da cauda, analiticidade) falham porque a distribuição uniforme carece dessas propriedades.

Metodologia
A inovação metodológica central é a identificação e exploração de uma identidade de periodização específica para a densidade de saída de um canal de ruído uniforme. Os autores observam que, para qualquer entrada $X$ independente de $Z \sim \text{Unif}([-v, v))$, a periodização da densidade de saída $f_Y$ em relação à rede $\Lambda_v = 2v\mathbb{Z}$ é constante. Especificamente:
$$\sum_{k \in \mathbb{Z}} f_Y(s + 2kv) = \frac{1}{2v}, \quad \forall s \in [-v, v).$$
Isso implica que a saída módulo $2v$ é uniformemente distribuída, independentemente da distribuição de entrada.

Esta observação transforma o problema de maximização da informação mútua (que é equivalente a maximizar a entropia diferencial da saída $h(Y)$ sujeita a uma restrição de segundo momento) em um problema de otimização com uma restrição de igualdade linear na densidade periodizada. Os autores utilizam técnicas de análise de Fourier, especificamente a soma de Poisson, para analisar a função $\Theta_{\lambda, v}(s)$, definida como uma soma de núcleos Gaussianos sobre a rede. Eles definem uma função $Q_v(\lambda)$ representando o segundo momento de uma distribuição específica derivada de $\Theta_{\lambda, v}$ e provam sua monotonicidade estrita para estabelecer um mapeamento único entre a restrição de potência e um multiplicador de Lagrange $\lambda$.

Contribuições Principais e Resultados
O artigo fornece uma caracterização explícita e em forma fechada da capacidade do canal e das distribuições únicas que a alcançam:

1. Expressão da Capacidade: A capacidade $C(u, v)$ é dada por:
   $$C(u, v) = \lambda(u + v^2/3) + \frac{1}{2v} \int_{-v}^{v} \log(\Theta_{\lambda, v}(s)) \, ds$$
   onde $\lambda = \lambda(u, v)$ é a solução positiva única de $Q_v(\lambda) = u + v^2/3$.

2. Distribuição de Saída: A densidade de saída única que alcança a capacidade $g_{\lambda, v}(y)$ é absolutamente contínua e assume a forma:
   $$g_{\lambda, v}(y) = \frac{\exp(-\lambda y^2)}{2v \Theta_{\lambda, v}([y]_v)}$$
   onde $[y]_v$ denota o resíduo de $y$ módulo $2v$ em $[-v, v)$.

3. Distribuição de Entrada: O artigo deriva a densidade de entrada única que alcança a capacidade, $f_X$, que também é absolutamente contínua (contrastando com as distribuições discretas frequentemente encontradas sob restrições de amplitude); a densidade é expressa como uma série envolvendo os parâmetros da distribuição de saída.

4. Regularidade: Os autores provam que tanto a distribuição de entrada quanto a de saída ideais são absolutamente contínuas em relação à medida de Lebesgue, resolvendo questões sobre a natureza estrutural da entrada ótima para este tipo específico de ruído.

Significância
O artigo afirma resolver a questão específica de determinar a capacidade e as distribuições ótimas para ruído uniforme sob restrições de potência média, um problema explicitamente rotulado como em aberto na literatura anterior. A significância reside em:

• Caracterização Exata: Fornecer expressões analíticas precisas para a capacidade e as distribuições, em vez de depender de limites vagos.
• Insight Estrutural: Demonstrar que a entrada ótima é absolutamente contínua, distinguindo-se das soluções discretas encontradas em cenários de restrição de amplitude.
• Avanço Metodológico: Introduzir uma identidade de periodização que permite a aplicação de técnicas de análise de Fourier a uma distribuição de ruído (uniforme) que tipicamente resiste a tal análise devido à sua falta de suavidade e propriedades de cauda.
• Relevância Contextual: Embora as densidades resultantes pareçam visualmente semelhantes às Gaussianas (consistente com limites conhecidos que afirmam que entradas Gaussianas estão a dentro de 0,254 bits da capacidade para ruído log-côncavo), o artigo enfatiza a importância de identificar as densidades não Gaussianas precisas que alcançam a capacidade.

Os autores observam que essas distribuições específicas parecem ser únicas para este problema e não surgem naturalmente em outras áreas da teoria da probabilidade. O trabalho é apresentado como um passo em direção a uma compreensão quantitativa mais ampla de canais aditivos, embora os autores reconheçam que uma teoria geral para todas as distribuições de ruído simétricas log-côncavas permanece uma questão aberta.