Capacity of Uniform Noise Channels Under Average Input Power Constraints

技术摘要：平均输入功率约束下均匀噪声信道的容量

问题陈述
本文解决了信息论中一个长期存在的开放性问题，即在加性噪声信道 $Y = X + Z$ 下的信道容量问题，其中噪声 $Z$ 服从以原点为中心的区间 $[-v, v)$ 上的均匀分布，且受限于平均输入功率约束 $E[X^2] \le u$。虽然香农的基础工作已经确立了高斯噪声下的容量，且后续研究解决了幅度约束（$|X| \le u$）下的均匀噪声容量问题，但均匀噪声在平均功率约束下的容量问题仍未得到解决。现有的针对一般加性信道的界限在该设定下并不精确，且依赖于噪声正则性（如尾部正定性和解析性）的标准分析技术由于均匀分布缺乏这些特性而无法适用。

方法论
核心的方法论创新在于识别并利用了均匀噪声信道输出密度的特定周期化恒等式（periodization identity）。作者观察到，对于任何独立于 $Z \sim \text{Unif}([-v, v))$ 的输入 $X$，输出密度 $f_Y$ 关于格点 $\Lambda_v = 2v\mathbb{Z}$ 的周期化是常数。具体而言：
$$\sum_{k \in \mathbb{Z}} f_Y(s + 2kv) = \frac{1}{2v}, \quad \forall s \in [-v, v).$$
这表明，输出对模 $2v$ 的结果是均匀分布的，无论输入分布如何。

这一观察将互信息最大化问题（等价于在二阶矩约束下最大化输出微分熵 $h(Y)$）转化为一个带有关于周期化密度线性等式约束的约束优化问题。作者利用傅里叶分析技术，特别是泊松求和公式（Poisson summation），来分析由一系列高斯核在格点上求和构成的函数 $\Theta_{\lambda, v}(s)$。他们定义了一个函数 $Q_v(\lambda)$，代表从 $\Theta_{\lambda, v}$ 导出的特定分布的二阶矩，并通过证明其严格单调性，建立了功率约束与拉格朗日乘子 $\lambda$ 之间的唯一映射。

主要贡献与结果
本文提供了信道容量以及唯一容量达到分布的显式、闭式表征：

1. 容量表达式： 容量 $C(u, v)$ 由下式给出：
   $$C(u, v) = \lambda(u + v^2/3) + \frac{1}{2v} \int_{-v}^{v} \log(\Theta_{\lambda, v}(s)) \, ds$$
   其中 $\lambda = \lambda(u, v)$ 是满足 $Q_v(\lambda) = u + v^2/3$ 的唯一正解。

2. 输出分布： 唯一的容量达到输出密度 $g_{\lambda, v}(y)$ 是绝对连续的，其形式为：
   $$g_{\lambda, v}(y) = \frac{\exp(-\lambda y^2)}{2v \Theta_{\lambda, v}([y]_v)}$$
   其中 $[y]_v$ 表示 $y$ 对模 $2v$ 在 $[-v, v)$ 中的余数。

3. 输入分布： 本文推导了唯一的容量达到输入密度 $f_X$，该密度也是绝对连续的（这与幅度约束下常见的离散分布形成对比）。该密度通过涉及输出分布参数的级数进行表达。

4. 正则性： 作者证明了最优输入和输出分布对于勒贝格测度都是绝对连续的，从而解决了关于此类特定噪声类型下最优输入的结构性质的问题。

意义
本文声称解决了确定均匀噪声在平均功率约束下容量及最优分布的具体问题，该问题在先前的文献中被明确标记为开放问题。其意义在于：

• 精确表征： 提供了精确的解析表达式而非仅仅是松散的界限，用于描述容量和分布。
• 结构洞察： 证明了最优输入是绝对连续的，这与幅度约束场景下的离散解有所区别。
• 方法论进步： 通过引入周期化恒等式，使得能够对一种通常难以进行此类分析（由于缺乏平滑性和尾部属性）的噪声分布（均匀分布）应用傅里叶分析技术。
• 上下文相关性： 虽然所得密度在视觉上呈现出类高斯特征（符合已知界限，即高斯输入与对数凹噪声容量的差距在 0.254 bit 以内），但本文强调了识别实现容量的精确非高斯密度的重要性。

作者指出，这些特定的分布似乎是该问题所特有的，并不自然地出现在概率论的其他领域。这项工作被视为迈向更广泛地定量理解加性信道的一步，尽管作者也承认，针对所有对称对数凹噪声分布的通用理论仍然是一个开放性问题。