Entropic additive energy and entropy inequalities for sums and products

技术摘要：关于和与积的熵增性加性能量与熵不等式

问题陈述
本研究旨在将加性组合数学扩展到信息论领域，重点研究如何通过微分熵将和集（sumset）不等式从离散集合转化为连续随机变量。虽然集合基数与熵之间的对应关系在离散变量中已得到充分确立（例如 Ruzsa, Tao），但将这些结果扩展到连续变量面临着显著的技术障碍。主要的障碍在于微分熵设定下“函数次模性”（functional submodularity）的失效，而这一性质在离散熵的证明中被广泛依赖。此外，本文还研究了离散随机变量中熵的 Erdős–Szemerédi 和-积现象以及“大倍增”（large doubling）的稳定性。

方法论
作者采用了一种避开无效的微分熵函数次模性的策略，转而利用互信息的数据处理不等式（data processing inequality）。这种方法使得推导出的连续版本离散界限通常比离散界限更强或更精确。

关键方法组成部分包括：

1. 定义连续加性能量： 本文引入了连续随机变量的加性能量 $a(X, Y)$，定义为 $a(X, Y) = 2h(X, Y) - h(X + Y)$。这作为一种连续的加性结构度量，类比于组合中的加性能量 $E(A, B)$。
2. 乘法熵框架： 为了处理乘积，作者利用了群 $(\mathbb{R}^\times, \cdot)$ 上的乘法熵概念，将其通过 $\log|X|$ 的期望值与标准微分熵联系起来。这有助于推导 Ruzsa 型不等式的乘法类比。
3. 归纳论证： 对于和-积组合，作者结合数据处理不等式使用归纳证明，以建立通用的环 Plünnecke–Ruzsa 不等式。
4. 反例与稳定性分析： 在离散设定中，本文利用特定的概率构造（例如在 Sidon 集或特定整数集上的均匀分布）来表征熵倍增的极限，并测试熵和-积猜想的有效性。

主要贡献与结果

• 加性能量与微分熵：
  作者确立了在变量弱相关的前提下，较大的加性能量 $a(X, Y)$ 意味着较小的和的微分熵 $h(X+Y)$，反之亦然。他们证明了 $a(X, Y) \ge \frac{3}{2}h(X) + \frac{3}{2}h(Y) - \log C$ 等价于 $h(X+Y) \le \frac{1}{2}h(X) + \frac{1}{2}h(Y) + \log C - 2I(X;Y)$。

• 微分熵的 Balog–Szemerédi–Gowers (BSG) 定理：
  本文证明了适用于连续变量的 BSG 定理版本。结果表明，如果加性能量 $a(X, Y)$ 足够大，则存在一个条件变量（具体为和 $X+Y$），使得条件熵 $h(X|X+Y)$ 和 $h(Y|X+Y)$ 保持接近原始熵，同时条件独立副本之和的条件熵 $h(X_1 + Y_2 | X+Y)$ 较小。该证明依赖于数据处理性质而非次模性。

• 离散大熵倍增的稳定性：
  回到离散情况，本文表征了具有“大倍增”（即 $H(X+X')$ 接近其最大值 $2H(X)$）的随机变量。研究表明，此类变量必然支撑在 Sidon 集（所有两两之和均唯一的集合）上。文中提供了一个稳定性结果：如果倍增常数接近理论上限，则该随机变量集中在 Sidon 集上。论文同时指出，这一结果要求随机变量具有有限支撑或严格的正最小概率质量。

• 乘法与和-积不等式：
  作者推导了 Ruzsa 三角不等式和 Plünnecke–Ruzsa 不等式的乘法类比。随后，这些工具被用于证明通用的环 Plünnecke–Ruzsa 熵不等式。对于独立同分布（i.i.d.）的连续变量，这为和的乘积（例如 $\sum \prod X_{ij}$）的熵提供了基于边缘熵和倍增常数的上界。

• 熵 Erdős–Szemerédi 和-积现象：
  本文研究了整数值随机变量是否满足熵形式的 Erdős–Szemerédi 定理（即 $\max\{H(X+X'), H(XX')\}$ 是否必须显著大于 $H(X)$）。通过涉及均匀分布混合型的显式反例，作者表明，如果此类现象成立，则参数范围（特别是指数 $\epsilon$）必须比组合情形受到更严格的限制。具体而言，他们证明了该猜想对于任何 $\epsilon > 1/3$ 都不成立，这与组合情形中 $\epsilon$ 趋近于 1 的情况形成了对比。

意义
本文声称其意义主要在于建立了一个严谨的微分熵不等式框架，该框架在平行于加性组合数学的同时，避免了在连续域中失效的性质（函数次模性）。通过引入连续加性能量并证明微分熵版本的 BSG 定理，这项工作弥合了离散信息论与连续信息论之间的鸿沟。此外，通用环 Plünnecke–Ruzsa 不等式的推导为分析复杂和-积组合的熵提供了新工具。最后，关于熵和-积现象的负面结果划定了组合直觉可以延伸到熵的精确边界，表明与集合论设定相比，“和-积”权衡在概率设定中有着本质的不同。