A reverse entropy power inequality for i.i.d. log-concave random variables

技術要約：i.i.d. 対数凹型確率変数に関する逆エントロピー冪不等式

問題提起
本論文は、独立かつ同一の分布に従う（i.i.d.）対数凹型確率変数に対する「逆」エントロピー冪不等式（EPI）を確立する問題に取り組んでいる。古典的なEPI（シャノン＝スタム）は、独立な確率ベクトルに対して $e^{2h(X+Y)/d} \geq e^{2h(X)/d} + e^{2h(Y)/d}$ が成立し、ガウス分布の場合に等号となることを示しているが、追加の制約がない限り、逆方向は一般に成立しない。BobkovとMadimanによる先行研究では、線形体積保存写像の下で対数凹型ベクトルに対する逆EPIを確立したが、定数倍の損失が生じていた。

著者らは、i.i.d. 対数凹型確率変数の特定のケース（線形写像は不要）に焦点を当て、エントロピー増分 $h(X+Y) - h(X)$ の最大化を調査している。具体的には、エントロキシ・オーダー $p=\infty$ のレニー・エントロピー $h_\infty(X) = -\log \|f\|_\infty$ （ここで $f$ は確率密度関数）における予想 1.1（伝承によるもの）に対処している。この予想は、i.i.d. 対数凹型ベクトルにおいて、エントロピー増分は変数が指数分布に従うときに最大化されるというものである。

手法
著者らは、凸幾何学と関数解析の古典的なツールを組み合わせて用いている：

1. 減少再配置（Decreasing Rearrangement）： 関数 $f$ の減少再配置 $f^\downarrow$ を利用する。関数 $f$ が対数凹型であれば、その再配置 $f^\downarrow$ もまた対数凹型かつ単峰型であるという重要な性質を確立している。
2. メジャー化理論（Majorization Theory）： 関数（または離散的な場合の数列）の間のメジャー化の概念を用いる。彼らは、対数凹型変数の和の密度が、一致する $h_\infty$ を持つ指数型変数の和の密度をメジャー化することを確立している。
3. 測度の変換（トランスポート）： 対数凹型変数 $Y$ を、$h_\infty$ の値を保持しつつ指数型変数 $W$ へと変換するトランスポート写像 $\phi$ を構築する。この写像は凸であり、かつ拡大的（$\phi' \geq 1$）であることが示されており、これにより畳み込み密度の比較が可能となる。
4. 逆リッツ再配置（Reverse Riesz Rearrangement）： 著者らは、リッツの再配置不等式の逆（補題 3.5）を証明し、単峰型関数の場合、$\|f * g\|_\infty \geq \|f^\downarrow * g^\downarrow\|_\infty$ となることを示している。これは、再配置された関数の畳み込みが、元の畳み込みよりも集中度が低い（ピークが低い）ことを意味する。

主な貢献と結果

• 主要定理（定理 1.2 および 3.4）： 独立な実数値対数凹型確率変数 $X$ と $Y$ について、$Z$ と $W$ を、$h_\infty(Z) = h_\infty(X)$ および $h_\infty(W) = h_\infty(Y)$ を満たす独立な指数型確率変数とする。著者らは以下を証明している：
  $$h_\infty(X + Y) \leq h_\infty(Z + W)$$
  i.i.d. の場合、これは鋭い境界を与え、次式となる：
  $$h_\infty(X + Y) \leq h_\infty(X) + 1$$
  これは、$p=\infty$ のエントロピー増分に関する予想 1.1 を確認するものである。

• 離散版（定理 4.3）： 整数値の単調対数凹型確率変数へとこれらの結果を拡張する。このような i.i.d. 変数 $X$ と $Y$ に対して、以下が成り立つことを証明している：
  $$H_\infty(X + Y) < H_\infty(X) + 1$$
  ここで $H_\infty$ は離散レニー・エントロピー（次数 $\infty$）である。この不等式は厳密であり、幾何分布によってタイト（近似可能）である。

• 中間結果：

  • 命題 3.1： $\mathbb{R}^d$ における i.i.d. 対数凹型ベクトルの二次のレニー・エントロピー（$p=2$）に対する境界を確立する：$h_2(X+Y) \leq h_2(X) + d \log 2$。
  • 補題 3.5： 可積分な単峰型関数に対して、畳み込みの $L_\infty$ ノルムは、関数がその減少再配置に置き換えられたときに（逆不等式の意味で）最小化されることを証明する。
  • 補題 3.7 および 3.8： 単調対数凹型変数の場合、$X+Y$ の密度は $X+W$（$W$ は指数型）の密度によってメジャー化され、それはさらに $Z+W$ によってメジャー化されることを示す。

意義と主張
本論文は、以前の一般的な逆EPIの結果に必要であった線形体積保存写像を必要とせずに、i.i.d. 対数凹型確率変数に対する鋭い逆EPIを提供することを主張している。この結果は、指数分布が i.i.d. 設定における $h_\infty$ のエントロピー増幅の最大化因子であることを特定している。

著者らは、自身の結果が2つの対数凹型変数に対する「逆ロゴジン型の結果」と見なせることを指摘しており、これは独立な変数の和に対して下限を与えるロゴジンの不等式とは対照的である。

限界と範囲
著者らは、現在の研究の境界を明示している：

• 主要な結果（定理 1.2）は、2つの独立な対数凹型確率変数に対して確立されている。3つ以上の対数凹型変数のアナログを確立することは不可能であった。
• 結果は現在、一次元（実数値または整数値）の変数に限定されている。多次元の対数凹型ベクトルへの拡張は未解決の問題である。
• 離散版（定理 4.3）は、確率質量関数が単調であることを要求する。

論文は、$p$ の変化に伴う（最大化因子が一様分布から指数分布へと）レニー・エントロピー増幅の遷移が疑われているものの、本研究は特に i.i.d. 対数凹型設定における $p=\infty$ のケースを解決したものであると結論付けている。