Active Learning for Conditional Generative Compressed Sensing

问题陈述
生成式压缩感知（GCS）通过假设信号位于预训练生成模型 $G$ 的值域附近，从欠采样测量中恢复结构化信号。虽然现有理论为高斯测量下的无条件模型建立了恢复保证，但实际应用通常涉及结构化的子采样酉变换（例如 MRI 中的傅里叶测量），并且在采集或推理时拥有辅助信息。本文解决了条件生成式压缩感知中的空白，其中生成模型以提示（例如文本描述、元数据）为条件。核心挑战在于，条件化引入了三方交互：定义真实信号的提示（$c^*$）、用于设计采样分布的提示（$c_s$）以及用于定义恢复模型的提示（$c_r$）。这些提示之间的不匹配可能导致次优的采样策略或有偏的重建，然而现有框架大多将条件化视为静态先验，而非传感和恢复的动态设计变量。

方法论
作者针对子采样傅里叶测量构建了一个提示条件主动学习框架，并适配了机器学习中的克里斯托费尔采样（CS4ML）方法。

1. 提示条件模型类：信号空间由条件生成器 $G(z, c)$ 定义，其中 $z$ 是潜在向量，$c$ 是提示。作者区分了三种提示：

   • $c^*$：真实信号提示（若 $f^* \in F_{c^*}$）。
   • $c_r$：定义候选集 $F_{c_r}$ 的恢复提示。
   • $c_s$：用于构建采样分布 $\mu_{c_s}$ 的采样提示。

2. 提示兼容性因子（$\Lambda$）：为了量化这些提示之间的交互，作者定义了一个提示兼容性因子：
   $$\Lambda(c_1, c_2, c_3) = \max_{i \in D} \frac{K(F_{c_1} - F_{c_2})(i)}{\mu_{c_3}(i)}$$
   其中 $K$ 是广义克里斯托费尔函数，用于衡量傅里叶坐标在区分某类信号时的“信息量”，$\mu$ 是采样分布。

   • $\Lambda(c_r, c_r, c_s)$ 控制稳定恢复所需的样本复杂度。
   • $\Lambda(c^*, c_r, c_s)$ 控制当真实信号与恢复提示不匹配时的重建误差（近似误差）。

3. 理论分析：本文推导了两类条件生成器的样本复杂度界：

   • ReLU 网络：假设无偏置、深度为 $d$ 的前馈 ReLU 网络。
   • Lipschitz 生成器：假设生成器在潜在球上是 $L$-Lipschitz 的。
     在这两种情况下，界表明测量次数 $m$ 随 $\Lambda$、生成器的复杂度（例如 ReLU 的宽度/深度，或 Lipschitz 常数 $L$）以及最小采样概率 $\mu$ 缩放。

4. 恢复保证：在集合限制特征值条件（S-REC）下，作者证明重建误差被恢复类中的最佳近似误差所界定，该误差被 $\sqrt{\Lambda(c^*, c_r, c_s)}$ 放大，并加上噪声和优化误差项。

主要贡献

• 公式化：一个统一的提示条件 GCS 框架，明确分离了提示在采样设计和恢复建模中的作用。
• 理论指标：引入提示兼容性因子 $\Lambda$，将采样 - 恢复不匹配和信号 - 恢复不匹配的分析统一为一个单一统计量，该统计量同时支配样本复杂度和误差界。
• 样本复杂度界：针对 ReLU 和 Lipschitz 条件生成器的显式界，表明提示不匹配会产生惩罚（增加的样本复杂度），其大小与采样几何和恢复几何之间的发散程度成正比。
• 实证验证：使用 Stable Diffusion 1.5（SD15）进行的实验表明：
  • 提示有意义地重塑了克里斯托费尔采样分布（将质量集中在不同的傅里叶频率上）。
  • 采样提示与恢复提示之间的不匹配（$c_s \neq c_r$）会增加兼容性因子 $\Lambda$。
  • 重建性能对这些不匹配敏感，尽管作者指出，在他们的具体实验设置中，无条件恢复（$c_r = \text{""}$）通常表现稳健，这可能是由于无条件模型的灵活性或特定的优化动力学所致。

结果

• 理论方面：本文证明，如果测量次数随 $\Lambda(c_r, c_r, c_s)$ 缩放，则以高概率实现稳定恢复是可能的。如果 $c_s = c_r$，$\Lambda$ 退化为标准的克里斯托费尔复杂度常数。如果 $c_s \neq c_r$，$\Lambda$ 可能增长，反映了需要更多样本来捕捉与 $c_r$ 相关但在基于 $c_s$ 的采样中代表性不足的信号特征。
• 实验方面：
  • 采样分布：不同的提示（例如“日落海滩”与“猫”）诱导出不同的采样分布，匹配的提示对使 $\Lambda$ 最小化。
  • 重建：在“范围内”实验（真实信号由模型生成）中，与使用语义相似提示（$c_s$ 接近 $c^*$）相比，使用不匹配提示的采样在 PSNR 和 SSIM 上表现较差。
  • CFG 消融：作者发现，高 Classifier-Free Guidance（CFG）值（例如 7.5）对生成器的限制过强，导致重建性能低于较低的 CFG 值（例如 1），这表明“有效”恢复类高度依赖于超参数。

意义与主张
本文主张提示应被视为设计变量，它们对传感（采样分布）、近似（恢复类）以及两者之间的交互具有 distinct 的影响。其主要意义在于将 GCS 理论扩展到条件设置，表明：

1. 主动学习依赖于提示：最优采样策略取决于用于恢复的具体提示，而不仅仅是信号类。
2. 不匹配惩罚：当采样提示与恢复提示不一致时，存在明确的理论代价（在样本复杂度和误差放大方面）。
3. 实际影响：虽然理论假设了理想化的生成器，但使用 Stable Diffusion 的实验表明，提示条件化可以显著改变诱导的采样分布并影响重建质量，尽管其与优化超参数（如 CFG）的相互作用是复杂的。

作者谦逊地指出，他们的理论适用于理想化的生成器类（ReLU/Lipschitz），而现代扩散模型是这些类的复杂抽象。他们建议未来的工作应研究基于发散度的 $\Lambda$ 版本，并更好地表征不同 CFG 尺度下实际扩散模型的有效 Lipschitz 常数。