技术摘要：隐式神经表示的频谱能量质心

问题陈述

隐式神经表示（INRs）利用多层感知机（MLPs）对连续信号进行建模，为场景建模和图像重建等任务提供了紧凑且可微分的表示。然而，标准 MLP 表现出“频谱偏差”，即倾向于比高频分量更快地学习信号的低频分量。这种偏差阻碍了对细节的捕捉，因此需要使用由特定超参数控制的高频输入映射（嵌入），例如 Siren 中的 $\omega_s$ 和 Fourier 中的 $\sigma$。

identified 的核心挑战在于难以选择最佳的嵌入频率参数。虽然先前的工作（如 FreSh）试图通过将未训练模型的输出频谱与目标图像对齐来自动化这一过程，但这些启发式方法未能考虑到模型架构（特别是深度）的显著影响。现有方法通常假设频谱偏差在不同模型规模下是静态的，这导致了次优的配置：较深的模型配置不足（接收的频率低于其容量所需），而较小的模型则配置过度。此外，完整频谱的多维性质使其难以用于直接比较或优化。

方法论

为了克服这些局限性，作者引入了频谱能量质心（SEC），这是一种标量指标，旨在量化目标图像的频率内容以及 INR 模型的频谱偏差。

1. 频谱能量质心（SEC）

SEC 源自图像的离散傅里叶变换（DFT）。该过程包括：

• 能量谱计算： 计算傅里叶系数的平方幅度，并按径向频率 $r$ 进行聚合，形成能量谱 $E(A, r)$。
• 归一化： 对能量谱进行归一化，以创建概率分布 $\tilde{E}(A)$。
• 质心计算： 计算该分布下频率的加权平均值：
  $$SEC(A) = \sum_{r=1}^{R} r \cdot \tilde{E}(A, r)$$
  这产生了一个标量值，代表由信号功率加权的“平均频率”。作者利用该指标来表征目标图像以及未训练模型的输出（以近似其频谱偏差）。

2. SEC-Conf（数据驱动配置）

作者提出了SEC-conf，这是一种利用小型校准集进行超参数选择的策略。

• 校准： 使用一组图像，通过网格搜索找到最佳的嵌入频率参数。这些（图像 SEC，最佳参数）对构成了查找表。
• 选择： 对于新的目标图像，计算其 SEC。基于 SEC 值在校准集中查找最近邻，以检索最佳参数。
• 原理： 该方法假设具有相似 SEC 分数的图像对于给定架构共享相似的最佳配置，从而有效地学习了频谱属性与模型行为之间的关系。

3. 频率匹配

为了在不同 INR 架构（如 Siren、Fourier、Finer、Wire）之间进行公平比较，作者提出了频率匹配。该方法通过寻找目标参数 $F$ 来最小化 SEC 值的差异，从而将目标模型的频谱偏差与参考模型对齐：
$$Fit_{Ref}(F) = \arg \min_F |SEC(Model_F) - SEC(Ref_{F_{ref}})|$$
这使得研究人员能够通过确保模型从可比的频谱偏差开始，从而将架构效应与调优效应隔离开来。

主要贡献

1. 频谱偏差的量化： 本文利用 SEC 揭示了模型深度与频谱偏差之间强烈的、此前被忽视的依赖关系。实验表明，随着模型深度的增加，模型固有的频谱偏差向更高频率移动，需要更高的嵌入参数以维持最佳性能。
2. SEC-conf 策略： 一种稳健的、数据驱动的嵌入层配置方法，通过考虑模型规模，其表现优于现有的启发式方法（如 FreSh）。它在识别最佳配置方面显示出更高的命中率，特别是对于较大的模型。
3. SEC 作为复杂度的代理： 作者验证了 SEC 作为信号复杂度可靠代理的有效性，表明 SEC 值与重建质量（PSNR）之间存在强烈的负相关。较高的 SEC 值（指示复杂的纹理和细节）对应于较低的重建性能。
4. 跨架构对齐： 一个用于在不同架构间对齐频谱偏差的框架，证明了当频谱偏差正确对齐时，较旧或标准的模型可以达到与新模型（如 Finer）相当的性能。

实验结果

作者在 LIU4K-v2 数据集的 100 张图像基准上评估了该方法，涵盖了四种架构（Siren、Fourier、Finer、Wire）和三种模型规模（小、中、大）。

• 性能提升： SEC-conf 始终优于基线默认值和 FreSh 启发式方法。例如，在大型（L）Siren 配置中，SEC-conf 实现了 34.49 的 PSNR，而 FreSh 为 34.07，默认值为 32.06。
• 架构洞察：
  • 深度与宽度： SEC 随模型深度显著增加，这解释了为何 FreSh（为较深模型降低频率）会失败。相反，模型宽度对大多数架构的频谱偏差影响微乎其微，表明宽度扩展更具可预测性。
  • Wire 异常值： Wire 架构在所有规模下都表现出极高的 SEC 值，这与较差的性能相关，表明其默认的高频偏差是有害的。
• 准确性： 与 FreSh 相比，SEC-conf 在预测最佳参数方面表现出显著更高的准确性，特别是在较大的模型中，FreSh 关于静态偏差的假设会导致显著误差。
• 对齐： 当 Siren 和 Fourier 模型与 Finer 架构进行频率匹配时，它们在大规模设置中达到了与 Finer 相当的性能，证明 Finer 的优势部分源于其更激进的默认频谱偏差，而非固有的架构优越性。

意义与主张

本文主张 SEC 为分析 INR 行为提供了“更清晰的透镜”，超越了忽略架构深度的启发式方法的局限性。通过将复杂的频谱简化为单个可解释的标量，SEC 促进了对信号复杂度、模型容量和重建质量之间关系的更深入理解。

作者强调，虽然 SEC-conf 依赖于离线校准集（不同于无数据的 FreSh），但这种权衡对于捕捉不同架构和深度下频谱属性与模型行为之间的可泛化关系是必要的。这项工作的主要价值不仅在于具体的配置策略，更在于确立 SEC 作为未来频谱偏差和 INR 设计研究的基础工具。

承认的局限性：

• SEC 是一维摘要；不同的频谱形状可能映射到相同的质心。
• SEC-conf 需要 upfront 成本来生成校准集，而 FreSh 则在单张图像上运行，无需先验数据。
• 该方法假设相似的 SEC 分数意味着相似的最佳配置，这是一种近似。