🔢 mathematics

Explicit Construction of Approximate Kolmogorov Superpositions with C2 Smoothness

本文提出了一种利用 $C^2$ 光滑内层和外层函数构造近似科尔莫戈罗夫叠加的显式方法，以 $N^{-\alpha}$ 的误差率逼近任意 $\alpha$ -赫尔德连续函数，从而在保留经典表示策略的同时克服了其病态行为。

原作者： Lunji Song, Zilan Cheng, Juan Diego Toscano, Li-Lian Wang

发布于 2026-05-19

📖 1 分钟阅读🧠 深度阅读

原作者： Lunji Song, Zilan Cheng, Juan Diego Toscano, Li-Lian Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用简单语言和创造性类比对该论文的解读。

全景：用一维字符串解开三维拼图

想象你拥有一个复杂的多维物体，比如一座巨大而精致的三维雕塑（代表一个具有多个变量如 $x_1, x_2, \dots, x_d$ 的函数）。几十年来，数学家们一直掌握着一个“魔法技巧”（科尔莫戈罗夫叠加定理），该技巧声称你可以仅用一堆简单的一维字符串（单变量函数）来完整描述这座三维雕塑。

然而，这里有一个陷阱。这个“魔法技巧”中使用的原始“字符串”狂野且崎岖不平。它们粗糙且破碎，没有任何平滑的曲线，导致无法在现代工具（如计算机模拟或神经网络）中使用，因为这些工具更偏好平滑流畅的线条。

本文提出了一种更平滑的“魔法技巧”新版本。 作者明确构建了一组“平滑字符串”，它们仍能重建复杂的三维雕塑，但去除了那些崎岖破碎的边缘。他们证明，这些新字符串效果良好，能够以高精度近似任何平滑或略带起伏的形状。

问题：“狂野”的字符串

在原始理论中，“内部字符串”（即接收输入的字符串）就像由碎玻璃制成的楼梯。

它们以微小而尖锐的台阶上下起伏。
它们如此崎岖，以至于如果你尝试在大多数点测量其斜率（导数），结果要么是零，要么未定义。
由于它们如此“狂野”，计算机无法有效地利用它们进行学习或预测。

本文提出了一个问题：我们能否用光滑、抛光的字符串替换这些碎玻璃字符串，同时不丧失重建三维形状的能力？

解决方案：构建平滑的“内部”字符串

作者设计了一种新型“内部字符串”（称为内部函数），它是 $C^2$ -平滑 的。

$C^2$ -平滑是什么意思？ 想象你在开车。
- 崎岖的字符串就像撞上了坑洼：你会猛地向前，然后停下，再猛地向前。
- $C^1$ -平滑的字符串就像一条平坦的道路：你不会感到猛冲，但方向盘可能仍会急转。
- $C^2$ -平滑 的字符串则像一条完美倾斜的赛道。不仅道路本身平滑，道路的曲率变化也是平滑的。你可以在上面行驶而没有任何突然的颠簸或急转弯。

他们是如何构建的？
他们没有使用破碎的台阶，而是使用由特殊数学形状（多项式和正弦波）组成的“胶水”。

间隙：他们在道路中制造微小的间隙，字符串在这些间隙中温和地向上弯曲（使用一种“弥散”的形状）。
平坦部分：在间隙之间，字符串保持基本平坦，但仍向前移动。
结果：这是一条单一、连续、平滑的线，它永不停止向前移动（严格递增），且没有任何尖锐的拐角。

“映射”问题：组织混乱

一旦你拥有了平滑的字符串，就必须将它们组合起来，将三维世界映射到一维直线上。这就像试图将一个杂乱的房间打包进一条长长的走廊。

如果你随机打包物品，房间不同部分的物品可能会在走廊中彼此相邻，造成混乱（数学家称之为“错位”）。

作者的解决方案：
他们找出了一种精确的配方，用于如何混合这些字符串。

他们为每个维度分配了不同的“权重”（称为 $\lambda$ ）。
他们证明，如果这些权重选择得当（基于间隙的大小），“走廊”将保持有序。
类比：想象按高度整理书籍。如果你只是把它们扔成一堆，一本矮书可能会和一本高书挨在一起。但如果你使用特定的排序规则（他们的数学配方），每本矮书都会靠近其他矮书，每本高书都会靠近其他高书。这确保了所有一维映射都能保留三维物体的结构。

“外部”字符串：读取地图

一旦三维物体被展平为一维直线（“内部”部分），你就需要读取该点的值以获得最终答案。这就是外部函数。

作者通过观察打包好的三维块的“中心”来构建这些外部函数。
他们使用了一种平滑插值方法（用平滑曲线连接各点），创建了一个能够读取一维直线并输出原始三维形状正确值的函数。

结果：效果如何？

本文证明了两个主要方面：

精度：新的平滑构造可以近似任何具有特定平滑度（称为 $\alpha$ -赫尔德连续）的函数，其误差会随着你增加更多“字符串”（增加 $N$ ）而以可预测的方式缩小。误差以 $O(N^{-\alpha})$ 的速率减小。
验证：他们在高达 9 维的函数上进行了计算机测试。结果与他们的数学预测完全吻合，表明误差的减小速度正如他们所言。

为什么这很重要（根据论文）

实用性：与原始的“狂野”函数不同，这些新的平滑函数实际上可以用于神经网络（计算机学习系统）。
明确性：作者不仅说“它存在”，而且给出了构建这些函数的确切公式和步骤。
解决了一个长期存在的问题：多年来，研究人员一直想知道，是否可以在不破坏原始定理魔力的情况下制作出这些平滑版本。本文回答了“是”，并展示了具体方法。

总结：作者将一种使用崎岖破碎字符串的数学魔法技巧，替换为了平滑抛光的字符串。他们证明，这些新字符串仍能完美重建复杂的三维形状，从而使该理论准备好应用于现实世界的计算机应用。

技术摘要：具有 $C^2$ 光滑性的显式近似科尔莫戈罗夫叠加构造

问题陈述
科尔莫戈罗夫叠加定理（KST）确立了任何连续多元函数均可表示为连续单变量函数的叠加。然而，现有的构造性证明（例如由 Sprecher、Kahane 和 Lorentz 提出的）依赖于表现出“狂野”和“病态”行为的内层函数，例如导数在几乎处处为零的阶梯状结构。这些非光滑函数不适用于现代应用，特别是在神经网络架构（例如科尔莫戈罗夫 - 阿诺德网络或 KAN）中，可微性和光滑性对于优化和收敛分析至关重要。虽然已有近似版本被提出以绕过精确表示中的不可微性问题，但保留科尔莫戈罗夫策略精髓的严格、显式的光滑（ $C^2$ ）近似叠加构造仍然是一个未解之谜。

方法论
作者提出了一种新颖的显式构造方法，用于构建近似科尔莫戈罗夫叠加，实现了内层和外层函数的 $C^2$ 光滑性。该方法分为三个主要阶段：

光滑内层函数的构造：
作者不使用阶梯函数，而是定义了一个生成函数 $\phi(t)$ ，该函数由拼接两个特定形状函数构成：
- 一个“弥散”的 $C^2$ 阶赫维赛德函数 $S(z)$ （源自三角多项式），用于大小为 $\delta = N^{-2}$ 的小“间隙”。
- 一个五次多项式 $P(z)$ ，用于大小为 $h = N^{-1}$ 的主要子区间。
  这些片段被拼接成一个严格递增的、分段 $C^2$ 函数。内层函数 $\psi_q(x)$ 随后通过对该单一生成函数 $\phi$ 进行适当的平移和伸缩变换生成。调节参数 $\nu$ 控制连接处的行为，确保函数保持严格递增且 $C^2$ 光滑，并具有可控的导数。
超立方体的分离与参数选择：
定义域 $[0, 1]^d$ 被划分为由间隙隔开的超立方体。作者定义了科尔莫戈罗夫映射 $\Psi_q(x) = \sum_{p=1}^d \lambda_p \psi_q(x_p)$ 。一个关键挑战是确保这些映射能够分离超立方体（即，将不同的超立方体映射到一维域中的不相交区间），以允许全局插值。
本文推导了缩放参数 $\lambda = (\lambda_1, \dots, \lambda_d)$ 和调节参数 $\nu$ 的显式条件，以保证映射后的超立方体顶点的严格单调性。通过求解关于 $\nu$ 的二次方程（记为 $\nu^*$ ）并定义 $\lambda$ 部分和的递归序列，作者提供了一组显式参数 $\lambda^*$ ，确保映射后的数据点排序良好且相互分离，从而减轻了以往构造中常见的“错位”问题。
外层函数的构造：
外层函数 $g_q$ 是通过对超立方体中心处采样的目标函数值进行行向插值构造的。作者利用与内层构造中相同的形状函数 $S(z)$ ，在映射后的数据点之间执行分段 $C^2$ 插值。这确保了外层函数也是 $C^2$ 光滑的。

主要贡献

显式 $C^2$ 构造： 本文提供了首个近似科尔莫戈罗夫叠加的显式构造，其中内层和外层函数均严格递增且 $C^2$ 光滑。这克服了精确 KST 表示中固有函数的“狂野”行为。
严格的参数选择： 作者推导了一组特定的缩放参数 $\lambda^*$ 和调节参数 $\nu^*$ ，保证在科尔莫戈罗夫映射下超立方体的分离。这解决了数据错位问题，这对插值的有效性至关重要。
收敛性分析： 本文证明了所构造的近似 $f_N$ 收敛于任何 $\alpha$ -Hölder 连续函数 $f \in H^\alpha([0, 1]^d)$ ，精度为 $O(N^{-\alpha})$ 。证明明确考虑了来自超立方体内部点以及落在间隙内的点的误差贡献。
数值验证： 作者实现了该算法，并在维度 $d$ 从 2 到 9 的范围内数值验证了理论收敛速率，表明观测到的误差衰减与预测的 $O(N^{-\alpha})$ 速率相符。

结果
主要理论结果（定理 4.1）指出，对于任何 $\alpha$ -Hölder 连续函数 $f$ ， $f$ 与构造的近似 $f_N$ 之间的误差满足：
$\|f - f_N\|_\infty \leq C \cdot N^{-\alpha}$
其中 $C$ 取决于维度 $d$ 和 Hölder 常数。数值实验证实了该收敛阶数适用于各种测试函数，包括具有奇点和高维输入（ $d \leq 9$ ）的函数。结果表明，收敛速率主要由目标函数的光滑性（ $\alpha$ ）和外层求和的数量（ $N$ ）决定，而维度 $d$ 影响常数但不影响渐近阶数。

意义与主张
作者声称，这项工作解决了关于光滑近似科尔莫戈罗夫叠加构造的一个未解之谜。该构造的意义体现在以下几个方面：

神经网络应用： 所构造函数的光滑性和严格单调性使其适合在神经网络（特别是科尔莫戈罗夫 - 阿诺德网络或 KAN）中实现。该构造提供了一个理论框架，其中内层函数可以由光滑的假设类（例如样条、多层感知机）参数化，而无需面对不可微性的理论障碍。
收敛理论： 通过提供显式的、光滑的中间表示，本文为建立 KAN 的严格收敛理论铺平了道路。它允许将总误差分解为 KST 表示的近似误差和神经网络假设的近似误差。
理论洞察： 该构造揭示，随着维度 $d$ 的增加，内层函数在超立方体内变得几乎平坦（导数趋近于零），这是将高维信息编码到一维的自然结果。这一见解表明，放宽映射到单一维度的要求（改为映射到 $d-1$ 或更低维度）可能是未来研究的一个富有成效的方向。

本文强调，虽然精确的 KST 表示在数学上优雅，但其实际效用受限于非光滑性。这项工作弥合了此类表示的理论存在与其在计算框架中的实际、光滑实现之间的差距。