🤖 machine learning

FI-KAN: Fractal Interpolation Kolmogorov-Arnold Networks

本文提出了将可学习分形插值函数基引入 Kolmogorov-Arnold 网络的 FI-KAN 模型，通过自适应调整分形维度以匹配目标函数的正则性，从而在近似非光滑函数、分形目标及非光滑偏微分方程解时显著优于传统 KAN 网络。

原作者： Gnankan Landry Regis N'guessan

发布于 2026-03-31

📖 1 分钟阅读☕ 轻松阅读

原作者： Gnankan Landry Regis N'guessan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一种名为 FI-KAN 的新型人工智能模型。为了让你轻松理解，我们可以把传统的神经网络想象成一位**“只会画平滑曲线的画家”，而 FI-KAN 则是一位“既能画平滑曲线，又能画粗糙岩石纹理的超级画家”**。

以下是用大白话和比喻对这篇论文的解读：

1. 核心问题：为什么旧模型“画”不好粗糙的东西？

想象一下，你让一个画家去画两样东西：

任务 A：画一个光滑的苹果（平滑函数）。
任务 B：画一块布满裂纹、坑坑洼洼的岩石，或者模拟地震波、股票市场的剧烈波动（粗糙、分形函数）。

传统的神经网络（如 KAN 或 MLP）：
它们就像是用**“光滑的丝绸”或者“平滑的曲线”**来拼凑图像的。

画苹果时，它们很厉害，因为丝绸很顺滑。
画岩石时，它们就很吃力。为了表现岩石的粗糙，它们必须把丝绸剪成无数极小的碎片，一层层堆叠。这不仅效率低，而且怎么拼都拼不出那种“天然粗糙”的质感。这就好比试图用平滑的曲线去描述一个锯齿状的闪电，永远差那么点意思。

论文指出的痛点：
很多科学和工程问题（如湍流、地震、金融波动、断裂面）本质上就是**“粗糙”的，甚至具有“分形”**特征（即无论放大多少倍，看起来都差不多粗糙）。旧模型强行用“光滑”的工具去处理“粗糙”的问题，效果自然不好。

2. 解决方案：FI-KAN（分形插值 KAN）

FI-KAN 给这位“画家”换了一套新工具。它引入了数学上的**“分形插值函数” (FIF)**。

核心创新：可学习的“粗糙度”旋钮

想象 FI-KAN 的每一个连接（边）上都有一个**“粗糙度旋钮”**（论文里叫收缩参数 $d$ ）。

旋钮拧到 0：画出来的线是平滑的（就像传统的平滑曲线）。
旋钮拧大：画出来的线开始变得锯齿状、自相似，甚至像海岸线一样粗糙（分形）。
神奇之处：这个旋钮是可学习的！模型在训练时，会根据要画的目标，自动调整这个旋钮。
- 如果目标是平滑的苹果，它就把旋钮拧到 0，用平滑模式。
- 如果目标是粗糙的岩石，它就把旋钮拧大，自动生成粗糙的分形线条来匹配岩石的纹理。

3. 两种“画家”流派

论文提出了两种版本的 FI-KAN：

纯 FI-KAN (Pure FI-KAN)：
- 比喻：这位画家完全抛弃了丝绸，只拿粗糙的岩石碎片作画。
- 特点：在画粗糙岩石时非常强，但如果让他画光滑苹果，他就很笨拙，因为他的工具全是锯齿。
- 结论：这证明了“工具必须匹配任务”。如果任务光滑，用粗糙工具反而画不好。
混合 FI-KAN (Hybrid FI-KAN) —— 这是论文的主角：
- 比喻：这位画家既保留了丝绸，又拿上了岩石碎片。
- 工作原理：
  - 先用**丝绸（B 样条）**画出大致的平滑轮廓（比如苹果的形状）。
  - 再用**岩石碎片（分形修正）**去填补细节，把那些平滑丝绸画不出来的坑坑洼洼补上。
- 优势：这是“进可攻，退可守”的万能选手。
  - 画苹果时，它主要用丝绸，效果极好。
  - 画岩石时，它自动增加岩石碎片的比重，效果远超旧模型。
  - 结果：在几乎所有测试中（从平滑到极度粗糙），它都比旧模型强，甚至在某些粗糙任务上，性能提升了 79 倍！

4. 为什么这很重要？（生活中的类比）

天气预报：旧模型可能只能预测大致的温度趋势（平滑），但 FI-KAN 能更好地捕捉局部的暴雨、湍流（粗糙、分形特征）。
医学信号：心电图或脑电波中那些微小的、不规则的波动往往包含关键信息。旧模型可能会把这些“噪音”平滑掉，而 FI-KAN 能精准捕捉这些“粗糙”的异常。
物理模拟：在模拟流体（如水流、气流）或材料断裂时，自然界充满了分形结构。FI-KAN 能更真实地模拟这些物理现象，而不是强行把它们“磨平”。

5. 论文的几个关键发现

正则化（自动刹车）：
为了防止模型在画苹果时乱用“岩石碎片”（导致过拟合），作者加了一个**“几何正则化器”**。这就像给画家一个规则：“除非你真的需要画岩石，否则别用粗糙工具。”这让模型能自动判断什么时候该平滑，什么时候该粗糙。
可解释性：
模型学出来的“粗糙度参数”是有意义的。如果它学出来的参数显示“很粗糙”，那说明目标函数确实很粗糙。这就像医生通过听诊器听到的声音来判断病情一样，模型通过“粗糙度”来理解数据的本质。
抗噪能力：
在充满噪音的数据中（比如信号很差），FI-KAN 表现得更好。因为它能区分什么是“真实的粗糙结构”，什么是“随机噪音”。

总结

FI-KAN 就像给人工智能装上了一副“分形眼镜”。

以前的 AI 看世界，觉得万物都是光滑的曲线；现在的 FI-KAN 能看清世界原本的粗糙纹理。它不再强迫世界变平滑，而是学会了**“顺势而为”**：面对平滑的物体，它就平滑；面对粗糙的物体，它就变粗糙。

这种**“根据目标调整自身几何结构”**的设计理念，是人工智能在科学计算、工程模拟和复杂信号处理领域的一次重要飞跃。它告诉我们：最好的工具，不是最通用的，而是最匹配任务特性的。

FI-KAN：分形插值柯尔莫哥洛夫 - 阿诺德网络 (Fractal Interpolation Kolmogorov–Arnold Networks) 技术总结

1. 研究背景与问题定义

核心问题：
现有的神经函数逼近架构（如 MLP 和 KAN）在基函数选择上存在固有的平滑性假设。

MLP 使用平滑激活函数（如 ReLU, SiLU），构建分段平滑或解析函数的逼近空间。
KAN (Kolmogorov–Arnold Networks) 使用可学习的 B 样条（B-spline）作为边上的激活函数。B 样条在逼近具有整数或高分数光滑度（Sobolev 或 Besov 空间）的目标函数时表现优异，但在处理非光滑函数（如湍流速度场、金融时间序列、分形表面、具有多尺度振荡的生物医学信号）时存在根本性不匹配。

具体挑战：
对于具有非平凡 Hölder 正则性（ $\alpha < 1$ ）或分形自相似性的目标函数，使用平滑基函数（如 B 样条）进行逼近需要极多的基函数数量（ $O(h^{-1/\alpha})$ ），且无法利用多项式重生产特性带来的效率优势。现有的平滑基函数无法有效捕捉分形几何结构，导致在粗糙目标上的逼近误差较大。

2. 方法论：FI-KAN 架构

本文提出了 FI-KAN (Fractal Interpolation KAN)，将迭代函数系统（Iterated Function Systems, IFS）理论中的分形插值函数 (Fractal Interpolation Functions, FIF) 引入 KAN 框架。其核心创新在于将 IFS 的垂直收缩参数 $\{d_i\}$ 作为可学习参数，使每个边上的激活函数拥有可微的、自适应的分形维数。

2.1 两种变体架构

论文提出了两种基于不同数学框架的架构：

Pure FI-KAN (基于 Barnsley 框架)
- 机制：完全用 FIF 基函数 $\phi_m(x; d)$ 替换 KAN 中的 B 样条基函数。
- 特点：当收缩参数 $d=0$ 时，退化为分段线性（Hat 函数）；当 $d \neq 0$ 时，基函数呈现分形结构。
- 适用性：专门针对具有强分形结构的粗糙目标，但在光滑目标上表现较差（因为无法高效表示高阶多项式曲率）。
Hybrid FI-KAN (基于 Navascués 框架)
- 机制：保留 B 样条路径作为经典逼近项 $b(x)$ ，并增加一个平行的 FIF 路径作为分形修正项 $h(x)$ 。
- 公式： $f^\alpha_b(x) = b(x) + h(x; d)$ 。
- 特点：实现了“光滑 - 粗糙”分解。B 样条处理光滑部分，FIF 路径捕捉残差中的多尺度/分形结构。当 $d=0$ 且分形权重为 0 时，完全退化为标准 KAN。
- 优势：兼具光滑目标的高效性和粗糙目标的适应性，具有更强的鲁棒性。

2.2 关键组件

可学习分形维数：通过训练 IFS 的收缩参数 $d_i$ ，网络可以动态调整基函数的几何复杂度（从 $dim_B=1$ 的光滑函数到 $dim_B > 1$ 的分形函数）。
分形维数正则化 (Fractal Dimension Regularizer)：
- 定义损失项 $R_{frac} = (\dim_B(d) - 1)^2$ 。
- 作用：作为一种“几何感知的奥卡姆剃刀”。如果数据不需要分形结构，正则化会迫使 $d \to 0$ ，从而自动选择光滑基函数，防止过拟合不必要的几何复杂度。
计算实现：使用截断的 Read-Bajraktarević (RB) 算子迭代来评估 FIF 基函数，保证前向传播和反向传播的可微性。

3. 主要贡献

理论奠基的架构设计：提出了两种基于经典分形逼近理论（Barnsley 和 Navascués）的神经网络架构，而非启发式修改。
可学习的几何正则性：首次将基函数的几何分形维数作为可微参数引入神经网络，实现了从光滑到粗糙基函数的连续过渡。
正则性匹配假设的实证：通过 Pure 和 Hybrid 变体的对比，提供了受控证据，证明基函数的几何结构（而不仅仅是数量）是决定逼近性能的关键变量。
可解释的复杂度控制：提出的分形维数正则器不仅控制模型复杂度，其学习到的值还能作为目标函数正则性的诊断指标。
广泛的实验验证：在从光滑到分形的全谱系目标函数、含噪数据、持续学习以及非光滑 PDE 解（如角点奇异性、粗糙系数扩散方程）上进行了全面验证。

4. 实验结果

4.1 函数逼近性能

Hölder 正则性扫描：在 $\alpha \in [0.2, 2.0]$ $α \in [0.2, 2.0]$ 的范围内，Hybrid FI-KAN 在所有正则性水平上均优于标准 KAN。
- 在光滑目标（ $\alpha=2.0$ ）上，Hybrid FI-KAN 比 KAN 快 28.7 倍（MSE 降低）。
- 在分形目标（如 Sawtooth, $dim_B=1.5$ ）上，Hybrid FI-KAN 比 KAN 快 6.3 倍。
Pure FI-KAN 的表现：在粗糙目标上表现优异，但在光滑目标上表现不佳（MSE 比 KAN 高几个数量级），这反过来验证了“正则性匹配”原则：如果基函数几何不匹配，性能会显著下降。

4.2 非光滑 PDE 求解

在基于 scikit-fem 和谱方法生成的参考解上进行回归测试：

粗糙系数扩散方程：Hybrid FI-KAN 实现了 65 倍到 79 倍 的 MSE 提升。
L 形域角点奇异性（Hölder 2/3）：实现了 3.5 倍 的提升。
随机热方程：在中等噪声水平下实现了 13 倍 的提升。

4.3 鲁棒性与诊断能力

噪声鲁棒性：在 5 dB 信噪比下，Hybrid FI-KAN 在分形目标上仍保持 4.7 倍 的优势，表现出类似小波去噪的隐式多尺度去噪能力。
分形维数诊断：学习到的分形维数 $\dim_B$ 与目标函数的真实 Hölder 指数高度相关。例如，在光滑多项式目标上，正则化迫使 $\dim_B \to 1.0$ ；在分形目标上， $\dim_B > 1.1$ 。

5. 意义与结论

科学意义：
FI-KAN 证明了在神经函数逼近中，基函数的几何正则性必须与目标函数的正则性相匹配。这一发现挑战了传统神经网络（通常假设平滑性）的通用设计原则，提出了一种基于问题几何特性的架构设计新范式。

实际应用价值：

科学计算：特别适用于处理具有非光滑结构的物理问题，如多孔介质流、非凸域上的椭圆 PDE、随机偏微分方程解等。
信号处理：适用于具有分形特征或自相似性的生物医学信号、金融时间序列和地质信号。
可解释性：网络自动学习到的分形维数可以作为数据内在复杂度的可解释指标。

局限性：

计算开销：分形基函数的评估需要递归迭代，Hybrid 变体在 $K=2$ 时比标准 KAN 慢约 2.5 倍。
优化难度：过深的递归（ $K>4$ ）会导致梯度传播困难，性能下降。
非结构化粗糙度：对于完全随机的单路径分形布朗运动（无自相似结构），FI-KAN 的优势不明显，甚至不如参数更少的 KAN。

总结：
FI-KAN 通过引入可学习的分形基函数，成功填补了神经网络在处理非光滑、分形目标函数时的理论空白。Hybrid 变体提供了一种稳健的解决方案，既保留了处理光滑函数的能力，又显著提升了在科学计算和复杂信号处理中面对非光滑结构时的逼近效率。