💻 computer science

Predicting Functions, Not Features: KANs with Function-Space Joint-Embedding Predictive Learning for Medical Image Segmentation

本文引入了函数空间联合嵌入预测学习（FS-JEPA），这是一种通过以掩码自监督方式预测单个边缘函数的结构化多半径特征，从而增强柯尔莫哥洛夫-阿诺德网络（KANs）在医学图像分割领域表现的新型框架，并借此在五个基准测试中实现了最先进的性能。

原作者： Yungeng Liu, Xuanzi Fang, Yuge Zhang, Shuqi Ren, Haijin Zeng, Yongyong Chen

发布于 2026-08-13

📖 1 分钟阅读☕ 轻松阅读

原作者： Yungeng Liu, Xuanzi Fang, Yuge Zhang, Shuqi Ren, Haijin Zeng, Yongyong Chen

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人根据 X 光片画出一颗心脏。这就是**医学图像分割（medical image segmentation）**的世界——这是人工智能的一个分支，计算机通过它学习在医学扫描图像中围绕器官、肿瘤或组织绘制精确的轮廓。这是一项艰巨的任务，因为医学图像通常很模糊，健康组织与病变组织之间的边界也十分模糊，而且机器人必须具备极高的准确性才能辅助医生。

为了实现这一目标，现代 AI 使用“神经网络”，它们就像由数学连接组成的巨大网络。长期以来，这些网络使用固定规则（比如始终开启或关闭的电灯开关）来处理信息。但一种更新颖、更华丽的网络类型——**柯尔莫哥洛夫-阿诺德网络（Kolmogorov–Arnold Network, KAN）**已经问世。KAN 不使用固定规则，而是在每一条连接上使用“可学习函数”。你可以这样理解：在普通的网络中，每根导线都是一根硬管；而在 KAN 中，每根导线都是一根具有弹性的、可以变形的橡胶带，网络可以根据需要将其调节得弯曲、笔直或扭曲。核心问题在于，研究人员正在思考：我们该如何教这些橡胶带以“完美”的方式进行拉伸？

这就是一项新研究的切入点。研究人员发现，虽然 KAN 功能强大，但标准的训练方式有点像只通过整个管弦乐团最终呈现的声音来评判一名音乐家，而从未听过每一位小提琴手的演奏。他们意识到，“橡胶带”（即函数）在它们的声音混合在一起之前，并没有得到关于其自身行为的足够具体反馈。为了解决这个问题，他们发明了一种新的训练技巧，称为 FS-JEPA。FS-JEPA 不仅仅关注最终结果，而是让 AI 提前预测每根橡胶带行为的“形状”。通过在五个不同的医学图像数据集上进行测试，他们证明了这种方法能帮助 AI 绘制出比以往基于 KAN 的方法更清晰、更准确的轮廓，使平均准确率得分提升了 2.25 个百分点。

问题所在：“管弦乐团” vs. “独奏者”

让我们深入了解其机制。在标准的 KAN 中，网络由层组成。每一层接收输入，并通过这些特殊的“橡胶带”函数来产生输出。问题在于，网络通常是通过观察最终输出（即“管弦乐团”的乐曲）来进行训练的。如果乐曲好听，网络就会获得一颗金星；如果不好听，它就会得到红灯。

但问题在于：许多种不同组合的橡胶带都可以产生相同的最终乐曲。也许有一根橡胶带被拉得太长，但另一根被挤压得恰到好处，从而抵消了前者。网络得到了金星，但单个橡胶带却从未理解自己为什么要那样被拉伸。它们在盲目猜测，没有明确的目标来指导自身的行为。这就像一位指挥家告诉小提琴手：“音乐很好听”，却从未告诉小提琴手他的具体音符是否准音。

解决方案：预测橡胶带的“形状”

这项研究的作者们（由 Yungeng Liu 和 Xuanzi Fang 领导）决定改变游戏规则。他们问道：“如果我们能在橡胶带混合进最终乐曲之前，就教会 AI 预测其行为，会怎样呢？”

他们创建了一个名为 函数空间联合嵌入预测学习（Function-Space Joint-Embedding Predictive Learning, FS-JEPA） 的系统。以下是它的工作原理，我们使用一个有趣的类比：

想象你有一根神奇的橡胶带（一个 KAN 边缘函数）。在旧的方法中，你只能在橡胶带被拉伸到某一个特定点时观察它。但橡胶带在那个点的左侧或右侧一点点的地方，表现可能会非常不同。也许在那里它很僵硬，或者在那里它非常有弹性。

新方法 FS-JEPA 不仅仅看一个点。它要求 AI 预测一个**“多半径特征”（multi-radius signature）**。你可以把这理解为不仅在中心点，还在周围六个不同的位置（就像一个测量光环）拍摄橡胶带形状的快照。这个“特征”能精确告诉 AI 橡胶带在局部是如何表现的。

训练过程就像一场“猜形状”的游戏：

掩码在线分支（The Masked Online Branch）： AI 被展示了橡胶带行为的一个“被遮盖”的版本（部分内容被隐藏了）。它必须猜出完整的“特征”（即在六个位置上的形状）。
目标分支（The Target Branch）： 一个“教师版”的 AI（它的变化缓慢且稳定，就像一位冷静的导师）观察完整的、未被遮盖的橡胶带，并生成正确的特征。
匹配（The Match）： 学生 AI 尝试去匹配教师的特征。如果它猜对了形状，它就学会了。

至关重要的一点是，AI 不仅仅是在猜测形状，它还会记录自己正在观察的是“哪一根”橡胶带。由于存在数以千计的橡胶带，系统使用“坐标”来确保学生正在猜测的正是教师所展示的那根橡胶带。这确保了学习的精确性，而不会发生混淆。

结果：更清晰的轮廓，更高的分数

研究人员在五个不同的医学图像数据集上测试了这种新方法，包括乳腺病变的超声图像、甲状腺扫描和组织学腺体图像。他们将 FS-JEPA 方法与现有的最强 KAN 模型以及其他标准医学 AI 模型进行了对比。

结果非常明确：

更高的准确度： FS-JEPA 方法在所有五个数据集上实现了最高的平均 Dice 分数（83.37%） 和 IoU（75.04%）。
击败竞争对手： 它在 Dice 分数上比最强的竞争对手 KAN 方法（UUEKAN）高出了 2.25 个百分点。
无额外成本： 最棒的部分是，这种“预测性学习”只发生在训练阶段。一旦 AI 完成训练，额外的“猜测”部分就会被移除。最终的模型与原始模型的大小和速度相同，但因为它在训练过程中养成了更好的习惯，所以变得更加聪明。

为什么这很重要

论文指出，通过将学习目标从最终的“管弦乐团”声音转向每个独立乐器的特定“形状”，我们可以更有效地训练这些灵活的网络。作者发现，仅仅预测一个点是不够的；AI 需要看到“局部变化”（即多半径特征）才能真正理解该函数。

在实验中，他们排除了其他想法，例如仅预测最终特征或预测橡胶带的单一响应。这些方法的效果并不理想，这表明捕捉函数的“局部行为”是解锁 KAN 全部潜力的关键。

最终，这项研究表明，我们不需要通过把医学 AI 模型做得更大或更复杂来获得更好的结果。相反，通过改变我们“教导”它们的方式——通过要求它们预测自身内部函数的详细形状——我们可以帮助它们在对医学至关重要的领域周围，绘制出更清晰、更准确的边界。

技术摘要：预测函数而非特征——基于函数空间联合嵌入预测学习的 KANs

问题陈述

医学图像分割面临着对比度弱、边界模糊以及外观变化大等挑战。虽然编码器-解码器架构（如 U-Net 变体）通过多尺度融合来应对这些问题，但它们依赖于标量权重和固定激活函数，使得非线性变换在隐式中定义。

Kolmogorov–Arnold 网络（KANs）通过将网络边参数化为可学习的一元函数 ( $\phi_{j,i}$ ) 来提供显式的函数表示。然而，现有的基于 KAN 的分割模型（如 U-KAN）仅通过在边缘聚合之后定义的优化目标来优化这些边缘函数。这导致了两个主要局限性：

缺乏显式的预聚合目标： 监督信号约束的是输入边缘响应的总和，这允许不同的边缘函数配置产生相同的节点输出。因此，单个边缘函数在聚合之前缺乏显式的学习目标。
局部行为表征不足： 在前向传播过程中，函数仅在单个依赖于输入的锚点处进行评估。在这一点上具有相同响应的函数可能在附近表现出不同的局部行为，而这些变化仍被隐式地由下游任务所约束。

现有的联合嵌入预测学习（JEPA）方法作用于特征、Token 或图像嵌入，但并未将可学习的神经函数视为预测目标。将 JEPA 扩展到 KAN 函数空间并非易事，因为单个边缘响应无法表征局部行为，且采样的边缘必须在分支之间保持显式对齐。

方法论：FS-JEPA

作者提出了 函数空间联合嵌入预测学习（FS-JEPA），该框架将预测学习转移到了 KANs 的预聚合函数空间中。

核心框架

该架构由一个标准的 U 型 KAN 分割网络和一个仅用于训练的预测分支组成。

目标分支（Target Branch）： 一个全上下文指数移动平均（EMA）分支，生成目标特征签名（signatures）。
在线分支（Online Branch）： 一个掩码分支，接收部分被掩码的 Token 序列并预测目标特征签名。
边缘对应关系（Edge Correspondence）： 两个分支共享相同的采样边缘索引，以确保预测对应于相同的输入-输出边缘函数。

关键组件

1. 边缘采样与选择
为了避免计算所有 $O(BN d_{in} d_{out})$ 条边的巨大成本，该框架随机采样 $K$ 对输入-输出边缘。通过选择性边缘算子 ( $\Phi_S$ ) 仅评估这些特定的边缘，通过收集它们的样条参数和节点网格，将辅助激活成本降低至 $O(BNK)$。

2. 多半径边缘函数签名
该方法并非预测单个孤立的响应，而是使用 多半径签名（multi-radius signature） 来表示每个采样的边缘函数。

对于具有锚点输入 $u$ 的边缘，定义了一组局部偏移量 $\mathcal{D} = \{-0.10, -0.05, -0.025, 0.025, 0.05, 0.10\}$ 。
签名 $s_e$ 是在这些偏移量处进行函数评估的向量： $s_e = [\phi_e(u+\Delta)]_{\Delta \in \mathcal{D}}$ 。
这种结构化表示捕捉了单点评估无法捕捉的局部函数变化。

3. 确定性边缘对应关系
为了解决随机采样问题，采样边缘 $(i, j)$ 的源节点和目标节点位置被编码为确定性坐标 $(p_i, p_j)$ 。这些坐标与函数签名拼接并作为签名预测器的条件，从而在无需可学习参数的情况下确保一致的对应关系。

4. 联合优化
该框架联合优化分割损失 ( $L_{seg}$ ) 和函数空间预测损失 ( $L_{sig}$ )。

预测损失： 定义为 $L_{sig} = \text{SmoothL1}(\hat{s}_e, s^+_e)$ ，其中 $\hat{s}_e$ 是来自在线分支的预测， $s^+_e$ 是来自 EMA 分支的目标。
训练： 总损失为 $L_{total} = L_{seg} + \lambda_{deep}L_{deep} + \lambda_{sig}\sum L^{(b)}_{sig}$ 。
推理： 所有预测组件（在线分支、EMA 分支、签名预测器）均被移除，保留原始的分割路径不变。

核心贡献

函数空间 JEPA： 在 KANs 原生的预聚合函数空间中实现了联合嵌入预测学习的公式化，将预测目标从特征嵌入转向了结构化的边缘函数签名。
多半径签名表示： 引入了一种能够捕捉 KAN 边缘函数局部行为的表示方法，为函数空间学习提供了有效的预测目标。
仅训练阶段的预测框架： 一种从随机初始化开始联合学习 KAN 边缘函数签名和分割表示的方法，同时保持边缘对应关系，在推理时不会增加额外的参数或计算成本。

实验结果

该方法在五个医学图像分割基准测试上进行了评估：BUSI（超声）、DDTI（超声）、TN3K（甲状腺）、CVC-ClinicDB（息肉）和 GlaS（腺体）。

性能： FS-JEPA 在五个数据集上的平均 Dice 分数（83.37%）和 IoU（75.04%）达到了最高水平。
对比： 它比最强的竞争 KAN 方法（UUEKAN）在 Dice 指标上高出 2.25 个百分点。
消融实验：
- 与在没有 FS-JEPA 的匹配脚手架（scaffold）上训练相比，该方法将平均 Dice 提升了 0.85 个百分点。
- 对预测目标的消融研究表明，预测 多半径边缘函数签名（0.7926 Dice）的表现显著优于预测单个边缘响应（0.7771 Dice）或 Token/节点特征。
- 机理分析证实，FS-JEPA 提供了一个显式的预聚合学习信号，直接重塑了 KAN 边缘的函数表示，使其对标准分割损失所忽略的边缘级变化更加敏感。

意义与主张

论文声称，FS-JEPA 证明了将预测学习从传统的特征嵌入扩展到可学习神经函数的结构化表示中的有效性。通过预测聚合前的多半径函数签名，该方法实现了对 KAN 边缘函数的直接表示学习。作者断言，性能的提升源于这种函数空间的预测监督，而非模型容量的增加，因为推理时的参数量与基准脚手架完全相同。该框架提供了一种显式约束单个 KAN 边缘函数行为的方法，解决了现有 KAN 视觉模型的一个根本局限。