📊 statistics

neuralGAM: An R Package for Fitting Generalized Additive Neural Networks

本文介绍了 **neuralGAM**，这是一个 R 语言程序包，它通过实现广义加性神经网络（Generalized Additive Neural Networks）来增强深度学习的可解释性，该方法通过拟合独立的神经网络来估计单个特征的贡献，同时保持高精度和架构灵活性。

原作者： Ines Ortega-Fernandez, Marta Sestelo

发布于 2026-08-11

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ines Ortega-Fernandez, Marta Sestelo

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人如何预测天气。你可以为这个机器人构建一个巨大的、超级复杂的“大脑”，里面塞满了数百万个微小的连接。这个“黑盒”大脑可能会几乎每次都预测正确，但如果你问它：“你为什么认为会下雨？”它可能只会对着你茫然地凝视。它知道“做什么”，但它无法解释自己是如何推导出来的。这就是人工智能中著名的“黑盒问题”。另一方面，你可以建造一台简单、透明的机器，其中每一个齿轮和杠杆都清晰可见。这个“白盒”易于理解，但它可能过于简单，无法应对风暴天空中那混乱而复杂的身影。多年来，科学家们一直困惑于是在“聪明但神秘的大脑”和“清晰但平庸的机器”之间做出选择。大问题在于：我们能否制造出一个既是预知未来的天才，又是能够逐步解释其思考过程的优秀老师的机器人？

这正是由研究人员 Ines Ortega-Fernandez 和 Marta Sestelo 引入的一个名为 neuralGAM 的新工具所解决的谜题。他们创建了一个特殊的 R 程序包（R 语言的工具箱），构建了一种新型的人工智能大脑。该模型并非构建一个巨大的、纠缠不清的网络，而是构建了一个由小型、独立的专家组成的团队。想象一支运动队，你为场上的每一位球员都配备了一位专门的专家：一位专家研究四分卫，另一位研究风向，第三位研究裁判。每位专家都利用强大的神经网络学习自己的特定工作，但他们都向一位中央教练汇报发现，而这位教练只需将他们的发现简单相加即可。这种“广义加性神经网络”（GANN）让人工智能既能利用深度神经网络的超强学习能力，又能保持模型的透明度，从而向你展示每个因素对最终预测结果的具体贡献程度。

研究人员用两种不同的场景测试了这个想法。首先，他们创造了一个拥有完美、已知规则的虚构世界，以观察他们的工具是否能找到隐藏的模式。他们发现 neuralGAM 的准确性极高，能与其它复杂方法媲美，但还有一个巨大的加分项：它能绘制出清晰、平滑的图像，准确展示每个变量是如何改变结果的。它甚至添加了“置信带”，这些带子就像线条周围的模糊阴影，告诉你在多大程度上对答案有把握。当他们转向一个现实世界的挑战——根据天气和飞行数据预测航班是否会延误时——该工具的表现与一个无法解释自身的“黑盒”神经网络一样出色。然而，与黑盒不同的是，neuralGAM 可以向你展示延误发生的“原因”。例如，它揭示了极低温度或高湿度如何以特定的、平滑的方式增加延误风险，并且它还能在数据不足的区域提醒你它正在进行猜测。

论文指出，这种方法在“神秘的天才”和“透明的老师”之间找到了一个平衡点。虽然“黑盒”模型在某些情况下可能会榨取出哪怕一点点额外的准确性，但它们失去了向我们展示决策逻辑的能力。相比之下，neuralGAM 工具证明了你不需要为了获得清晰度而牺牲智能。它表明，通过将一个复杂问题分解为较小的、独立的组成部分，并让神经网络解决每一个部分，你可以获得一个既高度准确又易于理解的模型。研究人员谨慎地指出，这是一种适用于特定类型数据（如数字、是/否结果以及计数）的新方法，他们已经在构思如何通过教它处理变量之间更复杂的关系来使其变得更好。对于那些想要使用人工智能但厌倦了信任一个看不见内部的“魔法盒”的人来说，这个程序包提供了一个新鲜、清晰且强大的替代方案。

技术摘要：neuralGAM：一个用于拟合广义加性神经网络的 R 程序包

问题陈述

神经网络（NN）因其在多种任务中的卓越预测性能而得到广泛认可，但它们也面临着“黑盒”问题，使得理解其决策过程变得困难。虽然存在事后解释性方法，但人们对能够实现“事前”（ante-hoc）解释性、且不牺牲预测准确性的模型有着日益增长的需求。现有的结合广义加性模型（GAM）与神经网络的方法面临着局限性：早期方法需要手动调优或受限于浅层架构，而近期的深度学习方法（例如神经加性模型）则可能受到过拟合或计算成本增加的影响。此外，现有的集成加性模型与神经网络的 R 程序包（如 deepregression 和 bamless）要么侧重于带有嵌入样条基的分布回归，要么利用具有高计算开销的贝叶斯框架，往往缺乏一种能够在 R 生态系统中利用每个特征完全独立的深度神经网络的专门实现。

方法论

本文介绍了 neuralGAM，这是一个实现了广义加性神经网络（GANN）拓扑结构的 R 程序包。核心方法论是训练一个独立的神经网络集成——为每个特征训练一个神经网络——以估计该特征对响应变量的贡献。整体模型保持加性结构，遵循以下形式：

$E[Y | X] = m(X) = h^{-1}\left(\alpha + \sum_{j=1}^{p} f_j(X_j)\right)$

其中 $h(\cdot)$ 是连接函数， $f_j$ 是由神经网络估计的平滑函数。

估计算法

该程序包结合了两种迭代算法来估计模型参数：

局部评分法 (Local Scoring, LS)： 根据当前的拟合情况和特定的分布（高斯、二项或泊松），调整因变量 ( $Z_i$ ) 和权重 ( $W_i$ )。
回拟合法 (Backfitting, BF)： 迭代更新每个协变量的贡献。在每一步中，拟合一个加权加性模型，其中每个平滑项 $f_j$ 通过在特定协变量的偏残差上训练前馈神经网络来估计。

这种方法通过强制执行加性分解来优先保证可解释性，同时保留了深度学习架构的灵活性。该框架支持半参数模型，其中某些项可以是线性的，而另一些则是非参数化的神经网络。

不确定性量化

为了量化认知不确定性（epistemic uncertainty），neuralGAM 采用了 蒙特卡洛 (MC) Dropout 技术。Dropout 层被插入到神经网络中并在推理阶段保持激活状态。通过进行多次随机前向传递 ( $B$ )，程序包生成预测分布。这使得计算单个平滑项以及在连接尺度和响应尺度上的加性预测器的置信区间成为可能（后者使用 Delta 方法）。

软件架构

该程序包依赖 keras 和 TensorFlow 进行底层的神经网络实现。关键特性包括：

灵活的架构： 用户可以全局或针对每个项定义网络深度、单元数、激活函数和正则化器。
自定义损失函数： 支持标准的 Keras 损失函数和用户定义的自定义损失函数。
验证： 包括对验证集拆分和交叉验证工作流的支持。
可视化： 提供诊断图（残差图、QQ 图）以及使用基础 R 和 ggplot2 实现的带有置信区间的偏效应图。

核心贡献

实现： neuralGAM 是唯一可用的、通过局部评分和回拟合法使用每个特征完全独立的深度神经网络来实现 GANN 的 R 程序包。
可解释性与灵活性： 它提供了一种实际的平衡，在保持 GAM “白盒”特性的同时提供具有竞争力的预测性能，从而实现清晰的特征级解释。
不确定性估计： 它将 MC Dropout 直接集成到训练和推理流水线中，以提供单项和全局的认知不确定性估计，这一功能在不使用计算昂贵的模型集成的情况下，是 deepregression 等同类 R 程序包所不具备的。
易用性： 该程序包提供了类似于标准 R 回归程序包的用户友好界面，包括环境设置（install_neuralGAM）的辅助函数和全面的诊断工具。

结果

论文通过模拟数据和实际应用（航班延误预测）评估了 neuralGAM，并将其与 deepregression 以及使用 keras 实现的黑盒多层感知器（MLP）进行了比较。

模拟数据： 在高斯响应场景下，neuralGAM 取得了比 deepregression 略好的均方误差（MSE）和解释偏差。至关重要的是，neuralGAM 恢复了真实的函数形式（二次、线性、正弦），且曲线更平滑、置信区间更窄且更稳定。相比之下，deepregression 的估计值表现出更多的不规则性和“波动性”，特别是在边界处，并且需要模型集成来近似不确定性。
真实数据（航班延误）： 在预测航班延误（二项响应）时，neural-GAM 的 AUC-ROC 为 0.819，与 deepregression (0.838) 和黑盒 MLP (0.838) 相当。虽然黑盒模型提供了略高的预测准确性，但它缺乏可解释性。neuralGAM 成功地可视化了偏效应（例如，飞行时间与延误之间的非单调关系），并具有稳定的不确定性带，而 deepregression 产生的效应则更为震荡，表明其对局部噪声存在过拟合。

重要性与主张

作者将 neural-GAM 定位为寻求在 R 生态系统中实现可解释神经网络研究人员的价值工具。论文声称 neuralGAM 在加性模型的解释性与深度学习的灵活性之间提供了强大的折衷方案。

该工作的意义在于其能够：

提供一种“白盒”替代方案，无需手动调整单变量感知器即可替代黑盒深度学习。
通过 MC Dropout 提供原生的不确定性量化，避免了其他方法所需的训练多个独立模型（集成）的计算成本。
提供稳定、平滑的效应估计，使其比 deepregression 中的样条估计更容易解释，尤其是在数据稀疏的区域。

作者谦虚地指出，虽然 neuralGAM 目前仅限于高斯、二项和泊松分布，但它代表了迈向易用的、可解释的 R 语言深度学习的重要一步。未来的工作被确定为可能扩展到多项逻辑回归、引入交互项，以及探索如共形预测（conformal prediction）等额外的不确定性估计方法。