📈 经济学

Joint Estimation of Credit Risk in Consumer Lending: A Multi-Gate Mixture-of-Experts Approach

本研究表明，一种用于联合估计违约概率与违约损失率的多门控混合专家（MMoE）框架，通过利用选择性参数共享以比传统顺序方法更好地利用共享借款人信息，显著提升了预期损失的校准度，尤其是在中高风险借款人方面。

原作者： Wenlu Zhang, Fang Fang, Lusi Li, Liuliu Fu

发布于 2026-10-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Wenlu Zhang, Fang Fang, Lusi Li, Liuliu Fu

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在消费信贷领域，银行和在线平台面临着一个持续且高风险的计算：如果借款人无法偿还贷款，他们会损失多少钱？为了回答这个问题，贷方必须估算两个截然不同的指标。首先，他们需要猜测一个人违约（即完全停止还款）的可能性。其次，如果那个人确实停止了还款，他们必须估算通过催收或资产处置可以收回原始贷款金额中的多少，以及最终会永久损失多少。这两个估算值相乘，得出“预期损失”（expected loss），这是一个用于指导利率、准备金和监管要求的单一数值。几十年来，标准做法是建立一个模型来预测违约概率，再建立一个完全独立的模型来预测损失金额，将两者视为独立的问题。然而，这种方法假设导致借款人停止还款的因素与决定一旦发生违约后损失多少的因素是完全无关的，这一假设可能会忽略数据中隐藏的宝贵联系。

加州州立大学的一个研究小组致力于测试：将这两个预测视为一个单一且相互关联的问题，是否会产生更好的结果。他们专注于一种被称为“多门控混合专家”（multi-gate mixture of experts）的特定人工智能架构。想象一下一个专家团队，每位专家都以不同的方式分析数据。在传统设置中，每位专家在每个决策上的权重都是相等的。而在这种新方法中，系统为每个特定任务使用了一个智能“门控”（gatekeeper）。对于预测某人是否会违约的任务，门控可能会选择主要听取那些擅长识别财务压力的专家的意见。而对于预测损失金额的任务，门控可能会听取另一组更擅长理解贷款规模和还款历史的专家。这使得系统能够在有帮助的地方共享信息，同时在需要区分的地方保持两种预测的独立性。

研究人员使用来自一家大型在线贷款平台的大规模个人贷款数据集对这一想法进行了测试，该数据集涵盖了 2013 年至 2016 年间发放的数十万笔贷款。为了确保结果准确，他们仔细过滤了数据，仅包含已达到自然结束日期（要么全额还清，要么全额核销）的贷款，从而避免了那些仍在进行中且最终结果尚不明确的贷款所带来的困扰。他们将这种新的“混合专家”模型与传统的构建两个独立模型的做法，以及一种更简单的版本（即强制所有专家在两个任务中共享完全相同的信息）进行了对比。结果显示，虽然传统的独立模型在对借款人进行风险排序方面表现尚可，但在准确预测最终损失金额方面却明显逊色。这种新的联合模型通过允许两种预测选择性地共享信息，在整个投资组合的预期损失预测上展现出了更高的准确性。

这种提升不仅仅是一个微小的统计学优化，它代表了误差的实质性减少。当衡量预测损失与整组借款人实际损失的匹配程度时，与那种强制所有信息平等共享的简单版本相比，新模型将误差降低了约 9%。这种增益并非均匀分布在所有类型的借款人身上。新方法在风险中等和高风险群体中表现出最强的优势，因为在这些群体中，违约行为与损失金额之间的关系更为复杂且多变。对于那些极少违约且通常能全额还款的最安全借款人，简单的模型表现得同样出色。然而，对于风险较高的市场细分领域，这种能够将不同类型的信息路由到模型不同部分的机制，带来了显著的差异。

通过深入挖掘模型的工作原理，研究人员观察了“门控权重”（gate weights），这揭示了系统究竟在为每项工作选择哪些专家。他们发现，用于预测违约的门控倾向于青睐那些对信用评分和债务收入比敏感的专家，从而有效地按信用质量对借款人进行分组。相比之下，用于预测损失金额的门控则更多地关注贷款规模、循环债务金额和就业历史。这证实了该模型并非仅仅在瞎猜，而是通过主动学习，掌握了不同的因素是如何驱动“停止还款”与“损失金额”这两个决策的。系统会根据特定的借款人和特定的任务动态调整其倾听哪些专家的意见，这种灵活性是旧有的、僵化的模型所缺乏的。

该研究得出结论：对于贷方而言，预测最终财务损失的最佳途径是使用能够理解违约与损失严重程度之间的联系，但又不强求两者完全一致的模型。通过使用一个能够选择性共享信息的灵活框架，金融机构可以实现更准确的风险校准。这一点至关重要，因为更好的校准意味着更合理的借款定价以及更稳定的贷方准备金，特别是在那些出错成本最高的风险较高市场。研究表明，信贷风险管理的未来不在于构建更多独立的模型，而在于构建更聪明、更互联的系统，使其能够驾驭“为何停止还款”与“这会导致多少成本”之间微妙的差异。

技术摘要：通过多门控混合专家模型进行消费贷款信用风险联合估计

问题陈述

在消费贷款领域，信用风险管理依赖于计算预期损失（EL），即违约概率（PD）与违约损失率（LGD）的乘积。标准的行业做法是使用独立的模型（如逻辑回归、XGBoost 或 LightGBM）分别对 PD 和 LGD 进行顺序估计。这种方法存在两个主要局限性：

共享信息利用不足： PD 和 LGD 依赖于重叠的借款人和贷款特征（例如：偿付能力、杠杆率、信用历史），但顺序建模将它们视为独立问题，未能利用共享表示。
误差传播： 由于 EL 是预测的 PD 与 LGD 的乘积，其中一个组件模型的误差会在最终的 EL 估计中产生复合效应。
目标不一致： 优化单个组件指标（如 PD AUC 或 LGD MAE）并不能保证组合预期损失的最优校准，而后者是监管资本和基于风险的定价的关键输入。

此外，LGD 估计面临着特定的**右截断（right-censoring）**挑战，即在分析时贷款仍处于活跃状态或具有不完整的回收历史，这会扭曲损失严重程度的经验分布。

方法论

本研究提出了一种**多门控混合专家（MMoE）**框架，用于联合估计 PD 和 LPD。该架构旨在实现选择性参数共享，允许各任务利用不同组合的共享“专家”网络。

数据与预处理：

来源： 公开的 Lending Club 贷款数据（2013–2016 年发行年份）。
过滤： 为解决右截断问题，样本被限制为在观察日期前已达到合同到期日，且终止状态为“全额偿还（Fully Paid）”或“违约核销（Charged Off）”的贷款。
划分： 按时间顺序划分为训练集（2013–2014）、验证集（2015）和测试集（2016 年 1 月–2 月）。
目标变量：
- PD： 二元指标（1 代表违约核销，0 代表全额偿还）。
- LGD： 违约贷款的净经济损失率，计算公式为： $1 - \frac{\text{总回收本金} + \text{回收款} - \text{催收费用}}{\text{资助金额}}$ 。非违约贷款被赋予哨兵值并在 LGD 计算中予以排除。

模型架构：

专家网络： 一个包含 $K=4$ 个专家网络的共享池。每个专家都是一个多层感知器（MLP），具有两个隐藏层（大小分别为 128 和 64），并使用了批归一化（batch normalization）、ReLU 激活函数和 Dropout（0.2）。
门控机制： 两个特定任务的门控网络（一个用于 PD，一个用于 LGD），通过 Softmax 函数对专家池进行软权重计算。这使得模型能够根据任务将输入特征路由到不同的专家混合体中。
输出头： 专门用于 PD 的预测头（Sigmoid 激活）和用于 LGD 的预测头（有界回归）。
损失函数： 模型使用同方差不确定性加权（homoscedastic uncertainty weighting）（Kendall 等人，2018）来优化组合目标。该方法通过学习对数方差参数（ $s_{PD}, s_{LGD}$ ），自动平衡用于 PD 的二元交叉熵损失（Binary Cross-Entropy）和用于 LGD 的均方误差（MSE，仅针对违约观测值计算）。

基准模型：
本研究将 MMoE 模型与以下模型进行对比：

顺序 XGBoost： 分别对 PD 和 LGD 进行分类/回归。
顺序 LightGBM： 分别对 PD 和 LGD 进行分类/回归。
硬共享多任务学习（Hard-Sharing MTL）： 一个单一的共享 MLP 主干加上独立的输出头，代表不进行选择性路由的全参数共享。

评估指标：

组件指标： PD 的 AUC-ROC；LGD 的平均绝对误差（MAE）。
主要指标： EL-Cal RMSE（预期损失校准均方根误差）。该指标衡量了投资组合各分位数桶（decile buckets）中预测 EL 率与实际 EL 率之间的一致性。

关键结果

1. 卓越的预期损失校准能力：
虽然顺序模型和多任务模型在单个组件指标（PD AUC 和 LGD MAE）上表现相当，但联合估计方法在 EL 校准方面显著优于顺序基准模型。

顺序 XGBoost 和 LightGBM 分别产生了 0.1114 和 0.1016 的 EL-Cal RMSE 值。
硬共享 MTL 模型将该值降低至 0.0222。
MMoE 模型实现了最低的 EL-Cal RMSE，为 0.0202，相比硬共享基准提升了 9.0%。

2. 特定细分领域的表现：
MMoE 的收益在不同信用风险谱系中并不均匀：

低风险（等级 A–B）： 硬共享 MTL 的表现略优于 MMoE（EL-Cal RMSE 分别为 0.0098 和 0.0103），这可能是因为该细分领域的损失率较低且具有同质性，为特定任务的路由提供了较小的空间。
中风险（等级 C–D）： MMoE 相比硬共享降低了约 18.3% 的 EL-Cal RMSE。
高风险（等级 E–G）： MMoE 相比硬共享降低了约 3.5% 的 EL-Cal RMSE。

3. 门控权重诊断：
对学习到的门控权重的分析表明，模型有效地利用了选择性路由：

任务差异化： PD 门控主要基于“信用质量”维度（如 FICO 分数、利率）进行路由，而 LGD 门控则结合了更多与损失严重程度相关的变量（如敞口规模、循环余额、就业历史）。
风险细分： 随着信用质量恶化（从等级 A 向 E–G 移动），路由模式发生系统性偏移。例如，PD 门控向与信用压力相关的专家转移权重，而 LGD 门控则将权重从与大额余额相关的专家重新分配给与高风险特征相关的专家。这证实了模型学习到了针对不同任务和借款人细分领域的不同专家混合体。

4. 鲁棒性：
针对专家数量（ $K \in \{2, 4, 6, 8\}$ ）的敏感性分析显示， $K=4$ 表现最佳。增加容量至 $K=8$ 反而导致性能下降，表明过剩的容量可能会使路由机制变得不稳定。

意义与主张

本文对信用风险建模的文献和实践提出了三个主要贡献：

评估重点的转变： 研究强调，信用风险建模的最终目标是组合预期损失的校准，而非仅仅是单个组件的准确性。研究表明，即使 PD AUC 和 LGD MAE 相似，不同的模型也可能产生截然不同的预期损失估计，从而论证了仅靠组件级指标不足以评估操作风险模型。
将 MMoE 应用于信用风险： 本研究成功地将多门控混合专家（MMoE）架构应用于 PD 和 LGD 的联合估计。结果验证了选择性参数共享（通过特定任务的门控）相比于顺序估计和硬共享多任务学习具有额外的价值，特别是在违约发生与损失严重程度之间的关系更为复杂的的中高风险细分领域。
选择性路由的实证证据： 研究提供了投资组合层面和细分领域层面的证据，证明了选择性路由可以改善校准。对门控权重的分析提供了描述性证据，证明模型学习到了如何为 PD 和 LGD 利用不同的共享表示组合，并且这些路由策略随信用风险细分领域的变化而系统性变化。

作者总结道，虽然联合估计解释了预期损失校准的大部分提升，但 MMoE 架构通过将任务路由到特定专家混合体所实现的进一步提升在统计上是显著的，这使其成为一种灵活的框架，用于建模相关但又各具特色的信用风险结果。

技术摘要：通过多门控混合专家模型进行消费贷款信用风险联合估计

问题陈述

方法论

关键结果

意义与主张

类似论文