🤖 AI

A Unified Framework for Modeling Heterogeneous Financial Data via Dual-Granularity Prompting

本文提出了名为 FinLangNet 的统一框架，通过结合表格特征提取与包含特征级及用户级双粒度提示机制的时序建模，将信用评分重构为多尺度序列学习问题，从而在工业级部署中显著提升了模型性能并降低了坏账率。

原作者： Yu Lei, Zixuan Wang, Yiqing Feng, Junru Zhang, Yahui Li, Chu Liu, Tongyao Wang, Dongyang Li

发布于 2026-04-21

📖 1 分钟阅读☕ 轻松阅读

原作者： Yu Lei, Zixuan Wang, Yiqing Feng, Junru Zhang, Yahui Li, Chu Liu, Tongyao Wang, Dongyang Li

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一个名为 FinLangNet 的新系统，它是滴滴（DiDi）国际业务团队为了更精准地评估“借钱给谁才安全”而开发的一套人工智能模型。

为了让你轻松理解，我们可以把信用评分想象成给一个人“体检”，看看他未来会不会“生病”（也就是会不会还不起钱）。

1. 以前的医生（传统模型）是怎么看病的？

在 FinLangNet 出现之前，银行和金融机构主要依赖一种叫 XGBoost 的老牌算法。

它的工作方式：就像一位经验丰富的老中医，手里拿着一张长长的静态体检表（比如你的年龄、收入、职业、有没有逾期记录等）。
它的局限：
1. 太依赖人工：老中医需要助手（数据科学家）花大量时间手动整理这些表格，把数据变成他看得懂的“药方”（特征工程），这既慢又容易出错。
2. 只看“快照”：它只看你此时此刻的状态。就像医生只看了你今天的体温，就断定你未来半年的健康状况，完全忽略了你可能明天开始熬夜、后天开始暴饮暴食这些动态变化。
3. 无法预测未来：它很难回答：“这个人下个月会不会变坏？”或者“三个月后他的风险会不会飙升？”

2. 新医生（FinLangNet）是怎么工作的？

FinLangNet 就像是一位拥有“时间机器”和“超级显微镜”的 AI 全科医生。它不再只看静态表格，而是把评估信用变成了一个**“多尺度行为预测”**的游戏。

它的核心架构由两个部分组成，我们可以用两个生动的比喻来理解：

🏗️ 第一部分：静态画像师（Non-Sequential Module）

比喻：这是医生的档案柜。
作用：它处理那些不会怎么变的信息（比如你的年龄、学历、基本收入）。它使用一种叫 DeepFM 的技术，不仅能记住你的信息，还能发现信息之间隐藏的“化学反应”。
- 例子：单独看“年轻”和“高收入”可能没问题，但“年轻 + 高收入 + 频繁借贷”组合在一起，风险就完全不同了。这个模块能敏锐地捕捉到这种复杂的组合关系。

⏳ 第二部分：时间侦探（Sequential Module / SRG）

比喻：这是医生的监控录像分析室。
作用：这是 FinLangNet 最厉害的地方。它处理的是你随时间变化的行为（比如你每月的还款记录、查询征信的次数、借款频率）。
核心黑科技：双重提示机制（Dual-Prompt）
这就好比侦探在分析录像时，使用了两种不同的“放大镜”：
1. 微观放大镜（特征级 Prompt）：专门盯着某一个具体行为看。比如，它专门观察“你最近查询征信的频率”有没有突然变高，捕捉细微的异常波动。
2. 宏观广角镜（用户级 Prompt）：专门看你整个人的全貌。它把所有行为（查征信、借钱、还款）综合起来，形成一个整体的“风险画像”。
- 效果：就像侦探既看到了你“昨天偷偷查了征信”（微观），又判断出“你最近整体财务很紧张”（宏观），从而得出更准确的结论。

3. 它是怎么预测未来的？

传统的模型只预测“明天会不会违约”。FinLangNet 则像是一个天气预报员，它同时预测：

未来 30 天会不会违约？
未来 60 天会不会违约？
未来 90 天会不会违约？

它通过一个动态加权的机制，既关注短期的突发风险，也关注长期的信用演变趋势。

4. 实际效果如何？（真金白银的验证）

这个模型不是只停留在纸面上，它已经真正用在了滴滴的金融业务中，效果惊人：

更准：相比以前的老系统，它的风险识别能力（KS 指标）提升了 6.3%。这意味着它能更精准地把“坏人”（高风险用户）和“好人”区分开。
省钱：坏账率（借出去收不回来的钱）降低了 9.9%。
解释性：虽然它是复杂的深度学习模型，但团队把它和传统的 XGBoost 结合使用。FinLangNet 负责从海量数据中“提炼”出关键的风险信号，然后交给 XGBoost 做最终决策。这样既保留了 AI 的聪明，又符合银行对“可解释性”的监管要求。

总结

FinLangNet 就像是从“看静态照片”进化到了“看 4K 高清连续剧”。

以前的模型：只看你现在的照片，猜你以后会不会变坏。
FinLangNet：不仅看照片，还通过微观和宏观两个视角，实时分析你过去所有的行为轨迹，预测你未来几个月甚至半年的信用变化。

这让金融机构能更聪明地放贷，既减少了坏账损失，又让真正需要资金的好人更容易借到钱。

这篇论文提出了一种名为 FinLangNet 的新型框架，旨在解决工业界信用评分中处理异构金融数据的难题。该框架将传统的信用评分问题重新定义为多尺度序列学习问题，通过结合静态特征提取与动态时序建模，显著提升了风险预测的准确性。

以下是对该论文的详细技术总结：

1. 研究背景与问题 (Problem)

现有挑战：工业界的信用评分模型主要依赖人工调优的统计学习方法（如 XGBoost）。虽然这些方法稳定且可解释，但在处理异构金融数据（多源、高维、稀疏、离散、含缺失值）和动态演变的信用状况时存在局限。
深度学习困境：现有的深度学习架构（如 RNN、Transformer）在工业信用评分中往往难以 consistently 超越传统统计模型。主要原因包括：
1. 难以有效捕捉多源异构数据中的复杂时序依赖。
2. 现有模型多基于“单时间点”预测，无法模拟用户信用状况在不同未来时间跨度（如 30 天、60 天、90 天）上的动态演变。
3. 过度依赖繁琐的人工特征工程。
核心痛点：如何在保持工业级可解释性和效率的同时，利用深度学习捕捉用户行为的细粒度时序模式及整体风险画像，并实现多时间跨度的风险预测。

2. 方法论 (Methodology)

FinLangNet 采用双模块架构，将异构数据分为非序列（静态）和序列（动态）两部分进行处理，并引入了创新的双粒度提示机制 (Dual-Granularity Prompting)。

2.1 整体架构

输入数据：
- 非序列部分 ( $m$ )：静态属性（如用户画像、基本信息）。
- 序列部分 ( $z$ )：来自多个源（如查询记录、账户记录、借贷行为）的动态时序数据。
双模块设计：
1. 非序列模块 (Non-Sequential Module)：
  - 基于 DeepFM 架构。
  - 结合因子分解机 (FM) 捕捉低阶特征交互，利用深度神经网络 (DNN) 捕捉高阶非线性关联。
  - 输出静态特征嵌入 $O_m$ 。
2. 序列模块 (Sequential Module, SRG)：
  - 离散化 (Discretization)：将连续金融信号转化为离散 Token，以缓解数据稀疏性和噪声影响。
  - 双提示机制 (Dual-Prompt Mechanism)：这是核心创新，受 Transformer 中 [CLS] 标记启发，但在两个粒度上引入可学习提示：
    - 特征级提示 (Feature-level Prompt, $e_{\phi_c}$ )：针对每个特征通道（Channel）添加可学习 Token，用于捕捉细粒度的时序模式。
    - 用户级提示 (User-level Prompt, $P_s$ )：在所有通道聚合后添加全局可学习向量，用于聚合整体风险画像。
  - 通过 Transformer 编码器处理增强后的序列，输出综合时序表示 $O_{ns}$ 。
多尺度预测与优化：
- 将静态和时序嵌入融合，通过多任务头预测不同时间跨度（ $\tau \in \{1, ..., 6\}$ ）的违约概率。
- 动态加权混合损失函数 (Dynamically Weighted Hybrid Loss)：
  - 结合加权对数损失 (WLL) 处理类别不平衡。
  - 引入动态难例挖掘 (Dynamic Hard Example Mining)，根据预测不确定性（梯度范数）自动增加困难样本的权重。
  - 平衡回归平滑性与分类稳定性。

3. 关键贡献 (Key Contributions)

问题重构：将信用评分从单一分类任务重构为动态多尺度预测任务，使模型能够生成反映信用状况随时间演变的行为分布。
FinLangNet 架构：提出了混合架构，结合 DeepFM 处理表格数据，并首创了双粒度提示机制（特征级 + 用户级），有效解决了异构金融数据的时序建模难题。
SOTA 性能：在多个基准测试中取得最优结果。在公开 UEA 时间序列分类基准上表现优异，证明了其作为通用序列建模框架的潜力。
工业落地实效：在真实金融平台部署，相比传统的 XGBoost 系统，KS 值提升了 6.3 个百分点，坏账率降低了 9.9%。

4. 实验结果 (Results)

工业信用风险评估 (真实数据集)：
- 对比基线：XGBoost（生产环境基线）、各类深度学习序列模型 (Transformer, Mamba, TimesNet) 以及大语言模型 (DeepSeek-V3.2, GPT-4.1)。
- 表现：FinLangNet 在所有 6 个时间跨度任务中均优于所有基线。
  - 相比 XGBoost，平均 KS 值提升 6.3 pp。
  - 相比最强的表格基线，AUC 和 KS 均有显著提升。
  - 融合策略：将 FinLangNet 生成的风险分作为特征输入 XGBoost，进一步提升了 KS 值（达到 36.55%），但在长周期预测中，纯 FinLangNet 表现优于融合模型，说明静态特征在长周期预测中可能引入噪声。
- LLM 表现：Zero-shot 的大模型在结构化金融数据上表现不佳（KS 仅约 10%），凸显了专用架构的必要性。
UEA 时间序列基准：
- 在 5 个多变量时间序列分类任务（涵盖医疗、运动识别等）中，仅使用 SRG 模块即达到了 SOTA 或具有竞争力的精度，证明了其泛化能力。
消融实验：
- 移除序列模块导致 KS 值暴跌超过 20%，证明时序行为动态是信用风险的主导预测因子。
- 双提示机制（特征级 + 用户级）结合效果最佳。
- 模型对输入序列长度具有鲁棒性，即使截断至 25% 的历史数据，性能下降极小，有助于解决冷启动问题。
在线 A/B 测试：
- 在 60% 通过率阈值下，新框架将违约率从 9.1% 降至 8.2%（相对降低 9.9%）。
- 能够识别出传统模型漏掉的高风险用户，同时减少了对低风险用户的误杀。

5. 意义与价值 (Significance)

理论与实践的结合：成功将学术界的序列建模创新（Prompting, Transformer）应用于高要求的工业金融场景，解决了深度学习在表格数据上“水土不服”的问题。
解决动态风险：突破了传统模型仅关注“当前时刻”风险的局限，能够模拟用户信用在不同未来时间窗口的演变，为更全面的贷后管理和风险定价提供了工具。
可解释性与效率的平衡：通过“黑盒”深度学习模型提取特征，再输入到可解释的 XGBoost 系统中，既满足了监管对可解释性的要求，又利用了深度学习的强大表征能力。
商业价值：在滴滴国际业务集团的实际部署中，显著降低了坏账率，证明了该框架在大规模、高并发金融场景下的可行性和巨大的经济价值。

总结：FinLangNet 通过双模块架构和创新的提示机制，有效解决了异构金融数据建模的复杂性，实现了从静态评分到动态多尺度风险预测的跨越，为工业界信用风控提供了新的范式。