TriagerX：基于双 Transformer 架构与内容 - 交互混合排名的 Bug 分派技术论文总结

1. 研究背景与问题定义 (Problem)

Bug 分派 (Bug Triaging) 是指将报告的软件缺陷自动分配给最合适的开发人员或团队进行修复的过程。尽管过去几十年出现了基于信息检索 (IR)、机器学习 (ML) 和深度学习 (DL) 的自动化方法，但其在工业界的实际应用仍受限于性能的不稳定性。

本文指出了现有基于预训练语言模型 (PLM) 的方法存在的两个主要局限性：

1. 语义捕捉偏差：现有的 PLM 方法虽然比传统 TF-IDF 等方法更能捕捉语义，但仍可能关注到 Bug 报告中不相关的 Token，导致推荐效果不佳。
2. 缺乏交互历史考量：现有的 PLM 模型通常仅基于文本内容，忽略了开发人员围绕相似 Bug 的历史交互记录（如提交代码、评论、PR 等）。在实际开发中，近期参与过类似修复的开发人员更有可能被分配新任务，但现有模型往往忽视了这一时间敏感性和上下文相关性。

此外，现有的单 Transformer 架构模型在特定领域（如工业级代码库）可能表现次优，且难以平衡模型大小与性能。

2. 方法论 (Methodology)

为了解决上述问题，作者提出了 TriagerX，一个结合了内容基础排名 (Content-Based Ranker, CBR) 和交互基础排名 (Interaction-Based Ranker, IBR) 的混合框架。

2.1 核心组件

A. 内容基础排名器 (CBR)

CBR 旨在通过更可靠的语义分析来生成候选开发人员的初始排名。

• 双 Transformer 架构 (Dual-Transformers)：不同于以往使用单一 Transformer 的方法，TriagerX 集成了两个预训练语言模型（实验中选择 DeBERTa 和 RoBERTa 的 Base 版本）。
• 多层特征提取：不仅利用最后一层的 [CLS] 标记，还提取最后三层 (Last 3 layers) 的隐藏状态。通过可学习的权重 ($HW_{x,k}$) 对不同层的特征进行自适应加权，以捕捉更丰富的句法和语义特征。
• 集成学习 (Ensemble)：将两个模型的输出特征拼接，利用它们在不同预训练语料库中捕捉到的互补信息（正交性），增强模型的鲁棒性。
• CNN 分类器：摒弃了传统的全连接网络 (FCN)，采用基于卷积神经网络 (CNN) 的分类器。CNN 能更有效地捕捉拼接后隐藏状态中的局部模式和层级特征。
• 知识保留微调 (KPFT)：采用一种微调策略，冻结 PLM 的早期层以保留通用语言知识，仅微调后期层以适应特定任务，防止灾难性遗忘。

B. 交互基础排名器 (IBR)

IBR 旨在利用开发人员的历史交互数据来修正 CBR 的排名。

• 相似问题检索：使用 Siamese BERT (SBERT) 模型计算新 Bug 报告与历史 Bug 的语义相似度，检索相似问题。
• 时间衰减评分机制：
  • 识别在相似问题上进行过交互（提交、PR、讨论、分配）的开发人员。
  • 引入指数衰减函数 $f(t) = e^{-\lambda t}$，根据交互发生的时间与新 Bug 报告时间的间隔进行加权。近期交互的权重更高，远期交互权重平滑降低。
  • 根据交互类型（如 Commit/PR 权重高于 Discussion）赋予不同的积分值。
• 动态调整：IBR 生成的交互分数 (Interaction Score) 会作为修正项，与 CBR 的预测分数融合。

C. 排名聚合器 (Rank Aggregator, RAgg)

• 采用加权排名聚合 (Weighted Ranking Aggregation, WRA) 方法。
• 最终得分公式：$FS(d_i) = NPS(d_i) + W_f \cdot NIS(d_i)$
  • $NPS$：归一化的 CBR 预测分数。
  • $NIS$：归一化的 IBR 交互分数。
  • $W_f$：通过网格搜索优化的权重因子，用于平衡文本相关性和交互信号在不同数据集中的重要性。

3. 关键贡献 (Key Contributions)

1. 双 Transformer 内容排名 (Dual-transformer Content-based Ranking)：提出了 CBR 模型，通过集成两个 PLM 并利用多层表示，有效捕捉了 Bug 报告中的互补语义信号，在保持较小模型参数量的同时实现了高准确率。
2. 交互感知排名与混合集成 (Interaction-aware Ranking & Hybrid Integration)：设计了 IBR 模块，通过时间衰减和相似性感知机制量化开发人员的历史贡献。首次将基于交互的排名与 PLM 驱动的方法在统一框架下结合。
3. 工业界部署与验证 (Real-world Industrial Deployment)：与 IBM 合作，将 TriagerX 成功部署在 OpenJ9 项目的开发工作流中。系统通过 GitHub Bot 和 Slack 提供实时推荐，并验证了其在真实工业环境中的低延迟和高接受率。

4. 实验结果 (Results)

作者在 5 个数据集（Google Chromium, Mozilla Core, Mozilla Firefox, OpenJ9, TypeScript）上进行了评估，并与 9 种基于 Transformer 的 SOTA 基线（包括 LBT-P, DBRNN-A, 各种 PLM+FCN/CNN 等）进行了对比。

• 整体性能提升：
  • 在 OpenJ9 数据集上，TriagerX 的 Top-1 准确率比最佳基线 LBT-P 提高了 54%，比最近的 PLM 模型提高了 58%。
  • 在 TypeScript 数据集上，Top-1 准确率比 LBT-P 提高了 26%，比最近的大型 PLM 模型提高了 10%。
  • 在文献数据集（GC, MC, MF）上，CBR 组件单独表现也优于所有基线，Top-1 准确率提升最高达 29%。
• 组件有效性：
  • CBR：证明了双 PLM 集成和 CNN 分类器优于单一模型和 FCN 分类器。
  • IBR：在 OpenJ9（交互频繁）数据集上，IBR 单独表现优于 CBR；在 TypeScript（交互稀疏）上表现略逊，但两者结合后在两个数据集上均达到最优。
  • 消融分析：证明了时间衰减因子 ($\lambda$) 和相似性阈值 ($\tau$) 对性能至关重要；加权聚合 (WRA) 优于传统的 Borda 计数法。
• 工业部署反馈：
  • 在 OpenJ9 的实际部署中，TriagerX 的 Top-3 推荐被开发人员参与（讨论、提交或 PR）的接受率达到了 82.5%。
  • 对于需要代码贡献的 Bug，推荐开发人员的实际贡献接受率为 66.7%。
  • 系统推理延迟在 CPU 上约为 3-4 秒，在 GPU 上可降至 100-200 毫秒，满足实时性要求。
  • 模型参数量（约 2.71 亿）小于大型 PLM（如 DeBERTa-Large 的 4.05 亿），但精度更高，适合资源受限环境。

5. 意义与价值 (Significance)

• 技术突破：TriagerX 证明了在 Bug 分派任务中，结合多模型集成（捕捉语义多样性）和动态交互历史（捕捉时间敏感性和上下文）能显著提升推荐准确性。它解决了单一 PLM 模型在特定领域泛化能力不足的问题。
• 工业实用性：
  • 冷启动缓解：通过同时推荐“组件 (Component)"，TriagerX 可以将 Bug 先分配给团队，再由团队负责人指派给具体人员（包括新加入的开发人员），有效缓解了“冷启动”问题。
  • 低资源消耗：通过集成小型 Base 模型而非使用大型模型，TriagerX 在保持高性能的同时降低了显存需求和训练成本，使其易于在工业环境中部署。
  • 可解释性与信任：虽然目前主要作为黑盒推荐，但论文提出了未来结合 LLM 生成解释（如“推荐该开发者是因为他最近修复了 3 个类似 Bug"）的方向，以增强开发人员的信任。
• 开源贡献：作者提供了完整的复现包（Replication Package），包括数据集处理、模型训练代码及工业部署脚本，推动了该领域的研究复现。

综上所述，TriagerX 不仅是一个性能卓越的 Bug 分派算法，更是一个经过工业界验证、兼顾效率与精度的工程化解决方案，为自动化软件维护提供了新的范式。