🤖 machine learning

Disentangling Knowledge States with Ability and Proficiency Modeling for Knowledge Tracing

本文提出了阶段感知知识追踪（Phase-Aware Knowledge Tracing, PAKT），这是一个通过多分支 Transformer 将学生学习解构为能力构建和熟练度导向两个阶段的新型框架，旨在解决阶段无关模型的局限性，并在多个基准测试中实现卓越性能。

原作者： Duantengchuan Li, Yingqian Bi, Jinsong Chen, Rui Zhang, Mingwen Tong

发布于 2026-07-16

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Duantengchuan Li, Yingqian Bi, Jinsong Chen, Rui Zhang, Mingwen Tong

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下这样一个世界：一个计算机导师不仅能观察你的学习过程，还能瞬间洞察你不仅知道“什么”，还知道你是“如何”学到的。这就是“知识追踪”（Knowledge Tracing）的核心——这是一个教育技术领域，旨在根据学生过去的作业表现，预测他们在下次测试中的表现。把它想象成学习过程中的 GPS：它不仅显示你现在在哪里，还试图预测你下一步会走向何方。多年来，这些计算机导师将你回答的每一个问题都视为同一条漫长道路上的又一个步骤。它们假设你在第一天对某个概念感到困惑的方式，与你在第十天轻松掌握它的方式是完全一样的。但任何学习过新技能的人都知道，事实并非如此。起初，你会显得笨拙并处于摸索阶段；随后，你会变得流畅且熟练自如。研究人员提出的重大问题是：我们能否构建一个更聪明的导师，能够理解“摸索阶段”与“精通阶段”之间的区别？

这正是论文《通过能力与熟练度建模解构知识状态以进行知识追踪》（Disentangling Knowledge States with Ability and Proficiency Modeling for Knowledge Treging）所要解决的问题。作者们（一组研究人员）认为，目前的计算机导师忽略了一个关键细节：它们混淆了两种截然不同的学习行为。他们提出了一种名为 PAKT（相位感知知识追踪，Phase-Aware Knowledge Tracing）的新系统，该系统将学生的历史划分为两个不同的篇章：能力阶段（Ability Phase）和熟练度阶段（Proficiency Phase）。

为了理解 PAKT 的奥妙，请想象你正在学习抛接球（juggling）。在开始阶段，你处于能力阶段。你会掉球，手臂乱挥，每次接住球都感觉是一次巨大的胜利。你正在从零开始构建原始技能。此时的成功完全取决于你理解该概念的自然“能力”。但一旦你练习了足够多次，终于不再掉球，你就进入了熟练度阶段。现在，你不仅仅是在接球，你是在有节奏、有 ease 地进行抛接。此时的成功不再关乎你是否“能”做，而在于经过所有这些练习后，你能做得多么“流畅”且“稳定”。

论文指出，旧的计算机导师就像一位教练，观察了你整个抛接生涯，然后给了你一个单一的分数，将你早期的手忙脚乱与后期的流畅熟练混为一谈。这产生了一个“混乱的信号”。然而，新的 PAKT 模型更像是一位拥有两块不同写字板的教练。它分离了你的历史：一块写字板记录你的早期挣扎（能力），另一块则记录你后期的稳定性（熟练度）。

以下是他们是如何构建该系统以及研究发现的：

拆分方式：研究人员创建了一个巧妙的规则来拆分数据。他们统计学生答对特定概念的次数。一旦学生达到了一个特定的正确答案数量（他们称之为阈值 $k$ ），模型就会停止将该概念视为“新知识”，转而将其视为“已掌握”。在该计数之前的所有内容都被归入“能力”桶中；在该计数之后的所有内容则被归入“熟练度”桶中。
核心引擎：他们将这两个独立的桶以及原始的完整历史记录一起输入到一个特殊的 AI 大脑中，即“多分支 Transformer”（Multi-branch Transformer）。你可以将其想象为有三位专家在观察同一个学生：一位专家只关注早期的挣扎，一位专家只关注后期的流畅，而第三位专家则观察全局。
结果：当他们在六个不同的真实数据集（涵盖代数、地理和西班牙语）上测试这个新系统时，它始终优于现有的最佳模型。论文报告称，PAKT 将预测准确度（以指标 AUC 衡量）平均提高了 0.82%，其中最大的增幅出现在西班牙语数据集上，达到了 1.33%。虽然这些数字看起来很小，但在高风险测试和人工智能领域，像这样持续的提升是一项显著的胜利。

作者还使用了一种称为“因果分析”的方法来解释为什么旧的方法会失败。他们表明，通过将能力和熟练度混合在一起，旧的模型产生了一种“混淆偏差”（confounding bias）。这就像是通过混合发动机的马力（能力）与轮胎的抓地力（熟练度）来猜测汽车的速度一样。如果你不把它们分开，你就无法判断究竟是哪一个在帮助汽车行驶。通过解构它们，PAKT 为学生实际掌握的情况提供了更清晰、更准确的图景。

然而，论文也谨慎地指出，这并不是一个已经完美解决的问题。作者提到，他们的方法依赖于一个特定的数值（ $k$ ）来决定何时从“能力”切换到“熟练度”，而这个数值需要针对不同学科进行仔细调整。如果一名学生练习不足，未能达到这个数值，模型就无法看到其“熟练度”部分的成长故事。但总的来说，这项研究表明，通过识别学习的不同阶段，我们可以构建出比以往更理解学生的智能导师。

技术摘要：相位感知知识追踪 (PAKT)

问题陈述

知识追踪 (Knowledge Tracing, KT) 旨在通过对历史交互序列进行建模，预测学生未来的表现，从而刻画其不断演化的知识状态。尽管现有的基于深度学习的 KT 方法（如 DKT、SAINT、AKT）已取得了显著进展，但它们主要将原始交互序列视为一个统一的行为过程。这种统一的范式隐含地假设所有交互都以相同的方式促进知识状态的演化，从而忽略了学习过程中的相位特性（phase-specific nature）。

作者观察到，学生的学习行为在不同阶段存在显著差异：早期交互主要反映能力构建（概念的初始获取与理解），而后期交互则反映熟练度（掌握后的技能自动化、流利度与一致性）。将这些不同的阶段视为单一的同质序列会使复杂的学习信号发生纠缠，导致混杂偏差（confounding bias），并限制模型精确刻画知识状态动态演化的能力。

方法论：相位感知知识追踪 (PAKT)

为了解决这些局限性，作者提出了 PAKT，该框架通过将学生交互序列分解为不同的**能力（Ability）和熟练度（Proficiency）**阶段来进行特定相位的建模。该方法由三个核心组件组成：

1. 学习行为感知的序列分解

其核心创新是一种分解机制，根据每个知识点 (KC) 的累计正确响应计数来划分学生的响应历史。

机制： 使用阈值 $k$ 定义了一个二值相位指示函数 $\delta(s, c, t)$ 。如果学生 $s$ 在步骤 $t$ 对知识点 $c$ 的累计正确计数小于 $k$ ，则该次交互被归类为能力阶段。一旦计数达到或超过 $k$ ，随后的交互将被归类为熟练度阶段。
输出： 该过程生成两个分解掩码矩阵（ $M^{A}$ 和 $M^{F}$ ），将原始序列拆分为能力子序列和熟练度子序列，同时保留原始的完整序列。

2. 多分支 Transformer 主干网络

PAKT 采用多分支 Transformer 架构来处理分解后的序列：

三个输入分支：
1. 能力分支 (Ability Branch)： 处理由 $M^{A}$ 掩码的交互，捕捉内在认知能力和初始获取过程。
2. 熟练度分支 (Proficiency Branch)： 处理由 $M^{F}$ 掩码的交互，捕捉通过练习产生的自动化和一致性。
3. 完整分支 (Complete Branch)： 处理原始的、未分解的序列，以保持对学习轨迹的整体视角。
两阶段训练： 主干网络使用两阶段解码器机制。第一阶段在所有分支中使用共享 Transformer 解码器，以高效学习通用的序列特征。第二阶段为每个分支采用独立解码器，以实现特定相位的专业化。

3. 类型感知读出模块 (Type-Aware Readout Module)

为了整合来自三个分支的表示，设计了一个类型感知读出模块：

自适应融合： 能力表示 ( $H_A$ ) 和熟练度表示 ( $H_F$ ) 通过可学习系数 $\alpha$ 进行融合： $H_{AF} = \alpha \cdot H_A + (1-\alpha) \cdot H_F$ 。
差异增益： 计算差分向量 $H_{\Delta} = H_F - H_A$ ，以显式捕捉由练习驱动的性能提升。
最终表示： 最终的学生表示 $H_S$ 通过拼接融合后的能力-熟练度向量、完整分支表示 ( $H_C$ ) 以及差分增益向量来构建： $H_S = [H_{AF} \parallel H_C \parallel H_{\Delta}]$ 。
预测： 该表示与目标题目特征相结合，并通过 MLP 预测正确响应的概率。

因果分析

论文使用结构因果模型 (SCM) 进行了因果分析。文章指出，在传统的 KT 模型中，学生的内在能力 ( $A$ ) 和习得的熟练度 ( $F$ ) 通过观测到的交互历史 ( $D$ ) 相互纠缠，从而产生了影响潜在学生表示 ( $S$ ) 的混杂偏差。通过显式地解耦并分别建模 $A$ 和 $F$ ，PAKT 打破了这种伪相关，从而能够更准确地估计每个因素对预测结果的真实贡献。

核心贡献

分解机制： 开发了一种新的学习行为感知机制，根据累计正确响应数将交互序列划分为能力阶段和熟练度阶段。
模型架构： 提出了一种具有类型感知读出模块的多分支 Transformer 主干网络，以共同捕捉特定相位和整体维度的知识状态。
实证验证： 通过在六个公开数据集上的广泛实验，证明了该方法较代表性基准模型具有持续的改进。
理论洞察： 通过因果分析揭示了相位无关模型中的混杂偏差，并论证了分离学习行为的必要性。

实验结果

作者在六个公开基准数据集上评估了 PAKT：Algebra05, ASSISTments09, ASSISTments17, Ed-Net, Slepemapy, 和 Spanish。

性能： PAKT 在所有六个数据集上的 AUC（ROC 曲线下面积）和 ACC（准确率）指标上均达到了最佳性能。
提升： 该方法较最强的基准模型表现出持续的增益，平均 AUC 提升为 0.82%，最大 AUC 提升为 1.33%（在 Spanish 数据集上）。
对比： 虽然 DisKT（一种之前的分解方法）表现出了竞争力的结果，但其性能并不稳定。PAKT 的细粒度、基于相位的分解被证明更加鲁棒且普遍有效。
敏感性： 对阈值参数 $k$ 的敏感性分析表明，最优性能通常出现在较低的数值（ $k \le 5$ ）时，具体的最优值因数据集特征（如概念密度和交互量）而异。
消融实验： 移除“完整”分支会导致最大的性能下降，证实了整体视角的必要性；而两个特定相位分支则提供了互补的精细化改进。

意义与局限性

论文声称 PAKT 通过超越“同质建模范式”，转而显式地建模从能力获取到技能巩固的时间演变，从而推进了该领域的发展。这种方法更好地符合了学习的行为语义，并减轻了混杂偏差。

然而，作者也承认存在特定的局限性：

数据稀疏性： 如果学生与某个知识点的交互次数过少，不足以达到阈值 $k$ ，则熟练度分支接收到的信号会很少甚至没有，从而可能削弱其有效性。
超参数调优： 最优阈值 $k$ 需要手动调优，且因数据集而异，这表明未来需要自动化的分解策略。
短序列： 对于无法观察到相位转换的极短交互序列，该方法可能会面临挑战。

本研究得到了国家自然科学基金及各类大学教学改革项目的支持。