🤖 machine learning

RePAIR: Predictive Self-Supervised Representation Learning in Chess

本文介绍了 RePAIR，一种结合了掩码自编码与预测建模的新型自监督表示学习架构，旨在将连续的国际象棋局面编码进紧凑的潜在空间，从而在不依赖高昂强化学习成本的情况下，实现有意义的国际象棋概念涌现与直观的游戏分析。

原作者： Christoph Koller, Johannes Fürnkranz, Timo Bertram

发布于 2026-06-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Christoph Koller, Johannes Fürnkranz, Timo Bertram

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在观看一场国际象棋比赛，但有人从记谱册中撕掉了中间好几页。你看到了初始局面和最终局面，但中间的步骤都缺失了。

现在，想象有一个超级聪明的学生，他从未接受过人类教授的国际象棋规则，也没有通过与计算机对弈数百万局来赢取奖项。这位学生只被展示过数千盘完整的国际象棋对局。他的任务就是观察“之前”和“之后”的照片，并猜出那些缺失的页面看起来是什么样的。

这正是 REPAIR 的核心理念，这是一个在论文中描述的新型计算机程序。

“填空”游戏

研究人员构建了一个系统，它的工作原理就像一个高科技版本的“填空”谜题。以下是其具体步骤：

掩码（隐藏线索）： 计算机获取一个国际象棋局面序列（例如一盘进行中的棋局），并随机隐藏其中的大块内容。这就像拍下一张国际象棋棋盘的照片，用黑笔涂掉 80% 的棋子，然后问道：“这里原本是什么？”
编码器（快照提取器）： 首先，计算机观察可见的棋子，并将每个棋盘位置转化为一种紧凑的、秘密的代码（即“潜状态”）。它会对每一个棋盘独立进行此操作，此时还不观察相邻的棋盘。
预测器（侦探）： 这是神奇之处。计算机拥有一个“预测器”，充当侦探的角色。它观察可见棋盘的秘密代码，并试图修复那些缺失的部分。它不仅仅是随机猜测；它利用一个“轻量级”的大脑（一个小型 Transformer 模型）来观察上下文。它会问：“如果国王在这里，皇后在那里，那么在缺失的步骤中，一定发生了什么？”
解码器（艺术家）： 一旦预测器修复了秘密代码，系统就会将这些代码翻译回实际的国际象棋棋盘，以查看猜测是否正确。

为什么这很特别？

通常，为了教计算机下国际象棋，你需要使用强化学习。这就像用零食训练狗：计算机玩数百万局游戏，赢或输，然后慢慢学习哪些招式是好的。这既昂贵又需要大量的计算能力。

REPAIR 则不同。它不在乎赢或输。它不知道什么是“将死”。它只关心模式。它通过尝试重建缺失的部分来学习。通过迫使自己去填补空白，它在无意中学习了国际象棋的深层逻辑：

它学习到兵是向前移动的。
它学习到马是按“L”形跳跃的。
它学习到你不能让你的国王处于危险之中。

论文表明，因为模型必须多次“修复”棋局，它建立了一个极其丰富的、具有深刻含义的国际象棋思维地图。

“国际象棋宇宙”地图

最令人着迷的结果是，当你观察计算机的“秘密代码”（潜空间）时，它呈现出了类似城市及其不同街区的样子：

开局区： 所有以相似开局招式（如移动国王前的兵）开始的对局都聚集在地图的一个区域。
中局地带： 随着游戏的进行，路径会移动到地图的另一个部分。
残局村庄： 当只剩下少量棋子时，路径会落入一个特定的小角落。
“易位”社区： 甚至还有一个专门针对玩家进行“易位”（一种保护国王的特殊招式）的对局集群。

仿佛计算机仅仅通过尝试填补缺失的页面，就构建了它自己的国际象棋世界内部地图，其中相似的概念彼此相邻。

该模型能做什么

论文展示了三件酷炫的事情：

它可以猜出缺失的招式： 即使存在巨大的缺口（例如缺失 25 步），模型也能重建出一个看起来符合逻辑且合法的国际象棋局面。它不仅仅是随机猜测棋子；它理解规则。
它能处理歧义性： 有时从 A 点到 B 点存在两三种合法的路径。模型并不会只选其一；它会展示一个“模糊”的棋盘，棋子略显透明，以此表示：“可能是这个，也可能是那个。”
它理解谜题： 当被展示国际象棋谜题（例如“寻找必胜招式”）时，模型会将主题相似的谜题（如“底线将死”或“进阶兵类”）在它的思维地图中归为一类，尽管它从未被明确告知过这些主题。

总结

论文声称，REPAIR 是另一种教计算机学习序列数据（如国际象棋对局）的新方法，而无需昂贵的训练或人类教师。通过简单地尝试“修复”序列中缺失的部分，计算机能够自主学习国际象棋的深层结构和规则，从而创建一个人类可以理解和探索的、富有层次感的国际象棋概念地图。

技术摘要：REPAIR —— 国际象棋中的预测性自监督表示学习

问题陈述

目前的国际象棋表示学习方法主要依赖于基于自我博弈的强化学习（RL）（例如 AlphaZero、Leela Chess Zero）或使用手工设计的启发式算法及领域专家知识的监督学习。这些方法通常需要高昂的训练成本和显式的移动标签。虽然自监督学习在图像和自然语言领域（如 MAE、BERT、JEPA）取得了显著成功，但其在国际象棋这类序列状态数据上的应用仍有待探索。挑战在于如何在不依赖显式移动标注、玩家等级分或昂贵的强化学习的情况下，学习到一种语义丰富且低维的国际象棋状态表示，并使模型能够对棋子移动进行推理并重建序列中缺失的状态。

方法论：REPAIR 架构

作者提出了 REPIAR（通过迭代细化进行自动编码的表示预测），这是一个综合了掩码自编码器（MAE）、联合嵌入预测架构（JEPA）和 BERT 概念的自监督架构。该框架通过以下流水线处理状态序列（例如连续的国际象棋局面）：

编码器（独立状态映射）：
- 每个国际象棋状态 $s_i$ （表示为 $19 \times 8 \times 8$ 的位图）通过卷积编码器被独立地映射为一个潜向量 $z_i$ 。
- 编码器利用挤压-激励（Squeeze-and-Excitation）模块来学习通道权重，以强调重要特征。
- 至关重要的是，编码器独立处理各个状态；在此阶段，状态之间不存在时间信息流。
掩码（Masking）：
- 生成一个潜向量序列 $Z$ 。以概率 $p$ 对序列中的随机部分（排除第一个和最后一个元素）进行掩码处理，使用可学习的标记 $\bar{z}_i$ 代替。
- 本文采用了高掩码率（高达 90%），利用了国际象棋序列可以从极小上下文推断大量信息这一特性，这与自然语言不同。
预测器（迭代细化）：
- 预测器是唯一允许状态间进行信息交换的组件。它使用单层、仅编码器的 Transformer，具有四个注意力头。
- 它以迭代方式运行：从被掩码的序列开始，通过关注整个序列来更新潜表示 $\hat{z}_i$ 。这个过程重复 $n$ 次，旨在使掩码后的潜状态收敛到未掩码的地面真值（即 $z_i \approx \hat{z}_i^{(n)}$ ）。
- 这种迭代细化使得模型能够“修复”潜序列中的空白。
解码器（状态重建）：
- 解码器是一个逆向编码器，将细化后的潜向量映射回输入空间（即 $s_i \approx \hat{s}_i$ ）。
- 目标是重建原始位图，从而有效地恢复缺失的棋盘状态。
损失函数：
- JEPA 损失： 最小化预测器输出与未掩码地面真值潜表示之间的距离。
- 解码器损失（长/Long）： 计算从预测器输出重建的原始状态与原始状态之间的重建误差。这可以防止表示崩溃。
- 解码器损失（短/Short）： 计算从编码器输出直接解码的状态与原始状态之间的重建误差。
- 论文发现，结合 Long 解码器损失与 Short 解码器损失能获得最佳性能，从而有效地训练预测器进行表示细化，而无需依赖 JEPA 潜对齐损失。

核心贡献

新颖架构： 引入了 REPAIR，它将 MAE 式的掩码、JEPA 式的潜预测以及 BERT 式的序列处理集成到一个统一的自监督框架中，用于处理序列化状态数据。
自监督国际象棋学习： 证明了无需强化学习、手工启发式算法或带标签的移动数据，仅依靠游戏序列的统计结构，即可学习到有意义的国际象棋表示。
迭代潜修复： 一种轻量级预测器迭代细化掩码潜状态的机制，使模型能够对棋子移动进行推理，并重建游戏序列中的巨大空白。
语义聚类： 有证据表明，学习到的潜空间能够自然地对国际象棋概念进行聚类，包括游戏阶段（开局、中局、残局）、特定的开局家族（ECO 代码）以及谜题主题（puzzle motifs）。

实验结果

模型在 80,000 盘 Lichess 比赛（2025 年 6 月）上进行了训练，首先采用 50% 的掩码率，随后进入 90% 掩码率阶段。

重建准确度：
- 使用 Long 解码器损失训练的模型，即使在 80% 序列被掩码的情况下，在掩码方格上的 Top-1 重建准确率也达到了约 93%。
- 缺乏 Long 解码器损失的组合会导致准确率显著降低或发生模型崩溃。
- 模型展示了重建合法移动模式的能力，并能排除不合理的移动（例如忽略会导致立即丢子的移动）。
注意力分析：
- 通过可视化预测器的注意力权重发现，信息最初从掩码状态扩散到相邻的未掩码状态，然后进一步传播。
- 注意力机制在大约五次迭代后趋于稳定，这对应于状态变化停滞的点。
表示空间的语义：
- 游戏阶段： 全局游戏轨迹的 PCA 投影显示出对应于开局、易位事件（白方和黑方分别独立）以及中局和残局的清晰聚类。
- 开局： ECO 开局位置的 t-SNE 投影显示出按 ECO 代码（例如王兵开局对比后兵开局）进行的清晰聚类，学习到的嵌入比原始位图具有更好的分离度。
- 谜题： 嵌入空间成功地根据语义主题（如“高级兵”、“底线杀”、“后残局”）分离了国际象棋谜题，证实了模型捕捉到了高层级的战略概念。

意义与主张

论文声称 REPAIR 提供了一个语义丰富的表示空间，这种空间纯粹是通过自监督训练产生的。与以往侧重于为获胜策略提供策略（policy）而产生嵌入的方法不同，REPAIR 明确专注于学习状态本身的有意义嵌入。

作者断言，该模型展示了一种对国际象棋规则和策略的“直觉”，证据如下：

能够高精度地重建缺失的棋盘状态。
生成的概率分布遵循合法移动约束和战术后果（例如，避免导致丢子的移动）。
潜空间中游戏轨迹和谜题主题的自然聚类，使得通过观察其路径即可直观地剖析比赛。

这项工作表明，此类自监督架构可以应用于其他涉及连续变换的领域，为实现无需昂贵强化学习或显式标签的可解释过程提供了路径。