💻 computer science

SliceGraph: Mapping Process Isomers in Multi-Run Chain-of-Thought Reasoning

本文介绍了 SliceGraph，一种后验图框架，它揭示了“过程异构体”——即汇聚于同一正确答案的不同且结构连贯的推理轨迹——从而证明标准的最终答案聚合忽略了多轮思维链推理中丰富的多路径几何结构。

原作者： Kang Chen, Junjie Nian, Yixin Cao, Yugang Jiang

发布于 2026-05-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Kang Chen, Junjie Nian, Yixin Cao, Yugang Jiang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你让 64 位不同的 AI“思考者”去解决同一个数学问题。他们都写出了逐步推理过程（思维链），最终都得出了完全相同的正确答案。

传统上，研究人员只会查看最终答案，然后说：“太棒了，他们都答对了。”他们会将这 64 次尝试视为 64 次独立的、恰好吻合的随机猜测。

SliceGraph 认为，这就像看到 64 个人都到达了城市中的同一个目的地，就假设他们都走了完全相同的公交线路。事实上，有些人可能穿过了公园，有些人可能坐了地铁，还有些人可能开车走高速公路。他们最终都到达了同一个地方，但他们的旅程却截然不同。

以下是该论文如何用简单的类比来分解这一现象：

1. 地图：SliceGraph

与其阅读 AI 思考的文本（这可能具有误导性，就像两个人都说“我向左走”，但意思却不同），作者构建了一张基于 AI内部连接的地图。

类比：想象 AI 的大脑是一座拥有数百万个电灯开关（神经元）的巨大城市。每当 AI 思考一个词时，一组特定的开关就会亮起。
方法：研究人员没有查看文字，而是查看了哪些开关是亮着的。他们将思考过程分组为小的“切片”（256 个词的块），并比较这些切片的“开关模式”。
结果：他们构建了一张图（地图），其中的节点是这些思考切片，连线连接了使用相似内部开关的切片。这张地图揭示了 AI 所走的隐藏“道路”。

2. 发现：过程异构体

该论文引入了一个新概念，称为过程异构体。

类比：在化学中，“异构体”是指具有完全相同的原子和分子式，但在空间排列上不同的分子（例如直链与环状）。
发现：研究人员发现，对于同一个数学问题，AI 往往通过完全不同的内部路径找到正确答案。
- 路径 A：AI 可能先尝试猜测答案，意识到错了，然后切换到逻辑证明。
- 路径 B：另一个 AI 可能直接从逻辑证明开始，跳过猜测，得出相同的答案。
- 异构体：尽管它们都是“正确”的并且有相同的最终答案，但它们是“过程异构体”，因为它们的内部旅程（思考步骤的排列）在结构上是不同的。

统计数据：在他们测试的问题中，约有85%的正确答案并非只有一条单一路径。相反，AI 通过多个截然不同的“路径家族”找到了答案。平均而言，如果你随机选择两次正确的尝试，有76% 的几率它们是通过完全不同的内部路径到达那里的。

3. 地形：高价值核心

研究人员还绘制了在这个思维景观中“成功”发生的位置。

类比：想象地图上有一些“高价值核心”——这些就像阳光充足、肥沃的山谷，AI 在这些地方最有可能得出正确答案。
发现：这些肥沃的山谷通常是互不相连的。
- 一个“路径家族”可能完全停留在“北谷”。
- 另一个“路径家族”可能完全停留在“南谷”。
- 它们都到达了终点，但在中途从未交汇。它们专门适应地形的不同部分。

4. 为什么这很重要（根据论文）

论文声称，如果只看最终答案，我们就是将一个丰富、多维的世界“坍缩”成一条平坦、枯燥的线。

旧方法：“他们答对了。干得好。”（忽略了他们是如何到达那里的）。
SliceGraph 方法：“他们答对了，但他们使用了三种不同的内部策略，而且这些策略在中间从未真正交汇。”

作者通过让人类专家查看这些切片来验证这一点。专家确认，由 AI 内部开关归类的切片确实代表了相同的逻辑步骤或策略，证明了这张地图是准确的。

总结

论文指出：不要只相信最终答案。 即使 AI 给出了正确答案，它使用的“内部地图”也可能与另一个 AI（甚至是同一个 AI 在不同尝试中）完全不同。这些不同的路径被称为过程异构体，它们揭示了 AI 的推理比我们之前认为的更加多样化和结构化。

论文并未声称的内容：

它没有说这会让 AI 在现实世界中变得更聪明或更可靠。
它没有建议利用这一点来修复 AI 错误或构建新的医疗工具。
它严格专注于测量和描绘AI 如何思考，而不是改变其思考方式。

技术摘要：SliceGraph：映射多轮思维链推理中的过程异构体

问题陈述

当前多轮思维链（CoT）推理方法（如自一致性）通常仅根据最终答案聚合 $N$ 条采样轨迹。这种聚合方式丢弃了这些轨迹如何通过中间计算共享、分裂和重新汇合的内部结构。现有的内部分析往往局限于“单轮运行”（within-run），研究单一轨迹内的语义收敛或特定步骤的几何特征，而非考察针对同一问题的多轮运行之间的联合结构。此外，先前的基于图的处理流程通常依赖中间投影（如 PCA、UMAP、句子嵌入）来计算切片相似度。作者认为，这些投影会扭曲路径几何，要么压缩不同的家族数量，要么因主题饱和而将整个图谱坍缩，从而掩盖了推理真正的多路径结构。

本文探讨的核心问题是：当多个 CoT 正确解决同一问题时，它们是收敛到单一过程路径，还是形成不同的“过程异构体”（process isomers）——即共享相同最终答案但遍历不同中间路径的轨迹？

方法论：SliceGraph

作者提出了 SliceGraph，这是一种后验测量对象（而非解码程序），用于映射采样 CoT 的过程几何。该方法论包含五个层级：

1. SliceGraph 构建（骨架）

输入：对于给定的问题 - 模型单元，采样 $N=64$ 次 CoT 运行。
切片定义：将激活值聚合为 32 个 token 的行，进一步聚合为更粗粒度的推理切片（标准大小：256 个 token，8 行）。
表示：该方法不使用文本嵌入或 PCA，而是使用稀疏激活键。每个切片表示为前 $k$ 个活跃 MLP 神经元（由层 - 单元对标识）的二进制集合。
图构建：节点代表切片。边基于稀疏激活键集合的Jaccard 相似度，通过**互 $k$ 近邻（mutual- $k$ NN）**建立。这保留了推理过程未经投影的高维结构。

2. 结构分解

双连通分量（BCCs）：将图分解为 BCC（移除任意单个节点后仍保持连通的最大子图）。这些代表共享的推理状态。
关节点：连接 BCC 的节点充当分支点，推理群体在此分叉。
角色分配：根据运行覆盖率、大小、答案纯度和位置，为块（BCC）分配角色（例如 shared_trunk（共享主干）、answer_basin（答案盆地）、decision_point（决策点））。
验证：两项盲注研究证实，BCC 对应人类对共享推理状态的理解，且生成的聚类与共享的高级策略一致。

3. 过程家族与异构体

聚类：基于运行访问的非平凡块集合，使用加权 Jaccard 相似度和 Louvain 社区检测，将运行聚类为过程家族。
过程异构体定义：如果两个正确的 CoT 运行达到相同的归一化最终答案，但属于不同的过程家族，则它们被定义为过程异构体。这表明它们使用了不同的中间路径到达同一解决方案。

4. 标签种子奖励场

为了分析价值景观，在固定的图结构上扩散奖励场。
种子：基于访问该块的运行的超额成功率，为每个块计算种子值。
扩散：该种子通过 PageRank 风格的扩散过程进行传播。
高价值核心：正值场的前四分之一定义了“高价值核心”。如果一个单元具有多个不连通的高价值核心，则其为“多核”。

5. 类型化状态动力学

将运行提升为类型化状态转移模型，其中状态由（块角色、时间分箱、核心成员资格）定义。
家族核：估计每个过程家族的转移核。
分析：作者使用总变差（TV）距离将这些核与零控制（标签打乱）进行比较，以确定家族是否以不同的方式导航图谱。

主要结果

1. 结构有效性与表示

语义对齐：人类标注者确认，同一 BCC 内的切片代表相同的推理操作（88.9–90.3% 的一致性），且同一过程家族内的运行使用相同的高级策略（94.4% 的一致性）。
骨架鲁棒性：未经投影的稀疏激活键 Jaccard 相似度至关重要。PCA 和句子嵌入（MiniLM）坍缩了多路径几何，将有效单元减少至接近零，或显著压缩了家族数量。

2. 过程异构体的普遍性

多家族普遍性：在 954 个问题 - 模型单元中（涵盖三个 4B/8B 模型在数学/科学基准上的表现），**85.5%**的正确 CoT 分裂为多个过程家族。
异构体率：在归一化正确的运行对中，**76.6%**是过程异构体（属于不同家族）。
稳定性：这种现象在分半重采样下持续存在，即使控制正确运行的数量（例如，在 $m=4$ 次正确运行时，异构体率仍保持在 58.2%）也依然成立。

3. 价值景观与导航

多盆地结构：**67.6%**的可评估奖励单元表现出多个不连通的高价值核心。
专业化：过程家族并非简单地相互复制；它们在独特的高价值核心足迹上专业化。专业化分数（衡量家族足迹在特定核心上的集中程度）平均为0.59。
独特动力学：特定家族的转移核存在显著差异。在**80.9%**的多家族单元中，家族间的转移动力学超过了零分布（标签打乱），表明家族并非仅通过访问不同的静态状态，而是使用独特的转移核导航同一图谱。

4. 跨架构与规模复现

复现：这些发现在不同架构（DeepSeek-R1-Distill-Llama-8B）和规模（Qwen3-32B）下均成立。
规模效应：在更大的 Qwen2.5-Math-72B 模型上，多家族率有所降低（67.3%），这是由于准确率饱和（更确定性的求解）所致，但当存在结构多样性时，定性几何特征（专业化、独特动力学）依然保留。

意义与主张

本文主张，最终答案的聚合忽略了结构化的多路径过程几何。通过将推理过程视为激活重叠的图，而非独立样本的集合，SliceGraph 揭示了：

过程异构体很常见：同一问题的正确解决方案通常遵循根本不同的中间路径（过程异构体）。
路径家族是独特的：这些异构体并非随机变化，而是形成连贯的“过程家族”，它们在价值景观的不同区域（高价值核心）上专业化。
导航动力学不同：这些家族不仅访问不同的状态；它们以独特的转移核遍历推理图谱。

作者将 SliceGraph 定位为用于审计过程多样性、坍缩和过度集中的测量对象，而非用于驱动解码的工具。这项工作表明，理解推理的“形状”需要通过激活键相似度分析多轮运行的联合结构，从而避免基于投影的嵌入所带来的扭曲。