The role of System 1 and System 2 semantic memory structure in human and LLM biases

这是一份关于论文《The role of System 1 and System 2 semantic memory structure in human and LLM biases》（人类与大语言模型中系统 1 和系统 2 语义记忆结构在偏见中的作用）的详细技术总结。

1. 研究问题 (Problem)

• 核心挑战：隐性偏见（Implicit Bias）在人类和大型语言模型（LLMs）中都会导致有害的社会后果。虽然双过程理论（Dual Process Theory）提出，偏见主要源于快速的、联想式的“系统 1"（System 1），而慢速的、 deliberative（审慎）的“系统 2"（System 2）可以调节偏见，但这两种认知机制在表征结构（Representational Structure）层面的具体差异及其如何导致偏见差异，尚不清楚。
• 现有局限：
  • 现有的双过程理论多关注功能差异（如速度、可控性），缺乏对底层记忆结构差异的机制性解释。
  • 关于 LLM 是否拥有类似人类的系统 2 结构（如基于规则的符号架构）来调节偏见，目前存在争议。LLM 通常被视为“系统 1 机器”，但近期研究显示它们在显性偏见基准测试中表现良好，这引发了关于其内部认知机制的疑问。
• 研究目标：通过构建多图层语义记忆网络，比较人类和 LLM（Mistral 和 Llama3）在联想（System 1）与结构化知识（System 2）层面的语义结构差异，并探究这些结构差异与隐性性别偏见之间的关系。

2. 方法论 (Methodology)

研究采用**多层网络建模（Multilayer Network Modeling）和扩散激活（Spreading Activation）**技术，将抽象的认知理论转化为可量化的网络结构分析。

A. 数据构建与网络建模

研究构建了三个独立的多层语义网络（分别对应人类、Mistral-7b、Llama3.1-8b），每个网络包含三层，分别对应不同的知识类型：

1. 联想层（Associative Layer, System 1 代理）：
   • 人类：基于 SWOW（Small World of Words）数据集的自由联想。
   • LLM：基于 LWOW（LLM World of Words）数据集，通过提示词让模型生成自由联想。
   • 含义：捕捉基于统计规律和经验的隐性联想。
2. 特征层（Definitions Layer, System 2 代理 1）：
   • 人类：基于 WordNet 的词典定义。
   • LLM：通过提示词让模型生成词典定义（模拟 WordNet 结构）。
   • 含义：捕捉概念的必要和充分条件，代表逻辑和定义性知识。
3. 范畴层（Categorical Relations Layer, System 2 代理 2）：
   • 人类：基于 WordNet 的范畴关系（同义词、反义词、上下位词）。
   • LLM：通过提示词让模型生成范畴关系。
   • 含义：捕捉逻辑分类和层级关系，代表规则性知识。

注：所有网络均经过预处理（去除 WordNet 中不存在的节点、提取最大连通分量等），以确保可比性。

B. 结构可约性分析 (Structural Reducibility Analysis)

• 目的：评估不同知识层（联想、定义、范畴）是否构成了**结构上不可约（Irreducible）**的独立实体，还是存在冗余。
• 方法：使用信息论距离度量（基于归一化拉普拉斯矩阵），计算多层网络在不同聚合配置下的相对熵。
• 判定标准：如果最佳配置是所有层保持分离（相对熵最大），则网络是不可约的（表明各层结构独特）；如果某些层可以合并而不损失大量信息，则网络是可约的（表明结构重叠）。

C. 隐性偏见测量 (Implicit Bias Measurement)

• 方法：基于**扩散激活（Spreading Activation）**模拟语义启动（Semantic Priming）。
• 流程：
  1. 选择“启动词”（Primes，如 man, woman）和“目标词”（Targets，如 nurse, doctor）。
  2. 在网络中激活启动词节点，激活值沿边传播。
  3. 计算目标节点在传播结束后的最终激活水平。
  4. 比较“刻板印象一致对”（如 man-doctor）与“不一致对”（如 woman-doctor）的激活强度差异。
• 指标：计算标准化效应量（Effect Sizes），正值表示刻板印象一致（存在偏见），负值表示不一致，零表示无偏见。

3. 关键贡献 (Key Contributions)

1. 理论框架的实证化：首次将双过程理论中的系统 1 和系统 2 具体化为多层语义记忆网络结构，并提供了区分“表征结构”与“处理过程”的实证方法。
2. 人类与 LLM 认知架构的对比：揭示了人类语义记忆具有结构上的不可约性（不同知识形式是分离的），而 LLM 的语义结构表现出部分可约性（联想与范畴知识高度重叠）。
3. 偏见调节机制的差异：证明了在人类中，语义结构（特别是系统 2 类型的结构）与偏见水平存在系统性负相关；而在 LLM 中，这种结构 - 偏见关系是混乱且不稳定的。

4. 主要结果 (Results)

A. 结构可约性差异

• 人类：多层网络是**不可约（Irreducible）**的。联想层、定义层和范畴层在结构上截然不同，合并任意两层都会导致显著的结构信息损失。这表明人类拥有多种独立且互补的概念知识组织形式。
• LLM (Mistral & Llama3)：网络表现出部分可约（Partially Reducible）。联想层和范畴层可以合并而几乎不损失信息，只有定义层保持相对独立。
  • 解释：LLM 生成的“范畴关系”往往本质上是联想性的（例如，LLM 可能会为“椅子”生成“桌子”作为反义词，而人类知道椅子没有反义词），导致联想与范畴知识在表征层面重叠。

B. 语义结构与偏见的关系

• 人类：
  • 系统性规律：偏见水平随知识结构的变化呈现系统性下降。
  • 联想层（System 1）：表现出最强的刻板印象一致性（偏见最大）。
  • 定义层与范畴层（System 2）：偏见显著降低。这表明人类的概念知识结构中，逻辑和定义性知识能够有效调节基于联想的偏见。
  • 异常发现：在人类范畴层中，男性相关目标词仍表现出微弱的刻板印象一致性，而女性相关目标词甚至出现负效应（反刻板印象），这可能源于 WordNet 等资源中历史遗留的“男性默认”（Male Default）现象（如 man 指代全人类）。
• LLM：
  • 无一致模式：偏见水平在不同主题（如职业、特质、家庭/事业）和不同层之间波动剧烈，没有表现出像人类那样从“联想”到“结构化”的偏见递减规律。
  • 随机性：同一层内，不同主题的效应量差异巨大（例如 Llama3 的定义层中，职业类呈现男性偏见，而特质类呈现女性偏见）。
  • 结论：LLM 的语义结构无法像人类那样通过切换知识表征模式来有效调节偏见。

5. 意义与启示 (Significance)

1. 认知科学视角：

   • 证实了人类语义记忆包含多种结构上独立的表征形式（联想、定义、范畴），这是人类能够进行复杂推理和偏见调节的基础。
   • 揭示了 LLM 目前缺乏人类那种高度分化的、基于逻辑的范畴知识结构，其“系统 2"能力可能只是统计联想的某种变体，而非真正的符号推理。

2. 人工智能视角：

   • 偏见根源：LLM 的偏见调节机制与人类根本不同。仅仅增加训练数据或微调可能无法解决根本问题，因为缺乏结构性的知识隔离。
   • 改进方向：要减少 LLM 的偏见，可能需要引入真正结构化的、非联想式的知识表示（如知识图谱、逻辑规则），而不仅仅是依赖统计概率。
   • 评估指标：未来的 AI 评估不应仅关注显性基准测试，还应考察模型内部语义结构的分化程度及其对偏见的调节能力。

3. 方法论创新：

   • 提供了一种将抽象认知理论（双过程理论）转化为可计算网络模型的新范式，为未来研究人机认知差异提供了可复现的工具。

总结：该研究通过多层网络分析发现，人类拥有结构上不可约的、分化的语义记忆系统，这使得系统 2 类型的知识能够有效抑制系统 1 产生的偏见；而 LLM 由于缺乏这种结构分化，其联想知识与范畴知识高度重叠，导致其无法像人类一样通过切换知识结构来系统性地调节隐性偏见。这揭示了人机认知在根本架构上的巨大差异。