💻 computer science

A Theory of Appropriateness That Accounts for Norms of Rationality

该论文提出了一种以社会为先的规范性适当性理论，通过将个体类比为类似大语言模型的预测性模式完成者，解释了人类规范的情境依赖性、任意性及动态性等特征，并挑战了理性选择理论，主张理性实为对文化特定辩护标准的遵循。

原作者： Joel Z. Leibo, Alexander Sasha Vezhnevets, Manfred Diaz, John P. Agapiou, William A. Cunningham, Peter Sunehag, Logan Cross, Raphael Koster, Stanley M. Bileschi, Minsuk Chang, Iyad Rahwan, Simon Osind

发布于 2026-03-17

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Joel Z. Leibo, Alexander Sasha Vezhnevets, Manfred Diaz, John P. Agapiou, William A. Cunningham, Peter Sunehag, Logan Cross, Raphael Koster, Stanley M. Bileschi, Minsuk Chang, Iyad Rahwan, Simon Osindero, James A. Evans

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文提出了一种关于人类行为和社会规范的全新理论。为了让你轻松理解，我们可以把人类的大脑想象成一台超级智能的“预测机器”（类似于现在的 AI 大语言模型），而社会规范则是这台机器里预装的“操作指南”。

以下是用通俗易懂的语言和生动的比喻对这篇论文的解读：

1. 核心观点：我们不是“计算器”，而是“填空者”

传统观点（理性选择理论）： 以前经济学家和心理学家认为，人做决定像是一个精明的会计。遇到事情，我们会列出所有选项，计算每个选项的“收益”和“成本”，然后挑一个最划算的做。这就像在解一道数学题，目标是“利益最大化”。
这篇论文的观点（预测性模式补全）： 作者认为，人其实更像是一个玩“成语接龙”或“填空题”的高手。
- 当你身处某个情境（比如开会、聚餐、过马路），你的大脑会根据当前的线索（上下文），自动预测“像我这样的人，在这种场合下，通常会做什么”。
- 你不需要每次都重新计算利弊。你的大脑直接根据过去的经验（文化训练），补全了接下来的行为模式。
- 比喻： 想象你在读一本大家都读过的书。看到“春天来了，花儿……"，你不需要思考“花”为什么要开，你的大脑会自动补全“开了”。人类的行为也是这么“自动补全”的。

2. 为什么我们要遵守规矩？（社会规范的本质）

论文解释了为什么人类会有各种各样的规矩（比如排队、吃饭不吧唧嘴、穿正装出席葬礼）。

规矩是“剧本”： 社会就像一个大剧场，每个人出生时（或者通过成长）就下载了不同的“角色剧本”。
- 显性规范（Explicit Norms）： 就像写在纸上的法律或说明书。比如“红灯停，绿灯行”。这需要你刻意去读、去记，就像你在查字典。
- 隐性规范（Implicit Norms）： 就像肌肉记忆或直觉。比如“在图书馆要小声说话”。你不需要思考，大脑自动就调低了音量。这是因为你的大脑已经把这种模式“固化”了，变成了本能。
为什么规矩看起来很随意？ 为什么有的国家开车靠左，有的靠右？为什么有的地方吃饭用手，有的用筷子？
- 作者说，这些规矩最初往往是随机的（就像大家约定俗成说“狗”就是那个动物，其实叫“猫”也行）。
- 一旦大家达成了共识，谁不遵守谁就会受到“制裁”（比如被嘲笑、被排斥，甚至被罚款）。这种社会压力让规矩变得不可动摇，哪怕它本身没有道理。

3. 我们是如何学习的？（大脑的“预训练”）

大脑像 AI 模型： 论文把人类大脑比作一个大语言模型（LLM）。
- 预训练（Pre-training）： 我们在成长过程中，通过观察父母、学校、媒体，吸收了海量的文化数据。这就像 AI 在出厂前被喂读了整个互联网的数据。
- 结果： 当我们成年时，我们的大脑已经“预训练”好了。我们不需要从零开始学习“什么是礼貌”，因为我们的“模型”里已经包含了这些文化常识。
情境填空： 当你走进一个房间，你的大脑会问自己：“我是谁？我在哪？这里的人通常在做什么？”然后，大脑会根据这些线索，瞬间“生成”一个最合适的行为方案。

4. 为什么有时候我们会“想太多”？（双系统理论的重新解释）

心理学常说人有“系统 1"（快思考、直觉）和“系统 2"（慢思考、逻辑）。这篇论文用“填空”理论重新解释了这一点：

快思考（自动补全）： 就像你看到"1+1"，大脑直接跳出"2"。这是隐性规范在起作用，不需要费力。
慢思考（长链条填空）： 当你遇到复杂问题（比如做数学题或道德两难），大脑需要生成一条长长的推理链条（Step 1, Step 2, Step 3...）。
- 比喻： 这就像写文章。快思考是脱口而出的一句话；慢思考是写一篇文章，需要一步步推导。
- 有趣的现象： 有时候我们想得越多，反而越偏激（比如为了维护自己的政治立场，编造出一套复杂的理由来支持错误的观点）。论文认为，这是因为我们的“推理链条”被我们的身份认同（隐性规范）带偏了，我们只是在用逻辑去“合理化”我们原本就想要的结果。

5. 什么是“理性”？

这是论文最颠覆性的观点之一。

传统看法： 理性就是追求利益最大化，是宇宙通用的真理。
论文看法： 理性本身也是一种“社会规范”。
- 在某些圈子（比如商学院、科学界），大家约定俗成地认为“用数据说话、计算成本收益”是理性的。
- 如果你不按这个套路出牌，大家就会觉得你“不理性”并制裁你（比如不录用你、不发表你的文章）。
- 结论： 并没有绝对的理性。所谓的“理性”，只是你所在的文化圈子里，大家公认的一种正确的“填空”方式。如果你换个文化环境（比如原始部落），他们的“理性”可能完全不同。

总结：这篇论文想告诉我们什么？

社会先于个人： 我们不是一个个孤立的、带着固定喜好来到世界的“计算器”。我们是被社会文化“预装”好的演员，通过扮演社会角色来行动。
行为是“补全”出来的： 我们做大多数事，不是经过深思熟虑的计算，而是根据当下的情境，自动补全了“剧本”里的下一步。
规矩是活的： 规矩之所以存在，是因为大家互相监督（制裁）。如果大家都变了，规矩也会跟着变（比如疫情期间戴口罩从“怪人”变成了“文明人”）。
重新定义理性： 理性不是神赐的真理，而是一种文化习惯。学会“理性”，其实就是学会了如何在这个社会里正确地“填空”。

一句话总结：
我们的大脑就像一台安装了海量人类文化数据的 AI，我们在生活中不是在“计算”怎么做最好，而是在根据当下的场景，自动“填空”出大家觉得最得体、最正常的行为。所谓的“理性”，不过是我们学会的另一种“得体”的填空方式罢了。

这是一份关于论文《A Theory of Appropriateness That Accounts for Norms of Rationality》（一种能够解释理性规范的适宜性理论）的详细技术总结。

1. 研究问题 (Problem)

社会科学和认知科学长期面临一个核心问题：社会秩序是如何产生的？ 现有的主流解释主要分为两类：

个体优先（Individual-first）： 以理性选择理论（Rational Choice Theory）为代表，假设个体是未社会化的（tabula rasa），通过最大化外部给定的标量奖励（效用）来做出决策，社会秩序是个体行为的加总结果。
社会优先（Society-first）： 认为社会结构先于个体存在，个体行为由社会规范、文化背景塑造。

现有理论的局限性：

理性选择理论的缺陷： 需要外生指定偏好或效用函数（Exogenous inputs），难以解释偏好的内生形成；难以解释规范的任意性、情境依赖性和自动性；在解释为何不同学科（如逻辑论证与叙事）的理性标准不收敛时存在困难。
认知科学的二元对立： 传统的“双系统模型”（System 1 直觉 vs. System 2 深思）往往将两者视为独立的神经子系统，难以解释为何深思熟虑有时反而会增加偏见（动机性推理）。

本文目标： 提出一种基于“社会优先”框架的新理论，利用类似大型语言模型（LLM）的预测模式补全机制，统一解释人类规范行为的五个关键特征（情境依赖性、任意性、自动性、动态性、制裁性），并重新定义“理性”。

2. 方法论 (Methodology)

本文构建了一个基于**预测模式补全（Predictive Pattern Completion）**的计算理论框架，将个体建模为预训练的智能体（类似于 LLM）。

2.1 核心假设与架构

个体模型： 个体被视为预训练在人类语言和文化产品上的 LLM。他们不是从零开始学习，而是携带了历史偶然性的文化知识。
决策机制： 行为是通过预测模式补全生成的。个体根据当前情境（Context）和记忆，回答“像我这样的人在这样的情况下会做什么？”（What does a person such as I do in a situation such as this?）。
全局工作空间（Global Workspace）： 决策过程被建模为一个全局工作空间 $z_t$ $z_{t}$ ，其中包含观察 $o_t$ $o_{t}$ 、一系列思维组装（Assemblies，即思维链） $z^{(k)}_t$ $z_{t}^{(k)}$ 和最终动作 $a_t$ $a_{t}$ 。
- 组装（Assemblies）： 代表思想、目标或计划。
- 模式补全网络 ( $p$ )： 类似于 LLM，负责根据上下文预测下一个组装或动作。
- 记忆 ( $M_t$ )： 对应海马体系统，存储显式规则或具体案例。
- 权重 ( $p$ )： 对应新皮层，存储隐式规范（通过长期经验巩固）。

2.2 决策逻辑 (Decision Logics)

模型支持多种决策逻辑，通过不同的“思维链”提示（Prompt）实现：

逻辑 A（理性）： 识别选项 -> 评估后果 -> 选择期望值最高者。这被视为一种特定的、习得的显式规范，而非先天的优化机制。
逻辑 B（适宜性）： 识别情境 -> 识别身份 -> 执行符合该身份在情境下的行为。这是本文的核心机制。

2.3 规范的定义与分类

惯例 (Conventions)： 基于前例权重的行为模式。
制裁 (Sanctions)： 社会认可或反对的符号序列（如言语、表情、惩罚），作为上下文信息输入给模式补全网络，改变行为概率。
规范 (Norms)： 由通用范围的制裁模式所鼓励或抑制的行为。
显式规范 vs. 隐式规范：
- 显式： 可语言化（如法律），存储于记忆 $M_t$ ，需主动检索（类似 System 2）。
- 隐式： 不可精确表述（如社交距离），固化于网络权重 $p$ 中，自动触发（类似 System 1）。

3. 关键贡献 (Key Contributions)

提出了“社会优先”的规范理论： 将个体视为文化预训练的智能体，社会秩序是这些智能体互动的涌现结果，而非个体理性的加总。
统一解释五大经验事实（Stylized Facts）：
- 情境依赖性： 行为由全局工作空间中的上下文（身份、角色、环境）决定。
- 任意性： 规范内容源于历史偶然和集体协调，无需内在效用基础。
- 自动性： 隐式规范固化为网络权重，无需长思维链即可快速响应。
- 动态性： 规范通过集体行动和正反馈（如临界点效应）快速演变。
- 制裁性： 制裁不仅是奖惩，更是塑造上下文信息的符号，直接改变模式补全的概率分布。
重新定义理性 (Rationality)：
- 理性不再是普适的效用最大化，而是一种文化演化的规范实践（Epistemic Norm）。
- “理性选择”只是众多决策逻辑中的一种（逻辑 A），是在特定文化背景下被训练和制裁的显式规范。
- 偏好（Preferences）是内生的，由模式补全过程根据记忆和身份动态构建，而非外生给定。
对双系统模型的重构：
- 不再将直觉和深思视为两个独立的系统，而是视为思维链长度的不同。
- 自动性 = 短思维链（隐式规范直接补全）。
- 深思 = 长思维链（显式规范检索与推理）。
- 动机性推理：当长思维链被隐式身份规范“劫持”时，深思反而强化了偏见，而非纠正它。
生物合理性解释： 将 LLM 的架构映射到大脑机制（新皮层模式补全、海马体记忆、全局工作空间理论），解释了预测编码、神经同步和记忆巩固等神经科学现象。

4. 主要结果与解释 (Results & Explanations)

规范的形成与稳定： 规范通过“前例权重”自我强化。一旦建立，偏离规范的行为在模式补全网络中概率极低，除非发生集体行动改变上下文。
制裁的作用机制： 制裁作为上下文信息（Contextual Information）输入，直接修改 $p(\cdot|c)$ 的分布。例如，看到某人因违规受罚，观察者会更新记忆，使得在类似情境下违规动作的概率降低。这解释了第三方制裁和观察学习。
理性作为规范： 论文展示了如何在没有内置效用函数的情况下，通过模式补全生成“理性”行为。如果上下文包含“目标是最大化利润”，预训练在商业文本上的 LLM 会自动补全出符合利润最大化的策略。这表明目标导向行为是模式补全的自然结果。
规范变迁： 解释了规范如何通过自下而上的文化演化（如流行趋势）或自上而下的工程干预（如法律改革）发生。显式规范（法律）通过制度规则改变，隐式规范（常识）通过代际数据分布的缓慢漂移改变。

5. 意义与影响 (Significance)

理论范式转移： 挑战了经济学和认知科学中占主导地位的“个体优先”和“效用最大化”范式，提出了一种更简约（Parsimonious）的解释框架。根据奥卡姆剃刀原则，如果不需要外生效用函数就能解释所有现象，该理论更优。
解决内生偏好问题： 为偏好的内生形成提供了自然的计算机制，解释了为何偏好会随经验、社会互动和文化背景动态变化，解决了传统模型中偏好固定性的难题。
AI 与社会科学的交叉： 利用 LLM 作为认知模型，不仅为 AI 代理（Agent）提供了更真实的社会行为模拟基础（如 Concordia 平台），也为理解人类认知提供了新的计算视角。
对“理性”的批判性反思： 指出不同学科（如物理学 vs. 历史学）拥有不同的“理性”标准（认识论规范），这并非逻辑缺陷，而是文化规范的差异。这有助于理解科学范式转换和社会争议。
应用前景： 为模拟社会动态、预测规范变迁、设计更有效的社会干预政策（如利用临界点效应）提供了新的理论工具和计算框架。

总结：
这篇论文通过引入“预测模式补全”作为核心机制，成功地将大型语言模型的计算原理应用于社会规范理论。它不仅统一解释了人类规范行为的复杂特征，还从根本上重构了“理性”的概念，将其从一种先天的优化能力转变为一种后天习得的文化规范。这一理论为理解社会秩序、认知过程以及人工智能的社会行为提供了强有力的统一框架。