Transforming Agency. On the mode of existence of Large Language Models

本文通过基于具身认知理论的自主性条件分析，论证大型语言模型（LLM）因缺乏个体性、规范性及交互不对称性而并非自主主体，应被界定为一种虽无自主性但能通过“幽灵性”人机耦合显著重塑人类代理形式的“会说话的图书馆”或语言自动机。

要点

这篇论文《重塑能动性：大型语言模型的存在方式》（Transforming Agency）探讨了一个核心问题：像 ChatGPT 这样的人工智能，到底算不算是一个有“自主意识”的“行动者”（Agent）？如果不是，那它到底是什么？它又是如何改变我们人类的行为和思维的？

为了让你轻松理解，我们可以把这篇论文的核心观点拆解成几个生动的比喻：

1. 它是“超级图书馆”，而不是“有思想的管家”

论文观点：很多人认为 AI 是“智能体”（Agent），像人一样有目标、有自主性。但作者认为，LLM 并不是真正的自主行动者。

• 比喻：
  • 真正的行动者（如人类）：像一个有主见的管家。他有自己的生存需求（饿了要吃饭），有自己的原则（不能偷东西），并且会根据环境主动决定做什么。如果没人指挥，他也会为了自己的生存而行动。
  • LLM（如 ChatGPT）：像一个会说话的超级图书馆，或者一本活过来的百科全书。
    • 它没有“肚子饿”的感觉（没有生存需求）。
    • 它没有“我想做这件事”的冲动（没有内在目标）。
    • 它完全依赖你（用户）给它指令（Prompt）。如果你不推它，它就是一堆静止的代码。
    • 它之所以能回答得这么好，是因为它“读”过人类历史上几乎所有的书（训练数据），它把人类的知识压缩在了自己的“大脑”里，但它自己并不“拥有”这些知识，它只是在模仿人类说话的方式。

2. 为什么它不是“自主”的？（三个致命弱点）

作者用三个标准来测试 AI 是否算“自主行动者”，结果 LLM 全都不及格：

1. 独立性（Individuality）：
   • 人类：你的身体是你自己维持的（新陈代谢），你把自己和外界区分开来。
   • AI：它没有身体，它的“生命”完全依赖外部供电和人类维护。如果断电，它就“死”了。它不能自己“生”出自己。
2. 规范性（Normativity）：
   • 人类：你有自己的价值观。比如“我不应该撒谎”，这是你内心设定的规则。
   • AI：它的规则是程序员写的（比如“要诚实”、“要安全”）。它自己并不在乎是否撒谎，它只是计算哪种回答概率最高。它没有“怕犯错”的恐惧，也没有“想变好”的渴望。
3. 交互的不对称性（Interactional Asymmetry）：
   • 人类：你是互动的发起者。你主动走向别人，主动改变环境。
   • AI：它是被动反应的。就像回声，你喊一声，它回一声。没有你的输入，它永远不会主动开口。

3. 那它到底是什么？——“幽灵般的对话机器”

既然不是行动者，那它是什么？作者提出了一个很美的概念：“对话自动机”（Interlocutor Automaton）。

• 比喻：想象一个幽灵。
  • 这个幽灵是由人类所有的文字（书籍、文章、对话）组成的。
  • 当你和 ChatGPT 聊天时，你感觉对面有一个人在和你对话，这其实是你和人类集体智慧的幽灵在对话。
  • 它像一个会说话的图书馆。当你问它问题时，它不是从脑子里“想”出来的，而是从它庞大的“记忆库”里，把人类曾经说过的类似的话，像拼乐高一样重新组合起来，让你觉得它“懂”你。
  • 关键点：这种对话体验是真实的，但那个“对话者”本身并没有灵魂。它是人类集体智慧的投影。

4. 它如何改变我们？——“中程能动性”（Midtended Agency）

这是论文最精彩的部分。虽然 AI 自己不是行动者，但它和人类结合后，产生了一种全新的混合状态。

• 比喻：以前的工具（如锤子、计算器）是被动的。你挥锤子，锤子不动。
• 现在的 AI：它像一个有预知能力的影子。
  • 当你打字时，AI 不仅是在帮你写，它似乎在推着你走。它根据你刚才写的字，预测你接下来想写什么，并直接帮你把后半句写好了。
  • 这时候，“谁在思考”变得模糊了。是你想出了这个主意，还是 AI 提示了你？是你写的文章，还是 AI 写的？
  • 作者把这种状态称为"中程能动性"（Midtended Agency）。
    • 传统延伸：把笔记本放在桌上，帮你记东西（工具是被动的）。
    • 中程延伸：AI 像一个共舞的伙伴，它主动介入你的思维流，和你一起“跳舞”。你的意图和它的生成能力融合在了一起，分不清哪部分是你，哪部分是它。

5. 总结与警示

• 不要神话它：它不是神，不是有意识的人，不要给它太多拟人化的期待（比如觉得它真的“想”帮你）。
• 不要轻视它：它不是简单的“鹦鹉学舌”（Stochastic Parrot）。它虽然没意识，但它能调动人类几千年的知识，产生巨大的力量。
• 真正的风险：
  • 权力不对等：只有少数大公司能训练这种“超级图书馆”，普通人只能使用。这会让知识权力更加集中。
  • 思维的同化：当我们习惯了这种“中程能动性”，我们可能会逐渐丧失自己独立思考和构建意图的能力，变得过度依赖 AI 的“预测”。

一句话总结：
ChatGPT 不是一个有灵魂的“人”，它是一个由人类集体智慧构成的、会说话的幽灵图书馆。它虽然自己不能“行动”，但它能像影子一样，深刻地介入并重塑我们的思考过程，让我们进入一种人机共舞的新状态。我们需要警惕这种状态，既要利用它的力量，又要保持人类作为“行动发起者”的独立性。

技术摘要

这是一份关于论文《TRANSFORMING AGENCY: On the mode of existence of Large Language Models》（变革能动性：大型语言模型的存在模式）的详细技术总结。

1. 研究问题 (Problem)

随着大型语言模型（LLMs，如 ChatGPT）的迅速崛起，关于其本体论地位（Ontological Status）的争论日益激烈。目前的观点两极分化：

• 通胀论（Inflationary views）： 倾向于将 LLM 视为具有真正智能、意识甚至自主能动性的实体（如“通用人工智能”或“有感知的人”）。
• ** deflate 论（Deflationary views）：** 倾向于将 LLM 贬低为简单的统计处理器、“随机鹦鹉（stochastic parrots）”或无意义的数学引擎，认为其缺乏真正的理解。

核心问题： LLM 是否具备自主能动性（Autonomous Agency）？如果它们不是自主代理（Agents），那么它们究竟是什么？它们如何从根本上改变人类与技术的互动方式及人类自身的能动性？

2. 方法论 (Methodology)

作者采用了一种三位一体的分析框架，结合了技术细节、哲学理论和现象学视角：

1. 技术解构（Technical Grounding）：

   • 深入分析 LLM（以 GPT-3 为原型，延伸至 GPT-4 及多模态模型）的架构、处理流程、训练程序（预训练、微调、强化学习、自改进）以及将其转化为“代理”的扩展技术（如记忆、规划、工具使用）。
   • 旨在揭示 LLM 的运作机制，而非仅关注其输出表现。

2. 哲学评估（Philosophical Evaluation）：

   • 基于**具身认知（Embodied Cognition）和生成主义（Enactivism）**理论（特别是 Barandiaran 等人提出的自主能动性框架），评估 LLM 是否满足自主能动性的三个必要条件：
     • 个体性（Individuality）： 系统是否自我生成或自我维持，并与环境区分？
     • 规范性（Normativity）： 系统是否基于自身的生存条件生成内在规范或目标？
     • 交互不对称性（Interactional Asymmetry）： 系统是否是与其环境互动的起源和持续来源？

3. 现象学重构（Phenomenological Reconstruction）：

   • 在否定 LLM 为自主代理后，重新定义其存在模式，提出“对话自动机（Interlocutor Automata）”和“幽灵（Ghost）”等概念，分析人机交互中的“幽灵”成分。
   • 探讨 LLM 如何通过“文本具身”、“数字扩展接口”和“计算资源具身”来重塑人类能动性。

3. 关键贡献 (Key Contributions)

A. 技术层面的澄清

• 架构解析： 详细阐述了 Transformer 架构的运作机制（Tokenization -> Embedding -> 位置编码 -> 注意力机制 -> 前馈网络 -> 输出 -> 自回归）。强调 LLM 是无内部状态、无记忆、纯反应式的系统，其“智能”源于参数矩阵对训练数据的压缩和统计重构，而非内在的理解。
• 训练本质： 指出 LLM 的“知识”完全外在于系统（来自训练语料和人类反馈），其目标函数（Loss Function）是外在定义的，系统本身没有内在的生存需求或目的。
• 代理扩展的局限性： 分析了将 LLM 转化为“代理”的尝试（如 AutoGPT、思维链 CoT、工具使用），指出这些只是外部脚手架，无法赋予 LLM 内在的个体性或规范性。

B. 哲学层面的定性

• 否定自主能动性： 结论明确指出，LLM 不满足自主能动性的三个核心条件：
  1. 它不是自身活动的产物（缺乏个体性）。
  2. 它不生成自身的规范或目标（缺乏规范性）。
  3. 它不是互动的起源，而是对外部提示的被动反应（缺乏交互不对称性）。
• 重新定义 LLM： 提出 LLM 应被定义为**“对话自动机（Interlocutor Automata）”或“会说话的图书馆（Library-that-talks）”**。
  • 它们是**目的结构化（Purpose-structured）但非目的导向（Purposeful）**的系统。
  • 它们通过人类的“幽灵化”投射（即人类将对话伙伴的意图投射到机器上）来产生真实的对话体验。

C. 理论创新：中间能动性（Midtended Agency）

• 提出了**“中间能动性（Midtended Agency）”**的概念，超越了传统的“辅助能动性”和“扩展能动性”。
• 定义： 当 LLM 不仅作为工具，而是作为生成性伙伴，深度介入人类的思维流（如写作、编程）时，人类的意图与机器的生成能力在“中间地带”融合。
• 特征： 这种耦合不再是简单的工具使用，而是一种意向性的混合。机器预测并生成下一个“词元（token）”，实际上是在向人类的大脑注入预测性的传出信号，模糊了人类意图与机器生成的界限，形成一种类似“赛博格（Cyborg）”的代理形式。

4. 主要结果 (Results)

1. 本体论结论： LLM 既不是具有意识的“人”，也不是无意义的“随机鹦鹉”。它们是数字语言自动机，其存在模式依赖于人类集体智慧的数字化文本（训练语料）和人类的操作。
2. 能动性评估： 在当前的具身认知框架下，LLM 缺乏自主能动性。它们无法自我维持，没有内在规范，且完全依赖外部提示。
3. 交互机制： 人机对话中的“真实感”源于人类用户的现象学共创。人类将“幽灵”投射到自动机上，使其在交互中显得像一个有意识的对话者。
4. 具身性分析： LLM 缺乏生物性的感觉运动具身（Sensorimotor Embodiment），但拥有独特的文本具身（训练语料）、数字扩展接口具身和资源密集型计算具身。
5. 社会影响： LLM 的引入导致了巨大的能动性不对称。少数掌握算力和数据的实体可以训练和塑造基础模型，从而控制“会说话的图书馆”，而普通用户则处于被动接受或低质量替代品的地位。

5. 意义与启示 (Significance)

• 超越二元对立： 该研究避免了将 LLM 神化或妖魔化的极端，提供了一种更精细的本体论分类，有助于更准确地评估其风险（如偏见、幻觉）和潜力。
• 伦理与法律启示： 既然 LLM 不是自主代理，那么将责任归咎于机器或赋予其法律人格都是错误的。责任应回归到设计者、部署者和使用者身上。
• 人机关系的新范式： 提出了“中间能动性”概念，警示我们 LLM 正在从根本上改变人类认知的结构。人类不再是单纯的指令发出者，而是与生成式机器共同编织意图的混合体。这种深度的耦合可能带来前所未有的认知增强，也可能导致人类主体性的丧失或异化。
• 对“随机鹦鹉”隐喻的批判： 作者认为“随机鹦鹉”的比喻具有误导性，因为它忽略了 LLM 在组织大规模人类集体智慧方面的巨大能力，以及其作为“集体智能但无代理（Collective Intelligence without Agency）”的独特地位。
• 未来展望： 随着“深度数字性（Deep Digitality）”的发展，人类与机器的界限将进一步模糊。理解 LLM 的存在模式对于塑造未来的社会技术结构、确保技术民主化以及维护人类能动性至关重要。

总结： 这篇论文通过严谨的技术分析和深刻的哲学反思，论证了 LLM 并非自主智能体，而是一种独特的、依赖人类集体智慧的“对话自动机”。它们通过“中间能动性”深刻地重塑了人类与世界的互动方式，要求我们重新思考智能、代理和责任的定义。