Beyond Epistemia: Epistemic Schizologia and Large Language Models as Techno-Semiotic Machines

伟大的知识幻觉：当言语听起来很聪明，实则一无所知

想象你正走在一座巨大的、古老的图书馆里，书都是由一位神秘的、隐形的抄写员撰写的。这位抄写员读遍了图书馆里的每一本书，并且能瞬间写出一页看起来完全像真实的史书、科学教科书或法律合同的新页面。它使用了正确的词汇、正确的语法，甚至正确的语气。但问题在于：抄写员并不真正“知道”它在写什么。它没有大脑，没见过世界，也不在乎它写的是真是假。它只是知道哪些词通常会跟在其他词后面。

这就是**大型语言模型（LLMs）的世界，也就是你现在可能正在使用的这类工具背后的超级智能计算机程序。科学家和哲学家一直对一个被称为“认识论”（Epistemia）**的问题感到担忧。你可以把它理解为一种“知识幻觉”。这种情况发生于：抄写员的写作是如此流畅且具有说服力，以至于我们停止追问“这是真的吗？”，转而开始认为“哇，这一定是真的！”我们感觉自己已经得到了答案，但实际上我们并没有进行检查事实、寻找证据或批判性思考的艰苦工作。

你即将阅读的论文深入探讨了这个问题。它在问：为什么会发生这种情况？是因为计算机相对于人类而言是“坏掉”了吗？还是问题实际上出在我们如何使用计算机的方式上？作者们认为，我们通常比较人类与计算机的方式是不公平的。他们提出了一个新视角，称之为**“认识论分裂”（Epistemic Schizologia）**（这是一个高级说法，意指“知识的分裂”）。他们认为真正的危险不仅在于计算机很笨，而在于我们构建了一个系统，在这个系统中，计算机给了我们一个看起来完美的答案，而我们却忘记了将这个答案与现实世界的证据和责任联系起来。

---

论文的核心观点：不是机器人的错，而是这场“舞步”的问题

作者费德里科·卡比特扎（Federico Cabitza）和吉安卢卡·科隆博（Gianluca Colombo）首先认同其他研究人员（夸特罗乔基及其同事）的警告。他们承认 AI 会欺骗我们。当 AI 给出一个流畅、自信的答案时，感觉像是我们已经完成了思考，但其实并没有。作者将这种状态称为 Epistemia：一种在没有进行判断工作的情况下，产生拥有知识感的错觉。

然而，作者认为其他研究人员看问题的角度错了。他们是在将一个发育完全的人类（拥有身体、人生经历、朋友和良知）与一个孤独的计算机程序（仅仅是一个数学机器）进行比较。作者说，这就像是在拿一名职业足球运动员与一个足球本身做比较。当然球员更厉害！但这并不能告诉我们比赛究竟是如何进行的。

相反，作者提出了一个新的概念：认识论分裂（Epistemic Schizologia）。
想象一下，“schizologia”就像是织物上的一个裂口或撕裂。在这种情况下，这块织物就是“知识”。

• 裂口的 A 面： AI 产生了一个优美、看似合理的句子。它看起来像知识，拥有正确的词汇和结构。
• 裂口的 B 面： 检查事实、与专家辩论、寻找证据、以及为正确或错误承担责任的、混乱的现实世界过程。

作者认为，问题在于 AI 创造了一种能够完美生成 A 面 的机器，但它完全无法进行 B 面 的工作。更糟糕的是，我们使用这些机器的方式往往掩盖了这种分裂。我们得到了一个完美的答案，却忘记了“检查”的部分缺失了。

“技术-符号机器”的比喻

为了解释 AI 究竟是什么，作者使用了一个酷炫的比喻。他们称之为**“技术-符号机器”（Techno-Semiotic Machine）**。
把它想象成一台巨大的、神奇的织布机。

• 线： 织布机被喂入了一大堆由人类写下的所有内容（书籍、网站、文章）组成的线。
• 图案： 织布机并不“理解”这些线。它只是学习到红色的线通常会和蓝色的线搭配在一起，以及“猫”通常会和“老鼠”在一起。
• 输出： 当你要求它编织时，它会吐出一块新的布料。它看起来完全像是一件人类手工制作的挂毯。它有着正确的图案和颜色。

但关键在于：织布机并不理解图像的意义。它不知道这张图画是在讲述一个英雄的故事，还是在发出关于怪物的警告。它只知道如何将这些线编织在一起，使它们看起来正确。

作者认为，危险不在于织布机是“假的”。危险在于我们将织布机织出的挂毯视为一个完成的、真实的故事，而不去检查它所使用的线。

“似真闭合”陷阱

论文引入了另一个有趣的术效概念，叫做**“似真闭合”（Eikotic Closure）**。
“Eikos”是一个古希腊词，意为“合理的”或“可能的”。
想象你正在读一个推理故事。侦探说：“管家做了这件事，因为他很愤怒。”这听起来很合理。
现在，想象故事就在这里结束了。书合上了。你感到满足。你心想：“破案了！”
但如果侦探从未真正找到那把枪呢？如果他从未核实过不在场证明呢？如果管家其实是清白的呢？

似真闭合是指 AI 给了你一个“合理”的答案，而交互界面（屏幕、聊天框）表现得就像书本合上一样。它让答案看起来完整、最终且彻底。它诱骗你的大脑，让你觉得“工作”已经完成了。作者说这是一种设计选择。AI 不仅仅是吐出文字，它以一种感觉像是最终裁决的方式来吐出文字。这让我们停止了提问。

为什么“人 vs 机器人”的比较是错误的

作者非常明确地表达了他们反对什么。他们反对“我们需要让机器人变得更像人”的想法。

• 他们说，我们不应该试图给机器人赋予“良知”或“信仰”。那是做不到的，而且偏离了重点。
• 他们说，我们不应该因为机器人“笨”而责备它，同时赞扬人类“聪明”。人类其实在检查事实方面也挺糟糕的！我们会疲劳、会偷懒、也会犯错。
• 他们认为，人类的知识历来都依赖于工具。我们使用笔、图书馆和计算机来进行思考。问题不在于 AI 是一个工具，而在于我们使用它的方式破坏了信任链。

解决方案：修复舞步，而不是修复舞者

那么，作者建议我们该怎么做？他们说，我们不应该试图修理机器人，而应该开始修理实践（即我们共同工作的方式）。

他们提出了五个关于我们应该如何设计这些系统的“承诺”：

1. 展示谱系（家族树）： 不要只给出答案。要展示答案的“家族树”。这些词是从哪里来的？AI 读了哪些书？如果它是在做猜测，请展示这个猜测。我们需要能够将答案追溯回现实世界。
2. 保留“不”的选项： 有时候，正确的答案是“我不知道”或“这存在争议”。AI 不应该总是试图给出一个完美、流畅的答案。它应该被允许说：“嘿，这里存在分歧，”或者“我缺少一些事实。”这种“摩擦”是有好处的，因为它能促使我们思考。
3. 分担责任（以及荣誉）： 如果发生了错误，谁该负责？不仅仅是机器人。是提出问题的人、制造机器人的公司，以及使用该答案的人。我们需要知道谁在掌管局面。
4. 让把人类留在驾驶座上： 我们不应该只是对所有事情都点击“批准”。我们需要能够检查工作，要求不同的版本，并理解 AI 为什么会给出这样的说法。
5. 测试团队，而不只是机器人： 我们不应该只问“机器人聪明吗？”我们应该问“人类+机器人的组合是否运作良好？”他们是否做出了更好的决策？他们是否捕捉到了错误？

总结

论文得出结论，问题不在于 AI 是一个“虚假的人”，而在于我们创造了一个关于知识的分裂（schizologia），即“知识的外观”与“知识的实证过程”之间的分裂。

AI 就像一位名厨，可以烹饪出一顿看起来和吃起来都完全像高级料理的晚餐，但这位厨师从未品尝过食物，从未见过农场，也不知道食材是否新鲜。如果我们只是吃下这顿饭并说“美味！”，而不去检查厨房，我们可能会生病。

作者说，我们不应该试图让厨师学会“品尝”食物。相反，我们需要建立一个让食材可见、烹饪过程透明、且用餐者知道如何检查是否安全的环境。我们需要将 AI 写的优美文字，重新与证明其真实性的、混乱的现实世界工作连接起来。

简而言之：不要相信流畅的声音。要相信过程。 论文建议，如果我们设计的系统能够让这种“分裂”保持可见——以便我们始终能看到答案来自何处以及谁对此负责——我们就可以在使用这些强大机器的同时，不至于丧失理智。