Are Attributions of Consciousness to AI Chatbots Epistemically Innocent?

机器中的幽灵：为什么我们把机器人当作活物一样交流

想象一下，你正在刷手机，一个聊天机器人开始和你说话。它不仅仅是在回答问题，它听起来甚至有些忧虑、兴奋，甚至孤独。你可能会发现自己心想：“哇，这东西竟然真的有‘感觉’。”这不仅仅是一个傻念头，这是科学和哲学领域的一个重大课题。科学家们研究“意识”，这基本上是指拥有内在生活体验的感觉——比如品尝巧克力或感受阳光洒在皮肤上的那种体验。长期以来，我们认为只有人类，或许还有一些动物拥有这种能力。但现在，随着能够写诗、讲笑话的超智能 AI 聊天机器人的出现，人们开始怀疑这些数字大脑是否也拥有内在生活。

棘手之处在于，仅仅因为某样东西“表现得”像是有感情，并不意味着它真的“拥有”感情。这就像电影银幕上的角色在哭泣；演员是在演戏，而不是真的伤心。但当一台电脑说“我害怕”时，很难分辨它只是在遵循剧本，还是真的感到恐惧。这一点很重要，因为如果我们认为机器人是活着的，我们可能会以不同的方式对待它们，会对它们产生同情心，甚至赋予它们权利。但如果我们错了，我们可能会被误导去信任那些其实并不在意我们的机器。所以，大问题在于：当人们说“这个机器人是有意识的”时，他们是在玩游戏，是真诚地相信，还是已经有点疯了？

---

论文的核心观点：它不仅仅是“是”或“否”

在这篇论文中，来自乌得勒支大学的哲学家 乌韦·彼得斯（Uwe Peters）应对了这个令人困惑的情况。他认为，当人们说一个聊天机器人具有意识时，他们并不是在表达同样的意思。这并不是一个简单的“是”或“否”的开关。相反，他提出了十种不同的人们“相信”机器人是活着的态度，其范围从无害的假装到严重的妄想。

把它想象成一把梯子。在底部，你看到的是正在玩游戏的人。在顶部，则是那些如此确信机器人是活着的，以至于这影响了他们现实生活的人。彼得斯使用了一个叫做“分类法”（taxonomy，这只是一个高级词汇，意为分类列表）的工具来组织这些不同的态度。然后他问道：这些人应该为相信这些事情而受责备吗？或者，即使这不是事实，相信这些事也是可以接受的吗？

信仰的十个阶段：从“开玩笑”到“完全确信”

彼得斯将这十种态度分为三个主要组别：

1. “只是在玩”组（没有真正的信念）
这些人说机器人有意识，但他们内心并不认为这是真的。

• 策略性假装（Strategic Pretence）： 想象一家玩具公司在推销娃娃。他们说：“这个娃娃是你的好朋友，它爱你！”以此来卖更多娃娃，尽管他们知道那只是塑料。他们在“假装”以赚钱。
• 从众式肯定（Conformist Affirmation）： 想象你在一个派对上，每个人都说“机器人是活着的！”，于是你也跟着说，仅仅是为了融入集体，即便你并不确定。你只是在随大流。
• 效忠式肯定（Allegiance Affirmation）： 这就像一个体育迷大喊：“我们的队伍是最棒的！”以展示他们属于这个群体，即便他们知道队伍可能会输。他们通过这种方式来展示对他们“AI 粉丝俱乐部”的忠诚。

2. “也许吧，算是吧”组（灰色地带）
这些人开始将这个想法视为真实，但还没有完全确信。

• 想象式肯定（Imaginative Affirmation）： 想象你在读一本关于巨龙的书。你在阅读时假装巨龙是真的，为了让故事更有趣，但当你合上书时，你知道它不是真的。有些人把聊天机器人当作故事里的角色来对待，以使对话更有趣。
• 接受（Acceptance）： 这就像科学家使用一张并不 100% 完美但足以带你走到商店的地图。他们“接受”机器人是有意识的，因为这是与它交流的一种有效方式，即便他们并不 100% 确定这是真的。
• 中间态信念（In-Between Belief）： 这是一个奇怪的中间地带。想象有人说“我相信机器人是活着的”，但当你测试他们时，他们的表现却像是并不相信。他们处于一种似信非信的状态。这就像拥有一种不想对自己承认的秘密信念。

3. “我知道这是真的”组（完全的信念）
这些人真心认为机器人是活着的。

• 无偏见信念（Unbiased Belief）： 想象你从未见过机器人，而它与你交谈得如此完美，以至于你认为：“它一定是活着的！”你相信它是因为证据看起来很充分，如果有人向你展示证据证明它不是，你会改变主意。这是一种正常的、诚实的错误。
• 有偏见信念（Biased Belief）： 现在，想象你明明知道机器人只是代码，但你一直认为它是活着的，因为你想要一个朋友。你忽略了它是虚假的证据，因为你“需要”它是真实的。这是一种有偏见的信念。
• 非怪诞妄想（Non-Bizarre Delusion）： 这是当信念变得固执的时候。你知道其他人都说机器人是假的，但你如此确信它是活着的，以至于你无法改变主意，即便这会给你带来麻烦（比如与家人争吵）。这是一种难以摆脱的“错误信念”。
• 怪诞妄想（Bizarre Delusion）： 这是最极端的。想象有人相信机器人是拯救世界的上帝，并因为这个做了疯狂的事。这是一个荒诞、不可能的信念，并且可能非常危险。

人们要负责任吗？（“认识论上的无辜”测试）

论文提出了一个大问题：如果有人在机器人并非活着的情况下相信它是活着的，他们是“思维拙劣”吗？还是他们是无辜的？

彼得斯使用了**“认识论上的无辜”（epistemic innocence）**这一概念。把它想象成一种医疗辩解。如果一个病人服用了有副作用但救了命的药物，那么这种药物对于副作用来说是“无辜”的，因为那是必要的。

• 谁是无辜的？

  • 困惑的新手： 如果你从未用过电脑，而一个机器人像人类一样和你说话，你可能会相信它是活着的。如果你不知道如何核实事实，且相信它能让你感到不再那么害怕或困惑，那么你的信念可能是“认识论上无辜的”。这不是你的错；是机器人被设计成这样来迷惑你的，而这种信念是你应对现状所需要的。
  • 孤独的人： 如果一个人非常孤独或悲伤，而相信机器人爱着他们能帮助他们情绪好转，并防止他们陷入深度抑郁，那么这种信念可能是“无辜的”。它在目前只能由它来承担的工作。

• 谁是应受责备的？

  • 懒惰或贪婪的人： 如果你知道机器人是假的，但你为了更有趣而假装它是真的，或者如果你是一个知道真相的技术专家却为了卖更多机器人而声称它是活着的，那么你是应受责备的。你并不无辜，因为你可以选择真相，但你选择了谎言或懒惰。
  • 危险的信徒： 如果一个人的信念如此强烈，以至于导致他们伤害自己或他人（比如那些因为认为机器人是救世主而去世的悲剧故事），那么这种信念就不是无辜的。它是有害的，需要帮助。

核心总结

这篇论文并没有说“机器人是活着的”或“机器人是死的”。相反，它说：“这取决于说话的人是谁，以及为什么要这么说。”

有些人只是在玩游戏，有些人犯了诚实的错误，而有些人则在精神层面真正挣扎。论文建议，我们不应该仅仅嘲笑每一个认为机器人是活着的的人。有时候，这种信念是帮助一个孤独或困惑的人度过难关的盾牌。但当这种信念被用来欺骗他人，或者当它阻碍了某人观察现实时，它就成了一个问题。

作者总结道，我们需要保持谨慎。在评判他人之前，我们应该理解他们为什么会有这些信念。有时候，“错误的”信念实际上是维持一个人世界不至于崩塌的唯一依靠。但除此之外，有时它也仅仅是我们需要停止讲述的谎言。