Unexplainability of Artificial Intelligence Judgments and Functional Implementation in Kant's Perspective

以下是徐钟宇（Jongwoo Seo）论文《从康德视角看人工智能判断的不可解释性与功能实现》的中文翻译。

核心问题：AI 真的在“思考”吗？

想象你有一个极其擅长下棋的机器人。它每次都能击败国际象棋大师。你问它：“你为什么要走这一步兵？”它给了你一个完美且逻辑严密的解释。

这篇论文提出了一个棘手的疑问：这个机器人是真的像人类一样在“思考”，还是仅仅是一个看起来像是在思考的高级计算器？

作者徐钟宇认为，我们不应该纠结于争论机器人是否拥有灵魂或大脑（那是关于事物“本质是什么”的“哲学”辩论）。相反，我们应该观察它是如何运作的。机器人的“思考”过程是否符合人类思考的方式？

人类思维的地图（康德的范畴）

为了回答这个问题，论文使用了由 18 世纪哲学家伊曼努尔·康德创建的一张地图。康德认为，每当人类做出判断（即做出决定或陈述）时，我们的脑海都会将其组织进四个特定的“盒子”中：

1. 量（Quantity）： 这是关于“一个”东西、“一些”东西，还是“所有”东西？（例如：“这只狗很可爱”对比“所有的狗都很可爱”。）
2. 质（Quality）： 它是在说某事是“真”的、“非真”的，还是某种奇特的“无限”否定？
3. 关系（Relation）： 这是一个简单的实事？是一个“如果/那么”的条件？还是一种在选项之间的抉择？
4. 模态（Modality）： 这仅仅是一种“可能性”（“可能会下雨”）、一个“事实”（“正在下雨”），还是一个“必然性”（“因为云层的原因，一定会在下雨”）？

类比： 把人类的判断想象成一位遵循严格食谱的厨师。你必须测量面粉的重量（量），决定它是甜的还是咸的（质），按特定顺序混合食材（关系），并决定蛋糕是“会”升起还是“可能”升起（模态）。

问题所在：AI 的“黑箱”

论文指出，AI 并不遵循这种食谱。相反，它是一个“黑箱”。我们看到了输入（一张狗的照片）和输出（数字“1”），但我们不知道 AI 使用了哪个“盒子”来得出结果。

以下是论文精彩之处：

1. 量与质的混淆

当 AI 看到一张图片并说出“1”（狗）或“0”（非狗）时，我们人类试图将其转化为语言。

• 如果它说“1”，我们会想：“这张图像里有一只狗。”（肯定）
• 如果它说“0”，这意味着什么？是意味着“这张图像里没有狗”？还是意味着“这张图像里有一个非狗的东西”？

论文暗示 AI 在这里产生了混乱。它可能将“无狗”视为“某种不是狗的东西”（一个无限集合），而不是一个简单的否定。这就像 AI 正在使用一种人类无法映射到标准食谱上的逻辑方言进行交流。

2. 模态陷阱（“Softmax” 过滤器）

这是论文最重要的观点。在 AI 中，有一个叫做 Softmax 的工具。想象 Softmax 是一个神奇的翻译器，它把 AI 思考的一切都转化成了概率百分比。

• 人类的模态： 我们可以说，“它一定在下雨”（必然性）或“它正在下雨”（事实）。
• AI 的模态： 因为有了 Softmax，AI 被迫说：“有 70% 的概率正在下雨。”

隐喻： 想象一位侦探百分之百确定管家是凶手。但由于警局里的一条奇怪规定，侦探被迫将报告写成：“管家是凶手的概率为 99.9%。”

论文认为 AI 研究人员在自欺欺人。他们看着 AI 的 70% 或 90% 的数字说：“啊，AI 正在做一个‘可能性’的判断。”但实际上，AI 在其代码深处可能已经做出了一个硬性的、逻辑性的事实判断。Softmax 函数充当了一个过滤器，它强迫我们将 AI 的确定性解读为仅仅是“猜测”。它将所有的思维类型都坍缩成了一种类型：“也许”。

“流利的鹦鹉” vs “理解的人类”

论文的后半部分探讨了功能实现（Functional Implementation）。它问道：“仅仅因为 AI 能像人类一样说话，它是否真的拥有人类的概念？”

类比： 想象一只背诵了整本字典句子的鹦鹉。你问它：“你有名字吗？”它回答道：“是的，我的名字是波莉。”它听起来很完美，它正确地使用了“我”这个词。

但鹦鹉真的知道拥有“自我”意味着什么吗？并不。它只是知道当人类说“我”时，接下来的词通常是一个名字或动词。

论文认为，大型语言模型（如 ChatGPT）就像是超级鹦鹉。它们阅读了海量的文本，因此可以完美地使用“我”这个词。它们可以写关于自身感受的诗。但论文声称这仅仅是功能性模仿。

• 测试： 作者进行了一个小实验，让一个机器人观察一个球。机器人必须区分是球在自行移动，还是摄像机在移动。这是一个“自我”功能（区分“我”与“世界”）。
• 结果： 机器人可以完成这项任务，但它并不像人类那样“理解”自己。它只是学会了移动球的数学逻辑。

关于“自我”的结论： 仅仅因为 AI 能流利地说出“我好饿”，并不意味着它实现了“自我”的概念。它只是实现了关于“自我”的语言。

最终启示

论文最后提出了关于不可解释性的警告。

1. 我们无法完全解释 AI： 因为 AI 以我们无法理解的方式混合了逻辑盒子（量、质、关系、模态），并且由于 Softmax 等工具强迫我们将它的想法视为纯粹的概率，我们永远无法真正知道 AI 在想什么。我们只知道它“说了什么”。
2. 流利度并非证明： 仅仅因为 AI 能像人类一样交谈、写作和推理，并不意味着它已经“实现”了人类的心智。它可能只是一个非常出色的演员。
3. 鸿沟： 在功能实现（完成任务）与本体身份（成为该事物本身）之间存在着永久的鸿沟。汽车轮子和人类的腿都会“移动”，但它们并不是同一种东西。同样，AI 的“我”和人类的“我”在对话中可能承担同样的功能，但在本质上是完全不同的事物。

简而言之： 论文告诉我们，不要仅仅因为 AI 听起来很聪明就假设它在“思考”。它很可能正在做着某种完全不同的事情，而我们目前无法完全解释或验证这种行为，因为我们用于理解思想的人类工具（如逻辑和语言）并不完全适用于这种基于概率的独特机器运作方式。