🤖 AI

Anti-Goal Reasoning: Rethinking the Theory of Goal Reasoning in Non-Axiomatic Logic

本文通过引入一个独特的“反目标”框架和一个“预防”心理操作，解决了非公理逻辑中表示回避时的歧义性，从而消除了将避免某一事件与追求其否定项相混淆的悖论，并使系统能够清晰地区分追求、被动回避、主动预防以及不作为。

原作者： Bowen Xu

发布于 2026-07-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Bowen Xu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在制造一个机器人，它必须在一个它并不完全理解的世界中学习如何生存。它不是一个拥有宇宙完美地图的超级计算机；它更像是一个在全新的游乐场里探索、精力有限且只掌握了一半规则的好奇小孩。这就是**非公理逻辑（Non-Axiomatic Logic, NAL）**的世界。在这个领域，科学家们试图教会计算机如何具备“适应性”——这意味着它们即使在没有掌握全部事实或思考时间不足的情况下，也能学习、改变想法并做出决策。

其核心思想是目标推理（Goal Reasoning）。把“目标”想象成一种“想要”。如果机器人想要一块饼干，它会寻找获取饼干的方法。如果它发现“走向厨房”通常会导致“得到饼干”，它就会决定走过去。但如果机器人想要避免某些事情呢？如果它想避免触电怎么办？长期以来，计算机科学家处理这种“规避”的方式存在一个棘手的逻辑陷阱。他们将“避免电击”与“想要安全”处理得完全一样。这就像是告诉机器人：“不要碰火”，但机器人听到的却是：“去寻找一个没有火的地方”，然后它决定最好的方法是按下一个按钮，因为通常情况下，按下这个按钮的结果是“不会被烫伤”。很混乱，对吧？这篇论文深入探讨了这种混乱，旨在研究我们是否可以修复机器人的大脑，让它能区分开“逃离危险”和“奔向安全”。

伟大的“别做它”混淆案

鲍文·徐（Bowen Xu）撰写的这篇论文首先指出，我们在教计算机保持谨慎时犯了一个愚蠢的错误。在现有的系统（称为 NARS）中，如果你想让机器人避免某个事件——我们称之为“受伤（Hurt）”——你会写下一个看起来像“非受伤！”（或 ¬Hurt!）的指令。

问题在于，计算机会被这个双重否定搞混。它会想：“好吧，用户想要‘非受伤’。这听起来像是一个目标！我应该努力让‘非受伤’发生。”于是，机器人开始寻找让“非受伤”发生的方法。

这就是悖论变得诡异的地方。想象一个按钮：

事实 1： 如果灯亮着，按下按钮通常会导致受伤。
事实 2： 如果你只是随机按下按钮（没有灯亮着时），通常会导致非受伤。
目标： 机器人被告知要避免受伤。

因为机器人将“避免受伤”视为“让‘非受伤’发生”，它看到了事实 2，并心想：“嘿！按下按钮通常会导致‘非受伤’！我应该按下按钮！”

但是等等！如果灯是亮着的，事实 1 说按下按钮会导致受伤。机器人现在陷入了一个循环：它想避免受伤，所以它试图创造“非受伤”，但在特定的危险情况下，它自己的逻辑却告诉它仍然要去按那个按钮，从而导致了它试图避免的伤害。这就像一个人为了保持干燥而试图按下一个按钮，因为他认为按按钮通常能让他保持干燥，尽管他目前正站在一个按下按钮就会喷水的洒水器下面。

解决方案：“反目标”与“预防”按钮

作者指出，错误在于将“避免 X”等同于“想要‘非 X’”。为了修复这个问题，论文提出了一个新概念，叫做反目标（Anti-Goal）。

可以这样理解：

目标就像一块把你拉向你想要的东西（比如饼干）的磁铁。
反目标 就像一块把你从你讨厌的东西（比如蜘蛛）身边推开的磁铁。

在旧系统中，机器人只有能“拉”的磁铁。如果你告诉它要避开蜘蛛，它只是试图把自己拉向“没有蜘蛛”的状态，这变得非常混乱。新系统给了机器人一个“推”按钮。当机器人看到蜘蛛（反目标）时，它不是试图寻找“没有蜘蛛”的地方，而是主动把自己从蜘蛛身边推开。

论文还引入了一个特殊的心理操作——⇑prevent（可以把它想象成一个“停止那个！”的开关）。这有助于机器人理解，有时为了避免某事，你必须做一些特定的事情。

例如，如果机器人学到“在灯亮时按下按钮”可以阻止火灾发生，它可以利用 ⇑prevent 开关。它意识到：“我想避免火灾。按下按钮可以预防火灾。因此，我应该按下按钮！”这与仅仅试图寻找一个不存在火灾的世界是不同的。这是一种主动的策略。

测试新大脑

为了证明这套理论有效，作者用一个微小且简单的机器人进行了模拟实验。他们测试了四种不同的场景，以观察机器人能否弄清楚何时该行动，何时该静止：

通过做来实现（Do to Realize）： 机器人想要食物。它学到按下按钮会带来食物。结果？它按下了按钮。（成功！）
通过不做来避免（Not Do to Avoid）： 机器人想要避免痛苦。它学到按下按钮会引起痛苦。结果？它没有按下按钮。（成功！）
通过做来避免（Do to Avoid）： 机器人想要避免痛苦。它学到不按按钮会导致痛苦，而按下它能停止痛苦。结果？它意识到它需要按下按钮来预防痛苦。（成功！）
通过不做来实现（Not Do to Realize）： 机器人想要食物。它学到按下按钮会阻止食物出现。结果？它没有按下按钮，因为这样做会破坏它获得食物的机会。（成功！）

模拟结果显示，有了新的“反目标”和“预防”规则，机器人不再犯那些悖论式的错误。它学会了在有帮助时按下按钮，在有害时收手，即使是在逻辑非常复杂的情况下。

为什么这很重要

这篇论文并不声称构建了一个完美的机器人或解决了所有人工智能问题。它更像是修理引擎中一个特定且令人困惑的齿轮的技工。作者建议，通过明确区分“想要某物”和“规避某物”，我们可以构建更智能的适应性系统，使其不会被自己的逻辑所误导。

论文还注意到一个有趣的现象：人类似乎更容易学会“为了奖励而去做某事”以及“为了避免惩罚而停止做某事”，但较难学会“为了避免惩罚而去做某事”或“为了获得奖励而停止做某事”。新的计算机逻辑也反映了这种难度，这表明“主动预防”（研究中的案例 3 和 4）在本质上更难学习，因为它需要更复杂的思考。

简而言之，这篇论文给了机器人一个更好的表达“不”的词汇。与其仅仅说“我想要‘非 X’”，它们现在可以说“我正在积极地规避 X”，而这个微小的改变阻止了它们仅仅因为按按钮通常能带来安全，就在当前危险的情况下依然去按按钮。

技术摘要：非公理逻辑中的反目标推理

问题陈述
本文指出了当前非公理逻辑（Non-Axiomatic Logic, NAL）中目标推理实现的一个关键理论模糊性。NAL 是非公理推理系统（NARS）的逻辑基础，能够有效地处理在知识和资源不足的情况下实现期望事件（AIKR）的问题，但对于“规避”（avoidance）的表示定义尚不明确。现有的惯例将“规避事件 $G$ ”视为目标句子“ $\neg G!$ ”（追求其否定事件）。作者证明，这种混淆会导致一个悖论：系统可能会仅仅因为某个动作通常会导致负面结果的缺失，就推导出执行该动作的正向目标，即便在特定条件下，该动作也是已知会导致该负面结果的原因。

这一悖论源于“目标否定”（goal negation）的语义模糊性。符号“ $\neg G!$ ”被用于表示两种截然不同的逻辑含义：

追求一个否定事件： 系统渴望实现 $G$ 不发生的某种状态（即 $(\neg G) \Rightarrow \tilde{D}$ ）。
规避一个正向事件： 系统希望防止 $G$ 发生（即 $G \Rightarrow \neg \tilde{D}$ ）。

在“轻压”案例研究中，系统错误地推断出按下按钮是实现“无伤害”（ $\neg \text{hurt}!$ ）的一种手段，因为按下通常会导致没有伤害。然而，这一推断忽略了特定的上下文——即在特定信号（如轻压信号）下，按下会导致伤害。系统矛盾地决定通过按下按钮来“规避伤害”，这与实际预期（即应当停止动作）相违背。

方法论
本文提出了对 NAL 的最小化扩展，通过将目标（goals）与反目标（anti-goals）的表示分离，从理想化的继承逻辑（Inheritance Logic, IL）框架转向 NAL 的证据语义框架。

形式化分离：
- 目标 ( $G!$ )： 定义为一个系统渴望实现的事件，形式化表示为 $G \Rightarrow \tilde{D}$ ，其中 $\tilde{D}$ 是总结系统期望状态的虚拟项。
- 反目标 ( $G¡$ )： 定义为一个系统希望规避的事件。这在形式上表示为 $G \Rightarrow \neg \tilde{D}$ ，其中 $\neg \tilde{D}$ 代表期望状态的反面。
- 本文澄清了“规避 $G$ ”并不等同于“追求 $\neg G$ ”。相反，规避 $G$ 是目标陈述本身的逻辑否定： $\neg(G \Rightarrow \tilde{D})$ 。
欲望值与厌恶值函数：
- 本文为逆向推理重新定义了欲望值函数。对于目标，欲望值是 $G \Rightarrow \tilde{D}$ 的真值；对于反目标，厌恶值是 $G \Rightarrow \neg \tilde{D}$ 的真值。
- 反目标的推理规则与目标规则对称构建。如果存在一个前向推理规则（例如演绎），那么对应的反目标后向规则将采用与前向真值函数相同的计算公式。
主动预防 ( $\uparrow\text{prevent}$ )：
- 为了弥合被动规避与主动干预之间的差距，本文引入了心理操作 $\uparrow\text{prevent}$ 。
- 如果 $G$ 是一个反目标，那么预防 $G$ 就变成了一个正向目标（ $\uparrow\text{prevent}(G)! \equiv G¡$ ）。
- 该操作依赖于对比性证据（contrastive evidence）：系统必须学习到某种动作会导致一个原本会发生的事件的“缺席”（例如，按下可以防止伤害，而由于不按会导致伤害）。这通过特定的对象级规则（公式 13）进行形式化，要求负向观察和对比归纳。

核心贡献
本文做出了三个主要的理论贡献：

解决语义模糊性： 它区分了“追求一个否定事件”与“规避一个正向事件”。通过引入显式的反目标形式（ $G¡$ ），该框架防止了因将规避意图错误转换为基于一般统计相关性的正向行动目标而导致的悖论。
欲望值函数原则： 它建立了一个用于逆向动机推理中推导欲望值函数的通用原则。本文认为，后向规则不应随意分配函数，而应继承其对应前向推理规则的计算公式，从而确保真值传播与欲望值传播之间的逻辑一致性。
整合主动预防： 它将反目标转化为正向行动计划的机制进行了形式化。通过 $\uparrow\text{prevent}$ 操作和对比归纳，系统可以推导出通过行动来专门预防不想要结果的目标，从而将其与仅仅是“不做动作”区分开来。

结果
所提出的框架通过四个涉及模拟系统（具有运动试探行为和累积奖励评估）的最小案例研究得到了验证：

做以实现（Do to Realize）： 系统正确地推导出通过按下按钮来获得食物的目标。
不做以规避（Not Do to Avoid）： 系统正确地推导出通过不按按钮来规避伤害的反目标（被动规避）。
做以规避（Do to Avoid）： 系统学习到了一个预防关系（按下可防止伤害），并正确地推导出通过按下按钮来主动规避伤害的正向目标。
不做以实现（Not Do to Realize）： 系统学习到按下会阻止食物获取，并正确地推导出通过不按按钮来保留期望事件的反目标。

在所有案例中，系统的行为均符合理论预期。特别是在“做以规避”和“不做以实现”的案例中，系统成功利用对比性证据在被动规避与主动干预或抑制之间进行了切换，而这在之前的“否定目标”惯例下是产生悖论的。

意义
本文声称，这一扩展在不替换现有理论的前提下，完成了 NAL 目标推理框架的构建。通过分离目标与反目标，系统现在能够以与追求目标相同的证据精度来处理规避问题。这种区分使得系统能够：

区分“不做任何事”（抑制行动）与“做某事以预防”。
避免出现逻辑错误，即让一般相关性（行动 $\to$ 无伤害）覆盖了特定的因果风险（在条件 $X$ 下行动 $\to$ 伤害）。
为主动预防提供形式化基础，这对于在动机不完整且可修正的开放世界环境中进行因果发现和适应性行为至关重要。

作者指出，虽然该框架解释了人类学习中观察到的行为不对称性（例如，为了奖励而行动 vs 为了惩罚而克制），但目前的工作严格侧重于 NAL 的逻辑扩展，具体的动机获取建模留待未来研究。

伟大的“别做它”混淆案

解决方案：“反目标”与“预防”按钮

测试新大脑

为什么这很重要

类似论文