Learning-Infused Formal Reasoning: From Contract Synthesis to Artifact Reuse and Formal Semantics
本文提出了一个将人工智能与形式化方法相结合的长远研究愿景，旨在创建一个知识驱动的验证生态系统，该系统通过合成契约、利用混合学习-符号框架复用语义人工制品，并通过组合推理进行系统性演进。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图建造一个超级安全、高科技的机器人。你拥有一支天才工程师团队（形式化方法专家），他们可以编写完美的数学规则手册，以证明机器人永远不会伤害任何人。但这些规则手册编写起来极其困难，检查起来耗时漫长，而且由于过于具体，如果机器人的设计稍有变动，整个规则手册就会变得毫无用处。
在另一边，你有一个反应极快、极具创造力的助手（人工智能或 AI），他可以瞬间读懂你凌乱的人类想法并撰写草稿。但这个助手有时会编造事实，会产生混乱，无法被信任去遵循严格的物理定律或逻辑。
这篇论文提出了一种构建机器人的新方法，即让工程师和助手在一个完美的循环中协同工作。作者将这一愿景称为**“学习注入的形式化推理”（Learning-Infused Formal Reasoning）**。
以下是他们的计划，通过简单的类比分为三个主要部分：
1. 翻译官：将“人类语言”转化为“机器人规则”（契约合成）
目前，如果你告诉工程师，“机械臂不应该撞到墙”，工程师必须将其转化为复杂的数学公式。如果你要求 AI 来做，它可能会写出一条看起来没错、但在数学上却是错误的规则。
该论文建议使用一种混合翻译器：
- AI 的职责： 它充当一名富有创造力的速记员。它接收你粗略的自然语言想法，并起草一套规则（称为“契约”）。
- 工程师的职责： 一个严格的数学检查器（形式化验证工具）会立即测试这些规则。如果 AI 犯了错，或者“幻觉”出了一个在逻辑上不成立的规则，检查器会说：“不对，这错了”，并将其退回。
- 循环： AI 根据反馈进行修正。他们反复往复，直到规则既能让理解人类，在数学上又是完美的。
类比： 这就像是舞蹈教练与学生。学生（AI）尝试根据描述学习一个舞步。教练（数学检查器）会在学生踩错节拍时立即叫停。学生再次尝试，直到做对，最终他们能够完美地共同完成舞蹈。
2. 图书管理员：为新问题寻找旧方案（人工制品重用）
想象你拥有一个巨大的图书馆，里面存放着许多旧的、成功的机器人设计及其规则手册。现在，如果你想建造一个新机器人，你必须手动阅读每一本书来寻找相似的设计。这既缓慢又令人沮丧，因为书中的用词或图表可能各不相同。
该论文提出了一位智能图书管理员：
- 地图： 他们将每一份旧的规则手册和代码转化为一张地图（图）。在这张地图上，“道路”是逻辑连接，而“地标”是规则。
- 搜索： 他们利用 AI 来理解地图上词汇的含义，而不仅仅是拼写。因此，即使一本手册说“避开障碍物”，而另一本说“不要撞墙”，AI 也知道它们表达的是同一个意思。
- 匹配： 系统会找到与你的新项目最匹配的最佳旧地图。然后，它会帮助你调整那张旧地图，使其适配你的新机器人。
类比： 这就像拥有一个通用食谱翻译器。你有一份用意大利语写的“意面”食谱，还有一份用法语写的“面条”食谱。普通的搜索可能会错过这种联系。而这个系统理解“意面”和“面条”是同一种食物，它能找到那份意大利语食谱，并帮助你调整它，以使用你手头的法语厨房食材。
3. 通用语法：确保每个人都在同一种语言下交流（形式化语义）
将 AI 与数学结合的最大问题在于，它们说着不同的语言。AI 谈论的是概率和模式；数学谈论的是绝对真理。如果它们对一个词的定义不一致，整个系统就会崩溃。
该论文建议构建一种通用语法（基于现有的“机构/Institutions”和“UTP”等理论）：
- 这不是一种新语言，而是一套严格的规则，用于定义无论你使用哪种语言或工具，什么是“真理”。
- 它确保当 AI 建议一项变更时，数学检查器可以在不被不同的符号或工具所困扰的情况下对其进行验证。
类比： 想想货币兑换。如果你同时拥有美元、欧元和日元，你不能直接把它们堆在一起去买车。你需要一个知道每种货币精确汇率的中央银行。这个“通用语法”就是那个中央银行，它确保每一段代码和每一个 AI 建议都能被转换为安全系统可以信任的标准价值。
大局观
作者认为，我们不应仅仅使用 AI 来猜测答案，也不应仅仅依赖缓慢的手动数学检查，而是应该建立一个这样的系统：
- AI 通过生成创意和寻找模式来加速过程。
- 数学 作为安全网，确保一切在逻辑上都是严密的。
- 旧的工作 被智能地重用，这样我们就无需每次都重新发明轮子。
其目标是从一个“检查软件后只能祈祷它正常运行”的世界，转向一个软件能够从过去的错误中学习、重用已证实的安全性规则，并进化为一个既强大又值得信赖的系统的世界。
本文并未声称：
- 它并没有说这个系统已经完全建成并可以购买。这是一个“愿景”和一种“提议”，关于如何构建这样一个系统。
- 它并没有声称解决了所有 AI 安全问题。
- 它没有提到具体的医疗或临床应用；它侧重于软件和信息物理系统（如机器人或汽车）的一般工程领域。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。