Odyssey: Constructing Verifiable Local Truth-Preserving Foundation Models
本文介绍了 ODYSSEY，这是一个利用通用铸造学习（Universal Foundry Learning）和铸造 SQL（Foundry SQL）通过 Kan 延展组合模块化“铸造厂”（foundries）来构建可验证、局部真值保持的基础模型的范畴论框架，从而实现严密的论证、诊断以及异构知识源的集成。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是对 ODYSSEY 论文的解释，通过使用类比将其转化为通俗易懂的语言。
核心理念：从“黑盒”到“模块化工厂”
想象一下目前的语言大模型（比如你正在聊天的那些）就像一个巨大的、密封的黑盒。你输入一个问题，它输出一个答案。你不知道这个答案是如何构建出来的，不知道事实源自何处，也不知道为什么模型在某种情况下选择说“是”，而在另一种情况下选择说“不”。如果模型犯了错，很难修复，因为整个黑盒内部的所有东西都纠缠在一起。
ODYSSEY 提出了一种构建这些模型的新方法。与其构建一个巨大的黑盒，不如将 ODYSSEY 想象成一个模块化的建筑工厂（称为“Foundry”，即铸造厂）。
在这个工厂里，知识并不是被堆成一堆，而是像拼布被或由重叠瓷砖构成的地图一样被构建出来。
- 局部真相（Local Truths）： 系统将世界分解为许多微小且具体的“邻域”（局部上下文）。在一个邻域内，某个陈述可能是“已证实的”；而在相邻的另一个邻域内，同一个陈述可能是“未证实的”或“被矛盾的”。
- 粘合剂（The Glue）： 系统对于这些邻域如何连接有着严格的规则。如果两个邻域发生重叠，系统会检查它们是否一致。如果它们不一致，系统不会强迫它们达成一致，而是会将这种分歧标记为一个需要人工处理的“故障（glitch）”或“阻塞路径（blocked path）”。
其目标是创建一种可验证（你可以检查其工作过程）且保持真理性（它们不会在已知信息或信息来源上撒谎）的模型。
五位工人（智能体）
为了运行这个工厂，ODYSSEY 使用了五个专门的“智能体”（软件工人），它们的名称取自希腊神话人物。它们像流水线一样将项目文件从一个传递给下一个：
SCYLLA（翻译官）：
- 角色： 她负责与人类沟通。当你提出一个问题时，她负责将你模糊的请求转化为一份精确的“任务简报”。
- 类比： 想象你告诉承包商：“我想要一栋房子。”Scylla 会追问：“你是指小木屋？摩天大楼？预算是多少？用什么材料？”她将你的愿望转化为一份蓝图。
HOMER（项目经理）：
- 角色： 他接过 Scylla 的蓝图，并编写一份循序渐进的待办事项清单。他决定需要哪些工具以及使用的先后顺序。
- 类比： 他是现场监工，会说：“首先，我们需要浇筑混凝土。然后，我们需要订购砖块。这是进度表。”
ATHENA（建筑师）：
- 角色： 她设计结构。她决定不同的“知识邻域”如何相互衔接。她设定了信息如何在不同区域之间流动的规则。
- 类比： 她绘制地图。她说：“厨房连接着餐厅，但厨房不能直接连通车库，中间必须经过走廊。”她确保逻辑上的严密性。
PROMETHEUS（建造者）：
- 角色： 他根据 Athena 的计划实际进行构建。他收集数据，运行计算，并创建“世界模型”。
- 类比： 他是施工队。他铺设砖块、安装管道并搭建墙壁。如果他发现了问题（比如缺少一根水管），他会撰写一份报告。
TOULMIN（律师/辩论家）：
- 角色： 他不只是建造，他还会辩论。他会对完成的模型进行检查：“我们对这个主张有证据支持吗？是否存在反方观点？其适用范围是什么？”
- 类比： 他是手持法槌的质量检查员。他会问：“你声称这座桥很安全。请出示工程报告。如果下雨怎么办？这里有支持你主张的证据，也有可能推翻你主张的证据。”
特殊工具
论文引入了一些特定的工具来使这一切成为可能：
- Foundry 代数（The Foundry Algebra）： 这就像一套乐高说明书。你可以取一个“店面”模块和一个“金融”模块，并将它们拼接在一起，组成一个“零售公司”模型。你不能随机拼接，说明书（代数）会明确告诉你它们如何契合。
- TICKET（保安）： 这是一个允许外部新信息（如预训练模型）进入工厂的系统。它不会直接放行，而是会检查身份证明、扫描行李，并决定：“你可以进入”、“你可以进入但在候诊室等待”或者“你被禁止入内”。
- FSQL (Foundry SQL)： 这是一种用于向模型提问的特殊语言。你不再只是问“天气如何？”，而是可以问：“请只显示我们具有高置信度的邻域中的天气数据，并隐藏那些我们在猜测的数据。”
论文中的现实世界案例
作者在几个特定的“Foundry”上测试了该系统，以证明其有效性：
MyFixIt（维修手册）：
- 他们构建了一个修理笔记本电脑的模型。该系统不仅仅是阅读文本，它还理解动作步骤：“拆卸螺丝”、“抬起部件”、“检查图像”。
- 结果： 当被要求寻找维修步骤时，由于该系统理解的是动作和所需的工具，而不仅仅是单词，因此比标准的文本搜索更能精准找到正确答案。
印度文字（Indus Script，古代之谜）：
- 他们将此技术应用于尚未破译的印度河文明文字。
- 结果： 系统并没有假装知道答案。它展示了不同的理论、它们的重叠之处以及它们相互矛盾的地方。它明确地将“未知”部分标记为阻塞路径，而不是幻觉出一个翻译结果。
TCC 44K（经济主张）：
- 他们分析了 44,000 篇关于因果关系的经济学论文。
- 结果： 系统可以告诉你：“这项研究表明 X 导致了 Y，但仅限于这个特定国家，且仅在忽略这其他因素的情况下。”它保留了“细则”的可见性，而不是将其平滑化。
宜家组装（IKEA Assembly）：
- 他们测试了家具组装视频。
- 结果： 系统检查了组装椅子的视频是否符合说明书。如果视频显示缺少零件或跳过了某个步骤，系统会将其标记为“故障（glitch）”，而不是忽略它。
总结
论文声称 ODYSSEY 是一种构建具备以下特性的 AI 模型的方法：
- 透明性： 你可以清楚地看到模型是如何构建的，以及数据来自何处。
- 诚实性： 如果模型不知道某事，或者两份证据发生冲突，它会承认（通过创建一个“障碍物”或“故障”记录），而不是编造答案。
- 可修复性： 如果模型的某个部分出错了，你可以只修复那个特定的“邻域”，而无需重建整个模型。
作者表示，这目前是一个“设计阶段”的系统。它在处理特定、结构化任务（如维修手册或财务申报）方面表现出色，但它目前还不是目前我们使用的那些大规模通用聊天机器人的替代品。它是一种用于构建可靠、可检查 AI 的新架构，而非解决所有问题的万灵药。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。