Reason Popper-ly: Patching In-Context Reasoning with Inductive Logic Programming
该论文介绍了“Reason Popper-ly”，这是一个神经符号框架，通过利用归纳逻辑程序设计来学习关系规则、验证中间步骤并自动纠正逻辑错误，从而增强了大语言模型的思维链推理能力，进而显著提高了其在多跳推理任务上的准确性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一个非常聪明、非常爱说话的机器人如何破解谜题。你不仅仅是向它询问答案，而是要求它展示其推导过程，一步步地，就像侦探在笔记本上记录线索一样。这种被称为“思维链”（Chain-of-Thought）的方法，已经帮助大型语言模型在解决需要序列化思考的谜题时变得更加出色。然而，这里有一个陷阱：仅仅因为机器人写出了一个长篇且自信的故事，并不意味着这个故事中的每一句话都是真实的。有时，机器人在推导过程的中途逻辑出错了，即便它最后猜对了答案。这就像一个学生写了一篇优美的文章，却在中间不小心把二加二算成了五，然后又在终点线前奇迹般地纠正了过来。科学家们对此感到担忧，因为如果我们无法信任推导步骤，我们就无法在严肃的情况下信任机器人的推理。核心问题在于：我们如何在不丢弃它的整个笔记本并重新开始的情况下，在机器人思考的过程中修复它的错误？
于是，“Reason Popper-ly”应运而生，这是一种新的方法，它扮演着机器人思考过程中超级专注的编辑角色。它并没有让机器人写完整个故事并听天由命，也没有用僵化的计算器来完全取代机器人，而是使用了一种结合了学习与检查的巧妙方法。首先，系统通过研究成千上万个关于关系如何运作的示例（例如，“父亲”和“姐妹”如何结合成“姨妈/姑妈”），来构建一本微型且完美的规则手册。然后，当机器人尝试解决新谜题时，这本规则手册就会充当实时裁判。当机器人写下每一句话时，裁判都会根据规则手册检查其逻辑是否成立。如果机器人犯了错——比如，它声称“兄弟”和“母亲”会组成“表亲/堂亲”，而不是“姐妹”——系统并不会删除整页内容。相反，它会轻轻地提醒机器人：“嘿，这一步错了；这是正确的逻辑，”并要求机器人重写那一部分以及之后的整个故事。
研究人员在名为 CLUTRR 的基准测试上测试了这个想法，CLUTRR 本质上是一个巨大的家族树谜题，你必须通过连接几代人的点来弄清楚两个人的关系。他们在五种不同的语言模型上进行了测试，涵盖了从小型本地计算机到目前最强大的“前沿”模型的范围。结果非常令人振奋。对于较小的模型，这种“修补”方法大幅提升了它们的准确率——在最难、最长的谜题上提升了高达 48 个百分点。即使是那些已经表现得相当出色的超智能前沿模型，在处理最长的逻辑链时，也显著提升了高达 15 个百分点。这项研究表明，随着谜题变得越来越长、越来越复杂，机器人的大脑本身会更容易出错，而拥有这样一个符号化的“护栏”来捕捉并修复特定的逻辑错误，会产生巨大的影响。
这种方法的特别之处在于它如何处理错误。系统不仅仅是说“对”或“错”；它还能诊断出机器人为什么错了。它可以判断机器人是用了正确的原料却用了错误的配方，还是弄反了关系的方向（比如混淆了“母亲”和“女儿”），或者是编造了一个故事中并不存在的事实。有趣的是，研究发现，对于规模最大、最聪明的模型来说，最常见的错误并不是逻辑错误，而是弄反了关系的指向。通过修复这些具体的、微小的错误，并让机器人从修正后的位置继续进行，该系统既保留了机器人自身的创造力和事实依据，又确保了逻辑的严密性。这表明，我们不需要用僵化的数学来取代人工智能以使其可靠，我们只需要一种聪明且轻量化的方式，在它做作业的过程中进行检查。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。