Leveraging Large Language Models for Causal Discovery: a Constraint-based, Argumentation-driven Approach
本文提出了一种新颖的因果发现框架，该框架利用大语言模型作为基于论证（ABA）系统中的不完美专家，将来自变量描述的语义先验与条件独立性证据相结合，在实现最先进性能的同时，引入了一种缓解记忆偏差的协议。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你是一名试图破解谜团的侦探，但你手里只有一堆同时发生的线索。你看到带伞的人经常淋湿，而淋湿的人经常带伞。是雨导致了湿身，还是湿身导致了下雨？或者可能是第三种东西，比如云，同时导致了两者？这就是**因果发现（causal discovery）**的核心：仅仅通过观察数据中的模式，来弄清楚究竟是谁真正导致了什么。通常，计算机非常擅长识别模式，但它们却很难知道因果箭头的指向方向。为了解决这个问题，科学家们经常寻求人类专家的帮助，但专家们既忙碌又昂贵，而且有时意见不一。
最近，一种被称为**大语言模型（LLM）**的“超级大脑”出现了。这些是能够写诗、写代码并能聊几乎任何话题的 AI 工具。它们阅读了如此多的互联网内容，以至于它们似乎了解很多关于世界运作规律的知识。但问题在于：它们就像一个聪明但不太靠谱的学生。它们可以给你一个非常聪明的答案，但也可能自信满满地胡编乱造（这种技巧被称为“幻觉”），或者只是记住了在某处读到的事实，却并未真正理解其中的逻辑。科学家们面临的大问题是：我们能否利用这个“超级大脑”来帮助我们解决因果谜团，同时又不让它的错误毁掉整个案件？
这篇论文介绍了一种巧妙的新方法，将计算机的统计侦探工作与 AI 的“常识”结合起来，同时保持一个严格的安全网来捕捉任何谎言。研究人员 Zihao Li 和 Fabrizio Russo 来自伦敦帝国理工学院，他们构建了一个名为 ABAPC-LLM 的系统。你可以把它想象成一场高规格的数据辩论赛。
以下是他们的系统是如何运作的，我们用一个简单的类比：想象你正在绘制一张城市交通流向图。
- 数据侦探 (MPC)： 首先，传统的计算机算法观察交通数据（例如，早上 8 点与 8 点 15 分路上的车辆数量）。它识别出模式并说：“嘿，主街的交通通常是向北而不是向南。”但有时数据会有噪声，计算机可能会因此感到困惑。
- AI 顾问 (The LLM)： 接下来，团队要求 AI 查看街道名称（例如，“学校区域”和“游乐场”）。AI 利用其对世界的认知说道：“嗯，早晨车辆通常是从学校流向游乐场，而不是反过来。”
- 法官 (Causal ABA)： 这是最重要的部分。研究人员并没有让 AI 的话成为最终法律。相反，他们将 AI 的建议和数据侦探的发现放入了一个名为“基于假设的因果论证”（Causal Assumption-Based Argumentation）的辩论框架中。在这个辩论中，每一个主张都被视为一个“可撤销的假设”——这意味着除非有人证明它是错的，否则它就是正确的。
如果 AI 说“学校导致了游乐场的交通”，但数据侦探有强有力的证据表明“游乐场的交通发生在学校开门之前”，那么法官就会介入。法官使用严格的逻辑规则来查看这两个主张是否可以共存。如果它们发生冲突，系统不会仅仅选出一个赢家；它会判断哪个主张更弱，并将其丢弃。AI 的建议被视为“不完美的专家建议”，可以被硬性的统计证据所推翻。
为了确保 AI 不是仅仅在背诵教科书里的答案，研究人员创建了一个特殊的测试。他们构建了 54 张全新的、随机生成的城市地图，这些地图从未有人见过，但他们给街道起了有意义的名字（如“病毒”、“发烧”和“疲劳”）。他们要求 AI 猜测这些新地图上的交通流向。结果非常令人期待：当 AI 的建议具有一致性时（即在被询问五次后 AI 的观点保持一致），最终生成的地图比仅使用数据本身要准确得多。
然而，论文也排除了几种危险的想法。它表明你不能盲目信任 AI。如果 AI 编造了一个虚假的联系，而你强迫计算机接受它，那么整个地图就会崩溃。该系统之所以有效，是因为 AI 的建议被视为一种可以被推翻的“软”建议。此外，研究人员发现，虽然 AI 提供了很大帮助，但它并不能解决所有问题。如果数据非常混乱或者 AI 感到困惑，系统仍然必须依赖数据，并且如果不对 AI 的“帮助”进行仔细过滤，AI 的干预有时甚至会让情况变得更糟。
简而言之，这篇论文表明，大语言模型是进行因果发现的绝佳工具，但前提是我们必须把它们当作需要严厉经理监督的得力实习生。通过使用一种辩论式的系统，将 AI 的工作与真实数据进行校验，研究人员创造出了一种比仅使用数据更准确的方法，同时又不会陷入 AI 可能产生的谎言之中。这是迈向更智能、更可靠的 AI 的一步，这种 AI 知道何时该开口，何时该保持沉默。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。