A Closed-Loop Framework for Knowledge-Based Causal Model Refinement Using Process Mining and Human-AI Governance
本文提出了一种闭环的人机协作框架，该框架通过将经验事件日志的过程挖掘与专家裁定相结合，迭代优化基于知识的因果模型（DAG），以增强复杂慢性病中因果推断的准确性与透明度。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在试图解开一个巨大的谜团：为什么有些人会患上特定类型的疾病，而另一些人却不会？在医学和科学领域，研究人员使用一种特殊的地图，叫做有向无环图（Directed Acyclic Graphs, DAGs）。把这些地图想象成疾病的家谱，只不过它展示的不是谁与谁有亲缘关系，而是展示了什么导致了什么。如果你从“吸烟”画一条线到“肺癌”，你就是在说吸烟会导致癌症。这些地图至关重要，因为如果你把线画错了，你的整个调查就会出现缺陷，你可能会把错误的因素归咎于某种疾病。
然而，绘制这些地图非常困难。通常，专家必须根据他们在书本中读到的内容或在诊所中看到的现象来猜测这些联系。但现实世界是混乱的。有些人会在我们看到完整故事之前就生病，有些人甚至在研究完成前就去世了，有时数据看起来也非常令人困惑。这就像是通过只看随机、被打乱的片段来试图弄清楚一部电影的剧情。大问题在于：当现实世界如此复杂时，我们如何确保我们的“因果关系”地图是真正正确的？正是在这里，一个全新的科学家团队决定引入一点帮助——不是人工智能（AI），而是让它充当一名超级侦探。
侦探与人工智能：一个闭环谜题
见见来自卡罗林斯卡学院（Karolinska Institutet）及其同事的研究人员。他们构建了一个闭环框架（closed-loop framework），这是一种高级的说法，意指他们创建了一个用于解决医学谜题的“检查与制衡”系统。想象一下，你是一名正在试图破案的侦探（人类专家）。你有一个关于犯罪是如何发生的理论（你的初始地图）。通常，你会直接写下它并继续前进。但这个新系统增加了一个机器人搭档（AI），它不仅仅是同意你的观点，它还会亲自去犯罪现场寻找证据。
以下是他们四步走冒险的过程：
第一步：初始理论（专家的猜测）
首先，人类专家（或为他们阅读书籍的 AI 助手）根据他们已有的知识绘制第一版地图。假设他们认为：“药物 A 导致肾脏疾病，进而导致心脏问题。”这是他们的初始假设。这是一个好的猜测，但它仅仅是一个猜测。
第二步：犯罪现场调查（过程挖掘）
接下来，系统会查看海量的真实患者记录——就像一本巨大的日志，记录了患者每次就医、服药或进行检查的情况。这被称为过程挖掘（Process Mining）。AI 扫描这些日志，以观察实际发生的事件顺序。肾脏问题是真的发生在心脏问题之前吗？还是它们同时发生？或者患者在心脏问题被记录下来之前就已经去世了？AI 根据它发现的事件时间线绘制了一张新的地图。
第三步：对决（人机治理）
这是最重要的部分。系统现在将“专家的猜测”与“AI 的犯罪现场地图”并排放在一起对比。
- 如果两者匹配： 太棒了！理论看起来很可靠。
- 如果不匹配： AI 会指出差异之处。“嘿，你的地图说药物 A 导致心脏问题，但日志显示，在这一组人群中，心脏问题往往发生在肾脏问题之前。”
这里有个关键点：AI 并不能直接修改地图。它只是说：“我发现了一个奇怪的模式。你想修改你的地图吗？”然后，人类专家做出决定。他们可能会说：“啊，你是对的！我忽略了这个细节，”或者说：“不，那个奇怪的模式只是数据中的错误，忽略它吧。”这确保了人类始终处于主导地位，利用 AI 来发现他们可能错过的东西。
第四步：最终判决（统计建模）
一旦地图经过人类完善并获得批准，系统会建议使用最好的数学工具来证明该理论。它可能会说：“既然我们现在知道死亡是一个主要因素，请使用一种特定的数学模型，叫做‘Fine-Gray 模型’，以获得正确答案。”
他们发现了什么？
为了测试这个系统是否真的有效，研究人员并没有仅仅靠猜测；他们进行了一场大规模的模拟。他们创造了一个虚拟世界，其中包含 5,000 名虚拟患者，以及一个关于某种药物（质子泵抑制剂，简称 PPIs）如何影响肾脏和心脏健康的已知“真实故事”。他们甚至在数据中设置了“陷阱”——看起来像是真实联系的假线索，但实际上只是记录系统中的故障。
结果令人印象深刻：
- “不受治理”的 AI： 当他们让 AI 在没有人类检查的情况下尝试修复地图时，AI 掉入了陷阱。它将虚假线索视为真实的，导致地图出错。
- “受治理”的闭环： 当他们使用这个全新的闭环系统（AI 建议，人类决定）时，系统拒绝了 100% 的虚假陷阱。它成功识别出那些奇怪的模式只是记录错误，而非真实的疾病。
- 真实的故事： 系统正确识别出该药物很可能导致了肾脏问题，进而引发心脏问题，并且它正确地标记出许多患者在心脏问题被充分研究之前就已经去世了。
他们还在一个使用模拟数据的“教程”上进行了测试，这些数据模仿了来自 SCREAM 研究的真实患者记录。系统成功识别出“死亡”是一个主要的竞争风险（即许多人在心脏事件发生前就去世了），并建议了处理该问题的正确数学工具。
为什么这很重要
这篇论文并不声称已经解决了所有的医学谜题或找到了新的疗法。相反，它提供了一种更好的思考方式。它表明我们可以利用 AI 作为一个不知疲倦的侦探，扫描数百万条记录以寻找模式，但我们必须让专家参与其中，以决定这些模式是否合理。
作者们认为，这种方法有助于避免过度信任计算机猜测的常见错误。通过将我们的初始想法视为“可测试的假设”而非固定事实，并不断将其与现实世界的数据进行核对，我们可以构建出更可靠的疾病运作图谱。这能确保当我们说“A 导致 B”时，我们不仅仅是在猜测，也不是被混乱的数据所欺骗。该系统现在作为一个开源工具发布，邀请其他科学家在他们自己的医学难题上尝试这种“侦探与搭档”的方法。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。