Evidence-processing errors and their correction in an LLM-assisted systematic review: a retrospective methodological case study
这项回顾性方法论案例研究调查了记录在案的证据处理错误如何影响了一项由大语言模型辅助的系统综述，证明了一个可审计的工作流成功地将错误检测与纠正关联至发布的输出结果，同时为未来的综述团队提供了操作规则。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
想象一下，你正试图解决一个巨大的拼图，而拼图碎片散落在成千上万本书籍中，其中一些书描述的是完全相同的一群人。这就是系统评价（systematic review）的日常现实——这是一种严谨的科学方法，用于收集针对特定医学问题的所有可用证据。研究人员这样做是为了在相互矛盾的研究中找到隐藏的真相，但这个过程极其脆弱。一个微小的错误——比如读错日期、不小心将同一名患者计算了两次，或者误解了一个结果是好是坏——都可能扭曲最终的结论。现在，想象一下加入人工智能来帮助处理这如山的信息。虽然这些计算机程序能够以惊人的速度阅读和组织数据，但它们并不完美。它们可能会犯下难以察觉的细微错误，如果这些错误溜了过去，整个科学结论就可能出错。现代科学面临的关键问题不仅在于计算机能否完成这项工作，还在于我们如何捕捉其错误并确保最终答案是值得信赖的。
中国的一个研究小组决定通过回顾他们刚刚完成的一个真实世界项目来回答这个问题。他们使用了一个复杂的系统，该系统结合了大语言模型（能够理解人类语言的高级人工智能工具）与严格的人类监督，来开展一项关于手术前社交联系如何影响术后恢复的研究。他们并没有仅仅展示他们的最终医学发现，而是将目光转向了过程本身。他们将自己的已完成项目作为一个实验室，去调查究竟在哪里出了问题、这些错误是如何被发现的，以及在结果向公众发布之前是如何被修复的。他们的目标不是为了证明他们特定的这项评价是完美的，而是为了建立一张关于错误发生的透明地图，以及阻止这些错误毁掉科学研究的保障措施。
研究人员检查了他们项目的整个历史，从最初的研究检索到最终的发表。他们发现了五十个不同的根本原因事件，即导致错误发生的根本原因。这些不仅仅是微小的拼写错误；其中一些错误在被发现并纠正之前，已经改变了评价中的合并统计结果。例如，在其中一个案例中，系统纳入了从错误时间开始随访的患者数据，这扭曲了生存统计数据。在另一个案例中，人工智能未能意识到两份不同的报告描述的是同一组患者，导致这些患者被重复计算，从而人为地夸大了该证据的权重。团队还发现了计算机误解结果方向（将负面结果误认为正面结果）或选择了错误类型数据进行分析的错误。
这项研究之所以特别有价值，在于团队处理这些错误的方式。他们没有简单地删除错误并假装它们从未发生过。相反，他们建立了一个像详细审计追踪一样的系统。每当发现错误时，他们都会记录发生了什么、后果是什么以及如何修复它。他们追踪了四条特定的失败路径，以展示一个对源文档理解的小错误如何产生连锁反应，影响整个系统，进而改变哪些研究被纳入、它们承载了多少权重，甚至改变结果的最终置信度等级。例如，当他们意识到研究之间存在重叠被遗漏时，他们修正了这种关联，这改变了参与计算的研究数量，并略微调整了最终的优势比。在另一个实例中，关于研究偏倚风险的修正改变了证据质量的评估，尽管最终等级仍保持在最低水平。
研究人员发现，大多数错误是通过自动化检查和人工审查相结合而被发现的。该系统的设计初衷是：如果违反了规则（例如重复计算患者或使用错误的时间框架），过程就会停止并标记问题。随后，人类介入进行最终判断。最终，他们解决了五十个错误中的四十六个，另外四个被视为已披露的非关键性局限性，并未改变主要结论。最终的评价包含了代表445项独特研究的454份报告，尽管在过程中发生了五十个错误，但团队能够在发布最终科学输出前纠正了已解决的错误。他们通过使用另一套代码重新运行整个过程，并让两名独立的评审员检查相同的源文档，来验证他们的工作，从而确认最终数字是一致的且文件完全匹配。
这项工作并非声称人工智能已经准备好取代人类科学家，也并非认为这些工具是无懈可击的。事实上，该研究明确表明，如果仅依赖人工智能而没有清晰、可审计的过程，将会导致错误的结果。研究人员强调，他们的发现是针对这一特定项目的，不能用来计算所有人工智能系统的通用错误率。然而，他们提供了一套具体的规则和示例，其他研究团队可以利用这些内容来构建自己的安全网。通过详细记录错误是如何发生的以及如何追溯到源头，该团队展示了在高度敏感的科学领域中使用强大人工智能工具是可能的，前提是必须有一套严密的系统来捕捉错误、纠正错误，并证明最终答案是可靠的。这项研究为如何在未来利用计算机帮助我们阅读全球医学文献并建立信任，提供了一份实用的指南。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。