Silent methodological failures in AI-assisted science: benchmarking large language model agents for virtual gene knockout analysis

技术摘要：AI 辅助科学研究中的隐性方法论失效

问题陈述
将大语言模型（LLMs）作为自主智能体部署于计算生物学领域，为通过自然语言驱动的系统委派复杂的分析流水线提供了潜力。然而，这些智能体在执行端到端科学工作流方面的可靠性仍缺乏充分表征。现有的基准测试（如 HumanEval、SWE-bench）侧重于评估孤立编程任务的代码生成，并未评估涉及数据解析、算法实现、参数设定及统计解释的完整科学工作流。一个关键的担忧是，当独立的 AI 智能体被赋予相同的分析协议时，它们能否一致地实现算法并产生既具有计算有效性又具有生物学合理性的结果。具体而言，存在一种“隐性方法论失效”的风险，即智能体生成的代码虽然无错且可执行，但却产生了在科学上具有误导性或不合理的结果。

方法论
作者建立了一个标准化基准，利用 WorkBuddy 框架作为集中的执行环境，对五种 LLM 智能体（DeepSeek V4 Pro, GLM 5.1, HY3 Preview, Kimi K2.6, 以及 Minimax M2.7）进行了评估。

• 任务： 对 ALB（白蛋白）基因（一种高表达的肝细胞标记物）进行虚拟基因敲除（计算机内扰动分析），跨两个单细胞 RNA 测序数据集（GSE149614 和 GSE290298）。
• 框架： 评估了四种不同的计算范式：
  1. scTenifoldKnk： 基于 PCA 的 GRN 构建、流形对齐及 Z 分数计算。
  2. scPII： 共表达 GRN 构建及扰动响应扫描。
  3. GenKI： 使用 Frobenius 范数测量结构变化的图扰动分析。
  4. Geneformer： 一种使用 PCA 降维嵌入和余弦相似度来量化扰动效应的基础模型。
• 执行： 智能体接收完全相同的自然语言提示词，以自主生成并执行代码，过程中无需人工干预或迭代优化。
• 评估指标： 从四个维度评估性能：
  1. 速度： 墙钟执行时间（Wall-clock execution time）。
  2. 正确性： 基于预设统计阈值和已建立的 ALB 相关生物学特性的生物学合理性。
  3. 鲁棒性： 处理技术错误（如内存溢出异常）并进行自我恢复的能力。
  4. 一致性： 通过变异系数（CV）量化的跨模型差异性。

核心结果

• 执行效率： 所有智能体均成功完成了工作流，但执行时间呈现出 31.5 倍的差异范围（61 秒至 1,920 秒）。Kimi K2.6 因在发生内存溢出错误后进行自主恢复过程而成为最慢的智能体，而 Minimax M2.7 最快。
• 定量分歧： 跨模型的变异系数达到了 142.1%，尤其是在 scPII 框架中。这主要归因于“欠定义放大”（underspecification amplification），即由于协议未定义统一指标，智能体实现了数学上截然不同的“影响得分”（impact score）操作化方式（例如：特征向量中心性 vs L2 范数 vs 效率 × 敏感度）。
• 隐性方法论失效： 80% 的智能体（5 个中的 4 个） 表现出隐性方法论失效。这些智能体生成的代码无错且可运行，但未能满足预设的生物学合理性标准。示例包括：
  • Minimax： 在 scTenifoldKnk 中导致输入数据转置，从而产生接近基线的 Z 分数，并在 GenKI 中改变了矩阵结构。
  • DeepSeek： 非标准的“影响得分”操作化方式，导致在 scPII 中出现假阴性分类。
  • GLM： 在 Geneformer 中的聚合策略稀释了扰动信号，尽管具有统计学意义，但导致效应值过小。
• 生物学合理性： GLM 5.1 展示了最高的生物学合理性率（75%），其次是 HY3（62.5%）。Minimax 的合理性最低（12.5%）。尽管存在定量分歧，但所有智能体识别出的前五个受影响基因（如 GC, APOH, TTR, ORM1）是一致的，符合已知的肝细胞生物学特征。
• 性能概况： 没有一个智能体能在所有维度上都表现卓越。GLM 5.1 展现了最均衡的剖面。Kimi 表现出高鲁棒性（成功自我恢复）但速度较低。Minimax 速度最快，但正确性和一致性较差。

核心贡献

1. 识别隐性失效： 本研究强调，成功的代码执行并不足以证明科学有效性。它记录了一类错误，即智能体生成的代码在语法上正确、可运行，但由于细微的实现偏差，导致产生了生物学上不合理的结论。
2. 基准测试框架： 作者提供了一个严谨的基准，用于评估端到端计算生物学领域的 LLM 智能体，其评估维度从孤立的代码生成转向了复杂的、多步骤的科学工作流。
3. 欠定义放大： 本研究展示了高层协议中的轻微歧义（例如未定义的“影响得分”）如何导致显著的定量分歧和不可比的输出。
4. 质量控制策略： 论文提出，应将跨模型一致性和独立的生物学验证作为 AI 辅助科学研究的重要质量控制策略，而非仅仅依赖于代码执行的成功。

意义与主张
本文主张，虽然 LLM 智能体能够执行复杂的计算生物学工作流，但仅凭可执行的输出并不能确保方法论的忠实度或生物学的可靠性。研究结果强调，必须通过包括算法透明度、显式协议规范和生物学合理性检查在内的多维视角，来评估 AI 生成的科学工作流。作者总结道，为了使 AI 能够可靠地集成到科学发现中，学术界必须超越单一维度的代码执行基准，去应对那些可能被传统质量检查所忽略的“隐性方法论失效”风险。