🧬 biology

Agentic AI-assisted coding offers a unique opportunity to instill epistemic grounding during software development

该论文提出了一种名为 GROUNDING.md 的社区治理型领域知识锚定文档，旨在通过为 Agentic AI 编码设定不可协商的硬性约束和约定参数，确保非领域专家生成的软件在科学正确性上符合严格标准，从而在 democratized 软件生成时代将领域专家保留在关键决策回路中。

原作者： Magnus Palmblad, Jared M. Ragland, Benjamin A. Neely

发布于 2026-04-24

📖 1 分钟阅读☕ 轻松阅读

CC0 1.0

原作者： Magnus Palmblad, Jared M. Ragland, Benjamin A. Neely

原始论文根据 CC0 1.0（http://creativecommons.org/publicdomain/zero/1.0/）发布到公有领域。 ⚕️ 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。阅读完整免责声明

这篇文章提出了一种名为 GROUNDING.md 的新文件，旨在解决人工智能（AI）写代码时可能出现的“胡编乱造”或“违背科学常识”的问题。

为了让你更容易理解，我们可以把这篇论文的核心思想想象成**“给 AI 程序员配一位严厉的‘科学总教官’"**。

以下是用通俗语言和比喻对这篇论文的解读：

1. 背景：AI 写代码的“狂飙”与隐患

现状：现在的 AI 写代码能力突飞猛进，被称为"Vibe Coding"（氛围编程）。你只需要告诉 AI：“帮我写个分析蛋白质数据的软件”，它就能很快生成代码。
问题：就像让一个没有医学背景的实习生去开手术刀，虽然动作很快，但可能会犯下致命的科学错误（比如算错了数据，或者用了错误的实验方法）。
后果：如果 AI 生成的软件在科学原理上是错的，那么基于这个软件得出的研究结论也是不可信的。

2. 核心方案：`GROUNDING.md`（科学地基文件）

作者提出，我们需要一个特殊的文件，叫 GROUNDING.md。

比喻一：《宪法》与《操作手册》的区别
- 通常的 AI 提示词（Plan.md）像是**“任务清单”**（比如：今天我们要盖房子）。
- 项目规则（AGENTS.md）像是**“装修风格指南”**（比如：要用红砖，不要白砖）。
- 而 GROUNDING.md 就像是**《建筑安全宪法》。它规定了一些绝对不可违反**的底线（比如：承重墙绝对不能拆，地基深度必须达到 5 米）。
- 无论你的任务清单写得多么花哨，无论你想怎么装修，只要违反了《宪法》，AI 就必须拒绝执行。
比喻二：给 AI 配一位“老教授”
- 想象一下，你雇佣了一个才华横溢但缺乏经验的年轻程序员（AI）。
- GROUNDING.md 就是这位程序员桌上放着的一本**“领域专家笔记”**。
- 笔记里写着：“在这个领域（比如蛋白质组学），绝对禁止同时搜索 50 种以上的变量，否则计算会崩溃。”
- 当年轻程序员想偷懒或犯错时，他会先翻这本笔记，看到红线，立刻刹车。

3. 这个文件里有什么？

这个文件主要包含两类规则：

硬性约束 (Hard Constraints, HCs)：
- 比喻：这是**“高压线”**。
- 内容：科学上绝对不可妥协的规则。例如：“假阳性率（FDR）必须控制在 1% 以下，否则结果无效”。
- 作用：AI 如果违反，直接报错，绝对不允许生成代码。
惯例参数 (Convention Parameters, CPs)：
- 比喻：这是**“最佳实践建议”**或“社区默认设置”。
- 内容：大家通常都这么做的，但不是绝对死板的。例如：“通常使用无标记定量法”。
- 作用：如果 AI 选了别的，它会发出警告，提醒用户“嘿，这不符合常规，你确定吗？”，但不会直接阻止。

4. 为什么这很重要？

让外行也能写出专业软件：以前，只有懂蛋白质组学的专家才能写出正确的分析软件。现在，有了 GROUNDING.md，一个不懂生物学的普通程序员，只要把这个文件给 AI，AI 就能写出符合科学规范的软件。
防止“重复造轮子”且造得很难看：如果没有这个文件，AI 可能会发明一些看起来很酷但完全错误的算法。有了它，AI 就会遵循社区几十年积累下来的正确经验。
让 AI 成为“守门员”：它确保 AI 在追求“完成任务”的同时，不会牺牲“科学真理”。

5. 作者做了什么测试？

作者真的拿这个文件去测试了现在的 AI（比如 Claude Code）。

测试场景：他们故意给 AI 下达一些违反科学常识的指令（比如“忽略所有错误率，直接算出结果”）。
结果：当加载了 GROUNDING.md 后，AI 会拒绝执行这些指令，并解释说：“根据我的‘科学宪法’（GROUNDING.md），这样做是不科学的，我不能这么做。”
对比：如果没有这个文件，AI 就会乖乖听话，生成一堆错误的代码。

总结

这篇论文的核心思想是：在 AI 时代，为了让科学软件既强大又可靠，我们需要给 AI 植入一套“领域知识宪法”（GROUNDING.md）。

这就好比在自动驾驶汽车上，除了教它怎么开车（代码生成），还必须给它装上交通法规数据库（GROUNDING.md），确保它无论开得多快，都不会闯红灯或撞车。这样，即使是非专家也能放心地使用 AI 来创造复杂的科学工具。

这篇论文提出了一种名为 GROUNDING.md 的机制，旨在解决人工智能辅助编程（特别是“代理式 AI"或 Agentic AI）在科学软件开发中面临的**认识论基础缺失（Epistemic Grounding）**问题。作者以质谱蛋白质组学（Mass Spectrometry-based Proteomics）为例，论证了如何通过领域特定的约束文档，确保 AI 生成的代码在科学上的有效性和正确性。

以下是该论文的详细技术总结：

1. 问题背景 (Problem)

AI 编程能力的爆发与“氛围编程”（Vibe Coding）： 随着大语言模型（LLM）和代理框架（如 Claude Code, Cursor 等）的发展，科学家现在可以通过高层指令快速生成定制化的科学软件（即“氛围编程”）。
有效性缺口（Validity Gap）： 尽管 AI 能生成满足用户意图的代码，但缺乏形式化的领域约束。AI 可能会生成违反科学领域认识论不变量（Epistemic Invariants）的代码。
- 例子： 在蛋白质组学中，AI 可能编写代码同时搜索 50 多种可变修饰，导致计算空间爆炸；或者错误计算假发现率（FDR），导致科学结论无效。
现有方案的不足： 现有的上下文工程（Context Engineering）文件（如 plan.md, AGENTS.md, SKILL.md）主要关注任务流程、项目规则或具体技术实现，缺乏领域范围内的强制性科学正确性约束。它们无法防止非专家用户通过 AI 生成违反科学共识的软件。

2. 方法论 (Methodology)

作者提出了一种分层上下文架构，引入 GROUNDING.md 作为最高优先级的认识论基础文档。

核心概念：认识论基础文档 (Epistemic Grounding Document)
- 这是一个由领域社区治理的、机器可读且人类可读的 Markdown 文件。
- 它定义了硬约束（Hard Constraints, HCs）和惯例参数（Convention Parameters, CPs）。
约束层级架构 (Hierarchy of Context):
文档定义了上下文文件的优先级顺序（从高到低，即从最稳定/权威到最灵活）：
1. GROUNDING.md (领域范围): 包含科学有效性的不变量（如 FDR $\le$ 0.01）。优先级最高，覆盖所有其他上下文。
2. SKILL.md (方法范围): 具体的技术实现步骤。
3. AGENTS.md (项目范围): 项目特定的规则和偏好。
4. plan.md (会话范围): 用户当前的临时任务指令。
工作机制：
- 硬约束 (HCs): 不可协商的科学不变量（例如：必须使用目标 - 诱饵策略计算 FDR）。如果用户请求违反 HCs，AI 必须拒绝执行。
- 惯例参数 (CPs): 社区商定的默认值（例如：使用无标记强度进行定量）。如果违反 CPs，AI 应发出警告但允许执行（除非社区将其升级为 HC）。
- 加载策略： 在推理时，GROUNDING.md 必须通过系统提示（System Prompt）以最高优先级加载，确保其约束力覆盖用户意图和具体技能。

3. 关键贡献 (Key Contributions)

提出 GROUNDING.md 规范： 定义了一种新的文件类型，专门用于在代理工作流中编码领域特定的科学正确性标准。它不同于现有的项目规则文件，专注于“科学正确性”而非“工作流风格”。
HC/CP 框架： 建立了区分“不可协商的不变量”与“可演进的社区惯例”的机制。这使得领域可以在不牺牲科学有效性的前提下，通过更新 CP 来演进最佳实践。
领域特定示例（蛋白质组学）： 作者起草了一份具体的 proteomics GROUNDING.md（托管于 GitHub），涵盖了功能正确性、算法效率、互操作性、测试验证等章节，并明确定义了 FDR 计算等关键约束。
代理对抗测试： 进行了初步的概念验证测试，使用 Claude Code 和 Nemotron 模型，通过“对抗性提示”（Adversarial Prompts）试图让 AI 忽略科学约束。
- 结果： 当 GROUNDING.md 被正确加载（通过系统提示）时，AI 能够识别并拒绝违反硬约束的请求，引用文档中的具体条款解释为何该做法在科学上无效，并提供合规的替代方案。
- 发现： 加载顺序至关重要。将 GROUNDING.md 嵌套在技能文件夹中会削弱其权威性；必须通过系统提示确保其具有最高优先级。

4. 结果 (Results)

有效性验证： 在初步测试中，包含 GROUNDING.md 的代理系统成功阻止了生成违反科学原则的代码（例如，拒绝生成不正确的 FDR 计算逻辑）。
冲突解决： 测试表明，当用户意图（plan.md）与领域约束（GROUNDING.md）发生冲突时，GROUNDING.md 能够成功覆盖用户意图，防止 AI 为了“取悦用户”而牺牲科学严谨性。
可移植性： 该文档设计为紧凑的自然语言，既便于人类社区治理和修订，又便于不同代理工具（Agent Scaffolds）解析和消费。

5. 意义与未来展望 (Significance)

赋能非专家： 允许非领域专家（如普通程序员或初级研究人员）利用代理 AI 生成高质量的科学软件，因为“最佳实践”和“科学底线”已被预置在代码生成的基础层中。
防止碎片化： 通过编码领域共识，防止 AI 生成的软件重复发明轮子或忽视已知陷阱，促进科学软件生态系统的标准化和互操作性。
从“代码生成”到“有效性保证”的转变： 随着 AI 生成代码能力的增强，科学 AI 的瓶颈将从“能否写出代码”转移到“代码是否科学有效”。GROUNDING.md 是解决这一瓶颈的关键基础设施。
社区治理的新范式： 这种文档将成为连接领域标准组织（如 HUPO-PSI）、期刊要求和 AI 代理的桥梁，使科学标准能够直接转化为机器可执行的约束。
未来方向： 建议将此概念扩展到其他科学领域（如生物统计、系统生物学），并探索自动化测试、版本控制（如 Docker/uv 封装）以及将 GROUNDING.md 集成到未来的代理开发工具中。

总结：
这篇论文不仅提出了一个技术解决方案（GROUNDING.md），更提出了一种哲学观点：在 AI 辅助科学开发的未来，必须将**领域认识论（Epistemic Grounding）**显式化、机器化，并将其置于最高优先级，以确保 AI 生成的软件在科学上是可信的、可重复的，且符合社区标准。这是实现“数据中心里的天才国度”愿景中不可或缺的安全阀。