Position: AI Agents in Scientific Teams Should Be Studied as Human-Agent Systems

技术摘要：应将 AI Agent 在科学团队中的应用视为人机协作系统进行研究

问题陈述
本文指出当前文献中存在一个关键空白，即关于基于大语言模型（LLM）的“AI 科学家”的研究。虽然现有研究越来越多地关注智能体执行科学发现的自主能力，但这种视角在很大程度上忽视了科学团队中固有的社会与协作动态。目前的系统通常将人类的参与局限于高层目标设定和最终验证，未能考虑到人类与人类团队中典型的迭代式、共同协作过程。作者认为，孤立地研究 AI 科学家忽略了“科学团队中的社会层面”，并且未能解决由于在未考虑人机动态的情况下部署智能体而带来的近期风险，例如科学探究的同质化以及主题多样性的减少。

研究方法
作者采用了一种多维方法，通过**人机协作系统（Human-Agent Systems, HAS）**的视角，结合文献综述、实证分析和案例研究进行研究。

1. 文献综述与分类法应用： 作者回顾了近期的 AI 科学家系统（如 AI Scientist v2, Kosmos, Co-Scientist, Denario），并根据人类反馈的主要渠道对其进行分类。他们采用了 Zou 等人 (2025a) 的分类法，从三个维度分析这些系统：

   • 类型（Type）： 评估性（质量评估）、指导性（指令/批评）或纠错性（编辑/修复）。
   • 粒度（Granularity）： 粗粒度（对单个输出进行评估）或细粒度（针对特定步骤的反馈）。
   • 阶段（Phase）： 任务前（规划）、任务中（执行）或任务后（评估）。
     该综述显示，大多数系统依赖于人工制品级（任务后）或发现阶段级（任务中）的反馈，极少支持灵活、异步或细粒度的干预。

2. 初步实证实验： 为了测试智能体在反馈方面的行为，作者使用基于 ReAct 的智能体框架，在 AstaBench 端到端发现（E2E）基准测试上使用 GPT-5-mini 进行了实验。他们比较了三种情况：

   • 基准规划中心型智能体。
   • 具有“询问用户”工具且系统提示词中包含反馈分类法的智能体。
   • 具有明确的每步指令，要求始终调用“询问用户”工具的智能体。
     研究利用 LLM-as-a-judge（以 LLM 作为评判者）来对反馈请求的类型、粒度和阶段进行分类。

3. 案例研究分析： 作者分析了已发表的科学家与智能体协作的记录（例如，使用 Gemini 3 Pro 进行复杂性理论结果的“氛围编程/Vibe-coding”；使用 GPT-5 进行简化物理建模），以定性地说明相互增强与协同作用的模式。

4. 理论建模： 作者提出了一个用于 HAS 的简单效用模型，定义为 $U(H, A) = CA(H, A) - CD(H, A)$，其中$CA$代表协作优势（互补性），$CD$ 代表协作劣势（协调成本）。

核心结果

• 反馈局限性： 文献综述表明，大多数 AI 科学家系统将人类互动限制在监督角色（范围界定、审计、批准）而非持续的迭代协作。人工制品级反馈是最常见的，而异步引导和细粒度中断则非常罕见。
• 智能体反馈行为： 在初步实验中，没有明确每步指令的智能体无法知道何时寻求帮助，在模糊情况下往往会做出假设。当被强制要求在每一步都进行询问时，主要的反馈类型是评估性（发生在任务中），其次是指导性（任务前）。纠错性反馈极少被请求。这表明当前的智能体在何时寻求细粒度、纠错性的人类输入方面难以实现自我调节。
• 风险证据： 本文引用证据表明，AI 增强的研究可以产生三倍数量的论文，但探索主题的多样性减少了 5%。它还强调了幻觉、偏见扩散以及初级研究人员因将审慎决策过程外包而导致“技能退化”的风险。
• 协同模式： 案例研究表明，有效的协同发生在人类提供概念框架、领域判断和认识论验证，而智能体加速实现和起草的过程中。然而，这种协同是脆弱的；如果没有专家监督，智能体会表现出诸如过度自信和掩盖复杂问题等失效模式。

核心贡献

1. 重构分析单元： 本文主张将研究重点从自主的“AI 科学家”转向人机协作系统（HAS），其中分析单元是“人-智能体”对。
2. 交互分类法： 它提供了一个结构化的分类方法，根据反馈渠道（人工制品、阶段、规划、异步）和维度（类型、粒度、阶段）对当前的 AI 科学家系统进行分类，并强调了缺乏支持深度、迭代协作的系统。
3. 风险缓解框架： 它提出，通过确保人类监督集成在发现循环中，而非仅仅退缩到事后审查，HAS 视角对于缓解包括幻觉、偏见和专业知识侵蚀在内的近期风险至关重要。
4. 数学框架提议： 作者引入了一个效用模型（$U = CA - CD$），旨在最大化协作优势并最小化协调成本，从而指导未来的研究。
5. 评估路径： 本文提出了一种分阶段的 HAS 评估策略，从低成本代理指标（如审查时间、干预密度、模拟先知协同效应）转向更昂贵的半人马评估（Centaur evaluations）（即对比 HAS 与单独的人类及单独的智能体），以使评估人机协同作用变得可行。

意义与主张
本文声称，将 AI 科学家作为 HAS 进行研究既是被低估的，也是研究不足的。其意义在于：

• 缓解近期风险： 通过以人类参与为中心，HAS 视角提供了检测幻觉、防止偏见并保护可能因过度依赖自动化而退化的科学技能的具体路径。
• 释放协同潜力： 它表明真正的科学突破可能需要一种“人机协同”，即组合团队的表现优于任何单一成员，而这种状态在完全自主的智能体或孤立工作的人类身上目前是无法实现的。
• 务实的研究方向： 作者认为，采用 HAS 视角是实现安全且有效的人机共同发现的务实途径。他们呼吁开展新研究，开发专门针对科学发现中人机协同动态的数学框架和评估指标，而不是将智能体视为孤立的优化求解器。

文章总结道，虽然评估 HAS 既复杂又昂贵，但采用分阶段的方法并使用轻量级指标可以验证这些系统的效用，最终促进一个 AI 增强而非取代人类审慎思考的科学环境。