想象你是一位主厨，正试图为一道全新且可能具有危险性的菜肴撰写一本复杂的食谱。在将其端给任何人之前，你必须对照庞大的安全手册库、基因报告以及过往医疗记录，逐一核对每一种食材，以确保它不会让人生病。这正是药物科学家在评估一个新“靶点”（一种生物分子）以确认其是否可安全用于药物时所做的工作。
本文介绍了TSASSISTANT，这是一款新型数字工具，旨在帮助这些科学家更快、更准确地撰写安全报告。其工作原理可拆解为以下简单概念：
1. 问题：“独行主厨”的困境
目前，撰写这些安全报告就像要求一位疲惫不堪的主厨独自阅读数千本书籍、 memorize 每一个事实，并独自完成一份 50 页的报告。
- 问题所在： 耗时漫长，极易遗漏细节；若主厨在早期犯错，该错误会被复制到报告的每一部分。
- 目标： 科学家需要一种方法，在加速这一过程的同时，既不丧失“人文关怀”，也不引发危险错误。
2. 解决方案：AI 代理组成的“厨房团队”
TSASSISTANT 并非让一个巨型 AI 试图包揽一切，而是像一个专业的厨房团队。它将庞大的报告拆分为若干小部分（如“遗传学”、“药物相互作用”、“临床病史”），并为每一部分指派一位专业机器人主厨。
- 专业机器人： 一个机器人仅查看遗传数据；另一个仅核查药物相互作用数据库。它们不试图包揽所有事务，只专注于各自的一项工作。
- 主厨（协调者）： 一位中央管理者指示机器人该做什么，但不过度干预。它确保所有机器人都遵循相同的规则。
3. “三层”规则手册
为防止机器人失控，该系统采用三层指令系统，如同嵌套的规则手册：
- 基础层（工作描述）： 这是永久性的规则手册，规定“你是一名安全研究员。以下是你撰写报告的格式要求。”此层永不改变。
- 技能层（专业能力）： 这是针对当前任务的具体手册，例如“如何解读遗传数据”。如果科学家在遗传学方面获得新知识，只需更换此手册，而不会破坏整个系统。
- 用户层（具体指令）： 这是人类科学家给出具体指令的地方，例如“聚焦于某种特定疾病”或“忽略这些旧研究”。
4. “安全网”（硬性约束）
AI 有时会“产生幻觉”（编造内容）。为防止这种情况，TSASSISTANT 并不仅仅信任机器人的陈述。它采用程序化安全网：
- 工具接口： 机器人不会凭空“猜测”事实。它们使用特定的、预构建的工具，从受信任的数据库中检索数据（如同图书管理员从书架上取下特定书籍）。
- 记忆库： 机器人发现的每一个事实都会被保存到永久性的外部记忆库中。如果机器人声称某事，系统可立即查阅记忆库，核实“我们是否确实找到了该证据？”
- 检查点： 在机器人完成其部分之前，一名“安保人员”（自动化钩子）会检查其工作。如果机器人未正确引用来源，该部分将被退回重做。
5. “人在回路”（最终品鉴）
这是最关键的部分。该系统并非完全自动化，而是设计为一种伙伴关系。
- 初稿： 机器人撰写各部分的初稿。
- 审查： 人类专家（毒理学家）阅读初稿。
- 交互： 人类可以：
- 编辑： 修正句子或更改结论。
- 补充： 添加机器人遗漏的新信息。
- 上传： 投入新文件或数据源。
- 重问： 告知机器人，“带着这些新信息，回去重新检查这一特定部分。”
- 结果： 系统会记住对话。如果人类后续改变主意，系统会随之调整。人类始终拥有最终决定权，确保最终报告安全且准确。
总结
将 TSASSISTANT 视为一位超高效的研究助理，它承担阅读数千份文档并组织事实的繁重工作。然而，它从不做出最终决定。它将证据呈现给人类专家，由后者审查、编辑并批准最终报告。这确保了工作既快速又一致，而安全判断则牢牢掌握在人类手中。
以下是论文《TSASSISTANT：一种用于自动化靶点安全性评估的人机回环代理框架》的详细技术总结。
1. 问题陈述
**靶点安全性评估（TSA）**是药物发现中至关重要的早期阶段，用于评估在人体中调节生物靶点可能产生的不良反应。它涉及综合来自五个不同领域的异质性证据：
- 遗传学： 将靶点扰动与表型联系起来的人类变异。
- 转录组学： 组织特异性表达谱。
- 靶点同源性： 与其他蛋白质的序列/结构相似性（脱靶风险）。
- 药理学： 已知调节同一靶点的药物的效应。
- 临床： 来自临床登记的不良事件信号。
当前挑战：
- 人工且非标准化： 该过程主要是人工操作，导致内容构成不一致、深度参差不齐且可重复性差。
- 可扩展性问题： 随着证据库的增长，在大型靶点组合中综合数据变得耗时且容易出现知识缺口。
- 当前人工智能的局限性： 通用大语言模型（LLM）缺乏一致性和可重复性。虽然存在工具增强型 LLM 和多代理系统，但它们往往缺乏高风险药物安全决策所需的可追溯性、人类监督和细粒度控制。完全自主的系统存在幻觉和错误传播的风险，这在受监管的环境中是不可接受的。
2. 方法论：TSASSISTANT 框架
TSASSISTANT 是一个**多代理、人机回环（HITL）**框架，旨在自动化 TSA 报告起草，同时保留专家权威。它采用混合架构，结合软约束（提示词）和硬约束（程序化执行）。
A. 分层指令架构
为了管理复杂性并确保稳定性，代理行为由三层指令层级管理：
- 系统提示词（第 1 层）： 定义稳定的协调逻辑、代理角色和输出结构。这些与靶点无关且很少修改。
- 领域技能模块（第 2 层）： 将特定部分的专业知识（例如检索策略、数据库加权、写作指南）封装为可重用、带版本控制的模块。这使得毒理学家能够更新特定领域知识，而不会破坏整体系统逻辑。
- 运行时用户指令（第 3 层）： 以最高优先级注入特定项目的约束（例如特定疾病适应症、专有数据），根据需要覆盖默认设置。
B. 代理流水线与分解
系统将报告生成分解为协调的专用子代理流水线：
- 5 个研究子代理： 每个子代理被分配恰好一个 TSA 证据领域（遗传学、转录组学、同源性、药理学、临床）。它们在上下文隔离中运行，以防止部分之间的错误传播。
- 3 个综合子代理： 跨部分整合发现，生成执行摘要、结论和综合风险评估。
C. 程序化执行层
为了解决 LLM 提示词的“软性”问题，TSASSISTANT 实施了硬约束：
- 结构化工具接口（MCP）： 子代理不直接访问原始 API。相反，它们使用连接到精选数据库（如 Ensembl、UniProt、GWAS Catalog、ClinicalTrials.gov）的标准化工具。这些工具在将结构化、分析就绪的数据返回给 LLM 之前，执行多步数据工程（过滤、去重、聚合）。
- 执行钩子：
- 执行前： 安全检查、内存注入和输入验证。
- 执行后： 通过自然语言推理进行引用验证、输出压缩和完整性检查。
- 运行时： 持续监控证据验证和跨部分一致性。
- 持久化内存：
- 工具内存： 一个持久化、可查询的存储，包含所有检索到的证据及其来源元数据，将知识与 LLM 的易失性上下文窗口解耦。
- 代理内存： 已完成部分的压缩事实表示，基于依赖图注入到下游代理中。
D. 交互式细化循环（人机回环）
系统在一个迭代周期中运行，人类专家在部分级别进行干预：
- 用户可以手动编辑内容、附加新信息、上传额外的来源/图表，或重新调用特定子代理以进行针对性修订。
- 系统在迭代过程中保持对话记忆，以便根据用户反馈调整检索策略和提示词模板。
- 理念： LLM 处理证据综合和起草；人类专家保留最终决策权和验证权。
3. 主要贡献
- 基于部分的多代理流水线： 一种新颖的架构，其中专用子代理独立地确立并引用每个证据领域，实现模块化任务分配和针对性修订，而无需重新生成整个报告。
- 三层指令架构： 一种将协调逻辑、领域技能和用户意图分离的设计，允许独立更新领域知识而不破坏系统稳定性。
- 程序化执行层： 一个利用执行钩子和持久化内存存储来强制执行输出有效性、可追溯性和受控信息共享的稳健框架，超越了简单的 API 包装器，转向领域工程化的工作流。
- 交互式细化循环： 一种在部分级别集成人类监督的 HITL 设计，允许早期错误检测和工作流的渐进式个性化。
4. 结果与评估
该论文概述了一个应用于50 多个治疗靶点的系统评估框架。虽然全面的定量结果注明将在未来修订版中提供，但评估侧重于四个维度：
- 事实一致性： 验证主张是否与引用的源数据匹配（将主张分类为支持、不支持、矛盾或幻觉）。
- 证据完整性： 确保五个证据领域内所有关键安全相关子主题均被覆盖。
- 结构对齐： 检查是否符合内部 TSA 模板、写作风格和证据优先级。
- 证据可追溯性： 衡量具有可验证的内联引用至主要来源的主张比例（对于监管合规至关重要）。
该框架旨在减少起草时间和每个部分所需的细化迭代次数，与人工流程相比。
5. 意义
- 监管合规与安全： TSASSISTANT 解决了药物安全中对可追溯性和人类问责的关键需求。它确保人工智能增强而非取代专家判断，满足安全决策的监管要求。
- 可扩展性： 通过自动化证据综合和报告起草的机械负担，该系统使毒理学家能够在不牺牲深度或一致性的情况下，扩大对大型靶点组合的评估。
- 科学严谨性： 使用“硬约束”（程序化钩子、结构化工具）降低了 LLM 幻觉和错误放大的风险，这是自主科学代理中常见的陷阱。
- 制药业人工智能的未来： TSASSISTANT 作为在高风险、受监管领域应用代理型人工智能的蓝图，展示了如何平衡自动化效率与专家监督和可审计性的必要性。
总之，TSASSISTANT 代表了迈向人工智能增强的药物安全科学的重要一步，为药物发现中最关键的步骤之一提供了一个结构化、可重复且以人为本的框架。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题，再试一次？
无垃圾邮件，随时退订。