技术摘要：从画像到合成：基准测试个性化 LLM 智能体的隐式行为对齐

1. 问题定义：知识与行动之间的鸿沟

当前大语言模型（LLM）智能体的研究已从对话聊天机器人转向能够执行复杂现实任务的自主系统。然而，一个关键的瓶颈仍然存在，即个性化。现有的基准测试和评估框架主要依赖于静态的偏好快照、固定的交互日志或针对预定义用户画像的显式问答（QA）。

作者识别出了一个被称为**“知识-行动鸿沟”（knowledge-to-action gap）**的基本局限性。这种鸿沟描述了这样一种差异：智能体可能成功检索或推断出关键的用户知识（例如，用户最近进行了拔牙手术），但在执行任务时却无法应用这些知识以满足隐式约束（例如，基于静态的“喜欢辛辣”画像，在订餐时选择了辛辣食物而非软食）。目前的评估主要衡量智能体通过问答提取属性的能力，却未能评估智能体是否能将隐式的、演进的且可能存在冲突的用户信号转化为具体的、复杂的行动。

2. 研究方法

2.1 IBA-BENCH：一个新的基准测试

为了解决隐式行为对齐缺乏评估的问题，作者引入了 IBA-BENCH。与以往侧重于画像构建或静态匹配的基准测试不同，IBA-BENCH 构建自包含噪声、隐式线索和时间不一致性的纵向交互历史。

• 构建流水线： 该基准测试使用多智能体框架生成。它始于 400 个种子人格，这些人格由长期属性（背景、性格）和短期状态（瞬时压力、当前角色）定义。
• 数据特征： 系统生成的交互历史中，有价值的偏好证据被埋没在大量的噪声及与任务无关的内容（如闲聊）之中。偏好是通过行为模式（如反复缩减草稿长度）隐式揭示的，而非通过显式陈述。
• 任务范围： 该基准测试包含 6,962 个任务实例，涵盖 9 个领域（写作、工作、日常消费、规划、健康、交通、医疗、休闲、信息管理）和 66 个场景。
• 评估方式： 任务要求智能体根据历史记录执行具体行动（生成文本或调用带有参数的 API）。行为评估器根据偏好特定的标准来评估正确性，从而超越了简单的准确率，转向“行为成功”。

2.2 IBA-Agent：行为对齐框架

为了弥合从历史偏好理解到主动任务执行之间的鸿沟，作者提出了 IBA-Agent，这是一个由 LLM 驱动的框架，由两个核心模块组成：

1. 深度检索 (Deep Retrieval)：

   • 查询扩展 (Query Expansion)： 智能体不是生成单个查询，而是生成针对不同偏好维度（如语气、结构、决策权衡、修正、习惯）的多样化子查询。
   • 检索与精炼 (Retrieval & Refinement)： 使用稠密检索器（BGE-M3）检索语义相关的段落。系统采用冗余过滤来移除重叠的片段，并使用显著性重排序（利用 LLM 评分器）来优先处理高置信度的偏好信号，确保可靠的证据权重高于噪声隐式模式。

2. 广度思考与深度对齐 (Broad Thinking & Deep Alignment)：

   • 合成 (Synthesis)： 该模块将检索到的证据转化为特定任务的个性化方案。
   • 流程： 它执行紧凑证据组织、偏好提取（识别了什么被要求、被修正、被拒绝或被更新）以及任务-偏好对齐。
   • 输出： 智能体生成一个对齐方案，该方案规定了生成任务中的响应风格/结构，或 API 执行任务中的约束/优先级，从而在执行前有效地协调冲突的优先级。

3. 核心贡献

本文做出了三个主要贡献：

1. 概念转变： 它倡导将个性化智能体的研究从静态偏好画像转向动态偏好合成，并将“知识-行动鸿沟”识别为关键瓶颈。
2. 引入基准测试： 发布了 IBA-BENCH，这是首个通过在现实、动态且多噪的环境中进行具体任务执行来评估隐式行为对齐的基准测试。它涵盖了历史、动态性、隐式性、任务执行和行为评估的所有维度。
3. 提出框架： 引入了 IBA-Agent，这是一个结合了深度检索与轨迹级合成的框架，为能够进行个性化推理的智能体提供了强大的经验基准。

4. 实验结果

实验是在仅推理设置下进行的（无需微调），使用了带有 bge-m3 检索器的统一 RAG 流水线。研究评估了十种现代 LLM（Qwen、DeepSeek、GPT、ChatGLM、QwQ 系列）和三种通用智能体系统（Claude Code、Hermes Agent、nanobot）。

• 基准性能： 标准的 RAG 方法和独立 LLM（包括像 GPT-5.1 和 Claude Code 这样的强力模型）在这些高度依赖合成的执行任务上表现挣扎。性能并不随模型规模严格单调递增，表明仅靠更强的骨干网络是不够的。
• IBA-Agent 性能： 所提出的框架显著提升了行为对齐能力。
  • 使用 DeepSeek-V3.2 作为骨干网络，IBA-Agent 将整体得分从 66.9 提升至 78.8。
  • 使用 Qwen3-4B-Instruct，得分从 67.6 升至 78.1。
  • 加入函数调用 (FC) 功能后，性能分别进一步提升至 81.9 和 78.7。
• 消融实验：
  • 深度检索影响最大；移除它会导致整体性能下降 8.3 分，凸显了从长历史中获取相关证据的难度。
  • 广度思考与深度对齐贡献了 2.5 分的增益，对于多约束对齐至关重要。
  • 轨迹级合成至关重要；将其替换为标准的 RAG 式合成会导致 5.5 分的下降。
• 差距分析： 研究证实了明显的知识-行动鸿沟：模型在 QA 任务（陈述偏好）上的表现明显优于面向任务的应用（执行偏好）。IBA-Agent 在动态偏好设置中表现出鲁棒性，比最强的基准模型高出 12.7 分。

5. 重要性与主张

论文主张，有效的个性化要求智能体从纵向历史中合成隐式信号，而不仅仅是检索显式标签。作者认为，弥合知识-行动鸿沟是使个性化智能体在现实世界中真正具有实用价值的前提条件。

这项工作的意义在于：

• 揭示局限性： 通过实证验证，当前的先进智能体即使拥有必要的知识，也无法将历史上下文转化为行为约束。
• 提供解决方案： 证明了显式的轨迹级合成和深度检索可以显著提高复杂、多噪场景下的对齐水平。
• 建立标准： 提供 IBA-BENCH 作为严谨的评估工具，超越静态画像，去评估现实世界用户偏好的动态、冲突和隐式特性。

作者承认存在局限性，指出该基准测试依赖于 LLM 生成的合成数据，并且目前专注于离线的、基于历史的执行，而非在线交互式适应。然而，他们将这项工作定位为构建能够真正理解并响应不断变化的用户的智能体所必须迈出的重要一步。