技术摘要：一种用于自主上下文感知数据质量评估的智能体检索框架

问题陈述

数据质量评估是有效分析和决策的关键前提，然而由于数据质量具有本质上的上下文依赖性（context-dependent nature），这仍然是一项具有挑战性的任务。适用于探索性分析的数据集可能不足以满足监管审计或安全关键型监控的要求。传统方法依赖于静态、预定义的规则或人工策略，这些方法缺乏对多样化使用场景的适应能力，并阻碍了大规模自动化。

虽然近期大语言模型（LLMs）的进展为自动化提供了机遇，但基于提示词（prompt-driven）的方法引入了显著风险，包括：

• 缺乏落地性（Lack of Grounding）： LLM 可能会生成看似合理但事实错误或在上下文中不一致的规则。
• 可行性问题： 生成的验证逻辑（例如 SQL 查询）可能是不可执行的、引用了不存在的属性，或者包含了不切实际的阈值。
• 可复现性与安全性： 无约束的自主性可能导致不安全的行为或不可复现的结果，这在需要可追溯性和可审计性的数据质量背景下是不可接受的。

现有的检索增强生成（RAG）和智能体系统（Agentic AI systems）在很大程度上是独立演进的，其中 RAG 侧重于自然语言处理任务，而智能体系统则缺乏将生成的可执行逻辑针对操作现实进行约束的明确机制。

方法论

本文提出了一个统一的智能体-检索框架，该框架集成了智能体 AI、检索增强生成（RAG）以及**可行性门控执行（feasibility-gated execution）**机制。该框架旨在解释关于预期数据用途的自然语言描述，并自主推导出上下文感知的评估策略。

核心架构

该框架通过三个不同的层级运行：

1. 交互层（Interaction Layer）： 摄取数据集和自然语言用途描述，提取轻量级元数据（模式、数据类型、缺失比例），而不暴露原始数据值。
2. 自主推理层（Autonomous Reasoning Layer）： 通过一个结构化的顺序流程编排多智能体工作流：
   • 上下文解释智能体（Context Interpreter Agent）： 从用途描述中推断评估意图。
   • 评估规划智能体（Assessment Planner Agent）： 构建一个选择相关质量维度和优先级的计划。
   • 规则生成智能体（Rule Generation Agent）： 将计划转化为候选验证规范。
   • 可行性验证智能体（Feasibility Validator Agent）： 一个关键的门控组件，在执行前评估候选规则的现实性、模式兼容性和可执行性。
   • 解释智能体（Explanation Agent）： 将结果综合为可解释的报告。
3. 确定性执行层（Deterministic Execution Layer）： 使用 pandas 和 DuckDB 执行被接受的规则，以确保结果的可复现性和可审计性。

关键机制

• 检索增强落地（Retrieval-Augmented Grounding）： 为了防止幻觉和语义漂移，框架从 Neo4j 知识图谱中检索先前经过验证的上下文知识（质量维度、规则模板、约束）。这些检索到的工件被注入到智能体提示词中，从而约束 LLM 去实例化或适配现有的权威语义，而不是发明新的规则。
• 可行性门控执行（Feasibility-Gated Execution）： 在任何规则执行之前，可行性验证智能体会检查：
  • 模式现实性（Schema Realism）： 引用的属性是否存在且数据类型是否匹配？
  • 操作可执行性（Operational Executability）： 规则是否可以在目标环境（SQL/Python）中表达？
  • 逻辑连贯性（Logical Coherence）： 给定数据集的统计分布，阈值是否合理？
  • 安全性（Safety）： 规则是否保持在许可范围内？
    如果规则失败，结构化反馈将返回给规则生成智能体进行迭代优化，从而防止不可执行的逻辑到达执行层。
• 关注点分离（Separation of Concerns）： 概率性推理（LLM 智能体）与确定性执行被严格解耦。只有经过验证的、结构化的工件才会在阶段之间传递。

核心贡献

1. 统一框架： 本文提出了第一个集成上下文感知规划、检索增强落地和智能体编排的框架，专门用于可执行的数据质量评估。
2. 可行性验证门控： 一个新颖的贡献是显式的可行性验证阶段。不同于以往关注规则生成的著作，该阶段作为一个控制循环，用于过滤不切实际或不可执行的规则，显著提高了操作可靠性。
3. 上下文敏感的自动化： 系统展示了仅凭自然语言描述的预期用途变化（例如，从“贷款审批”转变为“机器学习训练”），就能为同一数据集生成截然不同的评估策略和结果的能力。
4. 可审计性与可追溯性： 通过将解释完全建立在已执行的验证逻辑之上，并将推理与执行分离，该框架确保了评估结果的可复现性和完全可追溯性。

评估结果

该框架被实现为一个端到端的 Python 原型，并在使用 德国信贷数据集（German Credit dataset） 和 医疗患者记录数据集 的多个场景下进行了评估。

• 上下文敏感性 (RQ1)： 框架成功地为同一数据集在三种不同场景下生成了不同的评估策略：
  • 业务决策： 优先考虑财务属性的完整性；将缺失值标记为高风险。
  • 机器学习： 优先考虑一致性和分布稳定性；强调影响模型可解释性的类别不一致性。
  • 监管审计： 优先考虑人口统计学完整性；对人口统计属性得出“生产就绪（Production Ready）”的分类。
• 可行性与可靠性 (RQ2)： 可行性验证智能体成功识别并拒绝了一个逻辑上成立但在操作上不切实际的规则（“贷款金额 > 0”），因为观察到的数据范围起始于 250，使得该检查过于泛化。这种迭代优化循环防止了冗余或误导性检查的执行。
• 可解释性 (RQ3)： 所有评估报告均严格源自执行结果，提供了从规则级失败到整体质量得分的清晰可追溯性。
• 检索落地稳定性 (RQ4)： 在医疗场景中，检索增强落地约束了 LLM，使其生成的验证逻辑严格遵循检索到的评估语义，防止了在安全关键领域引入幻觉规则或不支持的维度。

意义与主张

本文声称该方法为部署自主且受控的数据质量评估提供了实践基础。它解决了高层、上下文感知的概念规划与可靠的操作执行之间的差距。

作者强调，该框架通过以下方式推进了现有技术水平：

• 超越静态规则，实现自适应、驱动用途的评估。
• 通过可行性门控和检索落地来降低 LLM 自主性的风险。
• 通过严格分离概率性生成与确定性执行，确保数据质量评估的可复现性和可审计性。

这项工作并不声称解决了所有数据质量挑战，而是提供了一种受控机制，旨在将上下文感知功能化到自动化流水线中，在智能体 AI 的灵活性与数据管理的安全性要求之间取得平衡。未来的工作确定为将该框架扩展到大数据引擎（如 Spark）并评估检索知识在不同领域间的迁移能力。