Evaluating Temporal Semantic Caching and Workflow Optimization in Agentic Plan-Execute Pipelines
本文引入了一种时间语义缓存和MCP工作流优化方案,以解决工业资产运营中的延迟与有效性挑战,在实现显著加速的同时,凸显了传统语义缓存在处理参数丰富且对时间敏感的代理查询时的局限性。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你是一家庞大高科技工厂的经理。每天,工人们都会向你提出复杂的问题,例如:“6 号机器昨天的表现如何?”或者“上周冷却系统出了什么问题?”
要回答这些问题,你不能仅靠猜测。你必须:
- 寻找正确的工具:定位该机器特定的手册和传感器。
- 制定计划:决定先执行哪些步骤。
- 开展工作:去检查传感器、读取日志,并与其他部门沟通。
- 撰写报告:将所有内容总结成清晰的答案。
为每一个问题从头开始做这一切非常耗时。如果工人用略有不同的措辞问同一个问题(例如,“制冷机 6 怎么样?”与“第 6 台制冷机的状态如何?”),你最终还是要重复所有这些工作,尽管答案几乎是一样的。
本文旨在构建一个超级智能助手,以加快这位工厂经理的工作效率。作者构建了两个主要的“加速器”,使这些答案能更快返回。
加速器 1:“时间感知”记忆库
通常,计算机助手使用“语义缓存”。这就像一位根据问题“听起来”的样子来记忆问题的图书管理员。如果你问“天气怎么样?”,接着又问“天气情况如何?”,图书管理员会说:“哦,我刚刚回答过那个了!”然后给你旧答案。
问题:在工厂里,这是危险的。
- 如果你今天问“制冷机 6",答案与昨天问“制冷机 6"时不同。
- 如果你问“制冷机 6",而下一个人问“制冷机 9",图书管理员可能会混淆,因为句子听起来相似,但机器完全不同。
解决方案:作者构建了一个时间感知记忆库。在图书管理员查找答案之前,一个智能过滤器会先检查问题:
- 是关于“此刻”吗?(例如,“机器坏了吗?”)→ 不要使用记忆库!直接去实时检查机器。
- 是关于“昨天”吗? → 在查找之前,将“昨天”转换为具体日期(例如,10 月 12 日)。
- 是关于特定机器吗? → 确保记忆库不会将制冷机 6 与制冷机 9 混淆。
结果:当系统找到完美匹配时,它会跳过整个“寻找工具、制定计划、开展工作”的过程,直接给你答案。这使得系统在这些特定匹配项上的速度提高了31 倍。
加速器 2:“流水线”工作流
即使系统无法使用记忆库(因为问题是新的),它仍然会浪费时间。在旧方法中,经理是一个接一个地执行所有步骤:找到工具 A,然后找到工具 B,然后检查传感器 A,然后检查传感器 B。
解决方案:作者将其转变为流水线。
- 工具发现:他们让寻找工具的机器人保持清醒和待命状态,而不是每次都要唤醒它们。这仅在寻找工具这一环节就节省了大量时间。
- 并行工作:他们不再逐个检查传感器 A 和传感器 B,而是派遣两名工人同时去检查它们。
结果:即使系统不得不从头开始工作,仅通过更好地组织工作流,其完成速度就提高了1.67 倍。
全局视角:速度提升了多少?
当他们结合两个加速器时:
- “未命中”路径:即使系统在内存中没有答案,由于流水线(加速器 2)的作用,其速度仍比旧方法快40%。
- “命中”路径:当系统找到缓存答案时,速度快了31 倍。
- 总体:获取答案的平均时间从34 秒降至不到 10 秒。
陷阱(“故障模式”)
论文还发现了一个非常重要的局限性。即使有了他们花哨的“时间感知”过滤器,系统有时仍然会混淆。
想象一名工人问道:"制冷机 6表现如何?”
系统找到了一个旧答案:"制冷机 9表现如何?”
因为这两句话有 95% 听起来相同,系统的“相似度检查”被误导了。它认为:“这些是一样的!”并给出了错误的答案。作者发现,无论他们如何调整系统,大约有36% 的时间,系统仅通过查看文字无法完美区分“制冷机 6"和“制冷机 9"。
教训:在工厂中,不能仅依靠词语听起来的样子来决定答案是否可以安全重用。你必须非常小心问题内部的具体数字和名称(即“参数”)。
总结
作者构建了一个系统,该系统:
- 记住答案,但首先检查日期和机器名称,以免将昨天的新闻作为今天问题的答案提供给你。
- 组织工作,使多个任务同时发生,而不是逐个进行。
- 证明,虽然这使事情变得极快,但你仍然需要小心,不要将关于不同机器的听起来相似的问题混淆。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。