KGCache: Amortized Subgraph Retrieval for KG Reasoning with LLMs

想象一下，你有一个超级聪明、超级有创意的朋友，他能写故事、解谜题，还能和你聊任何天。这位朋友是一个大语言模型（LLM），一种读过了几乎整个互联网内容的某种人工智能。但有一个问题：这位朋友的大脑就像是几年前世界的一个冻结快照。他不知道昨天发生了什么，而且有时会编造一些听起来完美无缺但完全错误的事实。这被称为“幻觉”。

为了解决这个问题，我们给了这位朋友一张进入一个庞大且有组织的百科全书——知识图谱（Knowledge Graph, KG）的借阅卡。与其靠猜测，不如让他通过追踪人、地点和事物之间的连接路径，来查找特定事实，比如“法国总统是谁？”或者“汤姆·汉克斯出演过哪些电影？”然而，向这个图书馆索取信息是很慢的。每当你的朋友提出一个问题，他都必须走到图书馆，找到正确的书架，抽出一本书，读上一页，然后再走回来。如果你问 100 个问题，而其中许多问题都是关于同样的名人或地点时，你的朋友就在做很多不必要的重复劳动。这篇论文提出了这样一个问题：“如果我们能在朋友旁边设一个小的候诊室，把最受欢迎的页面放在手边，这样他就不用每次都跑远路去图书馆了，情况会怎样呢？”

这正是德克萨斯 A&M 大学（Texas A&M University）的研究人员所做的。他们构建了一个聪明的系统，叫做 KGCache。把它想象成一块放在你的 AI 朋友和那个巨大图书馆之间的神奇“便利贴”板。当你的朋友询问关于某个特定人物（比如“埃隆·马斯克”）的信息时，系统会先检查便利贴。如果信息已经在那里了，它会立即递交给朋友。如果没有，它就会跑向图书馆，抓取信息，把它贴在板上留给下次使用，然后再把信息交给你的朋友。

研究人员在两个大型复杂的问题集（称为 WebQSP 和 CWQ）上对其进行了测试，并发现了一些令人兴奋的事实：你的 AI 朋友在反复询问相同的信息。 事实上，对于一些热门问题，提到的近 76% 的人物和地点都是重复出现的！正因如此，KGCache 能够从它的“便利贴”中提供答案，而不是每次都跑去图书馆。这使得检索过程在其中一个数据集上提升了高达 1.91 倍的速度。这意味着 AI 花在“走路去图书馆”上的时间减少了，而花在“思考和回答”上的时间更多了。

他们还尝试了第二个更聪明的技巧，叫做语义缓存（semantic caching）。想象一下，如果你的朋友问“谁是法国的领导人？”，而你之前已经查过“谁在管理法国这个国家？”。尽管措辞不同，但意思是一样的。语义缓存注意到了这种相似性，并说道：“嘿，我已经有那个答案了！”这节省了更多的时间，尽管研究人员指出，这还需要更多的测试，以确保答案仍然 100% 准确。

这篇论文并不声称解决了所有的 AI 问题，也没有说让系统变得完美。相反，他们精确地测量了节省了多少时间，并发现虽然在“去图书馆取书”这一环节的提速非常显著，但整个对话过程的总时长缩短程度较小（大约快了 1.06 倍），因为 AI 仍需进行“思考”的部分。他们还展示了无论 AI 是一个接一个地提问，还是同时规划一整条提问路径，这个技巧都有效。

简而言之，研究人员证明了，通过仅仅记住我们已经查阅过的内容，我们可以让使用知识图谱的 AI 系统变得更加敏捷和高效。这是一个简单的想法——不要去取你已经拥有的东西——但事实证明，当你的 AI 朋友试图回答成千上万个关于相同名人和地点的问题时，这确实是一个巨大的帮助。