FITTER: Vocabulary-Agnostic Cross-Domain Inference on Temporal Knowledge Graphs
本文介绍了 FITTER,这是首个用于时序知识图谱链接预测的全归纳、词表无关结构化模型,它通过利用相对交互模式和时序编码来表示谓词,从而实现了跨领域迁移,并因此在无需针对未见实体、关系和时间戳进行重新训练的情况下,超越了现有的基准模型。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,互联网是一个庞大且不断增长的图书馆,其中的每一个事实都是一张巨大的卡片组中的一张卡片。有些卡片告诉我们谁和谁是朋友,而另一些则告诉我们这些友谊是在何时开始或结束的。在计算机科学领域,这被称为“知识图谱”。它就像是一张组织极其严密的全球事实地图。但现实世界在不断变化;人们相遇,战争爆发,条约签署,每一秒都在发生。为了跟上这种变化,科学家们使用了“时序知识图谱”,即这些内置了时钟的地图,它们不仅追踪发生了“什么”,还追踪发生的“时间”。
长期以来,试图从这些地图中学习的计算机面临着一个主要的局限性:它们就像是只为某一次特定考试而学习的学生。如果一台计算机学习了一个关于外交事件(如和平谈判)的图谱规则,它就无法理解一个关于百科全书事实(如某人何时出生)的图谱,即使其中的逻辑是相似的。这就像是计算机记住了某所学校里每个学生的姓名,但走进另一所名字完全不同的学校时却完全迷失了方向。这使得很难教会计算机具备灵活性,尤其是当它们遇到从未见过的新数据时。
FITTER 应运而生,这是一种由研究人员开发的新方法,它充当了这些“穿越时空”地图的通用翻译官。FITTER 并不通过死记硬背特定的名称或日期,而是学习事物如何连接以及如何随时间变化的“模式”。这就像是学习游戏的规则,而不是死记玩家的名字。如果你知道在故事中“谈判”通常紧随“冲突”之后,那么无论角色名叫“法国”和“德国”,还是“日本”和“中国”,你都能理解这种模式。
该论文将 FITTER 介绍为第一个能够进行“全归纳式”(fully-inductive)推理的模型。这意味着它可以将从一组数据(例如关于国际冲突的每日新闻报告)中学到的知识,应用到一组完全不同的数据(例如历史百科全书条目)中,而无需重新训练。它之所以能做到这一点,是因为它忽略了具体的词汇(人物、地点和确切日期的名称),而完全专注于结构:即事件之间如何相互作用,以及它们在时间上是如何排序的。
研究人员通过在六个在“风格”上迥然不同的数据集上测试 FITTER 来验证其性能。有些数据集每 15 分钟追踪一次事件,而有些则每年仅更新一次。有些涵盖了仅一年的历史,而有些则跨越了近 200 年。尽管存在这些巨大的差异,FITTER 仍成功地将其知识从一个领域转移到了另一个领域。例如,一个在密集、快速变化的外交危机数据上训练的模型,可以预测缓慢移动的长篇历史传记中的关系。
结果令人印象深刻。在 15 种不同的跨领域场景中,FITTER 始终优于以往尝试实现“归纳式”学习的方法。它不仅仅是在猜测;它学到了某些模式(例如某种特定类型的事件在一段时间后再次出现)是具有普遍性的。论文表明,通过使用一种被称为“正弦位置编码”(sinusoidal positional encoding)的特殊数学技巧——这就像是用波形模式来表示时间,而不是用时钟数字——该模型可以理解,无论时钟是以每分钟一次还是每年一次跳动, “五天后”的意思都是一样的。
然而,作者也谨慎地指出,虽然 FITTER 在灵活性方面迈出了一大步,但它并不是解决一切问题的万能药。它在处理事件同时发生得过于密集的极端密集图谱时仍然会遇到一些困难,并且目前它侧重于预测事实中缺失的人物或事物,而不是预测时间或关系本身。但核心发现是明确的:通过剥离具体的名称和日期,转而关注世界变化的底层节奏,我们可以构建出能够从一个世界学习并将其应用于另一个世界的 AI,使我们的数字知识变得更加灵活且更有用。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。