Dynamic Topic Modeling for Cross-Corpus Temporal Analysis
本文提出了一种动态嵌入主题模型框架，该框架在多个语料库之间建立了一个共享的主题空间，并结合了语料库特定的残差自适应，从而在保留独特词汇变化的同时，实现了稳定且具解释性的跨语料库时间对比。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
几十年来，社会科学家和历史学家一直依赖计算机来理解海量的文本库，从旧报纸到商业杂志。其目标是寻找贯穿这些文献的隐藏主题，就像图书管理员按主题而非按作者对书籍进行分类一样。一种常用的工具被称为“主题模型”（topic model），它通过扫描数千页的内容来将经常一起出现的词汇进行分组，从而揭示人们在特定时期正在谈论什么。当研究人员想要观察这些对话如何随时间推移而变化时，他们会使用一种动态版本的工具，该工具可以追踪这些词组的含义随着时间的流逝是如何演变的。然而，在尝试比较不同的文本集合时，一直存在着一个巨大的障碍。如果你分析一个商业杂志集合和一个单独的工会报告集合，计算机通常会将它们视为两个完全不同的世界。它可能会在商业杂志中发现一个关于“金钱”的主题，在工会报告中发现一个关于“工资”的主题，但它本身并没有内置的方法知道这两者其实是同一枚硬币的两面。传统上，研究人员必须分别运行分析，然后在事后尝试手动匹配结果，这个过程往往无法正确对齐主题，导致比较过程摇摆不定且不可靠。
哥伦比亚大学的一个研究小组开发了一种解决此问题的新方法，允许计算机在比较不同类型的文本集合时，保持主题在时间维度上的完美对齐。这种方法不再是分别分析每个集合然后再试图在后期强行匹配，而是首先构建一个单一的、共享的思想地图。将这个共享地图想象成一个共同的坐标系，就像一套覆盖所有不同文本集合的标准经纬线。计算机利用这张结合的地图学习主要主题以及它们如何演变，跨度长达九十七年。一旦建立了这样一个共享基础，研究人员就允许每个特定的集合——无论是商业新闻、劳工报告还是普通历史写作——对地图进行微小的、受控的调整。这使得商业杂志可以使用其针对某一主题的特定词汇，而劳工报告则可以使用其自身的词汇，同时仍锚定在完全相同的底层概念之上。其结果是一个系统，该系统能够识别出：一个集合中的“金钱”主题和另一个集合中的“工资”主题不仅相似，而且实际上是同一主题通过不同视角进行的观察。
研究人员在三个涵盖 1922 年至 2019 年的海量文本集合上测试了这种方法。其中一个集合包含来自杂志和报纸的历史性美国英语，另一个包含《哈佛商业评论》的文章，第三个则由《国际劳工评论》的报告组成。这些来源代表了完全不同的世界：一个是广泛的历史混合体，一个侧重于企业管理，第三个则涉及工人权利和社会政策。团队将这种新方法与旧技术（即分别分析集合并在稍后进行匹配）进行了对比。差异非常显著。在使用旧的分别分析法时，计算机只能在约 18% 的情况下正确识别出集合之间的匹配主题。相比之下，新的共享地图法实现了近 98% 的成功率。这意味着，几乎每次计算机在商业杂志中看到一个主题时，都能立即准确地在劳工报告中找到与之对应的对应主题，即便两者使用的词汇完全不同。
研究还表明，这种新方法并未为了追求对齐而牺牲分析的质量。计算机仍然能够学习每个集合的特定细微差别，捕捉商业高管的独特词汇和劳工组织者截然不同的语言。通过保持主地图固定并仅允许微调，该系统保留了追踪单一主题（例如经济转型）如何随数十年演变的能力。研究人员能够追踪一条关于经济的单一对话线索，观察它如何从 20 世纪 性的工业危机，经过战后企业管理的扩张期，一直演变到 20 世纪末的数字时代。在每个时代，共享地图都显示出商业杂志如何关注利润和股票市场，而劳工报告则关注工资和工人保护，尽管两者显然都在讨论同一个历史时刻。
这项工作表明，比较不同文本组在长期内的关键在于，将主题的对齐视为学习过程的一个基本组成部分，而非事后的补充。研究人员发现，当他们试图为每个集合分别微调整个系统时，主题之间的联系就会断裂，计算机也会失去观察大局的能力。他们的发现表明，通过首先建立一个稳定的共享基础，是有可能观察到不同的群体如何以各自独特的方式谈论同样的宏大理念。这种方法为历史学家和社会科学家提供了一种更可靠的方式来比较多样化的信息源，确保当他们在不同世纪之间追踪一个主题时，他们真正是在追踪同一个故事，即使页面上的文字已经发生了变化。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。