← 最新论文
💬 NLP

Named Entity Recognition of Historical Texts via Large Language Model

本研究证明,在标注训练数据稀缺的历史文本命名实体识别任务中,利用零样本和少样本提示策略的大语言模型提供了一种可行且高效的替代方案,尽管其表现略逊于全监督模型,但仍取得了相当可观的性能。

原作者: Shibingfeng Zhang, Giovanni Colavizza

发布于 2026-04-29
📖 1 分钟阅读☕ 轻松阅读

原作者: Shibingfeng Zhang, Giovanni Colavizza

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你拥有一座庞大的图书馆,里面藏满了 18 和 19 世纪积满灰尘的旧报纸和手写信件。你想在其中快速找到提及特定人物、城市或组织的每一个地方。这就是**命名实体识别(NER)**的工作:教会计算机在文本块中识别并标注诸如“拿破仑”、“巴黎”或“泰晤士报”之类的名称。

问题在于,这些古老文档对计算机来说简直是噩梦。它们用奇怪、古奥的语言写成,拼写不一致(例如用"shew"代替"show"),并且充满了扫描过程中产生的错别字。要教会计算机处理这些,通常需要你请人类专家阅读数千页内容,并手动标注每一个名称。这既昂贵又缓慢,而且往往不可行,因为根本没有足够的专家或资金来完成这项工作。

新方法:“展示而非告知”策略

这篇论文测试了一种利用**大语言模型(LLM)**解决该问题的新方法。将 LLM 想象成一个超级聪明、博览群书的机器人,它几乎读遍了互联网上的所有内容。研究人员没有强迫机器人参加那些需要昂贵标注样本的艰苦培训课程,而是尝试了另一种方法:提示(Prompting)

他们将机器人视为一名尚未接受特定工作培训的新员工。他们给机器人一张“作弊条”(即提示),让它开始工作。他们测试了两种主要策略:

  1. 零样本(“盲测”): 他们只是告诉机器人:“这是一段文本。找出人物和地点。”没有提供任何示例。
  2. 少样本(“展示给我看”测试): 他们先给机器人一个微小的工作样本。他们说:“这是一个句子:‘拿破仑去了巴黎。’在这个句子中,‘拿破仑’是人物,‘巴黎’是地点。现在,看这个新句子,做同样的事情。”

实验:“一个示例”的惊喜

研究人员在五种不同语言(德语、法语、英语、瑞典语和芬兰语)的历史文本集合上测试了这种方法。他们尝试给机器人不同数量的示例:1 个、3 个或 5 个。他们还尝试了不同的示例选取方式,例如随机选取,或者选取与机器人即将阅读的文本非常相似的示例。

以下是他们发现的一些简单类比:

  • 一个示例是最佳点: 令人惊讶的是,给机器人仅仅一个示例比给三个或五个效果更好。这就像向孩子解释一项游戏:一个清晰的示例通常就足够了。如果你给他们五个示例,他们可能会因为额外的噪音或指令的冗长而感到困惑。机器人在单一、清晰的演示下表现最佳。
  • 示例的选取方式影响不大: 研究人员想知道,选取一个与目标文本完全一样的示例(就像寻找双胞胎)是否比随机选取一个更有帮助。他们发现这其实并不重要。无论示例是完美匹配还是仅仅是随机样本,机器人从单个示例中学习的效果都一样好。这就好像机器人聪明到几乎可以从任何单个示例中推断出游戏规则,无论它与任务的相似程度如何。
  • “群体投票”技巧: 由于人工智能有时可能有点不可预测(就像抛硬币),研究人员让机器人执行三次任务,然后取出现频率最高的答案(多数投票)。这略有帮助,就像委员会就某项决定达成一致,但改进幅度很小。

结果:不错,但并非完美

机器人做得相当不错。与完全不给示例相比,即使只给一个示例,它在查找名称方面的表现也大大提升。然而,它仍然无法超越那些由人类在海量标注数据上训练了数月的“黄金标准”系统。

  • 例外情况: 有一个数据集(一个名为"Sonar"的德语文本集合),机器人的表现实际上超过了之前的最佳方法。
  • 差距: 对于大多数其他文本,机器人仍然落后于那些承担了繁重手动训练工作的专家。

结论

这篇论文证明,你并不总是需要一支庞大的人类标注团队来让计算机阅读古老的历史书籍。你可以使用智能 AI,只需给它一个示例,就能获得令人惊讶的好结果。

虽然这种“单样本”方法尚不完美,也无法取代最准确的人类训练系统,但它是一个强大、免费且快速的工具。它允许研究人员立即开始探索历史档案,即使他们没有预算或时间创建庞大的训练数据集。这就像拥有一个乐于助人的助手,可以和你一起阅读旧书,即使他们在开始之前需要快速提醒一下要寻找什么。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →