Digging Up Citations: FOSSIL, a Dataset and Workflow for Reference Extraction in Law and the Humanities
本文介绍了 FOSSIL,这是一个旨在改进法律和人文科学学术研究中基于脚注的引用提取的多语言数据集及配套工作流,其证明了专门的流水线与标准工具相比几乎使提取质量翻倍,同时也强调了在处理交叉引用和混合内容脚注方面仍然存在的挑战。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下你正在试图整理一个巨大的图书馆。在自然科学(如生物学或物理学)领域,书籍有着非常整齐、可预测的结构:主干故事位于章节中,而所有的“来源注释”都整齐地收纳在末尾的编号列表中。这就像一份食谱,配料表与烹饪说明是分开列出的。计算机非常擅长阅读这类食谱。
然而,在法律与人文科学(历史、哲学、文学)领域,这些“来源注释”却很混乱。它们被埋藏在文本本身之中,往往出现在底部的页边注(脚注)里,并与作者的个人想法、澄清说明和交叉引用混杂在一起。这就像一份食谱,配料被隐藏在句子之中,例如:“加入两杯面粉(这是我周二在市场买的,见第4页)的同时进行搅拌。”
这篇题为**《挖掘引文:FOSSIL》**的论文,旨在构建一种更好的方法,来寻找并整理这些隐藏在法律与人文书籍中的“隐藏配料”。
以下是他们工作的拆解,使用了简单的类比:
1. 问题所在:“黑箱”与“混乱的地下室”
作者解释说,现有的计算机程序(模型)是针对整洁的“自然科学”风格进行训练的。当它们尝试阅读法律与人文领域的脚注时,会因为数据混杂而感到困惑。
他们还指出,虽然强大的 AI 工具(如大型商业聊天机器人)有时可以搞定这个问题,但它们具有风险。这就像是从一家可能会在明天就倒闭的公司租用一台高科技挖掘机,甚至连你的数据也会随之消失。作者们想要的是一个开放、免费且能永远留在他们手中的工具。
2. 解决方案:FOSSIL 项目
团队创建了一个完整的工具包来挖掘这些引文。他们将这个数据集命名为 FOSSIL(基于脚注的开放获取 SSH 科学实例标签)。你可以把它想象成一个庞大且有序的“前后对比”示例集,用来教计算机如何阅读混乱的脚注。
他们构建了四个主要部分:
- 数字工作台 (PDF-TEL Editor): 一个让人类与计算机协同工作的网页工具。它在左侧显示原始 PDF,在右侧显示结构化数据,允许人们修正错误并教计算机寻找特定目标。
- 训练手册 (工作流): 一份关于七人团队(包括专家和学生)如何清洗并标注数据的分步指南。
- 宝库 (数据集): 他们收集了来自法律、历史和社会科学领域的 96 篇学术文章。这些文章包含超过 7,600 条隐藏在脚注中的参考文献。至关重要的是,这些数据采用“开放许可”协议,这意味着任何人都可以使用而不会产生法律纠纷。
- 专用引擎 (Grobid 特化版): 他们对现有的开源工具 Grobid(类似于标准的图书扫描仪)进行了改造,为其安装了一个“专用镜头”,使其能够专门聚焦于法律与人文领域那些混乱的脚注。
3. 挑战:为什么这如此困难?
论文解释说,这些领域的脚注之所以棘手,是因为它们同时承担着五种不同的功能:
- 仅仅是一个评论(无引文)。
- 关于作者的简介。
- 一个干净的书目列表。
- 一个指向早期脚注的“参见”说明(例如“参见注 5”)。
- 以上所有内容的混乱混合体。
这就像是在尝试整理一堆邮件,有些信封里装的是信件,有些是支票,有些是照片,而有些则是这三者的混合物,而且全部是用不同的语言和手写风格书写的。
4. 结果:从“缺失”到“发现”
团队使用他们的新型专用引擎与旧的标准版本进行了对比测试。
- 旧方法: 标准工具非常挑剔。如果它能识别出引用,其准确率几乎是完美的(高精确度),但它会漏掉 70-80% 的实际引用,因为这些引用看起来不像标准的科学引文(低召回率)。这就像一个金属探测器,它只对金币发出鸣响,却会忽略银币。
- 新方法: 特化的“FOSSIL”版本找到的参考文献数量是原先的两倍。
- 它将发现出版日期的比例从仅有的 21% 提升到了 71%。
- 它将发现作者姓名的比例从 23% 提升到了 60%。
- 总体而言,提取质量几乎翻了一番(得分从 0.36 提高到 0.72)。
5. 结论
论文得出结论:你不能仅仅通过“微调”标准工具的设置来解决这个问题,你需要一个专门针对法律与人文领域混乱脚注现实而训练的工具。
FOSSIL 现在是一个垫脚石。它证明了通过正确的数据和专门的工作流,计算机终于可以开始准确地阅读这些复杂的脚注。作者计划将其扩展到更多语言,并处理更难的问题,比如自动将“参见注 5”链接回原始的注 5。
简而言之,他们制造了一把更好的铲子和一张地图,用以挖掘那些此前被埋在人文法律脚注泥泞中的引文。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。