LGE-FIng: Learned Glyph Embedding for Image-Conditioned Candidate Reranking in Post-OCR Correction of Chinese Historical Books
本文介绍了 LGE-FIng，一种通过学习跨域字形嵌入来直接查询观测到的木版图像以进行候选重排序的方法，该方法在中文古籍 OCR 纠错中显著优于基于字符的方法，因为它利用了静态渲染无法提供的视觉线索。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
中国历史书籍的世界是一个由木刻版印刷页面组成的庞大图书馆，其中的每一个字符都是手工雕刻而成，并带有墨水与纸张独特的质感。几十年来，学者们一直依赖计算机来阅读这些文本，这一过程被称为光学字符识别，即 OCR。计算机扫描页面的图像，识别字符的形状，并将其转换为可以进行搜索和研究的数字文本。然而，这些机器是在现代、整洁的印刷文本上进行训练的。当它们遇到历史悠久的、不规则且往往有损毁的木刻本字符时，经常会出错。它们可能会混淆两个看起来略有不同但意义完全不同的字符，或者干脆直接漏掉某个字符。由于单个错字就可能改变一句古典句子的含义，这些错误不仅仅是微小的瑕疵，更是理解历史的障碍。研究人员面临的挑战不仅在于识别文本，还在于如何在不引入新错误的前提下，利用计算机能看到但往往无法正确解读的视觉线索来修复这些错误。
黄山大学的一个研究小组开发了一种新方法来解决这个特定问题，其核心在于研究计算机在做出初步猜测后是如何决定一个字符是什么的。他们的方法被称为 LGE-FIng，改变了计算机观察证据的方式。在过去，当计算机对一个字符做出猜测时，它会通过将该猜测与同一个字符的标准计算机生成绘图进行比较，来检查其可能的修正列表。这就像是要求一个读错单词的人去观察一个看似完美的、干净的单词版本，而不是去看页面上实际存在的那个凌乱的、手写的版本。研究人员发现，这种方法存在根本性的缺陷，因为整洁的现代绘图与古代木刻字符看起来并不足够相似，因此无法提供帮助。相反，他们的新系统迫使计算机直接观察书中字符的实际图像。它学习识别字符作为真实存在的视觉形状，无论它是古代木刻印刷还是现代字体，并利用该真实图像来寻找正确答案。
为了使这项工作奏效，研究人员必须教会计算机一种新的观察方式。他们训练了一个系统来为每个字符创建数字“指纹”，但与以往依赖人工编码规则的方法不同，该系统能够自行学习模式。他们向计算机展示了数千个示例，将真实的古代木刻字符图像与同一个字符的整洁现代绘图进行配对。目标是教会计算机，这两个看起来截然不同的图像实际上属于同一个类别。通过这样做，计算机学会了忽略纹理和风格的差异，转而关注字符的核心形状。一旦训练完成，系统就可以获取一本书中模糊的古代图像，将其转化为这种数字指纹，并在海量的字符形状库中寻找最佳匹配。至关重要的是，该库既包含了整洁的现代绘图，也包含了真实的古代字符示例，从而确保计算机拥有处理历史文献中杂乱现实的正确工具。
研究人员在从未见过的六十页历史书籍上测试了这种方法。他们将新系统与标准做法进行了对比，在标准做法中，计算机依赖其初始猜测来寻找修正。结果清晰且一致。当计算机被允许通过查看字符的实际图像来寻找其修正方案时，它犯的错误明显比依赖自身初始猜测时要少。这种提升并非微小的波动；新方法以可衡量的程度降低了错误率，证明了观察真实图像比观察猜测的计算机生成版本要有效得多。研究人员还检查了这种改进是否是由于计算方式导致的偏差。他们在不同的条件下以及使用不同的证据权重进行了测试，结果显示，观察真实图像的优势在每次测试中都保持不变。
这项研究中最具启发性的部分之一是理解新方法究竟在何处发挥了作用。研究人员检查了数千个计算机最初选错字符的具体错误案例。他们发现，在近百分之二十的情况下，新系统能够将正确的字符放在可能性列表的最顶端，而旧方法永远无法达到这个位置，因为旧方法是从错误的起点开始的。旧方法在这些情况下在结构上无法将正确答案排在首位，因为它是在将错误的猜测与该错误猜测的完美绘图进行比较。相比之下，新方法通过将杂乱的真实图像与正确答案进行比较，并立即找到了它。这种从一开始就能识别出正确答案的能力，是整体准确率提升的主要驱动力。
该研究还探讨了如何将这一新工具与其他文本纠错方式相结合。研究人员发现，当图像识别法与理解句子上下文的系统配合使用时，效果最好。图像系统关注字符的形状，而上下文系统则关注其周围词汇的含义。当这两个系统协同工作时，准确率进一步提高，达到了显著优于计算机原始阅读水平的高度。然而，研究人员也谨慎地指出，这种方法并非解决所有问题的万灵药。它无法纠正图像中完全缺失字符的错误，因为没有图像可以进行分析。它也无法修复每一个错误，因为有些字符在视觉上过于相似，或者文本损坏严重，即使是最好的系统也会感到吃力。
最终，这项工作表明，要求计算机如何看待问题，与它所使用的工具同样重要。通过将重心从计算机生成的猜测转向页面上的实际视觉证据，研究人员得以解锁阅读历史文本更高水平的准确性。该方法旨在保持轻量化并易于添加到现有系统中，这意味着无需对技术进行彻底重构，即可用于改进许多更多历史书籍的数字化版本。研究结果表明，对于阅读古代印刷文献的任务，最可靠的前进路径是让计算机如实观察世界，而不是观察它所期望的世界。这种视角的简单转变，已被证明是保护和理解过去书写遗产的有力举措。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。