GlotOCR Bench: OCR Models Still Struggle Beyond a Handful of Unicode Scripts
该论文提出了涵盖 100 多种 Unicode 脚本的 GlotOCR 基准测试,评估发现当前主流 OCR 模型在超过十种脚本时性能显著下降,且其泛化能力主要受限于预训练数据中的脚本覆盖范围,面对陌生脚本时往往产生随机噪声或幻觉。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
这篇论文就像是一份**“全球文字识别能力大体检报告”**。
想象一下,现在的 AI(特别是那些能“看”图识字的 OCR 模型)就像是一群刚毕业的“超级翻译官”。它们在学校里(训练数据中)主要学习了英语、中文、日语等几种“主流语言”的书写方式,成绩非常优秀。
但是,人类历史上和现在使用的文字远不止这几种。联合国教科文组织统计的 Unicode 标准里,有172 种不同的文字系统(比如拉丁字母、阿拉伯文、汉字,还有像古埃及象形文字、埃塞俄比亚文、藏文等许多小众文字)。
这篇论文的作者们做了一个大胆的实验:他们给这些“超级翻译官”出了一套包含 158 种文字的“终极考卷”,看看它们到底能认识多少种文字。
1. 考试题目:从“高清课本”到“破旧古籍”
为了公平起见,作者们没有只拿完美的打印体来考,而是准备了两种题型:
- 清晰版:就像在干净的白纸上打印出来的字,非常标准。
- 破损版:模拟了那些被烟熏火燎、纸张泛黄、字迹模糊的百年老古董。
这些题目涵盖了从最常用的拉丁字母(英语等),到中等常用的阿拉伯文、西里尔文(俄语等),再到148 种极其冷门、甚至濒临失传的小众文字。
2. 考试成绩:优等生也“挂科”了
结果让人非常惊讶,甚至有点“惨烈”:
- 拉丁字母(英语等):所有模型都考得不错,就像优等生做母语试卷,正确率很高。
- 中等资源文字(阿拉伯文、俄文等):成绩开始下滑,但还能勉强看懂。
- 小众文字(148 种):这是重灾区! 即使是目前世界上最顶尖的 AI 模型,在面对这 148 种文字时,几乎全军覆没。
- 最好的模型(Gemini 3.1 Flash-Lite)在冷门文字上的正确率也只有 7.7%。
- 这意味着,如果你给 AI 看一张用“埃塞俄比亚文”或“古藏文”写的纸条,它92% 以上的概率会完全读错,或者读成乱码。
3. 最有趣的现象:AI 的“幻觉”与“张冠李戴”
这篇论文最精彩的发现是:AI 并不是“不知道”这些字,而是“瞎猜”。
当 AI 遇到它从未见过的文字(比如一种古老的南亚文字)时,它不会说“我不认识”,而是会自信地胡说八道。
- 比喻:这就好比一个只学过英语和法语的人,突然看到一本用泰米尔语写的书。他看不懂,但他会强行把它当成法语或英语来读,并且读得头头是道,虽然内容全是错的。
- 具体表现:
- 看到古吉拉特语,它可能输出天城体(印地语用的)。
- 看到马尔代夫语,它可能输出阿拉伯语。
- 看到蒙古文,它可能输出阿拉伯语(因为它们在图片里看起来都是连笔的)。
这种现象被称为**“跨文字幻觉”。AI 并不是在“翻译”,它是在“套模板”**。它觉得“这看起来像某种文字”,然后把它强行映射到它数据库里最熟悉的几种文字上。
4. 为什么 AI 这么“偏科”?
作者发现,AI 的表现和它在**“学校”里(预训练数据)见过多少这种文字**直接相关。
- 如果一种文字在互联网上很常见(如拉丁文),AI 就认识。
- 如果一种文字很少见,AI 就完全没概念。
- 关键点:即使给 AI 提示“这是泰米尔语”,它的表现提升也非常有限。这说明问题不在于它“不知道名字”,而在于它根本没见过这种文字的“长相”,视觉识别能力完全没跟上。
5. 这份报告意味着什么?
这篇论文就像是一记警钟,敲醒了 AI 社区:
- 目前的 OCR 技术其实很“狭隘”:我们以为 AI 什么都能读,其实它只认得“主流圈”的那几种文字。
- 文化保护面临危机:世界上有数百万人使用这些小众文字,还有大量珍贵的历史古籍。如果 AI 读不懂,这些文化数字化就无从谈起,人类的历史记忆可能会因为“无法被机器读取”而逐渐消失。
- 未来的方向:我们需要更多的努力,去收集那些冷门文字的数据,训练 AI 真正学会“看”这些文字,而不是只会“瞎猜”。
总结
简单来说,这篇论文告诉我们:现在的 AI 识字能力就像是一个“只会说几种大语言的外交官”,面对世界上 90% 的“方言”和“古语”时,它要么装傻,要么胡编乱造。 作者们公开了这套“考卷”和“评分标准”,呼吁大家一起来帮助 AI 补上这最后一块拼图,让技术真正服务于全人类的文化多样性。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。