論文要約：印刷されたティグリニャ語テキスト認識への TrOCR の適応

～クロススクリプト転移学習における単語意識的損失重み付け～

本論文は、アフリカの音節文字体系（Ge'ez 文字）であるティグリニャ語の印刷テキスト認識において、Transformer ベースの OCR モデル「TrOCR」を初めて適用し、高い精度を達成した研究です。特に、既存の Byte-level BPE トークナイザーの限界を克服する「単語意識的損失重み付け（Word-Aware Loss Weighting）」という新しい手法を提案し、これがモデルの性能向上に決定的な役割を果たしたことを示しています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

---

1. 背景と問題定義

• 課題: 現在の OCR 技術はラテン文字や CJK（中国・日本語・韓国語）文字では高い性能を示していますが、アフリカの音節文字（Ge'ez 文字）への適用は限られています。ティグリニャ語はエリトリアとエチオピアのティグライ地域で 1,000 万人以上が使用する重要な言語ですが、商用 OCR プラットフォームには dedicated なサポートがなく、デジタル言語技術の恩恵を受けられていません。
• 既存研究の限界: これまでの Ge'ez 文字 OCR は CNN-RNN 構造（CRNN など）に依存しており、Transformer ベースのアプローチは検討されていませんでした。
• 技術的障壁: 事前学習済みモデル（TrOCR）のトークナイザーは英語中心に学習されており、Ge'ez 文字（230 種類以上の記号）を認識できません。単純に語彙を追加するだけでは、BPE（Byte Pair Encoding）の「単語先頭にスペースを付与する」という慣習と、新しい文字体系の整合性が取れず、単語境界（スペース直後の文字）で認識が失敗するシステム的な欠陥が発生します。

2. 提案手法と方法論

本研究は、Microsoft の TrOCR ベースモデルをティグリニャ語用に適応させるための以下の 3 つの主要なステップを踏んでいます。

A. データセット

• GLOCR データセットのニューステキストサブセット（23 万枚の合成画像）から 2 万枚を抽出し、学習（1 万枚）、検証（5 千枚）、テスト（5 千枚）に分割しました。
• 平均テキスト長は約 15.8 文字で、単一チャンネルのグレースケール画像です。

B. トークナイザーの拡張

• 元の RoBERTa ベースの BPE 語彙（50,265 トークン）に、ティグリニャ語の 230 種類のユニークな文字（基本子音・母音組み合わせ、ラビアル化変種、数字、句読点）を追加し、語彙サイズを 50,495 に拡大しました。
• 新しいトークンの埋め込み層をランダムに初期化し、エンコーダーとデコーダーのサイズを調整しました。

C. 単語意識的損失重み付け（Word-Aware Loss Weighting）

• 問題の特定: 語彙拡張だけでは、BPE のスペース記号と新しい Ge'ez トークンの間に学習されたマージルールが存在しないため、モデルは「スペース直後の最初の文字」を常に欠落させる傾向がありました。
• 解決策: トークナイザーをゼロから再学習させることなく、損失関数に重み付けを導入しました。
  • 語彙内の「スペースを含むトークン（単語の境界）」に対して損失重みを 2.0 に設定し、それ以外のトークンは 1.0 とします。
  • これにより、オプティマイザーは単語の開始部分（境界）での誤りをより強く罰し、スペースから文字への遷移を確実に学習させることができます。

D. 学習設定

• モデル: TrOCR-base-handwritten と TrOCR-base-printed の 2 種類を比較検討。
• 環境: 単一の 8GB VRAM 搭載 GPU（NVIDIA RTX 5060 Laptop）で学習。
• 時間: 1 変形あたり約 2 時間 40 分（10 エポック）で学習完了。

3. 主要な貢献

1. Ge'ez 文字への初の TrOCR 適応: 事前学習済み Transformer モデルを、ラテン文字とは全く異なる音節文字体系に成功して転移させました。
2. 単語意識的損失重み付けの提案: クロススクリプト転移学習において、BPE の境界不一致による「単語先頭文字の欠落」を解決する一般化可能な手法を提案しました。
3. 低リソース環境での実用性: 8GB のコンシューマー GPU で 3 時間未満の学習時間で高精度を達成し、コード、モデル重み、評価スクリプトをすべて公開しました。

4. 結果

• ベースラインとの比較: 修正前の TrOCR（ゼロショット）はティグリニャ語に対して完全に失敗し、文字誤り率（CER）は 99% 以上、正確一致率は 0% でした。
• 適応後の性能（印刷用モデル）:
  • CER: 0.22%（テストセット 5,000 枚中）
  • 正確一致率: 97.20%
  • WER（単語誤り率）: 0.87%
• アブレーション研究（損失重み付けの効果）:
  • 語彙拡張のみを行った場合、CER は 20.06% となり、正確一致率はほぼ 0% でした。
  • 単語意識的損失重み付けを追加することで、CER は 0.38%（手書きモデル）〜0.22%（印刷モデル）まで劇的に低下し、2 桁の改善を実現しました。これが本研究の技術的核心です。
• 比較: 同じデータでゼロから学習した CRNN-CTC ベースライン（CER 0.12%）にはやや劣りますが、Transformer の転移学習の可能性を示すとともに、非常に高い精度を達成しました。

5. 誤り分析

残りの誤り（約 2.8%）の主な原因は以下の通りでした：

• 数字と混合スクリプトの誤り: 最も多く（1.08%）、ラテン数字と Ge'ez 文字の視覚的混同が原因。
• 母音の順序違い（Diacritic confusions）: 同じ子音ファミリー内の微妙な違いの誤認識。
• 境界・間隔エラー: 提案した損失重み付けにより、以前のような「単語先頭欠落」は大幅に減少し、誤りの 0.14% 以下に抑えられました。

6. 意義と結論

• 技術的意義: 事前学習された視覚特徴（ViT エンコーダー）と言語構造（Transformer デコーダー）は、スクリプトが全く異なっても転移可能であることを実証しました。
• 手法的貢献: 「単語意識的損失重み付け」は、BPE ベースのトークナイザーを新しい文字体系に適応させる際の一般的なボトルネック（境界不一致）を解決する有効な手段として確立されました。
• 社会的インパクト: 低リソース言語に対するデジタルインフラの構築を加速し、安価なハードウェアで高品質な OCR を実現可能にしました。

本研究は、Ge'ez 文字体系における Transformer ベース OCR の最初の評価であり、将来的には手書きテキストや実スキャン画像への適用、および他の非ラテン文字体系への展開が期待されます。