Optical Character Recognition of Historical Moroccan Arabic Calligraphy Using Transformer-Based TrOCR

何世紀もの間、書かれた言葉は人類の記憶の主要な器であり、文明の法律、物語、そして科学的発見を時代を超えて運んできました。しかし、紙が古くなりインクが褪色するにつれ、これらの文書はしばしば現代の目には読めなくなり、物理的な劣化や未知の手書きスタイルの層の背後に閉じ込められてしまいます。コンピュータサイエンスの分野において、光学文字認識（OCR）として知られる分野の研究者たちは、印刷されたテキストをほぼ完璧な精度で読み取るよう、長らく機械に教えてきました。しかし、それらの機械が歴史的な手稿の乱れた、流れるような、そしてしばしば損傷したページに遭遇すると、頻繁に躓いてしまいます。この課題は、アラビア語のカリグラフィーにおいて特に深刻です。なぜなら、単一の単語内の文字は、書き手によって大きく異なる複雑で流れるような連なりとして結合されていることが多いからです。モロッコのアラビア語手稿という、マグリビ・スクリプトとして知られる独特の様式を用いた、特定の文化的にも豊かな伝統においては、文字が接触し、重なり合い、標準的な読解ソフトウェアを混乱させる方法で変化するため、その作業は特に困難でした。

二人の独立した研究者、アドナン・メドハウイとカディジャ・エル・マルーフィは、個々の文字を分離する必要性を回避する新しいアプローチを開発することで、この問題に取り組んできました。単語をその構成要素に切り分けようとする（インクが滲んだり文字が融合したりすると失敗することが多い作業です）代わりに、彼らは、行全体のテキストを一つの繋がった物語として見るように、現代の人工知能システムを訓練しました。文全体の文脈を一度に理解するように設計された、トランスフォーマーと呼ばれる高度なコンピュータモデルを使用することで、彼らはこれらの困難な歴史的ページを解読できるシステムを作り上げました。彼らの研究は、入念な画像クリーニングと、孤立した形状ではなく記述の流れから学習するモデルを組み合わせることで、以前は目の前にあるのに隠されていたモロッコの遺産の秘密を解き明かすことが可能であることを示しています。

研究者たちは、モロッコに見られる独特のマグリビ・スクリプトを代表する、オープンソースのアーカイブから集められた200ページのコレクションから開始しました。これらのページは決して新品の状態ではなく、不均一な照明、褪せたインク、時間の経過とともに歪んだ紙といった、古代の文書に特有の疾患に苦しんでいました。これらの画像をコンピュータにとって読み取り可能なものにするために、チームはまず、データを洗浄し整理するための専門的なパイプラインを構築しました。彼らはコントラストを調整して、古びた紙に対して濃いインクが際立つようにし、次にスマートな検出システムを使用して、各テキストの行がどこで始まりどこで終わるかを見つけました。このステップは極めて重要でした。なぜなら、歴史的な手書き文字は傾いたり変化したりすることが多く、標準的なツールでは、どこで一つの文章が終わり、次の文章が始まるのかを判断するのが難しいためです。システムはインクの間隔と密度を自動的に分析してページを個々の行に切り分け、次の学習段階のためのクリーンな画像セットを作成しました。

行が孤立した後、研究者たちはTrOCRとして知られる強力なツールへと移行しました。これはTransformerベースの光学文字認識を意味します。一つひとつの文字を特定しようとする古いシステムとは異なり、このモデルはテキストの行全体を同時に見ることによって機能します。それは自己注意（self-attention）と呼ばれるメカニズムを使用しており、これによりコンピュータは、読み進める際に画像の異なる部分の重要性を加重することができます。例えば、もし文字がわずかに歪んでいたり、点が欠けていたりする場合、モデルは周囲の文字や単語全体の形状を見て、欠けている部分が何である可能性が高いかを推測することができます。この文脈を理解する能力は、アラビア語において不可欠です。アラビア語では、文字の形が単語の最初、中間、または最後にあるかどうかによって変化し、また文字の上や下にある小さな点が意味を完全に変えてしまうことがあるからです。

このモデルにモロッコのアラビア語を教えるために、研究者たちはゼロから始めたわけではありません。彼らは転移学習と呼ばれる手法を用い、すでに数千の英語の手書き文書で訓練されたモデルを取り込み、それをアラビア文字に適応させました。これは、ピアノを習得した人が、リズムやメロディの基礎をすでに理解しているため、全くの初心者よりも早く新しい楽器を習得できるのと似ています。その後、モデルはモロッコのデータセットを用いて微調整され、マグリビ・スクリプト特有の曲線、接続、およびスタイルを認識することを学びました。チームは、約8,000組の画像とその正しいテキスト転記のペアを用いてシステムを訓練し、一方で、モデルが未経験の素材に対してどの程度パフォーマンスを発揮するかをテストするために、別の2,000組のペアを確保しました。

この訓練の結果は、文字誤り率（Character Error Rate）と呼ばれる標準的な指標を用いて測定されました。これは、正しいテキストと比較してコンピュータがどれだけの文字を間違えたかをカウントするものです。テストセットにおいて、モデルはわずか5パーセント強の誤り率を達成しました。これは、テキストの一行につき100文字に対して、システムが95文字以上の文字を正しく識別したことを意味します。研究者たちは、パフォーマンスが訓練、検証、およびテストの各フェーズを通じて一貫していたことを指摘しており、これはモデルが単に示された特定のページを暗記したのではなく、スクリプトのパターンを真に学習したことを示唆しています。このレベルの精度は、手書きの多様性や損傷の存在により、完璧な認識が極めて高いハードルとなる歴史的文書において重要です。

こうした成功にもかかわらず、著者らは、この研究が古代の手稿を読み解くためのあらゆる問題に対する完全な解決策ではないことを慎重に指摘しています。システムは依然として、発音や意味を示すために文字の上や下に置かれる小さな点や線である、ダイアクリティカルマーク（補助記号）に苦戦しています。これらは古い文書では薄かったり、欠落していたりすることがよくあります。もしこれらのマークが誤読されれば、単語の意味が完全に変わってしまう可能性があります。さらに、モデルは慎重に抽出されたテキストの行に対して訓練されており、余白に書かれた注釈や、複数の列にわたって走るテキストを含むような、複雑なレイアウトを持つフルページをまだ扱うことはできません。研究者たちはまた、アノテーション（注釈）付きデータの不足が依然として大きな障壁であることを強調しました。なぜなら、訓練セットを作成するには、専門家がテキストを手動で転記する必要があり、それは遅く困難なプロセスだからです。

本研究は、ディープラーニングが大きな進歩を遂げたとしても、人間の専門知識を代替したり、古びた紙のあらゆる物理的な限界を克服したりすることはまだできないと結論付けています。しかし、メドハウイとエル・マルーフィが取ったアプローチは、力強い前進の道を示しています。インテリジェントな画像前処理と、行全体の文脈を理解するモデルを組み合わせることで、彼らはモロッコの歴史的遺産のデジタル化を大幅に加速させることができるツールを作り上げました。この研究は単に数字のリストを生み出すものではありません。それは、研究者が、以前は読むことが困難であった何世紀にもわたる言語的および文化的知識にアクセスし、保存することを可能にする実用的な枠組みを提供するものです。この分野が進展するにつれ、エラーを修正するための言語モデルの統合や、より優れたデータ拡張技術の開発が、これらのシステムをさらに洗練させ、マグレブの書かれた歴史を現代の世界へと近づけることになるでしょう。