Optical Character Recognition of Historical Moroccan Arabic Calligraphy Using Transformer-Based TrOCR

Seit Jahrhunderten ist das geschriebene Wort das primäre Gefäß des menschlichen Gedächtnisses, das die Gesetze, Geschichten und wissenschaftlichen Entdeckungen von Zivilisationen über die Zeit hinweg trägt. Doch während Papier altert und Tinte verblasst, werden diese Dokumente oft für das moderne Auge unlesbar, gefangen hinter Schichten physischen Verfalls und unbekannter Handschriftenstile. Im Bereich der Informatik hat ein Feld namens optische Zeichenerkennung (Optical Character Recognition) Forschern längst beigebracht, gedruckten Text mit nahezu perfekter Genauigkeit zu lesen. Wenn diese Maschinen jedoch auf die unordentlichenlichen, fließenden und oft beschädigten Seiten historischer Manuskripte treffen, geraten sie häufig ins Straucheln. Die Herausforderung ist besonders akut bei der arabischen Kalligrafie, bei der die Buchstaben innerhalb eines einzigen Wortes oft in komplexen, kursiven Ketten verbunden sind, die von Schreiber zu Schreiber stark variieren. Für die spezifische und kulturell reiche Tradition marokkanischer arabischer Manuskripte, die in einem markanten Stil bekannt als Maghribi-Schrift verfasst sind, ist die Aufgabe besonders schwierig, da die Buchstaben sich berühren, überlappen und verschieben, was Standard-Lese-Software verwirrt.

Zwei unabhängige Forscher, Adnane Mehdaoui und Khadija El Maaroufi, haben dieses Problem angegangen, indem sie einen neuen Ansatz entwickelten, der den traditionellen Bedarf an der Trennung einzelner Buchstaben umgeht. Anstatt zu versuchen, ein Wort in seine Bestandteile zu zerlegen – eine Aufgabe, die oft fehlschlägt, wenn die Tinte verläuft oder die Buchstaben verschmelzen –, trainierten sie ein modernes System der künstlichen Intelligenz darauf, eine ganze Textzeile als eine einzige, zusammenhängende Geschichte zu betrachten. Durch die Verwendung einer Art fortschrittlichen Computermodells namens Transformer, das darauf ausgelegt ist, den Kontext eines ganzen Satzes gleichzeitig zu verstehen, schufen sie ein System, das in der Lage ist, diese schwierigen historischen Seiten zu entziffern. Ihre Arbeit zeigt, dass es durch die Kombination von sorgfältiger Bildbereinigung mit einem Modell, das aus dem Fluss der Schrift statt aus isolierten Formen lernt, möglich ist, die Geheimnisse des marokkanischen Erbes zu entschlüsseln, die zuvor in aller Deutlichkeit verborgen lagen.

Die Forscher begannen mit einer Sammlung von zweihundert Seiten aus Open-Source-Archiven, die die einzigartige Maghribi-Schrift repräsentieren, wie sie in Marokko vorkommt. Diese Seiten waren alles andere als makellos; sie litten unter den typischen Gebrechen alter Dokumente, wie ungleichmäßiger Beleuchtung, verblasster Tinte und Papier, das im Laufe der Zeit gewellt war. Um diese Bilder für einen Computer lesbar zu machen, baute das Team zuerst eine spezialisierte Pipeline, um die Daten zu bereinigen und zu organisieren. Sie passten den Kontrast an, um die dunkle Tinte vom alternden Papier abzuheben, und verwendeten dann ein intelligentes Erkennungssystem, um zu finden, wo jede Textzeile begann und endete. Dieser Schritt war entscheidend, da historische Handschriften oft neigen oder versetzt verlaufen, was es Standardwerkzeugen erschwert, zu bestimmen, wo ein Satz endet und der nächste beginnt. Das System analysierte automatisch den Abstand und die Dichte der Tinte, um die Seiten in einzelne Zeilen zu zerlegen und so einen sauberen Satz von Bildern für die nächste Lernphase zu erstellen.

Nachdem die Zeilen isoliert worden waren, wandten die Forscher ein leistungsfähiges Werkzeug namens TrOCR an, was für Transformer-basierte optische Zeichenerkennung steht. Im Gegensatz zu älteren Systemen, die versuchten, einen Buchstaben nach dem anderen zu identifizieren, arbeitet dieses Modell, indem es die gesamte Textzeile gleichzeitig betrachtet. Es verwendet einen Mechanismus namens Self-Attention, der es dem Computer ermöglicht, die Bedeutung verschiedener Teile des Bildes abzuwägen, während er liest. Wenn beispielsweise ein Buchstabe leicht verzerrt ist oder einen Punkt vermissen lässt, kann das Modell die umliegenden Buchstaben und die Gesamtform des Wortes betrachten, um zu erraten, was das fehlende Stück wahrscheinlich ist. Diese Fähigkeit, den Kontext zu verstehen, ist für das Arabische von entscheidender Bedeutung, da sich die Form eines Buchstabens ändert, je nachdem, ob er am Anfang, in der Mitte oder am Ende eines Wortes steht, und da kleine Punkte oberhalb oder unterhalb eines Buchstabens dessen Bedeutung komplett verändern können.

Um dieses Modell zum Lesen von marokkanischem Arabisch zu lehren, begannen die Forscher nicht bei Null. Sie nutzten eine Technik namens Transfer Learning, bei der sie ein Modell, das bereits an tausenden englischen handschriftlichen Dokumenten trainiert worden war, an die arabische Schrift anpassten. Dies ist vergleichbar mit einer Person, die bereits Klavier gelernt hat und ein neues Instrument schneller erlernen könnte als ein absoluter Anfänger, weil sie bereits das Verständnis für Rhythmus und Melodie besitzt. Das Modell wurde dann auf dem marokkanischen Datensatz feinjustiert, um die spezifischen Kurven, Verbindungen und Stile der Maghribi-Schrift zu erkennen. Das Team trainierte das System mit etwa achttausend Paaren von Bildern und ihren korrekten Texttranskriptionen, während es weitere zweitausend Paare zurückhielt, um zu testen, wie gut das Modell bei Material performt, das es noch nie gesehen hatte.

Die Ergebnisse dieses Trainings wurden mit einer Standardmetrik gemessen, die als Character Error Rate bezeichnet wird und zählt, wie viele Zeichen der Computer im Vergleich zum korrekten Text falsch gemacht hat. Auf dem Testdatensatz erreichte das Modell eine Fehlerrate von etwas mehr als fünf Prozent. Das bedeutet, dass das System für jede hundert Zeichen in einer Zeile Text mehr als fünfundneunzig von ihnen korrekt identifiziert hat. Die Forscher stellten fest, dass die Leistung über die Trainings-, Validierungs- und Testphasen hinweg konsistent blieb, was darauf hindeutet, dass das Modell die Muster der Schrift tatsächlich gelernt hatte, anstatt lediglich die spezifischen Seiten auswendig zu lernen, die ihm gezeigt wurden. Dieses Maß an Genauigkeit ist signifikant für historische Dokumente, bei denen die Variabilität in der Handschrift und das Vorhandensein von Beschädigungen eine perfekte Erkennung zu einer extrem hohen Hürde machen.

Trotz dieser Erfolge weisen die Autoren vorsichtig darauf hin, dass die Arbeit keine vollständige Lösung für alle Probleme beim Lesen alter Manuskripte darstellt. Das System hat immer noch Schwierigkeiten mit diakritischen Zeichen – den kleinen Punkten und Linien, die über oder unter Buchstaben sitzen, um Aussprache oder Bedeutung anzuzeigen, welche in alten Dokumenten oft verblasst oder fehlend sind. Wenn diese Zeichen falsch gelesen werden, kann sich die Bedeutung eines Wortes vollständig ändern. Darüber hinaus wurde das Modell auf Textzeilen trainiert, die sorgfältig extrahiert worden waren; es kann noch keine vollständigen Seiten mit komplexen Layouts handhaben, wie etwa Randnotizen in den Margen oder Text, der in mehreren Spalten verläuft. Die Forscher hoben auch hervor, dass die Knappheit an annotierten Daten weiterhin ein großes Hindernis darstellt, da die Erstellung der Trainingssätze Experten erfordert, die den Text manuell transkribieren müssen – ein langsamer und schwieriger Prozess.

Die Studie kommt zu dem Schluss, dass Deep Learning zwar große Fortschritte gemacht hat, aber noch nicht in der Lage ist, die Notwendigkeit menschlicher Expertise zu ersetzen oder jedes physische Problem alterndes Papiers zu überwinden. Dennoch bietet der von Mehdaoui und El Maaroufi gewählte Ansatz einen robusten Weg nach vorn. Durch die Kombination von intelligenter Bildvorverarbeitung mit einem Modell, das den Kontext der gesamten Zeile versteht, haben sie ein Werkzeug geschaffen, das die Digitalisierung des marokkanischen Kulturerbes erheblich beschleunigen kann. Diese Arbeit produziert nicht nur eine Liste von Zahlen; sie bietet einen praktischen Rahmen, der es Forschern ermöglicht, auf Jahrhunderte an linguistischem und kulturellem Wissen zuzugreifen und dieses zu bewahren, das zuvor zu schwer zu lesen war. Während sich das Feld weiterentwickelt, könnten die Integration von Sprachmodellen zur Fehlerkorrektur und die Entwicklung besserer Techniken zur Datenausweitung (Data Augmentation) diese Systeme weiter verfeinern und die geschriebene Geschichte des Maghreb näher an die moderne Welt bringen.