Optimal Transport for Handwritten Text Recognition in a Low-Resource Regime

في الزوايا الهادئة من التاريخ الرقمي، تقبع مكتبات شاسعة من الرسائل المكتوبة بخط اليد، والمذكرات، والسجلات الرسمية، تنتظر من يقرؤها. لقرون مضت، كانت الطريقة الوحيدة لفك أسرار هذه الصفحات الهشة هي العمل المضني والبطيء للنسخ البشري، وهي مهمة غالبًا ما تركت مجموعات كاملة غير قابلة للوصക്ക് من قبل الباحثين. واليوم، تستطيع الحواسيب القيام بهذا العمل تلقائيًا، وهو مجال يُعرف بالتعرف على النصوص المكتوبة بخط اليد. ومع ذلك، فإن أقوى البرامج الحاسوبية المتاحة حاليًا تواجه عقبة كبيرة: فهي تشبه الطلاب المتفوقين الذين تعلموا القراءة فقط من كتب مدرسية ضخمة ومثالية؛ إذ تتطلب كميات هائلة من الأمثلة المصنفة — آلاف الصور حيث قام إنسان بالفعل بكتابة ما تقوله الكتابة اليدوية بدقة — لتتعلم كيفية التعرف على الكلمات. وعند مواجهة مجموعة جديدة وفريدة من الوثائق التاريخية حيث تكون مثل هذه الأمثلة المصنفة نادرة أو غير موجودة، غالبًا ما تتعثر هذه الأنظمة المتقدمة، عاجزة عن التكيف مع الأسلوب المحدد أو المفردات المحدودة للمادة الجديدة.

اقترح فريق من الباحثين من اليونان طريقًا مختلفًا للمضي قدمًا، طريقًا لا يعتمد على مجموعات بيانات ضخمة، بل يستخدم شكلًا ذكيًا من التخمين الموجه لتعليم الكمبيوتر كيفية القراءة. نهجهم لا يعامل المشكلة كعملية بسيطة لمطابقة الأنماط، بل كلعبة مطابقة بين مظهر الكلمة ومعناها. يبدأون بعدد صغير جدًا من الأمثلة المعروفة، رب_ما بضع عشرات من الكلمات فقط، ويستخدمون مبدأً رياضيًا يسمى "النقل الأمثل" (optimal transport) لمحاذاة هذه الصور المرئية مع قائمة من الكلمات المحتملة. فكر في هذه العملية مثل أمين مكتبة يعرف التكرار الدقيق لكل كلمة في كتاب معين؛ فحتى دون رؤية النص، يعرف أمين المكتبة أن كلمة "الـ" ستظهر بمعدل أكبر بكثير من كلمة "فيلسوف". ومن خلال استخدام هذه المعرفة بتكرار الكلمات، يمكن للكمبيوتر تقديم تخمينات مدروسة حول الصور غير المصنفة، وتحديد المطابقات الأكثر احتمالاً بثقة عالية.

بنى الباحثون نظامًا يعمل في حلقة مستمرة من التعلم والتحسين. يبدأ بتحليل الأشكال المرئية للكلمات من مجموعة صغيرة من الأمثلة المعروفة ومجموعة أكبر بكثير من الأمثلة غير المعروفة. ثم يقوم الكمبيوتر بإسقاط هذه الأشكال المرئية في مساحة يتم فيها تنظيم الكلمات حسب معناها واحتمالية ظهورها. وباستخدام الأداة الرياضية "النقل الأمثل"، يحسب النظام الطريقة الأكثر كفاءة لربط الصور غير المعروفة بالكلمات المعروفة، متسائلًا فعليًا: "أي كلمة تناسب هذه الصورة بشكل أفضل، بالنظر إلى ما نعرفه عن مدى تكرار ظهور الكلمات؟" يختار النظام بعد ذلك المطابقات الأكثر ثقة — تلك التي يتوافق فيها الشكل المرئي مع تكرار الكلمة تمامًا — ويعينها كعلامات تدريبية جديدة. تُضاف هذه الصور المصنفة حديثًا إلى مجموعة التدريب، ويُعاد تدريب الكمبيوتر على هذه المجموعة الموسعة. ومع كل دورة، يصبح النظام أفضل في التمييز بين الكلمات المتشابهة في المظهر، ويبني تدريجيًا فهمًا قويًا للنص دون الحاجة إلى تدخل بشري لتصنيف كل صفحة.

في تجاربهم، اختبر الفريق هذه الطريقة على عدة مجموعات من الوثائق التاريخية، بما في ذلك رسائل جورج واشنطن، ومجموعة IAM، ومجموعة CVL. ووجدوا أنه حتى عند البدء بنسبة واحد بالمائة فقط من البيانات المصنفة، استطاع نظامهم تحقيق دقة في التعرف تضاهي أو تتجاوز بشكل كبير الطرق الموجودة التي تتطلب بيانات تدريب أكثر بكثير. في مجموعة جورج واشنطن، على سبيل المثال، خفض النظام معدل الخطأ بأكثر من عشرة بالمائة مقارنة بالنماذج الرائدة الحالية عند العمل مع بيانات محدودة. وأشار الباحثون إلى أن الطريقة تعمل بشكل أفضل عندما تكون المفردات قابلة للتنبؤ نوعًا ما، لأن النظام يعتمد على معرفة التكرار النسبي للكلمات لإجراء تخميناته. وعندما كانت المفردات ضخمة ومتنوعة للغاية، كما في مجموعة IAM، ظل الأداء تنافسيًا ولكنه لم يصل إلى نفس مستوى الهيمنة، مما يشير إلى أن هذا النهج يكون أكثر قوة في السيناريوهات التي يتبع فيها النص نمطًا يمكن التعرف عليه من استخدام الكلمات.

كان المكون الرئيسي لنجاحهم هو استخدام "الأولوية المعجمية" (lexical prior)، وهي ببساطة معرفة الكمبيوتر بالكلمات الشائعة والكلمات النادرة في اللغة المستهدفة. وقد أثبت الباحثون أنه إذا تجاهلوا هذه المعرفة وعاملوا كل كلمة على أنها متساوية الاحتمالية، فإن قدرة النظام على التخمين بشكل صحيح تنخفض بشكل كبير. وفي المقابل، عندما سُمح للنظام باستخدام التكرار الطبيعي للكلمات لتوجيه خياراته، استطاع تصفية التخمينات غير المؤكدة والتركيز على المطابقات الأكثر موثوقية. سمح هذا للكمبيوتر بالتعلم من أخطائه ونجاحاته، وتكرير فهمه لأسلوب الكتابة اليدوية مع كل تكرار. العملية ذاتية التصحيح تمامًا؛ فمع تحديد النظام لمزيد من الكلمات بشكل صحيح، يكتسب الثقة لتصنيف الأمثلة الأكثر صعوبة، مما يؤدي في النهاية إلى إنشاء مجموعة بيانات كبيرة وعالية الجودة من بذرة صغيرة من المعلومات الأولية.

كما أظهر الباحثون أن طريقتهم تظل فعالة حتى عندما لا يُعطى الكمبيوتر قائمة بالكلمات الممكنة للاختيار من بينها أثناء مرحلة القراءة النهائية. وبينما يستخدم النظام قائمة الكلمات للتعلم أثناء مرحلة التدريب، فإن المخرج النهائي يتم توليده مباشرة من الأنماط المرئية، مما يجعله مرنًا بما يكفي لقراءة كلمات لم يسبق له رؤيتها من قبل. هذا التمييز أمر بالغ الأهمية للتطبيقات الواقعية، حيث قد يحتاج الكمبيوتر إلى قراءة وثيقة تحتوي على أسماء أو مصطلحات لم تكن جزءًا من مفردات التدريب الأولية الخاصة به. تؤكد الدراسة أنه من خلال إعادة صياغة المشكلة كمسألة محاذاة بصرية ودلالية، بدلاً من كونها مجرد مشكلة تصنيف بسيطة، فإنه من الممكن بناء أنظمة تعرف أكثر كفاءة وقدرة على التكيف.

في نهاية المطاف، يقدم هذا العمل حلاً عمليًا للعلوم الإنسانية الرقمية، حيث تكون الموارد غالبًا محدودة وتكلفة التصنيف اليدوي باهظة. ومن خلال الاستفادة من البنية المتأصلة في اللغة والانتظامات الإحصائية لاستخدام الكلمات، نجح الباحثون في إنشاء أداة يمكنها فتح الأرشيفات التاريخية بأقل قدر من التدخل البشري. وتشير النتائج إلى أننا لسنا بحاجة إلى ملايين الأمثلة المصنفة لتعليم الآلة كيفية القراءة؛ فمع قدر ضئيل من التوجيه واستراتيجية ذكية للتعلم، يمكن للحواسيب أن تعلم نفسها تدريجيًا فك رموز الكتابة اليدوية للماضي، والحفاظ على التراث الثقافي للأجيال القادمة.