ملخص تقني: توليد النصوص المكتوبة بخط اليد باللغة الأوكرانية القائم على الانتشار مع نقل الأسلوب عبر النطاقات

بيان المشكلة

تقدم توليد النصوص المكتوبة بخط اليد (HTG) المشروط بأسلوب الكاتب بشكل كبير للخطوط اللاتينية، وخاصة الإنجليزية، لكنه لا يزال غير مستكشف بشكل كافٍ للأنظمة الكتابية ذات الموارد المنخفضة وغير اللاتينية. توجد فجوة حرجة في فهم ما إذا كانت نماذج الانتشار الحالية، التي تعمل بنظام التعلم من أمثلة قليلة (few-shot) وتدرك أسلوب الكاتب، يمكنها التعميم خارج النطاق اللاتيني إلى نصوص مثل السيريلية الأوكرانية. هذا الانتقال ليس بالأمر الهين بسبب الاختلافات في مجموعات الحروف، وأنماط الضربات، والافتقار إلى مجموعات بيانات واسعة النطاق مصنفة حسب الكاتب للغة الأوكرانية. علاوة على ذلك، ليس من الواضح ما إذا كانت النماذج الحالية تلتقط الخصائص المنتظمة الخاصة بالخط أو تتعلم تمثيلاً قابلاً للنقل لأسلوب الكتابة اليدوية.

المنهجية

بناء مجموعة البيانات

لمعالجة نقص البيانات، قام المؤلفون ببناء مجموعة بيانات أوكرانية للكلمات المكتوبة بخط اليد تحتوي على 126,177 صورة من 308 كاتبًا، مشتقة من متن UkrHandwritten على مستوى السطر. تضمنت عملية بناء البيانات ما يلي:

1. تنظيف ما قبل التجزئة: تطبيق شبكة ترميم NAFNet لإزالة آثار الخطوط التحتية الباهتة التي قد تُتعلم كسمات أسلوب زائفة.
2. تجزئة المكونات المتصلة: مسار مخصص باستخدام ثنائية Otsu وOpenCV لدمج المكونات ضمن 8 بكسلات، متبوعًا باختيار أوسع $N-1$ فجوة بين المجموعات كحدود للكلمات. حقق هذا معدل مطابقة مثالي للحدود بنسبة 95.7%، وهو ما يتفوق بشكل كبير على طرق الإسقاط الرأسي (71.7%).
3. تصفية الجودة: قام مسار مكون من خمس مراحل بإزالة العينات التي تحتوي على حروف لاتينية، أو أخطاء في علامات الترقيم، أو نسب عرض إلى ارتفاع متطرفة، أو تطابقات OCR منخفضة الثقة. كما تم تطبيق عتبة تشابه طبقية حسب الطول لمنع رفض الكلمات الوظيفية القصيرة.
4. الموازنة: تمت زيادة أخذ عينات الحروف الأوكرانية النادرة (مثل ф، ґ، Щ، Є، Ц، ї) عن طريق تكرار المحاصيل من 2 إلى 5 مرات لضمان التمثيل الكافي.

بنية النموذج

استخدمت الدراسة DiffusionPen، وهو نموذج انتشار كامن يعمل بنظام الأمثلة القليلة، دون تعديل معماري.

• القاعدة: نموذج انتشار كامن مشروط يعمل في الفضاء الكامن 4×8×32 لنموذج Stable Diffusion v1.5 VAE المجمد.
• التكييف (Conditioning):
  • النص: يتم ترميزه عبر مشفر CANINE على مستوى الحرف (والذي يدعم أصليًا رموز Unicode السيريلية) ويتم إسقاطه إلى أبعاد U-Net.
  • الأسلوب: تمثيل أسلوب مستمر ($s \in \mathbb{R}^{1280}$) مشتق من مشفر MobileNetV2 مجمد يعتمد على فقدان الثلاثيات (triplet-loss)، مع حساب المتوسط عبر خمس صور مرجعية.
  • معرف الكاتب (Writer ID): تم تضمين تسمية متعلمة تُجمع مع تضمين الأسلوب.
• التدريب: تم تدريب النموذج لمدة 200 حقبة (epoch) على مجموعة البيانات الجديدة باستخدام أهداف تنبؤ الضوضاء القياسية لـ LDM. تم تطبيق التوجيه الخالي من المصنف (CFG) لتكييف النص ($p_{drop}=0.2$)، بينما لم يتم إسقاط تكييف الأسلوب أبدًا.

بروتوكولات التقييم

قيم المؤلفون النموذج في ثلاث إعدادات متميزة لاختبار التعميم عبر النطاقات:

1. النقل عبر اللغات: توليد كلمات أوكرانية باستخدام مراجع أسلوب من قاعدة بيانات IAM للخط اليدوي الإنجليزي.
2. النقل التاريخي: توليد نص باستخدام مراجع أسلوب من مخطوطة أوكرانية من أوائل القرن العشرين (حبر وورق وأشكال حروف مختلفة).
3. التقليد بالأمثلة القليلة: توليد نص لكتاب معاصرين غير مرئيين من مجموعة بيانات RUKOPYS.

النتائج الرئيسية

الأداء الكمي

• الجودة البصرية: حقق النموذج مسافة فريدشيه للإنتروبيا (FID) قدرها 23.09 على 5,000 عينة من 308 كاتبًا. وهذا يضاهي أداء DiffusionPen على مجموعة بيانات IAM الإنجليزية (~20–25)، مما يشير إلى جودة بصرية توازي أحدث التقنيات في الخطوط اللاتينية.
• الوضوح (Legibility): بلغ معدل خطأ الحروف (CER) الذي تم قياسه بواسطة نموذج Cyrillic TrOCR نسبة 16.0% إجمالًا.
  • خارج المفردات (OOV): 15.6% (أقل من داخل المفردات بنسبة 16.5%)، مما يؤكد أن النموذج يعمم على تسلسلات غير مرئية بدلاً من حفظ المفردات.
  • الحروف النادرة: كانت الفجوة في CER بين الحروف النادرة والشائعة 1.4 نقطة مئوية فقط (17.2% مقابل 15.8%)، مما يؤكد فعالية أخذ العينات المستهدف.
  • الاعتماد على الطول: تباين الأداء حسب طول الكلمة، حيث كانت أفضل النتائج في نطاق 4-6 أحرف (10.8% CER) وزادت الأخطاء في الكلمات القصيرة جدًا (1-3 أحرف، 42.7% CER)، ويعزى ذلك إلى حد كبير إلى قيود برنامج التعرف على النصوص في الكلمات ذات الحرف الواحد.

دراسات الاستئصال (Ablation Studies)

• حجم مجموعة البيانات مقابل نقائها: تفوقت مجموعات البيانات الأكبر والأكثر ضجيجًا (67 ألف عينة) على المجموعات الأصغر والأكثر نقاءً (12.8 ألف عينة)، مما يؤكد أن التنوع يهيمن على النقاء في نماذج HTG القائمة على الانتشار.
• جودة التجزئة: أدى الانتقال من الإسقاط الرأسي إلى تجزئة المكونات المتصلة إلى تقليل MSE في التحقق من 0.0787 إلى 0.0658، وهو ما تم تحديده كأكبر عامل تحسين منفرد.
• البنية: أدى زيادة عدد كتل المتبقي (residual blocks) لكل مستوى U-Net من 1 إلى 2 (مطابقة مواصفات Stable Diffusion v1.5) إلى تقليل MSE وتحسين حدة الرموز (glyphs).

النقل عبر النطاقات

نجح النموذج في نقل الأساليب عبر تحولات نطاق كبيرة:

• من الإنجليزية إلى الأوكرانية: أنتجت الكلمات الأوكرانية المولدة وزن الضربات، والزاوية، والتباعد للكتّاب الإنجليز من مجموعة بيانات IAM بشكل مرئي.
• من التاريخي إلى الحديث: تبنى النموذج الخصائص الخطية (ضربات أعرض، نسب رسمية) لمخطوطة من القرن العشرين مع توليد أشكال حروف حديثة.
• الكتّاب غير المرئيين: قلد النموذج الميل ووزن الضربات لكتاب من مجموعة بيانات RUKOPYS دون ضبط دقيق (fine-tuning)، مما أظهر تعميماً قوياً من نوع الأمثلة القليلة.

الأهمية والادعاءات

يزعم البحث تقديم أول دليل تجريبي على أن نماذج الانتشار الكامنة التي تعمل بنظام الأمثلة القليلة يمكنها التعميم خارج نطاق الخط اللاتيني إلى السيريلية الأوكرانية. تشمل المساهمات الرئيسية ما يلي:

1. معيار مرجعي جديد: إصدار مجموعة بيانات أوكرانية للكلمات بمستوى الكاتب مكونة من 126 ألف عينة، لمعالجة الفجوة الحرجة في الموارد.
2. قابلية النقل المثبتة: إثبات أن نموذجًا تم تدريبه على النصوص اللاتينية يمكن تكييفه مع السيريلية دون تغييرات معمارية مع الاحتفاظ بقدرات نقل أسلوب ذات مغزى عبر اللغات، والفترات التاريخية، والكتّاب غير المرئيين.
3. رؤى منهجية: إثبات أن تنوع مجموعة البيانات وجودة التجزئة أكثر أهمية لجودة التوليد من النقاء الصارم للبيانات، وأن مطابقة عدد كتل المتبقي في U-Net مع نموذج الانتشار الأساسي يحسن النتائج.

يخلص المؤلفون إلى أنه بينما لا تزال هناك قيود فيما يتعلق بالحروف النادرة والفاصلة العليا الأوكرانية (apostrophe)، فإن هذا العمل يوفر أساسًا قابلاً للتطبيق لتوسيع نطاق HTG الأسلوبي إلى أنظمة كتابة أخرى ممثلة تمثيلاً ناقصًا.