Thaka at KSAA-2026 Task 2: Regularized Fine-Tuning for Arabic Speech Diacritization

ملخص تقني: نظام "Thaka" في مهمة KSAA-2026 (المهمة الثانية): الضبط الدقيق المنتظم لتشكيل اللغة العربية

تعريف المشكلة
تتناول هذه الورقة المهمة الثانية من مسابقة KSAA-2026، والتي تركز على الإملاء الصوتي العربي مع التشكيل التلقائي. الهدف هو توليد نص عربي مشكّل بالكامل من إشارات صوتية ونصوص غير مشكّلة. وتعد هذه المهمة صعبة للغاية بسبب الغموض المتأصل في الكتابة العربية، حيث تُحذف الحركات القصيرة والعلامات الفونولوجية (التشكيل) عادةً، مما يؤدي إلى تعدد المعاني المحتملة لسلسلة واحدة من الحروف. وبينما توفر الإشارات الصوتية دلالات نبرية وصوتية (prosodic and phonetic) لحل هذا الغموض، فإن المهمة المشتركة تفرض سيناريو محدود الموارد: حيث يتوفر 2,327 عينة تدريبية فقط عبر لهجات عربية متعددة، ويُمنع استخدام البيانات الخارجية تماماً.

المنهجية
بُني نظام المؤلفين على بنية CATT-Whisper، وهي نموذج متعدد الوسائط يدمج مشفر نصوص CATT على مستوى الحرف مع مشفر صوت Whisper. يركز النهج التقني على التنظيم الصارم للتدريب (regularization) والدمج عند الاستنتاج (inference-time ensembling) بدلاً من التغييرات المعمارية المعقدة.

• البنية:

  • مشفر النصوص: محول CATT مكون من 6 طبقات (512 بُعداً، 16 رأساً) تم تدريبه مسبقاً على تشكيل اللغة العربية، ويتنبأ بواحد من 15 فئة تشكيل لكل حرف.
  • مشفر الصوت: مشفر Whisper-base مجمد (6 كتل، 512 بُعداً).
  • الدمج: يستخدم النظام طريقة إضافة البادئة (prefix addition). يتم تجميع 1,500 إطار صوتي من Whisper عبر المتوسط (mean-pooled) إلى 150 رمزاً (tokens)، ثم تُسقط وتُدرج كـ 150 رمز بادئة مخصصة تسبق مدخلات النص. يحتوي النموذج على حوالي 39 مليون معلمة (parameter)، منها حوالي 19 مليون معلمة قابلة للتدريب.

• استراتيجية التدريب:

  • التنظيم (Regularization): الابتكار الجوهري يكمك في وصفة التدريب. يستخدم النظام تنظيم الاتساق R-Drop، حيث يمر كل مدخل عبر النموذج مرتين باستخدام أقنعة إسقاط (dropout masks) مختلفة، مع معاقبة التنبؤات المتباعدة عبر عقوبة تباعد KL المتماثل ($\alpha = 2.08$).
  • دالة الخسارة: تجمع الخسارة الخاضعة للإشراف بين خسارة التركيز (Focal Loss) ($\gamma = 0.34$) وتنعيم الملصقات (label smoothing) ($\epsilon = 0.018$) للتعامل مع عدم توازن الفئات والأمثلة الصعبة.
  • تحسين المعلمات الفائقة (Hyperparameter Optimization): تم اختيار جميع المعلمات الفائقة (معدل التعلم، اضمحلال الوزن، معدلات الإسقاط، إلخ) عبر Optuna خلال 30 تجربة. ومن الجدير بالذكر أن النظام يستخدم اضمحلال وزن عالٍ (0.098) ومعدلات إسقاط محددة لتمثيلات الصوت (speech embeddings).
  • تعزيز البيانات (Data Augmentation): تشمل التقنيات المستخدمة SpecAugment (قناع التردد والزمن) وحقن الضوضاء الغاوسية (Gaussian noise).
  • نقاط التفتيش (Checkpoints): تم تدريب أربع نقاط تفتيش متميزة للنموذج: ثلاث منها باستخدام التكوين الأساسي مع بذور عشوائية مختلفة (42، 7، 123)، والرابعة باستخدام تكوين بديل (معدل تعلم مختلف، حجم دفعة مختلف، وكتل Whisper غير مجمدة جزئياً) لزيادة تنوع الدمج (ensemble diversity).

• الاستنتاج (Inference):

  • يستخدم النظام دمج إسقاط مونت كارلو (MC Dropout). أثناء الاستنتاج، يظل الإسقاط نشطاً في مشفر CATT.
  • تقوم كل نقطة تفتيش من النقاط الأربع بإجراء 50 تمريرة أمامية عشوائية (بإجمالي 200 تمريرة).
  • يتم اشتقاق التنبؤ النهائي عن طريق حساب متوسط احتمالات softmax عبر جميع الـ 200 تمريرة قبل اتخاذ عملية الـ argmax.
  • المعالجة اللاحقة: تضمن طريقة الإدراج الموضعي المباشر أن يحافظ المخرج على علاقة 1:1 مع الحروف المدخلة، مما يفرض ثوابت مثل استعادة المدخل الأصلي عند إزالة التشكيل.

المساهمات الرئيسية

1. النظام الفائز: حقق النظام المقترح المركز الأول في مهمة KSAA-2026 المشتركة.
2. التنظيم فوق البنية: يوضح المؤلفون أنه في حالات الموارد المحدودة (2,187 عينة تدريبية فعالة)، تحقق استراتيجيات التحسين (R-Drop، Focal Loss، اضمحلال الوزن العالي) مكاسب في الأداء أكبر بكثير من التعديلات المعمارية (مثل: cross-attention، أو ترميز CRF، أو ضبط RL الدقيق).
3. دمج الاستنتاج: وفر تطبيق دمج إسقاط مونت كارلو (MC Dropout) عند الاستنتاج تحسناً ملموساً، رغم ملاحظة المؤلفين للتكلفة الحسابية (200 تمريرة أمامية).

النتائج
تم تقييم النظام على مجموعة الاختبار باستخدام معدل خطأ الكلمات (WER) مع نهايات الكلمات (بما في ذلك المواضع غير المشكّلة) كمقياس أساسي.

• الأداء: حقق النظام 23.26% في معدل خطأ الكلمات (WER)، متفوقاً على المشارك في المركز الثاني (24.39%) وعلى النموذج المرجعي المعتمد على النص فقط (49.85%).
• دراسة الاستئصال (Ablation Study): كشفت دراسة استئصال تراكمية على مجموعة التطوير عن مصدر التحسينات:
  • أدى الضبط الدقيق لنموذج CATT-Whisper المدرب مسبقاً باستخدام وصفة قياسية إلى 30.43% في معدل خطأ الكلمات.
  • أدت إضافة الوصفة المنتظمة (R-Drop، Focal Loss، اضمحلال الوزن العالي) إلى خفض معدل الخطأ إلى 27.18% (زيادة قدرها 3.25 نقطة مئوية).
  • أدت إضافة دمج إسقاط مونت كارلو (MC Dropout ensembling) إلى خفض المعدل أكثر إلى 26.02% (زيادة إضافية قدرها 1.16 نقطة مئوية).
  • خلص المؤلفون إلى أن وصفة التدريب كانت المحرك الرئيسي للتحسين.

الأهمية والادعاءات
تزعم الورقة أنه بالنسبة للقيود المحددة لمهمة KSAA-2026 (بيانات محدودة، لا موارد خارجية)، فإن المسار الأكثر فعالية للأداء العالي ليس التعقيد المعماري بل التنظيم القوي للتدريب. ويؤكد المؤلفون أن نهجهم نجح في الاستفادة من الطبيعة التكاملية للإشارات الصوتية لحل حالات الغموض الإملائي، مما يؤكد أن المدخلات الصوتية حاسمة لهذه المهمة. كما يقترحون بتواضع أن العمل المستقبلي يجب أن يركز على فصل المساهمات الفردية لكل مكون تنظيمي وتحليل الأداء لكل لهجة لتحديد التحديات المتبقية، بدلاً من ادعاء التفوق العالمي عبر جميع سيناريوهات تشكيل اللغة العربية.