🤖 AI

Data-Efficient On-Policy Distillation for Automatic Speech Recognition

تُثبت هذه الورقة أن التقطير داخل السياسة الموجه من قبل المعلم يُمكّن نموذج التعرف التلقائي على الكلام (ASR) مدمج بـ 0.6 مليار معلمة، والمدرب على 100 ألف ساعة فقط من الكلام، من التفوق بشكل كبير على الضبط الدقيق الخاضع للإشراف ومضاهاة النماذج المرجعية الأكبر حجمًا تقريبًا، مما يقلل من متطلبات البيانات للتعرف التلقائي على الكلام التنافسي.

المؤلفون الأصليون: Yu Lin, Yiming Wang, Runyuan Cai, Xiaodong Zeng

نُشر 2026-05-28

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yu Lin, Yiming Wang, Runyuan Cai, Xiaodong Zeng

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تعليم متدرب صغير ومتحمس (الطالب) كيف يصبح خبيرًا في ترجمة اللغة المنطوقة. عادةً، لكي تصبح خبيرًا، تحتاج إلى الاستماع إلى ملايين الساعات من المحادثات المسجلة. ولكن ماذا لو كان لديك 100,000 ساعة فقط؟ لا يزال هذا رقمًا كبيرًا، لكنه جزء ضئيل مما استخدمته العمالقة (مثل المعلم).

تصف هذه الورقة البحثية طريقة تدريب ذكية تسمى Ark-ASR تساعد هذا المتدرب الصغير على أن يصبح جيدًا بشكل مذهل، حتى مع وقت ممارسة محدود، وذلك عبر استخدام نهج "المدرب الذكي".

إليك كيف تسير العملية، مقسمة إلى خطوات بسيطة:

1. الإعداد: المتدرب والمدرب

الطالب (Ark-ASR): نموذج حاسوبي صغير وفعال (0.6 مليار معلمة) تلقى بالفعل تعليمًا أساسيًا (ضبط دقيق تحت الإشراف - Supervised Fine-Tuning) على 100,000 ساعة من الكلام. هو يعرف الأساسيات لكنه ليس مثاليًا بعد.
المعلم (Qwen-ASR): نموذج أكبر بكثير وأكثر خبرة (رأى كميات هائلة من البيانات - ملايين الساعات). هو يعرف الإجابات "الصحيحة" أفضل من أي شخص آخر.

2. الطريقة القديمة مقابل الطريقة الجديدة

الطريقة القديمة (Off-Policy): تخيل أن المعلم يسلم الطالب مجموعة من النصوص المكتوبة مسبقًا والمثالية ويقول له: "احفظ هذه". يتدرب الطالب على هذه النصوص الثابتة، ولكن في العالم الحقيقي، قد يرتكب الطالب خطأً في البكهية يؤدي إلى جملة مختلفة تمامًا. النصوص القديمة لا تساعده في معالجة تلك الأخطاء المحددة.
الطريقة الجديدة (On-Policy Distillation): هذا هو الابتكار الرئيسي للورقة. بدلًا من مجرد إعطاء الطالب نصًا، يقوم المعلم بمراقبته في الوقت الفعلي.
1. يحاول الطالب ترجمة جملة بمفرده.
2. ينظر المعلم إلى ما كتبه الطالب حتى الآن بالضبط.
3. يقول المعلم: "حسنًا، بالنظر إلى أنك كتبت هذه الكلمة المحددة، فإليك المسار الأفضل للمضي قدمًا".
4. يتعلم الطالب من أخطائه وخياراته المحددة، ويحصل على ملاحظات فورية وشخصية.

3. السر الخفي: استراتيجية "الاتحاد" (Union Strategy)

هناك جزء معقد: قد يستخدم الطالب والمعلم "مفردات" مختلفة قليلاً (على سبيل المثال، أحدهما يستخدم كلمة عامية محددة بينما يستخدم الآخر مصطلحًا رسميًا).

لإصلاح ذلك، تستخدم الورقة طريقة Union Top-K. تخيل أن المعلم والطالب يكتبان أيضًا توقعاتهما الخمسة الأولى للكلمة التالية. يقوم النظام بدمج هذه القوائم في "منطقة آمنة" واحدة من الاحتمالات.
يتم بعد ذلك تدريب الطالب على مطابقة ثقة المعلم ضمن هذه المنطقة المشتركة الآمنة. إنه يشبه الرقص حيث يتفق الشريكان على مجموعة محددة من الخطوات للتدرب معًا، مما يضمن عدم ارتباكهما بسبب اختلاف المفردات.

4. "الإحماء" (مرحلة بيانات المعلم)

قبل بدء التدريب الفعلي، أضاف المؤلفون مرحلة "إحماء".

قاموا أولاً بجعل الطالب يتدرب على 2,000 ساعة من النصوص التي أنشأها المعلم.
لماذا؟ يساعد هذا الطالب والمعلم على أن يكونا على نفس الموجة. إنه يشبه مرافقة المتدرب للمعلم في ظله لبضعة أيام قبل بدء التدريب الفعلي.
النتيجة: جعل هذا "الإحماء" الطالب والمعلم أكثر توافقًا. عندما بدأ التدريب الفعلي في الوقت الفعلي، كانا يتحدثان بالفعل نفس اللغة، مما جعل التدريب أكثر كفاءة.

5. النتائج: صغير ولكن قوي

اختبرت الورقة هذه الطريقة على التعرف على الكلام باللغتين الإنجليزية والماندرين.

الهدف: هل يمكن لنموذج صغير تم تدريبه بميزانية ضئيلة (100 ألف ساعة) أن يهزم نموذجًا مماثل الحجم تم تدريبه بميزانية ضخمة؟
النتيجة: نعم! النموذج الصغير الذي تم تدريبه باستخدام طريقة "المدرب الذكي" هذه (Ark-Base + TD + OPD) تفوق على النموذج الصغير القياسي (Qwen3-ASR-0.6B) في أربعة من أصل خمسة اختبارات.
العقبة: لم يتمكن من هزيمة النموذج الضخم (Qwen3-ASR-1.7B)، وهو أمر منطقي لأن ذلك النموذج أكبر جسديًا ويمتلك "قدرة ذهنية" أكبر. ولكن بالنسبة لحجمه، فقد كان الأفضل الممكن.

الخلاصة الكبرى

تثبت الورقة أنك لا تحتاج دائمًا إلى ملايين الساعات من البيانات لبناء نظام تعرّف على الكلام رائع. إذا كان لديك "مدرب" قوي (نموذج معلم كبير) واستخدمت طريقة يتعلم فيها الطالب من أخطائه المحددة في الوقت الفعلي (On-Policy Distillation)، فيمكنك الحصول على نتائج ممتازة بكسر بسيط من البيانات.

إنه يشبه قول: "لا تحتاج إلى قراءة كل كتاب في المكتبة لتصبح كاتبًا عظيمًا؛ أنت فقط بحاجة إلى محرر رائع يقرأ مسوداتك أثناء كتابتها ويخبرك بالضبط كيف تصلح الجمل التي تجد صعوبة فيها".

ملخص تقني: التقطير في السياسة (On-Policy) الموفر للبيانات لنموذج التعرف التلقائي على الكلام

بيان المشكلة

يتطلب بناء نماذج التعرف التلقائي على الكلام (ASR) التنافسية عادةً إشرافاً صوتياً هائلاً (على سبيل المثال، ملايين الساعات)، مما يجعل إعادة إنتاج هذه النماذج وتخصيصها أمراً مكلفاً وغير متاح للميزانيات الصغيرة. وبينما تُظهر الأنظمة الحديثة واسعة النطاق مثل Whisper وQwen3-Omni أداءً قوياً من خلال بيانات تدريب مكثفة (من 680 ألف إلى 20 مليون ساعة)، فإن تدريب نماذج ASR عالية الجودة بميزانيات صوتية منسقة محدودة (مثل 100 ألف ساعة) يظل أمراً صعباً. علاوة على ذلك، فإن طرق تقطير المعرفة (KD) القياسية في مجال ASR غالباً ما تكون "خارج السياسة" (off-policy)، حيث يتم تدريب الطلاب على نصوص المعلم الثابتة بدلاً من الأخطاء والبادئات (prefixes) المحددة التي يواجهها الطالب أثناء التوليد، مما قد يؤدي إلى عدم تطابق بين سلوك الطالب والتغذية الراجعة من المعلم.

المنهجية

تقدم الورقة البحثية Ark-ASR، وهو نموذج لغوي يعتمد على الصوت بـ 0.6 مليار معلمة تم تدريبه باستخدام 100 ألف ساعة من الكلام فقط، وتقترح إطار عمل التقطير الموجه من المعلم في السياسة (Teacher-Guided On-Policy Distillation - OPD) لتعزيز أدائه.

البنية الهيكلية

تم تنفيذ Ark-ASR كنموذج لغوي سببي يعتمد على الصوت مبني على Qwen2.

فرع الصوت (Audio Branch): يتبع تصميم مشفر GLM-ASR، حيث يستخدم مشفراً بأسلوب Whisper لتحويل الميزات الصوتية إلى حالات مخفية صوتية. يتم تطبيع هذه الحالات، ودمجها زمنياً، وإسقاطها عبر محول MLP إلى البعد المخفي لنموذج اللغة Qwen2.
التوليد (Generation): تحل تضمينات الصوت المُكيَّفة محل رموز الصوت النائبة في المطالبة (prompt)، مما يسمح للمفكك السببي بتوليد رموز النصوص بشكل تلقائي (autoregressively).

مسار التدريب

تتضمن وصفة التدريب المقترحة ثلاث مراحل:

Ark-Base (SFT): نقطة فحص ضبط دقيق تحت إشراف (SFT) تم تدريبها على 100 ألف ساعة من البيانات الصوتية.
تكييف بيانات المعلم (Teacher-Data Adaptation - TD): مرحلة وسيطة يتم فيها تكييف Ark-Base باستخدام 2,000 ساعة من بيانات ASR المولدة من المعلم. تهدف هذه المرحلة إلى تحسين التوافق الأولي بين الطالب والمعلم.
التقطير في السياسة (On-Policy Distillation - OPD): المساهمة الجوهرية. على عكس الطرق خارج السياسة، يقوم OPD بتدريب الطالب على مساراته الخاصة التي يولدها.
- العملية: يقوم الطالب بتوليد نص دون تدرجات (gradients). ثم يقوم معلم Qwen-ASR المجمد بتقييم هذا الصوت المحدد وبادئة النص التي ولدها الطالب في وضع فرض المعلم (teacher-forcing mode).
- الهدف: يتم إعادة تقييم الطالب باستخدام التدرجات لمواءمة الـ (logits) الخاصة به مع تغذية المعلم الراجعة عند الحالات التي زارها الطالب بالفعل.
- هدف اتحاد أعلى- $k$ (Union Top- $k$ KL Objective): للتعامل مع اختلافات الترميز (tokenizer) وضمان التغذية الراجعة الكثيفة، يتم حساب الخسارة عبر مجموعة دعم اتحادية (union support set). تتشكل هذه المجموعة من اتحاد أعلى- $k$ من الرموز (tokens) الخاصة بالمعلم وأعلى- $k$ من المرشحين الناتجين عن الطالب عند كل موضع. يعمل الهدف على تقليل تباعد كولباك - ليبلر (KL divergence) الموزون بدرجة الحرارة بين توزيعات المعلم والطالب عبر هذا الدعم الاتحادي.

المساهمات الرئيسية

التقطير في السياسة (OPD) الموفر للبيانات لـ ASR: توضح الورقة أن التقطير في السياسة، الذي تمت دراسته سابقاً في النمذجة اللغوية، يمكن تكييفه بفعالية لـ ASR. كما تعالج تحديات حساسية الترميز والمعقولية الصوتية الخاصة بالكلام.
الأداء مع بيانات محدودة: يحقق الأسلوب المقترح نتائج هي الأفضل في فئتها (state-of-the-art) لنموذج بـ 0.6 مليار معلمة باستخدام 100 ألف ساعة فقط من التدريب الصوتي، وهو مقياس يمثل حوالي 1/200 من الـ 20 مليون ساعة المسجلة لـ AuT encoder في Qwen3-Omni.
الرؤية التشخيصية (VUSS): يقدم المؤلفون حجم دعم الاتحاد الصالح (Valid Union Support Size - VUSS) كمقياس تشخيصي. ويظهرون أن مرحلة TD تقلل من VUSS، مما يشير إلى زيادة التداخل والتوافق المحلي بين دعم الرموز للطالب والمعلم، وهو ما يرتبط بتحسين الأداء النهائي.

النتائج التجريبية

تقيم الدراسة متغيرات Ark-ASR مقابل خطوط الأساس Qwen3-ASR (0.6B و 1.7B) عبر خمسة اختبارات مرجعية: AISHELL-1، وWenetSpeech (Meeting و Net)، وLibriSpeech (Clean و Other).

مقارنة خط الأساس: أداء Ark-Base (SFT فقط) يقل عن خط الأساس Qwen3-ASR-0.6B.
تأثير OPD: تطبيق OPD على Ark-Base (Ark-Base+OPD) يحسن الأداء عبر جميع مجموعات البيانات الخمس.
المسار الكامل (Ark-Base+TD+OPD): هذا المتغير يحقق أقوى النتائج. فهو يتفوق على Qwen3-ASR-0.6B من نفس الحجم في أربعة من أصل خمس مجموعات تقييم:
- AISHELL-1: نسبة خطأ في الحروف (CER) تبلغ 1.95% (مقابل 2.07% لـ Qwen3-ASR-0.6B).
- WenetSpeech Net: نسبة خطأ في الحروف (CER) تبلغ 5.39% (مقابل 5.45%).
- LibriSpeech Clean: نسبة خطأ في الكلمات (WER) تبلغ 2.45% (مقابل 2.81%).
- LibriSpeech Other: نسبة خطأ في الكلمات (WER) تبلغ 4.56% (مقابل 5.05%).
- ملاحظة: لم يتفوق على Qwen3-ASR-1.7B، الذي يظل النموذج الأقوى إجمالاً.
التحقق التشخيصي: انخفض مقياس VUSS من متوسط 53.06 (قبل TD) إلى 51.61 (بعد TD)، مما يدعم الفرضية القائلة بأن تكييف TD يزيد من التوافق المحلي بين دعم رموز الطالب والمعلم، مما يجعل إشراف OPD اللاحق أكثر فعالية.

الأهمية والادعاءات

تدعي الورقة أن التدريب الموجه من المعلم في السياسة هو مسار قابل للتطبيق وفعال من حيث البيانات لتحسين نماذج ASR المدمجة عند اقترانه بمعلم قوي وتدشين (initialization) متوافق للضبط الدقيق تحت الإشراف (SFT).

يؤكد المؤلفون أنه بينما لا تغلق الطريقة الفجوة مع النماذج الأكبر (1.7B) أو مقاييس البيانات الضخمة المستخدمة في الأنظمة الرائدة (20 مليون ساعة)، إلا أنها تثبت إمكانية تحقيق مكاسب أداء كبيرة باستخدام جزء ضئيل من ميزانية البيانات. وتشير النتائج إلى أن نجاح OPD في ASR يعتمد بشكل كبير على التوافق المحلي بين الطالب والمعلم؛ إذ يجب أن يكون الطالب مهيأً بشكل كافٍ (عبر SFT و TD) بحيث تظل التغذية الراجعة الكثيفة للمعلم مميزة ومفيدة للحالات المحددة التي يزورها الطالب أثناء التوليد.

تخلص الورقة إلى أن SFT بالإضافة إلى OPD يمثل مساراً عملياً لتعزيز نماذج ASR المدمجة دون الحاجة إلى مقاييس البيانات الباهظة التي تتطلبها الأنظمة الحالية المتطورة.