💬 NLP

SelfJudge: Faster Speculative Decoding via Self-Supervised Judge Verification

تقترح الورقة البحثية SelfJudge، وهي طريقة تعلم ذاتي خارجي، تقوم بتدريب مُحقِّقين (judge verifiers) باستخدام النموذج المستهدف نفسه للتحقق من مرشحات فك التشفير التخميني بناءً على الحفاظ الدلالي، مما يتيح استنتاجاً أسرع وأكثر تعميماً لنماذج اللغات الكبيرة (LLMs) دون الاعتماد على التعليقات البشرية أو الحقائق الأرضية.

المؤلفون الأصليون: Kanghoon Yoon, Minsub Kim, Sungjae Lee, Joonhyung Lee, Sunghyeon Woo, Yeonjun In, Se Jung Kwon, Chanyoung Park, Dongsoo Lee

نُشر 2026-05-28

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Kanghoon Yoon, Minsub Kim, Sungjae Lee, Joonhyung Lee, Sunghyeon Woo, Yeonjun In, Se Jung Kwon, Chanyoung Park, Dongsoo Lee

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول كتابة قصة طويلة ومعقدة، لكنك في عجلة من أمرك. لديك كاتب ماهر (ذكاء اصطناعي ضخم وقوي) يكتب قصصاً مثالية ولكنه بطيء جداً لأنه يفكر بعمق في كل كلمة قبل كتابتها. ولديك أيضاً مساعد سريع (ذكاء اصطناعي أصغر وأسرع) يمكنه تخمين الكلمات القليلة التالية بسرعة كبيرة، ولكنه قد يرتكب أحياناً أخطاء بسيطة أو يستخدم صياغات مختلفة قليلاً.

الطريقة القديمة: المحرر الصارم
في الماضي، ولتسريع الأمور، كنت تترك المساعد السريع يكتب فقرة كاملة مسبقاً. ثم يقوم الكاتب الماهر بمراجعتها. لكن الكاتب الماهر كان بمثابة محرر صارم. فإذا كتب المساعد "القط جلس على البساط" واعتقد الكاتب الماهر أن الجملة يجب أن تكون "القط كان جالساً على البساط"، فإن المحرر الصارم سيرفض الجملة بأكملها ويجعل المساعد يبدأ من جديد. كان هذا يهدر الكثير من الوقت لأن المعنى هو نفسه تماماً، رغم اختلاف الكلمات قليلاً.

فكرة "القاضي": محرر أكثر مرونة
حاول الباحثون مؤخراً إصلاح ذلك عبر توظيف "قاضٍ". هذا القاضي ينظر إلى كلمات المساعد ويقرر: "هل هذا قريب بما يكفي في المعنى من أسلوب الكاتب الماهر؟" إذا كانت الإجابة نعم، فإنه يقبلها. كان هذا رائعاً، ولكن كانت هناك عقبة؛ فلتدريب هذا القاضي، كنت بحاجة إلى إنسان يجلس يدوياً ليضع علامات على آلاف الجمل قائلاً: "نعم، هذه الكلمة مقبولة"، أو "لا، هذه الكلمة خاطئة". كان هذا بطيئاً ومكلفاً، ولم يعمل بشكل جيد إلا في المهام التي لها إجابات واضحة وصحيحة (مثل الرياضيات أو البرمجة). لم يكن يعمل جيداً في الكتابة الإبداعية أو الأسئلة العامة حيث لا توجد إجابة واحدة "صحيحة".

الحل الجديد: SelfJudge (القاضي ذاتي التعلم)
يقدم هذا البحث SelfJudge، وهي طريقة جديدة لتدريب القاضي دون الحاجة إلى أي بشر.

إليك كيف يعمل، باستخدام تشبيه بسيط:

الاختبار الذاتي: بدلاً من طلب المساعدة من إنسان، يعمل الكاتب الماهر (النموذج المستهدف) كمعلم لنفسه.
لعبة "ماذا لو": يأخذ النظام جملة كتبها الكاتب الماهر ويستبدل كلمة واحدة بكلمة أخرى اقترحها المساعد السريع.
- الأصل: "القط كان جالساً على البساط."
- المستبدلة: "القط جلس على البساط."
فحص الثقة: يسأل الكاتب الماهر نفسه بعد ذلك: "هل يغير هذا معنى قصتي؟ هل لا أزال واثقاً بشأن بقية الجملة؟"
- إذا قال الكاتب الماهر: "لا، المعنى هو نفسه، لا زلت واثقاً"، فإن النظام يضع علامة على استبدال الكلمة هذا كـ "مقبول".
- إذا قال: "مهلاً، هذا يغير المعنى"، فإنه يضع علامة "رفض".
تدريب القاضي: من خلال القيام بذلك آلاف المرات تلقائياً، ينشئ النظام مجموعة بيانات ضخمة من الكلمات "المقبولة" و"غير المقبولة". ثم يقوم بتدريب "قاضٍ" صغير وسريع جداً للتعرف على هذه الأنماط.

النتيجة
الآن، عندما يكتب المساعد السريع، يمكن لهذا القاضي الصغير أن يقول فوراً: "نعم، هذه الكلمة جيدة، حتى لو لم تكن هي الكلمة ذاتها التي كان سيختارها الكاتب الماهر، لأن المعنى قد تم الحفاظ عليه".

لماذا هذا مهم؟

إنه عالمي: على عكس الطرق السابقة التي كانت تعمل فقط في الرياضيات أو البرمجة (حيث يمكنك التحقق من الإجابة النهائية)، فإن SelfJudge يعمل في أي شيء—الكتابة الإبداعية، تلخيص الأخبار، أو الإجابة على الأسئلة العامة—لأنه يهتم بـ المعنى، وليس فقط بوجود إجابة "صحيحة".
إنه سريع: القاضي الصغير خفيف جداً بحيث لا يضيف أي وقت تقريباً إلى العملية.
إنه دقيق: يظهر البحث أن هذه الطريقة تسرع عملية الكتابة بشكل كبير (من خلال قبول المزيد من كلمات المساعد) دون جعل القصة النهائية أسوأ.

باختصاف، يعلم SelfJudge الذكاء الاصطناعي كيف يثق في حدسه حول ما إذا كانت الكلمات "تبدو" صحيحة، مما يسم_له بتخطي عملية الفحص البطيئة والصارمة والكتابة بشكل أسرع بكثير دون فقدان الجودة.

ملخص تقني: SelfJudge: فك التشفير الاستباقي الأسرع عبر التحقق من القاضي ذاتي الإشراف

1. بيان المشكلة

تواجه النماذج اللغوية الكبيرة (LLMs) تأخراً كبيراً في زمن الاستجابة (latency) أثناء عملية التوليد التكراري (autoregressive generation)، والتي تتطلب الوصول إلى جميع معاملات النموذج في كل تمريرة أمامية (forward pass). يعالج فك التشفير الاستباقي (Speculative Decoding - SD) هذه المشكلة باستخدام نموذج "مسودة" (draft model) أصغر لاقتراح الرموز (tokens) المرشحة، والتي يتم بعد ذلك التحقق منها بالتوازي بواسطة النموذج "الهدف" (target model) الأكبر.

ومع ذلك، يعتمد فك التشفير الاستباقي القياسي على التحقق القائم على المحاذاة (alignment-based verification) (مثل أخذ العينات بالرفض)، والذي يقبل رموز المسودة فقط إذا كان احتمال ظهورها تحت نموذج الهدف مساوياً أو يتجاوز احتمال ظهورها تحت نموذج المسودة. هذا النهج متحفظ للغاية؛ فهو يرفض الرموز التي تكون متماسكة دلالياً (semantically coherent) ولكنها تظهر اختلافات معجمية طفيفة (مثل "It's" مقابل "It is") عن توزيع مخرجات النموذج الهدف المحدد.

تحاول أساليب "فك تشفير القاضي" (Judge Decoding) الحديثة تخفيف هذه المعايير باستخدام مُحقِّق قابل للتعلم لقبول الرموز المتوافقة دلالياً. ومع ذلك، تواجه الأساليب الحالية قيوداً حرجة:

الاعتماد على التوسيم البشري: تتطلب أساليب مثل JudgeDecoding تسميات بشرية ذاتية لتقبل الرموز، مما يؤدي إلى تحيز ومشاكل في القابلية للتوسع.
الاعتماد على الحقيقة الأرضية (Ground Truth): تعتمد الأساليب المؤتمتة مثل AutoJudge على حقائق أرضية قابلة للتحقق من مهام محددة (مثل الإجابات النهائية في الرياضيات أو البرمجة). وكما هو موضح في الورقة، تفشل هذه الأساليب في التعميم على المهام مفتوحة النهايات (مثل MMLU أو التلخيص) حيث لا توجد إجابة واحدة صحيحة، مما يؤدي إلى تدهور كبير في الأداء في مجالات معالجة اللغات الطبيعية العامة.

2. المنهجية: SelfJudge

يقترح المؤلفون SelfJudge، وهو إطار عمل يتيح التحقق من القاضي عبر مهام معالجة اللغات الطبيعية المتنوعة دون إشراف بشري أو حقائق أرضية قابلة للتحقق. الابتكار الجوهري هو نموذج تدريب ذاتي الإشراف حيث يقوم النموذج الهدف نفسه بتوليد بيانات التدريب للمُحقِّق.

2.1. توسيم الرموز للحفاظ على الدلالة (Semantic Preservation Token Labeling)

بدلاً من التحقق من صحة الإجابة، يقيس SelfJudge الحفاظ على الدلالة. تتضمن العملية ثلاث خطوات:

تحديد الرموز غير المتطابقة: يقوم النموذج الهدف بتوليد استجابة $y$ . تتم مقارنة تنبؤات نموذج المسودة مقابل مخرجات النموذج الهدف. يتم تحديد الرموز التي يختلف فيها التنبؤ الأعلى لنموذج المسودة ( $z_i$ ) عن رمز النموذج الهدف ( $y_i$ ) كمرشحات للتحقق المرن.
حساب درجة الحفاظ على الدلالة: لكل رمز غير متطابق، يحسب النظام درجة $s(y, z_i)$ تمثل مدى جودة الحفاظ على معنى الاستجابة الأصلية. وتُعرف هذه الدرجة بأنها الفرق في الاحتمال اللوغاريتمي (log-likelihood difference) بين الاستجابة الأصلية والاستجابة المستبدلة بالرمز تحت توزيع النموذج الهدف:
$s(y, z_i) = \log P(z_i | y_{<i}, y_{>i}) - \log P(y_i | y_{<i}, y_{>i})$
من المهم أن هذه الدرجة تتضمن سياقاً ثنائي الاتجاه (البادئة $y_{<i}$ واللاحقة $y_{>i}$ ). ويجادل المؤلفون بأن مراعاة اللاحقة تقلل من عدم اليقين بشأن قبول الرمز مقارنة بالنهج الذي يعتمد على البادئة فقط.
التوسيم (Labeling): إذا تجاوزت درجة الحفاظ على الدلالة عتبة معينة $\tau$ ، يتم توسيم الرمز المستبدل على أنه "مقبول". يسمح هذا للنظام تلقائياً بتوليد بيانات تدريب عالية الجودة عبر أي مجال من مجالات المهام، بما في ذلك التوليد مفتوح النهايات.

2.2. تدريب المُحقِّق (Verifier Training)

تتكون مجموعة البيانات المولدة من أزواج من التمثيلات الخفية (hidden representations) من النموذج الهدف وتسميات القبول/الرفض المقابلة لها. يتم تدريب مصنف انحدار لوجستي (logistic regression) خفيف الوزن على هذه البيانات ليعمل كقاضٍ مُحقِّق. أثناء الاستدلال، يعمل هذا المُحقِّق بالتوازي مع التحقق القياسي القائم على المحاذاة؛ حيث يتم قبول الرمز إذا وافق إما فحص المحاذاة أو مُحقِّق القاضي.

3. المساهمات الرئيسية

إطار عمل ذاتي الإشراف: تقدم الورقة SelfJudge، وهو أول نهج للتحقق من القاضي يدرب المُحقِّقات باستخدام الفهم الدلالي للنموذج الهدف نفسه، مما يلغي الحاجة إلى التوسيمات البشرية أو الحقائق الأرضية الخاصة بالمهمة.
معيار الحفاظ على الدلالة: يقترح المؤلفون مقياساً مبتكراً لقبول الرموز بناءً على فرق الاحتمالية للاستجابات المستبدلة بالرموز، مما يتيح التوليد التلقائي للإشراف للمهام مفتوحة النهايات.
تحليل السياق ثنائي الاتجاه: تستخدم الطريقة معلومات اللاحقة (الرموز المستقبلية) لحساب درجات الحفاظ على الدلالة، مما يقلل نظرياً من عدم اليقين في اختيار الرموز مقارنة بالنماذج المرجعية التي تعتمد على البادئة فقط.
التعميم: تم تصميم النهج للتعميم عبر مهام معالجة اللغات الطبيعية المتنوعة، بما في ذلك الاستدلال الرياضي، توليد الكود، التلخيص، والمعرفة العامة.

4. النتائج التجريبية

قيم المؤلفون SelfJudge باستخدام عائلات نماذج Llama-3 و Qwen-2.5 عبر خمسة اختبارات مرجعية: GSM8K، MATH-500، MMLU، CNN/DailyMail، و LiveCodeBench.

المقايضة بين الدقة والكفاءة: تفوق SelfJudge باستمرار على النماذج المرجعية (Standard SD، Top-k، و AutoJudge).
- في GSM8K و MATH-500، حقق SelfJudge أطوال رموز مقبولة أعلى من Standard SD مع حد أدنى من فقدان الدقة (على سبيل المثال، +2.17 رمز مقبول مع انخفاض في الدقة بنسبة -1.6% في المتوسط).
- في MMLU و CNN/DailyMail، حيث فشل AutoJudge في تقديم تسريع (أو أدى إلى تدهور الأداء بشكل كبير)، حافظ SelfJudge على مكاسب أداء ثابتة.
تسريع وقت التنفيذ (Wall-Clock Speedup): عند تنفيذه في vLLM، أظهر SelfJudge تحسينات كبيرة في الإنتاجية في العالم الحقيقي. في MMLU مع Llama-3.1-8B، حقق SelfJudge تسريعاً بنسبة 46.3% مقارنة بـ Standard SD و تحسناً بنسبة 42.7% مقارنة بـ AutoJudge-R، مع الحفاظ على دقة مماثلة.
القابلية للتوسع: أظهرت التجارب على نموذج Llama-3.1-70B أن SelfJudge يتوسع بفعالية، مما يحسن طول الرموز المقبولة والسرعة دون التضحية بجودة التوليد.
كفاءة توليد البيانات: عملية توليد البيانات ذاتية الإشراف أسرع بكثير من عملية توليد البيانات القائمة على الحقيقة الأرضية لـ AutoJudge. بالنسبة لـ 53 ألف تسمية على نموذج 70B، استغرق SelfJudge 8.5 ساعة مقارنة بـ 120 ساعة مقدرة لـ AutoJudge.

5. الأهمية والادعاءات

تدعي الورقة أن SelfJudge يمثل تحولاً جذرياً في التحقق من فك التشفير الاستباقي. فمن خلال الابتعاد عن الاعتماد على التحيز البشري أو الحقائق الأرضية الجامدة، فإنه يقدم حلاً قابلاً للتطبيق على نطاق واسع لتسريع استدلال النماذج اللغوية الكبيرة عبر كامل طيف مهام معالجة اللغات الطبيعية.

يؤكد المؤلفون أن طريقتهم تحقق مقايضة متفوقة بين سرعة الاستدلال وأداء المهمة. على عكس أساليب فك تشفير القاضي السابقة التي تقتصر على المجالات ذات الإجابات القابلة للتحقق، يتيح SelfJudge فك تشفير استباقي فعال للمهام مفتوحة النهايات (مثل الكتابة الإبداعية والتلخيص) من خلال الاستفادة من الفهم الدلالي الجوهري للنموذج الهدف. وتخلص الورقة إلى أن هذا النهج يضع أساساً عملياً وقابلاً للتوسع لاستدلال فعال للنماذج اللغوية الكبيرة، مما يجعل النماذج المتقدمة أكثر سهولة من خلال تقليل التكاليف الحسابية.