ملخص تقني: التخمين في وقت الاختبار (TTS)

1. بيان المشكلة

تحدد الورقة البحثية قصوراً حرجاً في طرق التشفير التخميني (Speculative Decoding) الحالية المتطورة (مثل DFlash وEAGLE-3 وPARD) عند تطبيقها على مهام الاستجابة الطويلة. بينما يعمل التشفير التخميني على تسريع استنتاج النماذج اللغوية الكبيرة (LLM) باستخدام نموذج "مسودة" (draft) سريع لتوليد الرموز (tokens) ونموذج "هدف" (target) أبطأ للتحقق منها، فإن كفاءته تعتمد بشكل كبير على طول القبول (acceptance length)—وهو عدد رموز المسودة المتتالية التي يقبلها النموذج المستهدف في كل جولة.

يلاحظ المؤلفون أن أطوال القبول للمخمنين الحاليين تتدهور بشكل كبير مع زيادة طول التوليد. ففي غضون بضعة آلاف من الرموز المخرجة فقط، غالباً ما تنخفض أطوال القبول إلى قيم قريبة من 1 (على سبيل المثال، 1.1)، مما يلغي فعلياً أي فوائد في السرعة. يحدث هذا التدهور لأن المخمنين المتطورين يتم تدريبهم خارج الإنترنت (offline) على تسلسلات قصيرة (عادةً $\le$ 2K رمز)، مما يخلق عدم تطابق في التوزيع عندما يُجبرون على تقريب النموذج المستهدف في تسلسلات أطول بكثير (مثلاً 20K–32K رمز) أثناء الاستنتاج. ومع تقدم عملية التوليد، تتباعد توقعات نموذج المسودة عن توزيع النموذج المستهدف الذي يزداد ثقة، مما يؤدي إلى حالات رفض متكررة.

2. المنهجية: التخمين في وقت الاختبار (TTS)

لمعالجة عدم التطابق في التوزيع، يقترح المؤلفون التخمين في وقت الاختبار (TTS)، وهو نهج تقطير عبر الإنترنت (online distillation) يعمل على تكييف نموذج المسودة في الوقت الفعلي أثناء عملية الاستنتاج.

الرؤية الجوهرية

الرؤية الأساسية هي أن خطوة التحقق القياسية في التشفير التخميني تولد بالفعل إشارة الإشراف اللازمة للتكيف دون تكلفة إضافية. في كل جولة، يحسب النموذج المستهدف توزيعه الاحتمالي الكامل عبر رموز المسودة. يستفيد TTS من ذلك عبر اعتبار:

• النموذج المستهدف (Target Model): بمثابة "المعلم" (Teacher).
• نموذج المسودة (Draft Model): بمثابة "الطالب" (Student).
• رموز المسودة المتحقق منها (Verified Draft Tokens): بمثابة عينة تدريب التقطير.

الخوارزمية

يقوم TTS بالتناوب بين التوليد وتحديث النموذج. وتكون العملية لكل جولة تخمين كما يلي:

1. التخمين (Drafting): يقوم نموذج المسودة الحالي ($q_t$) بتوليد لوحة (canvas) مكونة من $C$ من الرموز.
2. التحقق (Verification): يقوم النموذج المستهدف ($p$) بتقييم اللوحة في تمريرة أمامية واحدة (forward pass)، وتحديد طول القبول ($\tau$) عبر أخذ العينات بالرفض (rejection sampling) القياسي.
3. خسارة التقطير (Distillation Loss): قبل الجولة التالية، يتم تحديث نموذج المسودة باستخدام خطوة تدرج واحدة على دالة خسارة التقطير:
   $$L_t(q) = \tilde{KL}(p \parallel q) + \lambda \tilde{KL}(q_t \parallel q)$$
   • الحد الأول يقرب تباعد كولباك-ليبلر (KL divergence) بين توزيع الهدف وتوزيع المسودة الجديد عبر اللوحة.
   • الحد الثاني هو مكون تنظيم (regularization) يمنع المسودة من الابتعاد كثيراً عن حالتها السابقة ($q_t$).
   • تُطبق أوزان تعتمد على الموقع ($w_k$)، مما يعطي الأولوية للرموز المبكرة في اللوحة.
4. التحديث (Update): يتم تحديث معاملات نموذج المسودة ($q_{t+\tau} \leftarrow q_t - \eta \nabla L_t$).

تحسينات النظام

لإدارة المقايضة بين تحسين طول القبول وبين عبء زمن انتقال (latency) تحديثات التدرج، يستخدم TTS ما يلي:

• التحديثات المخططة (Strided Updates): يتم إجراء تحديثات التدرج كل $S$ من الجولات بدلاً من كل جولة، مما يقلل التكلفة الحسابية.
• خطوط المعالجة المتوازية غير المتزامنة (Asynchronous Pipelining): يتم نقل التحديثات إلى مسار CUDA مخصص يعمل بالتوازي مع جولات التوليد اللاحقة لـ $S-1$، مما يخفي زمن الانتقال عن المسار الحرج.

3. المساهمات الرئيسية

1. تشخيص التدهور: يوضح المؤلفون أن فعالية المخمنين الحاليين تتدهور مع طول التوليد بسبب عدم التطابق بين توزيع تدريب المسودة قصير التسلسل وتوزيع الاستنتاج طويل التسلسل.
2. إطار عمل TTS: يقترحون التخمين في وقت الاختبار، وهو طريقة تقطير عبر الإنترنت تستخدم خطوة التحقق كإشارة إشراف لتكييف نموذج المسودة في وقت الاستنتاج، دون الحاجة لإعادة تدريب خارج الإنترنت.
3. تقييم شامل: تم تقييم الطريقة عبر خمسة نماذج متطورة (عائلات Qwen-3، Qwen-3.5، Llama3.1) وثمانية معايض متنوعة (بما في ذلك AIME وLiveCodeBench وGPQA)، مما أظهر تحسينات متسقة.
4. التكامل مع الأنظمة: قام المؤلفون بدمج TTS ضمن إطار عمل الاستنتاج SGLang، معالجةً التحديات على مستوى النظام مثل تمايز النواة (kernel differentiation) ومزامنة رسوم CUDA (CUDA graph synchronization).

4. النتائج التجريبية

• تحسين طول القبول: يحسن TTS متوسط أطوال القبول بنسبة تصل إلى 72% وبمتوسط 41% مقارنة بـ DFlash، وما يصل إلى 67% (بمتوسط 34%) مقارنة بـ EAGLE-3.
• التوسع مع الطول: تتوسع فوائد TTS مع طول التوليد. على سبيل المثال، في مجموعة بيانات AIME 2024، ينمو التحسن عن DFlash من 15% في أول 0-10K رمز إلى 183% في نطاق 20-30K رمز.
• الإنتاجية (Throughput): بينما تعظم التحديثات المتكررة (الخطوة $S=1$) طول القبول، فإن الخطوة $S=5$ تحقق أفضل سرعة إنتاجية (تصل إلى 1.71$\times$ فوق DFlash) من خلال موازنة وتيرة التكيف مع عبء التحديث.
• التعميم: يعد TTS فعالاً عبر أحجام نماذج مختلفة (من 4B إلى 122B) وبنيات مختلفة (Dense وMoE)، حيث يعوض بشكل خاص المخمنين المدربين على سياقات قصيرة (مثل EAGLE-3 بسياق 2K) عند تطبيقهم على أهداف ذات نوافذ سياق أكبر بكثير.

5. الأهمية والادعاءات

تدعي الورقة أن TTS يعالج بشكل أساسي القصور في التشفير التخميني في سيناريوهات الاستجابة الطويلة الواقعية. من خلال تكييف نموذج المسودة أثناء عملية التوليد، يغلق TTS الفجوة بين توزيعات التدريب والاستنتاج، مما يضمن بقاء التشفير التخميني فعالاً حتى للمخرجات التي تمتد لعشرات الآلاف من الرموز.

يؤكد المؤلفون أن TTS لا يتطلب أي افتراضات حول هيكل تدفق الطلبات (على عكس الطرق السابقة عبر الإنترنت التي تعتمد على مخازن مؤقتة محددة النطاق) ويعمل مباشرة فوق المخمنين الحاليين المتاحين للجمهور. وهذا يجعل TTS حلاً عملياً للحفاظ على إنتاجية استنتاج عالية في بيئات الإنتاج حيث يسود التوليد طويل الأمد (مثل البرمجة، الاستدلال، وصناعة المحتوى). ويُقدم هذا العمل ك evolução ضروري لإبقاء التشفير التخميني قابلاً للاستخدام مع تحول تطبيقات النماذج اللغوية الكبيرة نحو نوافذ سياق أطول.