ملخص تقني: المسار هو الأهم (TRACELOCK)

صياغة المشكلة

تقدم نماذج اللغات الضخمة الانتشارية (D-LLMs) بديلاً واعداً للنماذج ذات التوليد الذاتي الانحداري (autoregressive) من خلال تمكين صقل الرموز (tokens) بشكل متوازٍ. ومع ذلك، فإن هذا التوازي يفرض مشكلة تحكم حرجة: الالتزام بالرمز (token commitment). ففي كل خطوة إزالة ضجيج (denoising)، يقترح نموذج D-LLM مجمد قيم الرموز لعدة مواضع، ولكن يجب على فك التشفير (decoder) أن يقرر أي المقترحات يجب أن يتم "قفلها" (نقلها إلى التسلسل الذي تم فك تشفيره جزئياً) وأيها يجب أن تظل "قابلة للمراجعة" (مغطاة لغرض الصقل المستقبلي).

تعتمد الحلول الحالية للنماذج المولدة المجمدة على عتبات ثقة مصممة يدوياً، أو جداول زمنية خاصة بالكتل (blocks)، أو مرشحات قبول ثابتة. وتواجه هذه الأساليب مقايضة جوهرية: فالالتزام المبكر جداً يخاطر بتثبيت الأخطاء (ما يضحي بالجودة)، بينما الالتزام المتأخر جداً يحد من سرعة التسريع (ما يضحي بالكفاءة). علاوة على ذلك، فإن الأساليب المتعلمة الحالية (مثل Learn2PD) غالباً ما تربط قواعد القبول بواجهات كتل ثابتة، مما يجعلها هشة عندما تتغير معلمات النشر (مثل طول التوليد أو حجم النافذة المحلية). التحدّد الجوهري هو تعلم سياسة قابلة لإعادة الاستخدام، واعية بالسياق، تحدد المسار الأمثل عبر فضاء فك التشفير دون تعديل المولد الأساسي.

المنهجية: TRACELOCK

يقترح المؤلفون TRACELOCK، وهو متحكم خفيف الوزن يعمل كإضافة (plug-in) يتعلم سياسة الالتزام بالرمز من آثار الانتشار المكتملة. تعمل هذه الطريقة تحت إعداد المولد المجمد (frozen-generator)، حيث يظل نموذج D-LLM الأساسي دون تغيير، ويعمل TRACELOCK كمُتخذ قرار أثناء الاستنتاج.

1. تسميات الاستقرار المستقبلي ذاتية الإشراف

بما أن وقت الالتزام الأمثل للرمز لا يمكن ملاحظته مباشرة أثناء التوليد، يستمد TRACELOCK الإشراف من الآثار المكتملة:

• جمع البيانات: يقوم العمود الفقري المجمد بتوليد آثار كاملة.
• التسمية (Labeling): لأي خطوة وسيطة $t$ وموضع $i$، يُصنف الرمز المقترح $\hat{x}_{t,i}$ على أنه مستقر (إيجابي) إذا تطابق مع الرمز النهائي $x^*_i$ في التسلسل المكتمل. بخلاف ذلك، يُعتبر غير مستقر.
• طبيعة الإشارة: هذه إشارة كثيفة وذاتية الإشراف مشتقة من عملية التوليد الخاصة بالنموذج نفسه، ولا تتطلب تسميات مهام خارجية أو تعليقات بشرية. وهي تجيب على السؤال: "هل هذا الرمز آمن للقفل الآن بالنظر إلى المسار الجزئي الحالي؟"

2. تمثيل الميزات والبنية

يقوم TRACELOCK بتقييم حالات الآثار متغيرة الطول باستخدام مشفر Transformer خفيف الوزن. وتشمل الميزات المدخلة لكل موضع ما يلي:

• لقطات الحالة الخفية (Hidden State Snapments): تمثيلات (embeddings) لآخر ثلاث حالات خفية من نموذج D-LLM المجمد.
• الديناميكيات: الفروقات (deltas) بين هذه الحالات الخفية لالتقاط التطور قصير المدى.
• السياق: ترميزات الموضع (positional encodings) والسياق الحالي (المطالبة/prompt، الرموز المقفلة، ومواضع التوليد النشطة).

3. العتبة الديناميكية

بدلاً من استخدام عتبة عالمية ثابتة، يتعلم TRACELOCK عتبة ديناميكية مشروطة بالتسلسل ($\tau_t$).

• يتم إلحاق رمز عتبة متعلم ببادئة تسلسل الميزات.
• يخرج النموذج هامشاً $m_{t,i} = a_{t,i} - \tau_t$، حيث $a_{t,i}$ هو لوجيت الاستقرار للرمز $i$.
• يسمح هذا بمستوى "الحذر" بالتكيف بناءً على صعوبة العينة الحالية وحالة مسار فك التشفير الحالية.

4. التدريب والنشر

• التدريب: يتم تدريب المتحكم للتنبؤ بتسميات الاستقرار المستقبلي باستخدام فقدان (loss) التباين التقاطعي الثنائي الموزون. ولضمان التعميم، يحاكي التدريب أحجام نوافذ متغيرة عبر تقليم البادئة العشوائي.
• النشر: عند الاستنتاج، يعمل TRACM LOCK ضمن نافذة قص ناعم محلية (local soft-crop window). يقوم بتقييم الرموز النشطة داخل هذه النافذة والالتزام بتلك التي تتجاوز عتبة تشغيل عالمية عالية (مثلاً 0.95). وإذا لم يتجاوز أي رمز هذه العتبة، يتم الالتزام بأعلى رمز في التقييم كحل احتياطي لمنع التوقف. يسمح هذا التصميم بنشر نفس النسخة عبر عرض نوافذ مختلفة وأطوال توليد مختلفة دون الحاجة لإعادة التدريب.

المساهمات الرئيسية

1. صياغة المشكلة: يعيد البحث صياغة فك التشفير الفعال لنماذج D-LLM كـ مشكلة التزام بالرمز، مفرقاً بين اقتراح الرموز (الذي يتولاه المولد المجمد) وبين قرار متى يتم الالتزام بها (الذي يتولاه المتحكم).
2. الخوارزمية (TRACELOCK): يقدم المؤلفون طريقة لتعلم سياسة التزام قابلة لإعادة الاستخدام باستخدام تسميات الاستقرار المستقبلي ذاتية الإشراف. وخلافاً لمرشحات الكتل المحددة، يتعلم TRACELOCK سياسة حالة أثر متغيرة الطول يمكنها التعميم عبر أنظمة فك التشفير المختلفة.
3. الأدلة التجريبية: تُظهر التجار nghiệm على الاستدلال الرياضي (GSM8K)، والإجابة على الأسئلة (Natural Questions/Alpaca)، وتوليد الكود (HumanEval)، أن TRACELOCK يحسن المقايضة بين الجودة والخطوات مقارنة بالنماذج المرجعية القائمة على الحدس (عتبات الثقة، Fast-dLLM) والنماذج المرجعية المتعلمة (Learn2PD).
4. التعميم: يوضح البحث أن السياسة المتعلمة تظل مستقرة عند تغيير عرض النافذة المحلية أو طول التوليد، على عكس مرشحات الكتل المحددة التي يتدهور أداؤها بشكل كبير تحت هذه التغييرات.

النتائج

• المقايضة بين الجودة والخطوات: يحقق TRACELOCK باستمرار أداءً أفضل أو مكافئاً للمهام (الدقة، Pass@1، متوسط الرتبة) بعدد خطوات أقل أو مكافئ مقارنة بالنماذج المرجعية. في نموذج Dream، فإنه غالباً ما يحسن كلاً من الدرجة والسرعة؛ وفي LLaDA، فإنه يعطي الأولوية للجودة النهائية.
• الاستقرار عبر الإعدادات المختلفة: عند اختباره على أطوال توليد أو أحجام نوافذ أكبر من تلك المستخدمة في التدريب، يحافظ TRACELOCK على أدائه، بينما يظهر Learn2PD (وهو مرشح محدد للكتل) تدهوراً كبيراً (على سبيل المثال، انخفاض يصل إلى 19.4 نقطة مئوية في الدقة).
• ما وراء الثقة: تكشف التحليلات التشخيصية أن قرارات TRACELOCK لا يمكن اختزالها في ثقة الرمز القياسية. فالسياسة تتعلم فضاءً متميزاً لمسارات الالتزام يأخذ في الاعتبار ديناميكيات الحالة الخفية والسياق، بدلاً من مجرد تطبيق عتبة مختلفة على درجات الثقة.

الأهمية والادعاءات

يزعم البحث أن أداء نماذج اللغة الانتشارية لا يتحدد فقط بالمولد المجمد، بل أيضاً بالمسار المختار عبر مساحة الصقل التكراري الخاصة به.

يجادل المؤلفون بأن الالتزام بالرمز يمكن تعلمه كـ سياسة حالة أثر قابلة لإعادة الاستخدام وليس كقاعدة مصممة يدوياً أو مرشح محدد للكتل. ومن خلال معاملة فك التشفير كمسألة اختيار مسار واستخدام الاستقرار المستقبلي كإشارة إشراف كثيفة، يوفر TRACELOCK آلية مرنة لتسريع نماذج D-LLM المجمدة. يشير العمل إلى أن "المسار" (تسلسل قرارات الالتزام) هو مكون قابل للتعلم وحاسم لفك التشفيد الانتشار الفعال، مما يوفر طريقة للتكيف مع قيود النشر المتغيرة دون إعادة تدريب العمود الفقري.

القيود المعترف بها: يشير البحث إلى أن الإشراف نسبي بالنسبة للآثار المكتملة الخاصة بالنموذذ نفسه، مما يعني أن السياسة قد ترث انحيازات من توزيع الآثار ولا تضمن الصحة المطلقة للمهمة. بالإضافة إلى ذلك، يعتمد التقييم الحالي على مقاييس QA القائمة على الحكم والمهام التي يمكن فحصها تلقائياً، مع الإقرار بأن المتحكم مُحسَّن للاتفاق مع المسارات عالية الجودة بدلاً من الحقيقة الأرضية الخارجية.