🤖 machine learning

Learned Relay Representations for Forward-Thinking Discrete Diffusion Models

تقدم هذه الورقة تمثيلات الترحيل المتعلمة (Relay)، وهي طريقة تُمكّن نماذج الانتشار المقنعة من نقل المعلومات الكامنة عبر خطوات إزالة الضجيج من خلال قناة لكل رمز قابلة للتفاضل، مما يحسن الأداء في مهام التخطيط والبرمجة مع تقليل زمن الاستجابة عند الاستدلال بشكل كبير.

المؤلفون الأصليون: Benjamin Rozonoyer, Jacopo Minniti, Dhruvesh Patel, Neil Band, Avishek Joey Bose, Tim G. J. Rudner, Andrew McCallum

نُشر 2026-05-25

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Benjamin Rozonoyer, Jacopo Minniti, Dhruvesh Patel, Neil Band, Avishek Joey Bose, Tim G. J. Rudner, Andrew McCallum

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "Learned Relay Representations for Forward-Thinking Discrete Diffusion Models" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.

المشكلة: "إعادة الضبط القاسية" وفقدان الذاكرة

تخيل أنك تحاول حل لغز معقد، مثل لعبة "سودوكو" أو كتابة كود برمجي. أنت تستخدم مساعداً ذكياً جداً (نموذج ذكاء اصطناعي) لمساعدتك.

يعمل هذا المساعد حالياً مثل شخص يعاني من فقدان الذاكرة، حيث ينسى كل شيء بمجرد انتهائه من كتابة جملة واحدة.

ينظر المساعد إلى صفحة فارغة مليئة بعلامات الاستفهام.
يفكر بعمق، ويقوم ببعض العمليات الحسابية المعقدة، ثم يقرر ملء حرف واحد أو بضعة حروف.
إعادة الضبط القاسية: بمجرد كتابة هذه الحروف، فإنه يتخلص فوراً من كل الأفكار المعقدة، والحسابات، و"الشعور" الذي كان لديه تجاه بقية الصفحة.
في الخطوة التالية، يبدأ من الصفر تماماً، حيث ينظر فقط إلى الحروف التي كتبها للتو، متناسياً تماماً كل العمل الذهني الغني الذي قام به للتو.

هذه تسمى مشكلة "إعادة الضبط القاسية" (Hard Reset). تجادل الورقة البحثية بأن هذا الأمر غير فعال. الأمر يشبه طباخاً يتذوق الحساء، ثم يكتب "يحتاج إلى ملح"، ثم ينسى فوراً طعم المرق قبل إضافة الملح. عليه أن يتذوق الحساء بالكامل من جديد في كل مرة يضيف فيها مكوناً.

الحل: عصا التتابع (الريلي)

يقترح المؤلفون طريقة جديدة تسمى Relay (التتابع).

تخيل سباق تتابع. بدلاً من أن يتوقف العداء، وينسى السباق، ثم يبدأ من جديد، فإنه يسلم عصا التتابع للعداء التالي. تحمل هذه العصا زخم (قوة دفع) العداء السابق، واستراتيجيته، وإجهاده، حتى يتمكن العداء التالي من التقاط السباق من حيث توقف زميله تماماً.

في عالم الذكاء الاصطناعي، "عصا التتابع" هي تدفق مستمر من المعلومات (حالة خفية) يحملها النموذج للأمام.

قبل نظام Relay: يقوم النموذج بالحساب، ويكتب رمزاً (token)، ثم يحذف تلك الحسابات.
مع نظام Relay: يقوم النموذج بالحساب، ويكتب رمزاً، ويمرر "ملاحظة" لنفسه للخطوة التالية. تقول هذه الملاحظة: "مهلاً، كنت أفكر في هذا النمط المحدد، وأنا متأكد بنسبة 80% من هذا الجزء التالي".

كيف يعمل الأمر: تعلم تمرير العصا

تقدم الورقة البحثية بعض الحيل الرئيسية لجعل هذا الأمر ممكناً:

"التفكير المستقبلي" في التدريب:
عادةً، تُدرب نماذج الذكاء الاصطناعي لتصل فقط إلى الإجابة الحالية الصحيحة. لكن المؤلفين دربوا النموذج ليكون "مفكراً للمستقبل". لقد علموا النموذج: "لا تكتب الحرف الصحيح اليوم فحسب؛ بل اكتب ملاحظة (الريلي) التي ستساعدك على كتابة الحرف الصحيح غداً".
الانتشار العكسي المقطوع (BPTT):
هذا مصطلح رياضي معقد يعني "النظر للأمام للتعلم". تخيل أنك تتدرب على رقصة. بدلاً من التدرب على حركة واحدة فقط، أنت تتدرب على تسلسل من ثلاث حركات. إذا تعثرت في الحركة الثالثة، ستدرك: "أوه، لقد أخطأت في الحركة الأولى لأنني لم أستعد للحركة الثالثة".
تستخدم الورقة البحثية طريقة تسمى الانتشار العكسي المقطوع (truncated BPTT) للسماح للنموذج بالنظر لخطوات للأمام أثناء التدريب. يتعلم النموذج تمرير المعلومات للأمام خصيصاً لجعل الخطوات المستقبلية أسهل.
القناة "الناعمة":
المعلومات التي يتم تمريرها للأمام ليست مجرد كلمة أو حرف؛ بل هي رقم "ناعم" (قيمة مستمرة). فكر في الأمر كأنه مفتاح تعتيم (dimmer switch) بدلاً من مفتاح تشغيل/إيقاف ضوء. هذا يسمح للنموذج بحمل تلميحات واحتمالات دقيقة لم تتحول بعد إلى قرار نهائي.

النتائج: أسرع وأذكى

اختبر المؤلفون هذا النظام على شيئين:

ألغاز السودوكو: تعاملوا مع السودوكو كمهمة تخطيط. حل نموذج "Relay" الألغاز بعدد محاولات أقل (مرات مرور للأمام أقل) وارتكب أخطاء أقل مقارداً بالنموذج القياسي. كان أفضل في الحفاظ على "الصورة الكبيرة" في ذهنه أثناء ملء الشبكة.
البرمجة (كتابة البرمجيات): أخذوا نموذج ذكاء اصطناعي متخصص في البرمجة (Fast-dLLM v2) وأضافوا إليه نظام Relay.
- دقة أفضل: كتب كوداً برمجياً أفضل.
- سرعة أكبر: احتاج لتشغيل "محرك التفكير" الخاص به بنسبة 32% أقل للوصول إلى نفس النتيجة.

لماذا يهم هذا الأمر؟

تزعم الورقة البحثية أنه من خلال إيقاف "إعادة الضبط القاسية" والسماح للنموذج بحمل "أفكاره" للأمام مثل عصا التتابع، يمكننا جعل نماذج الذكاء الاصطناعي:

أذكى: يمكنها التفكير بشكل أفضل عبر التسلسلات الطويلة (مثل الكود المعقد أو المنطق البرمجي).
أسرع: لا يتعين عليها إعادة حساب كل شيء من الصفر في كل مرة، مما يوفر الوقت والطاقة.

باختصار، تعلم الورقة البحثية نماذج الذكاء الاصطناعي التوقف عن نسيان عملها، والبدء في البناء عليه، خطوة بخطوة، تماماً كما يفعل البشر عند حل مشكلة صعبة.

ملخص تقني: تمثيلات الترحيل المتعلمة لنماذج الانتشار المنفصلة الاستشرافية

1. بيان المشكلة: "إعادة الضبط القاسية" في نماذج الانتشار المقنع

تقوم نماذج الانتشار المقنع (MDMs) بتوليد تسلسلات منفصلة من خلال عملية إزالة تشويش تكرارية. تبدأ من تسلسل مقنع بالكامل، ثم يقوم النموذج بشكل متكرر بإزالة القناع عن جزء من المواضع. ومع ذلك، يوجد عدم كفاءة جوهري في استدلال نماذج MDM القياسية: فبعد كل تمريرة أمامية (forward pass)، يتخلص النموذج من الحسابات المستمرة الداخلية الغنية (الحالات الخفية) التي تم إنتاجها للمواضع المقنعة. وتبدأ الخطوة التالية فقط من الرموز المنفصلة التي تم الالتزام بها حديثاً.

يطلق المؤلفون على هذا المصطلح مشكلة إعادة الضبط القاسية (hard reset problem). وبينما تقوم نماذج MDM بعدة تمريرات أمامية لكل عملية توليد، فإن عدم القدرة على إعادة استخدام الحساب المستمر الوسيط يمنع النموذج من تحقيق الاستف الأمثل للاستدلال عبر الخطوات. وهذا يتناقش مع الحوسبة المتكررة (recurrent computation)، حيث ثبت أن نشر نموذج ذو معاملات ثابتة عبر الخطوات يوسع فئة الدوال التي يمكن للنموذج تقريبها، مما يساعد الأداء في مهام الاستدلال المعقدة. السؤال المركزي الذي يتم معالجته هو كيفية تمكين نماذج MDM من دعم الحوسبة المتكررة التي تحمل معلومات أغنى عبر خطوات إزالة القناع التسلسلية دون التخلص من الحالات الكامنة الوسيطة.

2. المنهجية: تمثيلات الترحيل المتعلمة (Relay)

يقدم الحل المقترح، Relay، حالة كامنة مستمرة وقابلة للاشتقاق يتم تمريرها للأمام عبر خطوات فك التشفير، مما يسمح للنموذج بأن يكون "استشرافياً".

الآلية الجوهرية

مسار الحالة المعززة: في كل خطوة استدلال $k$ ، يحافظ النموذج على حالة معززة $s_k = (x_{t_k}, h_k)$ ، حيث $x_{t_k}$ هو التسلسل المقنع جزئياً الحالي و $h_k$ هي حالة ترحيل كامنة متعلمة (متجه كامن مستمر).
البنية: تتكون البنية من عمود فقري $f_\theta$ $f_{θ}$ ، وتضمينات الرموز $Emb_\theta$ $E m b_{θ}$ ، ورأس فك التضمين $UnEmb_\theta$ $U n E m b_{θ}$ ، ووحدة ترحيل محددة $R_\theta$ $R_{θ}$ .
- يتم حساب الحالة الخفية التالية كالتالي: $h_{k+1} = f_\theta(Emb_\theta(x_{t_k}) + R_\theta(h_k))$ .
- يتم إسقاط حالة الترحيل $h_k$ وإضافتها إلى الرموز المضمنة قبل دخولها إلى العمود الفقري.
- يتم اشتقاق اللوغاريتمات (logits) المخرجة $\ell_k$ من $h_{k+1}$ عبر $UnEmb_\theta$ .
التدريب عبر BPTT المقطوع: على عكس نماذج MDM القياسية التي تُدرب باستخدام خطوات مستقلة، يتم تدريب Relay باستخدام الانتشار العكسي عبر الزمن المقطوع (Truncated Backpropagation Through Time - BPTT).
- يقوم النموذج بعملية "تدحرج" (rollout) لـ $K$ من الخطوات (على سبيل المثال، $K=2$ ) بدءاً من تسلسل مقنع بالكامل.
- خلال عملية التدحرج، يتم إزالة القناع عن المواضع بناءً على سياسة معينة (مثل عتبات الثقة)، ويتم فرض القيم الحقيقية (teacher-forcing) على الرموز الملتزم بها لمنع تراكم الأخطاء أثناء التدحرج.
- الخسارة هي مجموع خسائر الإنتروبيا المتقاطعة (cross-entropy) عبر الخطوات $K$ .
- يتم نشر التدرجات عبر مسار الترحيل ( $h_k \to h_{k+1}$ )، مما يسمح للنموذج ليس فقط بالتنبؤ بالخطوة الحالية، بل أيضاً بترميز معلومات في $h_k$ تكون مفيدة قصوى للخطوات المستقبلية.

الاستدلال

في وقت الاستدلال، تظل العملية دون تغيير إلى حد كبير من حيث جدول إزالة القناع أو سياسة أخذ العينات. الإضافة الوحيدة هي أن النموذج يحمل حالة الترحيل $h_k$ للأمام جنباً إلى جنب مع الرموز الملتزم بها. تعمل حالة الترحيل كقناة ذاكرة قابلة للاشتقاق للمعلومات التي لم يتم الالتزام بها بعد كرموز منفصلة.

3. المساهمات الرئيسية

إطار عمل Relay: طريقة عامة لدمج الحوسبة المتكررة في نماذج MDM من خلال تدريب النموذج على تمرير حالة كامنة ترحيلية متعلمة للأمام عبر خطوات فك التشفير عبر BPTT المقطوع. وهي بنية مستقلة ومتوافقة مع تقنيات تسريع MDM الحالية مثل الانتشار الكتلي (block diffusion) وتخزين الذاكرة المؤقتة (KV caching).
القابلية للتوسع والتكيف: التحقق من صحة Relay على نطاق النماذج اللغوية الكبيرة (LLM) من خلال التكيف الكامل للمعاملات لنموذج Fast-dLLM v2 (1.5B). نجحت الطريقة في تكييف نموذج لغوي منفصل (DLM) متطور بأقل قدر من عمليات حساب الفلوپس (FLOPs) الإضافية للتدريب.
تحسينات الأداء والكمون: الإثبات التجريبي بأن Relay يعزز جبهة باريتو (Pareto frontier) للأداء والكمون، حيث يتفوق على الضبط الدقيق الخاضع للإشراف (SFT) القياسي في مهام البرمجة مع تقليل زمن الاستدلال بشكل كبير.
تحليل مساحة التصميم: دراسات استقصائية شاملة على مهمة تخطيط "سودوكو" صعبة تعزل مساهمات إجراء التدحرج، وقناة الترحيل، وهدف تدريب BPTT.

4. النتائج التجريبية

مهمة تخطيط السودوكو

باستخدام مجموعة بيانات Sudoku-Extreme، قارن المؤلفون بين أربعة أهداف للتدريب:

MLM: انتشار قناع موحد قياسي (خطوة واحدة، بدون ترحيل).
Rollout: تدحرج متعدد الخطوات مع فرض المعلم ولكن بدون قناة ترحيل ( $R_\theta \equiv 0$ ).
Relay (sg): يتضمن مسار الترحيل ولكن يستخدم توقف التدرج (stop-gradients) (بدون BPTT عبر الترحيل).
Relay: الطريقة الكاملة مع $K=2$ من BPTT عبر الترحيل.

النتائج:

جبهة الدقة مقابل NFE: حقق Relay أفضل توازن بين الدقة وعدد التقييمات الأمامية (NFE).
تأثير المكونات: الانتقال من MLM إلى Rollout حسن الأداء. إضافة قناة الترحيل (Relay sg) وفرت قفزة كبيرة. أخيراً، تمكين BPTT (Relay) أعطى أفضل النتائج، مما أظهر أن النموذج يتعلم الحفاظ على اتساق اللوحة الجزئية تحت إزالة قناع أكثر عدوانية.
الكفاءة: عند عتبة ثقة ثابتة، التزم Relay بمزيد من الخلايا في كل تمريرة أمامية مع الحفاظ على القانونية (لا توجد انتهاكات للصفوف/الأعمدة/المربعات)، مما سمح بالوصم إلى نفس الدقة في عدد أقل من التمريرات الأمامية مقارنة بالنماذج المرجعية.

تكييف النموذج المدرب مسبقاً (Fast-dLLM v2)

قام المؤلفون بتكييف Fast-dLLM v2 (1.5B) باستخدام Relay على خليط من مجموعات بيانات الكود والرياضيات.

أداء البرمجة: في اختبارات HumanEval و MBPP، تفوق Relay على SFT القياسي.
- HumanEval: حقق Relay دقة 42.1% (مقابل 38.4% لـ SFT) مع 88.3 NFE (مقابل 130.7 لـ SFT).
- MBPP: حقق Relay دقة 46.6% (مقابل 43.9% لـ SFT) مع 78.8 NFE (مقابل 84.8 لـ SFT).
الكمون: قلل Relay زمن استدلال البرمجة بما يصل إلى 32% مقارنة بـ SFT القياسي مع تحسين الدقة.
العبء على الذاكرة: أظهر تحليل الذاكرة على وحدة GPU A100 أنه بينما يزيد Relay من ذاكرة التنشيط الحية أثناء التمريرة الأمامية الثانية، فإن ذروة استخدام الذاكرة تظل متطابقة تقريباً مع SFT التقليدي (حوالي 20.1 GiB مقابل 21.2 GiB) لأن الاختناق يكمن في التمريرة الخلفية لإسقاط المفردات، وليس في تخزين حالة الترحيل.

5. الأهمية والادعاءات

يزعم البحث أن Relay يغير بشكل جذري طبيعة التوليد التكراري غير ذاتي الانحدار (non-autoregressive generation) من خلال السماح لنماذج MDM بتراكم الحساب المستمر الوسيط.

الاستشراف (Forward-Thinking): تمكن هذه الطة النموذج من تحسين التمثيلات الوسيطة صراحةً من أجل قرارات إزالة القناع المستقبلية، بدلاً من معاملة كل خطوة كمسألة تنبؤ جديدة.
تعزيز جبهة باريتو: من خلال تقليل عدد التمريرات الأمامية المطلوبة للوصول إلى دقة معينة، يعزز Relay جبهة الأداء-الكمون، مما يجعل نماذج الانتشار المنفصل أكثر كفاءة لمهام الاستدماء والإنتاج المعقدة.
التوافق: يتم تقديم النهج كتحسين جاهز للتركيب يعمل مع نماذج DLM المتطورة الحالية وتقنيات التسريع (مثل الانتشار الكتلي، وتخزين KV caching) دون الحاجة إلى تغييرات هيكلية.

خلص المؤلفون إلى أن Relay يمثل خطوة ذات مغزى نحو توليد غير جشع واستشرافي، حيث يوفر ركيزة مستمرة للاستدلال الكامن يمكن استكشافها بشكل أكبر من حيث القابلية للتفسير والتطبيق في مجالات أخرى (مثل الصور أو الجزيئات).