🤖 machine learning

Looped Diffusion Language Models

تقدم هذه الورقة البحثية LoopMDM، وهو نهج مبتكر لنماذج الانتشار المقنعة (Masked Diffusion Models) يقوم بعمل حلقات اختيارية لطبقات المحولات (transformer layers) المبكرة والمتوسطة لتحقيق كفاءة تدريب وأداء استدلال متفوقين مقارنة بنماذج MDM القياسية، مع تمكين أيضاً من توسيع الحوسبة بمرونة عند الاستدلال.

المؤلفون الأصليون: Sanghyun Lee, Chunsan Hong, Seungryong Kim, Jonghyun Lee, Jongho Park, Dongmin Park

نُشر 2026-05-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Sanghyun Lee, Chunsan Hong, Seungryong Kim, Jonghyun Lee, Jongho Park, Dongmin Park

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول حل لغز معقد، مثل لعبة السودوكو أو مسألة رياضية صعبة. لديك فريق من الخبراء (نموذج حاسوبي) يحاولون إيجاد الإجابة.

في عالم نماذج اللغة المعتمدة على الذكاء الاصطناعي، هناك طريقتان رئيسيتان لعمل هذه الفرق:

فريق "المرور الواحد" (التوليد الذاتي - Autoregressive): يقرؤون اللغز من اليسار إلى اليمين، ويخمنون الكلمة التالية واحدة تلو الأخرى. إذا ارتكبوا خطأً في البداية، فسيكون من الصعب إصلاحه لاحقاً.
فريق "مسودة العمل" (الانتشار المقنع - Masked Diffusion): يبدأون بلغز حيث تكون جميع الإجابات مخفية (مقنعة). يقومون بتخمين جميع الأماكن المخفية دفعة واحدة، ثم يتحققون من عملهم، وبعد ذلك يقومون بتحسين تخميناتهم. ويكررون دورة "التخمين والتحقق" هذه حتى يتم حل اللغز.

يقدم هذا البحث خدعة جديدة لفريق "مسودة العمل" تسمى LoopMDM.

المشكلة: عمل كثير، وعقل محدود

عادةً، لجعل فريق "مسودة العمل" أكثر ذكاءً، يتعين عليك توظيف المزيد من الخبراء (إضافة المزيد من الطبقات للشبكة العصبية). لكن توظيف المزيد من الأشخاص مكلف وبطيء. تساءل الباحثون: هل يمكننا جعل الفريق الحالي أكثر ذكاءً دون توظيف المزيد من الأشخاص؟

الحل: استراتيجية "الحلقة" (The Loop Strategy)

أدرك المؤلفون أنه في منتصف عملية حل اللغز، لا يحتاج الفريق إلى الانتقال إلى غرفة جديدة (طبقة جديدة في الشبكة). بدلاً من ذلك، يمكنهم البقاء في الغرفة الوسطى والتحرك ذهاباً وإياباً، وتكرار صقل أفكارهم مراراً وتكراراً.

فكر في الأمر كأنها مجموعة من المحققين يحلون جريمة:

النموذج القياسي: المحقق (أ) ينظر إلى الأدلة، ثم يمرر الملف إلى المحقق (ب)، الذي يمرره بدوره إلى المحقق (ج). بمجرد خروج الملف من أيديهم، لا يمكنهم تغيير رأيهم.
نموذج LoopMDM: المحقق (أ) ينظر إلى الأدلة، ثم يعود في حلقة (Loop) لينظر إليها مرة أخرى، ثم يعود في حلقة ثالثة لتدقيق منطقه، قبل أن يمرر الملف إلى المحقق (ب).

أطلقوا على هذا اسم "الحلقات الانتقائية" (Selective Looping). هم لا يجعلون كل المحققين يعودون في حلقة، بل يجعلون فقط المحققين الموجودين في منتصف العملية يفعلون ذلك. هذه هي المنطقة المثالية حيث يحتاج الفريق للتفكير بعمق ولكن لم يقرر بعد الإجابة النهائية.

ما وجدوه (النتائج)

يدعي البحث أن هذه الخدعة البسيطة قوية للغاية:

تدريب أقل تكلفة: لأن الفريق يعيد استخدام نفس "الغرفة الوسطى" بدلاً من بناء غرف جديدة، يمكنهم تدريب النموذج باستخدام قدرة حوسبة (FLOPs) أقل بـ 3.3 مرة للوصول إلى نفس مستوى المهارة مقارنة بالنموذج القياسي. الأمر يشبه الحصول على محرك سيارة فراري بمجرد ضبط المحرك الحالي بدلاً من شراء سيارة جديدة.
رياضيات أذكى: في المسائل الرياضية (مثل اختبار GSM8K)، حسنت هذه الطالة الدقة بمقدار 8.5 نقطة مقارنة بنموذج قياسي من نفس الحجم. بل إنها تفوقت على نماذج أكبر (أعمق) في الحجم ولكنها لم تستخدم خدعة الحلقة هذه.
سرعة مرنة: يمكنك التحكم في مدى "ذكاء" النموذج عن طريق تغيير عدد مرات تكرار الحلقة.
- هل تحتاج إلى إجابة سريعة؟ اجعل الحلقة تدور مرة واحدة.
- هل تحتاج إلى إجابة مثالية لمسألة رياضية صعبة؟ اجعلها تدور 12 مرة.
- يصبح النموذج أفضل كلما سمحت له بـ "التفكير" أكثر في هذه الحلقة الوسطى.

لماذا ينجح هذا؟ (السبب)

استخدم الباحثون تجربة "السودوكو" لإثبات سبب نجاح ذلك.

عندما أجبروا النموذج على حل السودوكو بترتيب صارم (مثل قراءة كتاب)، فشل النموذج القياسي فشلاً ذريعاً.
لكن نموذج LoopMDM استطاع حلها بشكل مثالي. لماذا؟ لأن "الحلقة" سمحت للنموذج بمعاملة الأماكن المخفية (المربعات الفارغة) كـ مساحة عمل مشتركة.
بينما يدور النموذج في الحلقة، "تتحدث" الأماكن المخفية مع بعضها البعض. إذا كان أحد التخمينات خاطئاً، فإن الحلقة تسمح للفريق بأكمله بإدراك ذلك وإصلاحه معاً قبل الالتزام بالإجابة النهائية. إنه يشبه وجود سبورة بيضاء يمكن للفريق مسح وإعادة كتابة الأفكار عليها معاً، بدلاً من مجرد الصراخ بالإجابات في خط مستقيم.

ميزة "التكيف" (The Adaptive Bonus)

يقترح البحث أيضاً طريقة ذكية لاستخدام هذا: الحلقات التكيفية (Adaptive Looping).
بدلاً من إجبار النموذج على الدوران في حلقة 12 مرة لكل كلمة، يمكن للنموذج التحقق من ثقته الخاصة.

إذا كانت الإجابة واضحة، فإنه يدور مرة واحدة ويمضي قدماً.
إذا كانت الإجابة صعبة، فإنه يدور 12 مرة.
هذا يوفر الطاقة مع الحفاظ على الجودة العالية.

الملخص

LoopMDM هي طريقة لجعل نماذج الذكاء الاصطناعي أكثر ذكاءً وسرعة من خلال السماح لها بـ "التفكير في دوائر" في منتصف عملية المعالجة. بدلاً من بناء عقل أكبر وأكثر تكلفة، هم فقط يسمحون للعقل الحالي بأخذ بضع ثوانٍ إضافية للتدقيق في عملهم. والنتيجة هي نموذج يتعلم بشكل أسرع، ويحل المسائل الرياضية الصعبة بشكل أفضل، ويستهلك كهرباء أقل.

ملخص تقني: نماذج لغة الانتشار الحلقية (LoopMDM)

بيان المشكلة

برزت نماذج الانتشار المقنعة (MDMs) كبديل تنافسي للنماذج ذات الترتيب الذاتي (ARMs) في نمذجة اللغة، حيث قلصت الفجوة في الأداء من خلال التطورات في أهداف التدريب، وجداول الضجيج، والبنى الهيكلية. ومع ذلك، لا يزال التصميم الفعال لبنى المحولات (Transformers) المخصصة لنماذج MDM غير مستكشف بشكل كافٍ. وبينما نجحت النماذج ذات الترتيب الذاتي (ARMs) في استخدام المحولات الحلقية (تطبيق كتلة مشتركة بشكل متكرر لتحويل العمق إلى حلقات) من أجل كفاءة المعلمات وتوسيع حسابات وقت الاختبار، فإن فائدة هذا النهج في نماذج MDM تظل غير واضحة. تقوم نماذج MDM بالفعل بعمليات حسابية تكرارية عبر خطوات إزالة الضجيج؛ لذا فمن غير المؤكد ما إذا كان إضافة حلقات داخلية سيوفر فائدة إضافية أم أنه مجرد تكرار للآليات الموجودة. علاوة على ذلك، ركزت الأعمال السابقة حول الحلقات على كفاءة المعلمات أو تحسين الاستدلال، مما ترك فجوة في فهم كيفية تحسين كفاءة حساب التدريب والأداء عند عدد ثابت من المعلمات ضمن إطار عمل MDM.

المنهجية: LoopMDM

يقترح المؤلفون LoopMDM (نموذج الانتشار المقنع الحلقي)، وهو بنية تدمج الحلقات الانتقائية في شبكة إزالة الضجيج الخاصة بنموذج MDM. ويسترشد التصميم بمبدأين:

التطبيق الانتقائي: يتم تطبيق عدد الحلقات بشكل انتقائي على طبقات محددة حيث يحقق التكرار أعلى فائدة لكل وحدة من عمليات حساب التدريب (FLOPs)، بدلاً من التطبيق الموحد عبر الشبكة بأكملها.
القابلية للتوسع: يدعم النموذج توسعاً فعالاً مع عدد الحلقات ( $S$ )، مما ينتج مكاسب أداء رتيبة (monotonic) مع زيادة $S$ أثناء الاستدلال.

البنية الهيكلية

تنقسم محول إزالة الضجيج إلى ثلاث مجموعات متسلسلة:

الرأس (Head): $n_h$ من الطبقات التي تُطبق مرة واحدة في كل تمريرة أمامية (تضمين المدخلات).
الكتلة الوسطى (Mid-block): $n_m$ من الطبقات التي تشكل مكدساً حلقياً. تشترك هذه الطبقات في الأوزان وتُطبق $S$ من المرات بالتتابع.
الذيل (Tail): $n_o$ من الطبقات التي تُطبق مرة واحدة (إسقاط المخرجات ورأس نموذج اللغة).

تتوسع التمريرة الأمامية لتصل إلى عمق فعلي قدره $n_h + S \cdot n_m + n_o$ طبقة، بينما يظل عدد المعلمات مطابقاً لشبكة غير حلقية تحتوي على $n_h + n_m + n_o$ طبقة.

استراتيجية التدريب

عدد الحلقات العشوائي (Stochastic Loop Count): أثناء التدريب، يتم أخذ عينة من عدد الحلقات $S$ من التوزيع الموحد $\{1, \dots, S_{max}\}$ في كل خطوة. هذا يعرض الكتلة الوسطية المشتركة لمجموعة من الأعماق الفعلية، مما يضمن تمثيلات مستقرة عبر أعداد التكرار المختلفة، ويسمح بالنشر باستخدام أي قيمة لـ $S$ (بما في ذلك القيم التي تتجاوز $S_{max}$ ).
مطابقة الحساب (Compute Matching): لضمان مقارنات عادلة، يتم تدريب LoopMDM لخطوات أقل تناسبياً من النموذج المرجعي لمطابقة إجمالي عمليات حساب التدريب (FLOPs). هذا يعزل الاختلافات الهيكلية عن الزيادة الخام في الحساب.

الاستدلال التكيفي

يقدم البحث استراتيجية تكيفية حيث لا يكون عدد الحلقات ثابتاً بل يتم تحديده ديناميكياً أثناء أخذ العينات. تتوقف العملية عندما ينخفض التغير النسبي في الحالة المخفية (hidden-state) بين تكرارات الحلقة المتتالية عن حد معين $\epsilon$ ، أو عند الوصول إلى الحد الأقصى المسموح به. يخصص هذا النهج المزيد من الحسابات للخطوات الزمنية التي تكون فيها التحديثات كبيرة (عادةً في مستويات الضجيج المتوسطة) وأقل للخطوات المستقرة.

المساهمات الرئيسية والنتائج

1. كفاءة حساب التدريب

عبر ثلاث مجموعات بيانات للتدريب المسبق (FineWeb-Edu, OpenWebText, LM1B)، يحقق LoopMDM اختبار "اللوغاريتم الطبيعي السالب" (NLL) مقارناً أو أفضل من نماذج MDM غير الحلقية من نفس الحجم باستخدام ما يصل إلى 3.3 ضعف أقل من عمليات حساب التدريب (FLOPs).

عند التدريب مع مطابقة إجمالي الـ FLOPs، يتفوق LoopMDM باستمرار على النماذج المرجعية في التشتت (perplexity) الصفري، والتشتت التوليدي، ودقة المهام النهائية.
نتائج التحليل (Ablation Findings): تعتمد المكاسب بشكل كبير على أين وكيف يتم تطبيق الحلقات. إن تطبيق الحلقات بشكل انتقائي على عدد قليل من الطبقات المبكرة-الوسطى (تحديداً الطبقتين 1 و2 في الترقيم الذي يبدأ من الصفر) يستخلص معظم الفائدة. أما تطبيق الحلقات على الشبكة بأكملها أو وضعها بالقرب من طبقات الإدخال/الإخراج فيؤدي إلى تدهور الأداء أو عدم تقديم أي ميزة.

2. الأداء بما يتجاوز توسيع العمق

في اختبار GSM8K للاستدلال الرياضي، يحسن LoopMDM من أدائه مقارنة بالنموذج المرجعي غير الحلقي من نفس الحجم بمقدار +8.5 نقطة.

والأهم من ذلك، يتفوق LoopMDM على نماذج MDM الأكثر عمقاً (مثل النماذج ذات 21 طبقة) عند مطابقة عمليات حساب التدريب لكل خطوة. يشير هذا إلى أن المكاسب ناتجة عن التطبيق المتكرر للحساب المشترك (التحسين التكراري) وليس مجرد زيادة عمق النموذج.
رغم رؤية عدد أقل من إجمالي رموز التدريب (بسبب خطوات التدريب الأقل لمطابقة الـ FLOPs)، يحافظ LoopMDM على نقل المعرفة للمهام النهائية أو يحسنها، مما يشير إلى أن الحساب المنفق لكل خطوة في عملية الحلقات يعوض عن انخفاض التعرض للرموز (tokens).

3. الرؤى الميكانيكية

المواقع المقنعة كفضاء عمل (Workspace): من خلال تجربة "سودوكو" بترتيب توليد مقيد (من اليسار إلى اليمين)، أظهر المؤلفون أن LoopMDM يمكنه حل المهام ذات القيود العالمية التي تعجز عنها النماذج الضحلة. يستخدم النموذج المواقع المقنعة كفضاء عمل موازٍ لمراجعة التنبؤات المبكرة التي قد تكون منطقية محلياً ولكنها غير متسقة عالمياً.
ديناميكيات الانتباه (Attention Dynamics): يكشف التحليل أن الانتباه من القناع إلى القناع (mask-to-mask attention) يزداد مع زيادة عدد الحلقات، خاصة في الخطوات الزمنية المتوسطة. يشير هذا إلى أن الحلقات تسهل التفاعلات بين المواقع المقنعة، مما يسمح للنموذج بتحسين الحالات المخفية قبل الالتزام بتنبؤات الرموز.
الكفاءة التكيفية: تقلل استراتيجية الحلقات التكيفية متوسط عدد الحلقات من 12 إلى حوالي 5 مع الحفاظ على الأداء، مما يثبت أن ليس كل الخطوات الزمنية تتطلب نفس الميزانية الحسابية.

الأهمية والادعاءات

يدعي البحث أن الحلقات الانتقائية هي خيار بنيوي بسيط وقوي لتحسين نماذج الانتشار المقنعة. تكمن أهمية العمل في إثبات أن:

الكفاءة: يمكن لنماذج MDM تحقيق مكاسب كبيرة في كفاءة التدريب (تقليل يصل إلى 3.3 ضعف في الـ FLOPs) دون زيادة عدد المعلمات.
الجودة: المكاسب ليست مجرد وسيلة لزيادة العمق؛ بل تنبع من التفاعل المحدد بين الحساب التكراري وفضاء العمل المقنع المتأصل في نماذج الانتشار.
القابلية للتوسع: يتيح هذا النهج توسيع الحساب بمرونة أثناء الاستدلال، حيث توفر الاستراتيجيات التكيفية كفاءة إضافية.

يضع المؤلفون هذا العمل كخطوة نحو تصميمات بنيوية أفضل لنماذج MDM، مشيرين إلى أن الحلقات الانتقائية يمكن أن تعمل كنهج قياسي لتحسين كفاءة التدريب والتعميم تحت ميزانيات ثابتة من المعلمات والحساب. كما يقرون بالقيود، ملاحظين أن التصميم الحالي يعتمد على التحديد اليدوي لمواضع الحلقات، وأن العمل المستقبلي يمكن أن يستكشف تعلم هذه الاستراتيجيات ديناميكياً أو توسيعها لتشمل نماذج بمليارات المعلمات.