🤖 machine learning

Faster LLM Inference via Sequential Monte Carlo

تقدم هذه الورقة البحثية "فك التشفير الاستباقي عبر مونت كارلو المتسلسل" (SMC-SD)، وهي طريقة استدلال مبتكرة تستبدل الرفض على مستوى الرمز بإعادة أخذ العينات الموزونة بالأهمية عبر جزيئات المسودة لتحقيق تسريع كبير (يصل إلى 5.2 ضعفًا مقارنة بفك التشفير ذاتي الانحدار) مع الحفاظ على دقة عالية من خلال استغلال الحوسبة الخاملة للتحقق المتجهي.

المؤلفون الأصليون: Yahya Emara, Mauricio Barba da Costa, Chi-Chih Chang, Cameron Freer, Tim Vieira, Ryan Cotterell, Mohamed S. Abdelfattah

نُشر 2026-04-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yahya Emara, Mauricio Barba da Costa, Chi-Chih Chang, Cameron Freer, Tim Vieira, Ryan Cotterell, Mohamed S. Abdelfattah

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول كتابة قصة طويلة ومعقدة مع محرر مشهور وعبقري، لكنه بطيء الفهم (النموذج المستهدف). أنت تريد أن تكون القصة مثالية، لكن المحرر يستغرق وقتاً طويلاً في قراءة واعتماد كل كلمة تكتبها.

الطريقة القديمة: لعبة "التوقف والتحقق"

حالياً، تستخدم معظم أنظمة الذكاء الاصطناعي طريقة تسمى "فك التشفير الاستدلالي" (Speculative Decoding). وإليك كيف تعمل:

تقوم بتعيين متدرب سريع ورخيص (نموذج المسودة) ليكتب بضع جمل مسبقة بسرعة.
يكتب المتدرب كتلة مكونة من 5 كلمات.
يقرأ المحرر العبقري هذه الكلمات الخمس.
- إذا أعجبته الكلمة الأولى، ممتاز!
- إذا أعجبته الكلمة الأولى والثانية، ممتاز!
- ولكن، إذا لم تعجبه الكلمة الثالثة، فإنه يتوقف فوراً. يرمي الكلمة الثالثة والرابعة والخامسة التي كتبها المتدرب.
- ثم يتعين على المحرر البدء من جديد، حيث يكتب الكلمة الثالثة بنفسه.

المشكلة: إذا اختلف المتدرب والمحرر كثيراً، يقضي المحرر معظم وقته في رمي عمل المتدرب. إنه يشبه سباق التتابع حيث يستمر العداء في إسقاط العصا، مما يجبر العداء التالي على التوقف لالتقاطها. هذا يضيع الكثير من الوقت.

الطريقة الجديدة: "حفلة التصويت" (SMC-SD)

يقدم هذا البحث طريقة جديدة تسمى "فك التشفير الاستدلالي باستخدام مونت كارلو التسلسلي" (SMC-SD). بدلاً من الاعتماد على متدرب واحد وقاعدة "التوقف والتحقق" الواحدة، فإنه يستخدم فريقاً من المتدربين ونظام تصويت.

إليك التشبيه:

1. فريق المتدربين (الجسيمات)

بدلاً من متدرب واحد، تقوم بتعيين 8 متدربين (تسمى "جسيمات"). يبدأ جميعهم من نفس بداية القصة.

2. مرحلة الصياغة

يعمل جميع المتدربين الثمانية بالتوازي. يقوم كل واحد منهم بسرعة بكتابة الكلمات الأربع التالية من القصة.

المتدرب (أ) يكتب: "القط جلس على الـ..."
المتدرب (ب) يكتب: "الكلب ركض إلى الـ..."
المتدرب (ج) يكتب: "القط جلس على الـ..."
... وهكذا.

3. مرحلة التقييم (لا رمي للعمل!)

ينظر المحرر العبقري (النموذج المستهدف) إلى جميع النسخ الثماني للقصة في وقت واحد.

في الطريقة القديمة، إذا كره المحرر الكلمة الثالثة من المتدرب (أ)، فسيقوم برمي كتلة المتدرب (أ) بالكامل.
في هذه الطريقة الجديدة، يقوم المحرر بتقييم كل كلمة من كل متدرب.
- "الكلمة الثالثة للمتدرب (أ) مقبولة، لكنها ليست رائعة. الدرجة: 0.5."
- "الكلمة الثالثة للمتدرب (ب) مثالية! الدرجة: 1.0."
- "الكلمة الثالثة للمتدرب (ج) سيئة للغاية. الدرجة: 0.0."

4. مرحلة إعادة أخذ العينات (الخدعة السحرية)

هذا هو الجزء الأهم. بدلاً من حذف المتدربين "السيئين"، يقوم النظام بإعادة تنظيم الفريق.

المتدربون الذين كتبوا كلمات جيدة (درجات عالية) يتم نسخهم. الآن لديك نسختان من المتدرب (ب).
المتدربون الذين كتبوا كلمات سيئة (درجات منخفضة) يتم طردهم (إخراجهم).
يأخذ النظام "المقاعد الفارغة" الناتجة عن الطرد ويملؤها بنسخ من "الفائزين".

النتيجة: في الجولة التالية، لديك 8 متدربين، ولكن 6 منهم يعملون الآن على المسار الذي أعجب المحرر أكثر. أنت لم تضيع وقت المحرر في التحقق من كلمة تبين أنها خاطئة؛ بل استخدمت وقت المحرر لمعرفة أي مسار هو الأفضل، ثم ضاعفت الجهد على ذلك المسار.

لماذا هذه الطريقة أسرع؟

فكر في عقل المحرر كأنه طريق سريع.

الطريقة القديمة: الطريق السريع غالباً ما يكون فارغاً لأن المحرر يستمر في التوقف لرمي المسودات السيئة. "حركة المرور" (الحوسبة) منخفضة.
الطريقة الجديدة: الطريق السريع دائماً مزدحم. المحرر يعالج 8 مسارات مختلفة في وقت واحد باستمرار. حتى لو كانت بعض المسارات سيئة، فإن "حركة المرور" تستمر في الحركة لأن النظام يستبدل السيارات السيئة بالسيارات الجيدة فوراً دون إيقاف المحرك.

"الغداء المجاني"

يشير البحث إلى أمر مذهل في رقائق الكمبيوتر الحديثة (GPUs). فهي سريعة جداً في العمليات الحسابية، لكنها غالباً ما تنتظر وصول البيانات من الذاكرة (مثل طباخ ينتظر وصول المكونات).

الطريقة القديمة لم تكن تستخدم قوة الرياضيات الكافية لإبقاء الطباخ مشغولاً.
الطريقة الجديدة (SMC-SD) تستخدم "وقت الانتظار" هذا للقيام بعمليات حسابية إضافية على المتدربين الثمانية. إنها تحول "وقت الخمول" إلى "سرعة".

الخلاصة

الدقة: الطريقة الجديدة ذكية تقريباً مثل الطريقة القدة المثالية (ضمن نطاق 3% من الدقة).
السرعة: هي أسرع بمقدار 2.36 مرة من أفضل الطرق السريعة الموجودة حالياً، وأسرع بمقدار 5.2 مرة من الطريقة القياسية البطيئة.
التشبيه: بدلاً من لعب لعبة "من أنا؟" حيث تستبعد شخصاً واحداً في كل مرة، أنت تلعب لعبة تقوم فيها فوراً باستنساخ الفائزين واستبعاد الخاسرين، مما يحافظ على استمرار اللعبة بسرعة البرق.

تسمح هذه التقنية للذكاء الاصطناعي بكتابة القصص، وحل المسائل الرياضية، وكتابة الأكواد البرمجية بشكل أسرع بكثير دون فقدان ذكائه.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تسريع استنتاج النماذج اللغوية الكبيرة عبر مونت كارلو المتسلسل" (Faster LLM Inference via Sequential Monte Carlo).

1. بيان المشكلة

تعد عملية التوليد التتابعي (Autoregressive generation) في النماذج اللغوية الكبيرة (LLMs) عملية تسلسلية بطبيعتها، مما يخلق عنق زجاجة حيث يعتمد كل رمز (token) على جميع الرموز السابقة، مما يتطلب عمليات تمرير أمامي (forward passes) متتالية. تحاول الترميز الاستدلالي (Speculative Decoding - SD) حل هذه المشكلة باستخدام نموذج "مسودة" (draft model) صغير ومنخفض التكلفة لاقتراح $K$ من الرموز، والتي يتم التحقق منها بعد ذلك بواسطة النموذج "الهدف" (target model) الكبير في تمريرة أمامية واحدة.

ومع ذلك، يعتمد الترميز الاستدلالي القياسي على أخذ العينات بالرفض (rejection sampling): إذا رفض النموذج الهدف أول رمز في المسودة، يتم قطع كتلة المسودة بأكملة، ويتم التخلص من الرموز المتبقية. يؤدي هذا إلى تدهور كبير في الإنتاجية عندما يبتعد نموذجا المسودة والهدف عن بعضهما البعض (انخفاض معدلات القبول). علاوة على ذلك، غالبًا ما تكون خطوة التحقق في الترميز الاستدالي (SD) مقيدة بنطاق عرض النطاق الترددي للذاكرة (memory-bandwidth bound)، مما يترك موارد الحوسبة في وحدات معالجة الرسومات (GPU) خاملة.

2. المنهجية: الترميز الاستدلالي عبر مونت كارلو المتسلسل (SMC-SD)

يقترح المؤلفون SMC-SD، وهو مخطط استنتاج تقريبي مبني على أسس متينة يستبدل الرفض على مستوى الرمز بـ إعادة أخذ العينات الموزونة بالأهمية (importance-weighted resampling) عبر مجموعة من جسيمات المسودة (draft particles).

الآلية الجوهرية

بدلاً من الحفاظ على تسلسل مسودة واحد، يحافظ SMC-SD على مجموعة من $N$ من التسلسلات المرشحة (الجسيمات). تسير كل جولة كما يلي:

المسودة (التمديد): يقوم نموذج المسودة $q$ بتمديد جميع الجسيمات $N$ بالتوازي، حيث يولد $K$ من الرموز الجديدة لكل جسيم.
التسجيل (إعادة الوزن): يقوم النموذج الهدف $p$ بتسجيل جميع التسلسلات $N$ (بإجمالي $N \times K$ من الرموز) في تمريرة أمامية واحدة مجمعة (batched forward pass) ويولد رمزًا "إضافيًا" (bonus token) لكل منها.
إعادة أخذ العينات: بدلاً من رفض التسلسل، تقوم الخوارزمية بحساب أوزان الأهمية بناءً على نسبة احتمالات النموذج الهدف إلى نموذج المسودة. إذا انخفض حجم العينة الفعال (ESS) عن حد معين، يتم حذف الجسيمات ذات الوزن المنخفض، وتكرار الجسيمات ذات الوزن العالي (إعادة أخذ العينات).
المخرجات: تتكرر العملية حتى الوصول إلى الطول المطلوب. يتم أخذ المخرج النهائي من مجموعة الجسيمات النهائية بناءً على أوزانها المعيرة.

الاختلافات الرئيسية عن الترميز الاستدالي (SD) القياسي

لا يوجد قطع (No Truncation): في الترميز الاستدالي القياسي، يؤدي رفض واحد إلى قطع الكتلة. في SMC-SD، يتم تمديد كل جسيم بمقدار $K$ بالضبط من الرموز في كل جولة؛ ويتم التعامل مع "الأخطاء" عن طريق خفض وزن الجسيم، وليس التخلص من التسلسل.
التجهيز الشعاعي (Vectorization): تصبح خطوة التحقق عملية ثابتة الحجم ومجهزة شعاعيًا ( $N \times (K+1)$ من الرموز)، مما يلغي منطق التراجع (rollback) متغير الطول في الترميز الاستدالي القياسي.
التقريب مقابل الدقة المطلقة: يقايض SMC-SD الدقة المطلقة بالسرعة. فهو يوفر ضمانات تقارب تقاربية وضمانات خطأ غير تقاربية، بينما يضمن الترميز الاستدالي القياسي الدقة المطلقة ولكنه يعاني من تحسينات عشوائية في السرعة.

3. المساهمات الرئيسية

أ. التحليل النظري

نمذجة تسريع الأداء: باستخدام نموذج Roofline، اشتق المؤلفون تعبيرات مغلقة لسرعة الرموز في الثانية (TPS).
- في النظام المقيد بالذاكرة (وهو الشائع في النماذج اللغوية الكبيرة)، يكون التسريع $S \approx \frac{K+1}{\rho K + 1}$ ، حيث $\rho$ هو نسبة معامل المسودة إلى الهدف. والأهم من ذلك، أن إضافة الجسيمات ( $N$ ) تعتبر "مجانية" في هذا النظام لأن أوزان الهدف يتم تحميلها مرة واحدة فقط لكل دفعة.
- في النظام المقيد بالحوسبة، يتدهور التسريع خطيًا مع حجم الدفعة، لكن الطريقة لا تزال تتفوق على التوليد التتابعي التقليدي.
حدود الخطأ: تضع الورقة حدودًا غير تقاربية على خطأ التقريب. يتلاشى انحياز $L_2$ ومتوسط مربع الخطأ (MSE) بمعدل $O(1/N)$ ، ويتلاشى انحياز $L_1$ بمعدل $O(1/\sqrt{N})$ ، وهو ما يحكمه تباعد $\chi^2$ بين نموذج المسودة والنموذج الهدف.

ب. هندسة الأنظمة

محرك عالي الإنتاجية: بنى المؤلفون محرك استنتاج مخصص (مشتق من SGLang) محسن لـ SMC-SD.
إعادة أخذ العينات القائمة على المؤشرات (Pointer-Based Resampling): لتجنب التكلفة العالية لنسخ بيانات ذاكرة المفتاح والقيمة (KV-cache) أثناء إعادة أخذ العينات، يستغل المحرك مشاركة البادئة (prefix sharing). عندما يتم تكرار جسيم، يقوم المحرك بعملية نسخ لبيانات وصف الصفحة (page-metadata) بتعقيد $O(\ell_{seq})$ (زيادة عدادات المرجع) بدلاً من نسخ تينسور بتعقيد $O(\ell_{seq} \times d_{model})$ . قلل هذا من استخدام ذاكرة KV-cache بنسبة 72.3% في التجارب.
الكثافة الحسابية: من خلال معالجة $N$ من الجسيمات بالتوازي، يزيد SMC-SD بشكل كبير من الكثافة الحسابية، مما يحسن استغلال قدرات الحوسبة في وحدات معالجة الرسومات الحديثة التي غالبًا ما تكون غير مستغلة بشكل كافٍ في التوليد التتابعي المقيد بالذاكرة.

ج. التعميم

لا يقتقتصر الإطار على التوليد القياسي، بل يمكنه أخذ عينات من التوزيعات غير المعيرة، مما يتيح:

أخذ عينات القدرة (Power Sampling): أخذ عينات من $p(x)^\alpha$ (ضبط درجة الحرارة على التسلسلات الكاملة بدلاً من الرمز الواحد).
التوليد المقيد: فرض قيود صارمة (بنية لغوية، تنسيق) دون الحاجة لإعادة التدريب.
التوليد الموزون بالمكافأة: توجيه النماذج نحو وظائف المكافأة (RLHF) دون الحاجة لضبط دقيق (fine-tuning).

4. النتائج التجريبية

قيم المؤلفون SMC-SD على مجموعات بيانات GSM8K، وMATH500، وAlpacaEval، وDS1000 باستخدام عائلات نماذج Llama وQwen.

مكاسب الإنتاجية:
- مقابل التوليد التتابعي (AR): تسريع يصل إلى 5.2× في إعدادات تعدد وحدات معالجة الرسومات.
- مقابل الترميز الاستدالي المحسن (SD): تسريع بمقدار 2.36× مقارنة بـ SGLang (المعتمد على الأشجار) و 2.5× مقارنة بالترميز الاستدالي القياسي في اختبارات وحدة معالجة الرسومات الواحدة.
- المتانة: على عكس الترميز الاستدالي القياسي، الذي تنهار إنتاجيته مع انخفاض معدل قبول المسودة والهدف (على سبيل المثال، عند درجات حرارة أعلى)، يحافظ SMC-SD على إنتاجية ثابتة تقريبًا لأنه ينتج دائمًا $K+1$ من الرموز في كل جولة.
الدقة:
- يظل SMC-SD ضمن نطاق 3% من دقة النموذج الهدف في مهام الاستدلال، واتباع التعليمات، والبرمجة.
- على جبهة باريتو (السرعة مقابل الدقة)، تتفوق تكوينات SMC-SD باستمرار على الترميز الاستدالي القياسي، حيث تقدم إنتاجية أعلى لنفس الدقة أو دقة أعلى لنفس الإنتاجية.
أخذ عينات القدرة: في تطبيق محدد، أدى أخذ عينات القدرة باستخدام SMC-SD إلى تحسين دقة Pass@1 بنسبة 10% في MATH500 مقارنة بالنموذج الهدف الأساسي.

5. الأهمية والآفاق المستقبلية

تحول في النموذج: ينقل SMC-SD النموذج من "الرفض الدقيق" إلى "إعادة أخذ العينات التقريبية"، محولًا خطوة التحقق إلى عملية ثابتة الحجم ومجهزة شعاعيًا تتوافق تمامًا مع أجهزة GPU الحديثة.
التصميم المشترك مع الأجهزة (Hardware Co-Design): تعد هذه الطريقة مناسبة بشكل خاص للهياكل الجيل القادم (مثل NVIDIA Blackwell) حيث تنمو سعة الحوسبة بشكل أسرع من عرض النطاق الترددي للذاكرة. يستغل SMC-SD هذا الفائض من الحوسبة لتحويل الدورات الخاملة إلى سرعة.
تعدد الاستخدامات: من خلال فصل آلية أخذ العينات عن شرط الدقة المطلقة، يفتح SMC-SD آفاقًا جديدة للتوليد المقيد والتوجيه التوزيعي دون الحاجة إلى تدريب إضافي أو منطق رفض معقد.

باختاً، يقدم SMC-DB نهجًا مدعومًا نظريًا ومحسنًا من حيث الأنظمة لاستنتاج النماذج اللغوية الكبيرة، مما يسرع عملية التوليد بشكل كبير مع الحفاظ على دقة عالية، ويحل بفعالية اختناقات الإنتاجية المتأصلة في كل من طرق التوليد التتابعي والترميز الاستدالي القياسي.