Approximate Speculative Decoding
تقدم هذه الورقة البحثية "فك التشفير التخميني التقريبي" (ASD)، وهي طريقة لا تتطلب تدريباً تعمل على تسريع التوليد ذاتي الانحدار من خلال القبول الانتقائي لعدم تطابق رموز المسودة بناءً على ميزانية الندم لإعادة استخدام اللاحقات الصالحة، مما يؤدي إلى تحسين معدل الإنتاجية دون الحاجة إلى نماذج مسودة جديدة أو ضبط دقيق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول كتابة قصة مع صديق ذكي للغاية، ولكنه بطيء بشكل لا يصدق. في كل مرة تريد فيها إضافة كلمة جديدة إلى قصتك، عليك الانتظار حتى يفكر صديقك بجدية، ويراجع مكتبة معرفته بأكملها، ثم يخبرك بالكلمة التالية بدقة. هكذا تعمل نماذج اللغة للذكاء الاصطناعي الحديثة: فهي تولد النص كلمة بكلمة، وعملية "التفكير" هذه هي ما يستغرق معظم الوقت، مما يجعل العملية تبدو وكأنك تراقب طلاءً يجف. ولتسريع هذه العملية، اخترع العلماء حيلة تسمى "فك التشفير الاستنباطي" (Speculative Decoding). فكر في الأمر كأن لديك مساعداً مبتدئاً سريعاً يخمن الكلمات القليلة التالية من أجلك. ثم تطلب من صديقك الخبير البطيء التحقق بسرعة مما إذا كانت تخميناته صحيحة. إذا وافق الخبير على تلك التخمينات، يمكنك كتابة عدة كلمات دفعة واحدة بدلاً من كلمة واحدة فقط، مما يوفر وقتاً هائلاً.
ومع ذلك، هناك عقبة. فصديقك الخبير شديد التمسك بالقواعد. إذا خمن المساعد ولو كلمة واحدة لم تكن هي الخيار المثالي الذي كان سيختاره الخبير، فإن الخبير يوقف العملية برمتها فوراً. يقومون بالتخلص من جميع الكلمات الأخرى التي خمنها المساعد في تلك الجولة، حتى لو كانت معظمها مثالية تماماً. الأمر يشبه معلماً يصحح اختباراً ويتوقف عن القراءة بمجرد رؤية إجابة واحدة خاطئة، ويرمي بقية الورقة في سلة المهملات. هذه القاعدة التي تقوم على مبدأ "الكل أو لا شيء" تحافظ على مثالية القصة، لكنها تهدر الكثير من عمل المساعد وتؤدي إلى إبطاء العملية.
تقدم هذه الورقة طريقة جديدة تسمى "فك التشفير الاستنباطي التقريبي" (Approximate Speculative Decoding - ASD)، والتي تعمل كمعلم أكثر ذكاءً ومرونة. فبدلاً من رمي الاختبار بأكل إذا حدث خطأ صغير واحد، تسأل ASD: "هل هذا الخطأ ضئيل؟ وهل أصاب المساعد في الكلمات القليلة التالية على أي حال؟" إذا كانت الإجابة بنعم، تقبل ASD الخطأ الصغير، وتحتفظ بالكلمات الجيدة التي تبعته، وتستمر في العمل. إنها تشبه معلماً يقول: "لقد أخطأت في تهجئة كلمة 'بسبب'، لكنك تهجأت الكلمات العشر التالية بشكل مثالي، لذا دعنا نصلح الكلمة الواحدة ونواصل العمل". وقد وجد الباحثون أنه من خلال كونهم أكثر تسامحاً قليلاً مع الأخطاء الصغيرة، استطاعوا جعل الذكاء الاصطناعي يكتب بشكل أسرع بكماً دون إفساد جودة القصة.
قصة المساعد "المُقيد بالميزانية"
الفكرة الأساسية وراء ASD هي التوقف عن معاملة كل خطأ كأنه كارثة. في الطريقة القديمة، إذا خمن مساعدك كلمة لم تكن هي الخيار الأول، فإن النظام يتوقف فوراً. لكن المؤلفين أدركوا أن تخمين المساعد "الخاطئ" أحياناً يكون في الواقع قريباً جداً من الخيار الصحيح، وأن الكلمات التي تتبع ذلك لا تزال مثالية.
ولإصلاح ذلك، أنشأ الفريق نظاماً يعتمد على "ميزانية". تخيل أن لديك جرة من "رموز الأخطاء" (Mistake Tokens). يُسمح لك بارتكاب بعض الأخطاء الصغيرة، ولكن عليك دفع ثمنها من جرتك.
- البوابة المحلية: قبل قبول أي خطأ، يتحقق النظام من مدى "سوء" هذا الخطأ. إذا كان تخمين المساعد أقل احتمالاً بقليل من الكلمة المثالية، فهو خطأ رخيص الثمن. أما إذا كان خطأً فادحاً، فإنه يكلف الكثير من الرموز، ويقول النظام "لا".
- سقف الكتلة: لا يمكنك ارتكاب الكثير من الأخطاء في دفعة واحدة من التخمينات. هذا يمنع المساعد من أن يصبح غير دقيق للغاية دفعة واحدة.
- ميزانية الطلب: هذه هي الجرة الإجمالية للرموز طوال المحادثة. بمجرد نفاد الرموز، يتعين عليك العودة إلى المثالية (اتباع القواعد الصارمة القديمة) لبقية القصة.
يحدث السحر عندما يقبل النظام خطأً صغيراً. نظرًا لأن تخمينات المساعد التالية كانت مثالية بالفعل (أي أنها تطابقت مع ما كان سيختاره الخبير)، يمكن للنظام "إعادة استخدامها". لا يحتاج النظام لطلب التحقق منها من الخبير البطيء مرة أخرى؛ بل يقبلها ويمضي قدماً. هذا يحول لحظة "التوقف ورمي العمل" إلى لحظة "إصلاح ومواصلة العمل".
ما وجدوه
اختبر الباحثون هذه الفكرة باستخدام نماذج ذكاء اصطناعي شائعة جداً (مثل Qwen3 وDeepSeek) في مجموعة متنوعة من المهام، من حل المسائل الرياضية إلى كتابة الأكواد البرمجية. لم يحتاجوا إلى إعادة تدريب النماذج أو تعليم المساعد أي شيء جديد؛ بل قاموا فقط بتغيير كيفية قيام "المعلم" (المُتحقق) بتصحيح العمل.
كانت النتائج واعدة للغاية. فباستخدام هذا النهج القائم على الميزانية، أصبح النظام أسرع دون الحاجة إلى أي تدريب إضافي.
- في مجموعة من سبع مهام مختلفة، أصبح النظام أسرع بنسبة 7.78% في المتوسط مقارنة بالطريقة القديمة الصارمة.
- في أفضل الحالات، مثل مجموعة بيانات MATH-500، زادت السرعة بنسبة 11.73%.
- عند اختبارهم على نموذج ضخم يسمى DeepSeek-V4-Flash، رأوا معدلات قبول (عدد التخمينات التي احتفظ بها النظام) ترتفع بنحو 10% إلى 16%.
وتشير الورقة بحذر إلى أن هذه ليست عصا سحرية تجعل كل شيء مثالياً. فقد ذكر المؤلفون صراحةً أن هذه الطريقة تغير المسار الذي يتخذه الذكاء الاصطناعي للوصول إلى الإجابة. في بعض الأحيان، قد تكون القصة مختلفة قليلاً، أو قد يتغير "الهاش" (البصمة الرقمية للنص)، حتى لو كانت الإجابة النهائية صحيحة. على سبيل المثال، في بعض اختبارات البرمجة، انخفضت الدقة قليلاً (بأقل من 1.5 نقطة مئوية)، ولكن في العديد من المهام الأخرى، ظلت الدقة كما هي تماماً أو حتى تحسنت قليلاً.
لماذا هذا مهم
يكمن جمال هذه الورقة في أنها لا تتطلب بناء ذكاء اصطناعي جديد أسرع أو تدريب مساعد جديد. إنها تغير فقط قواعد اللعبة للذي تملكه بالفعل. الأمر يشبه إدراك أن شرطي مرور صارم يبطئ حركة المرور في المدينة بأكملها لأنه يوقف السيارات لكل مخالفة بسيطة، بينما النهج الأكثر مرونة من شأنه أن يحافظ على تدفق حركة المرور بسلاسة مع مخاطر ضئيلة يمكن السيطرة عليها.
يقترح المؤلفون أن هذه الطريقة هي وسيلة رائعة لاستخراج المزيد من السرعة من أنظمة الذكاء الاصطناعي الحالية. وهم يؤكدون أنه بينما مكاسب السرعة حقيقية وقابلة للقياس (تصل إلى 15.26% في بعض الحالات)، يجب على المستخدمين أن يكونوا مدركين أنهم يقايضون جزءاً ضئيلاً من المثالية الصارمة مقابل الكثير من السرعة. إنها مقايضة محسوبة: ستحصل على قصتك مكتوبة بشكل أسرع بكثير، وبالنسبة لمعظم الناس، لن تهم الاختلافات الطفيفة في الصياغة على الإطلاق. وتخلص الورقة إلى أن هذا النهج "المقيد بالميزانية" هو طريقة عملية، لا تتطلب تدريباً، لجعل توليد الذكاء الاصطناعي أسرع، بشراً من التأكد من جودة النتائج لتناسب احتياجاتك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.