LiLiCorr: Lightweight Likelihood Correlation of Parallel Drafts for Speculative Decoding
تُعد LiLiCorr طريقة خفيفة الوزن تعمل على تعزيز فك التشفير الاستنتاجي من خلال الربط بكفاءة بين التوزيعات الهامشية لكل موضع للمُسودة لالتقاط تماسك الرموز المشترك، مما يؤدي إلى زيادة أطوال القبول والإنتاجية الإجمالية بشكل كبير مع حد أدنى من زمن التأخير الإضافي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تصبح فيه قراءة الكتاب فورية، ليس لأن الكلمات تظهر بسرعة أكبر، بل لأن عقلك يستطيع استباق فقرات كاملة قبل أن تقلب الصفحة حتى. هذا هو الوعد الذي تقدمه تقنية تُسمى "الترميز الاستدلالي" (speculative decoding)، وهي طريقة صُممت لجعل الذكاء الاصطناعي يتحدث ويكتب بسرعة غير مسبوقة. تعتمد هذه العملية في جوهرها على تقسيم بسيط للعمل: نموذج صغير وسريع يعمل كـ "مسوّد" (draftsman)، يتوقع ما سيأتي لاحقاً، بينما يعمل نموذج أكبر وأكثر قوة كـ "قاضٍ" (judge)، يتحقق من تلك التوقعات. إذا وافق القاضي على توقع المسوّد، يقبل النظام التوقع ويمضي قدماً، متجاوزاً العمل البطيء والمضني المتمثل في توليد كل كلمة على حدة من الصفر. وكلما زادت القدرة على الثقة في قدرة المسوّد على صياغة سلسلة طويلة من الكلمات بشكل صحيح، تدفقت المحادثة بأكملها بسرعة أكبر. ومع ذلك، ثمة مشكلة مستمرة أعاقت تقدم هذه التقنية: فغالباً ما ينجح المسوّد في ضبط الكلمات الفردية، لكنه يفشل في جعلها تتسق مع بعضها لتكوين جملة مترابطة. الأمر يشبه موسيقياً يعزف كل نوتة بدقة وعزل تام، لكنه ينتج لحناً متنافراً وغير مفهوم عندما تُعزف تلك النوتات في تتابع.
لقد قدم باحثون في شركة "إنفيديا" (NVIDIA) طريقة جديدة تُسمى "ليلي كور" (LiLiCorr) لحل هذه المشكلة المحددة المتعلقة بالترابط دون التضحية بالسرعة. يبني هذا النظام على نموذج مسودة يُعرف باسم "دي فلاش" (DFlash)، وهو قادر على التنبؤ بكتلة كاملة من الكلمات المستقبلية في دفعة واحدة سريعة. ورغم أن "دي فلاش" سريع للغاية، إلا أنه يعامل كل موقع للكلمة كحدث مستقل، مما يعني أنه قد يقترح "الكلب" للموقع الأول و"يموء" للموقع الثاني، لكنه قد يفشل في إدراك أن "القط" كان سيكون ملائماً أكثر لسياق الجملة بأكملها. النهج الجديد لا يحاول إعادة تدريب المسودة لتكون مثالية؛ بدلاً من ذلك، يضيف طبقة منطقية خفيفة تعمل كمحرر سريع. ينظر هذا المحرر إلى أفضل بضعة مرشحين اقترحهم المسوّد لكل موقع، ويتحقق من مدى ترابطهم معاً. فهو يخصص إشارتين توجيهيتين لكل كلمة مرشحة، إحداهما تشير إلى مدى ملاءمتها للكلمة التي سبقتها، والأخرى تشاق إلى مدى تهيئتها للكلمة التي تليها. ومن خلال مقارنة هذه الإشارات، يمكن للنظام تحديد التسلسل الأكثر سلاسة ومنطقية من الكلمات فوراً، مستبعداً التوليفات المتنافرة التي كانت ستؤدي إلى رفض النموذج الأكبر لها.
تكمن عبقرية هذا التصميم في كفاءته. فبدلاً من التحقق من كل كلمة واحدة تلو الأخرى في سلسلة متتابعة بطيئة، يقوم النظام بتقييم جميع الروابط الممكنة بين الكلمات المرشحة في وقت واحد، باستخدام عملية حسابية واحدة ضخمة تحدث بالتوازي. وهذا يسمح للنظام بإيجاد التسلسل الأكثر ترابطاً بشكل فوري تقريباً، تاركاً فقط خطوة نهائية بسيطة لتثبيت الاختيارات. وقد وجد الباحثون أنه من خلال تدريب هذا المحرر ليعمل جنباً إلى جنب مع المسودة، تعلم النموذجان التعاون، حيث أصبح المسود في نهاية المطاف يقترح مرشحين يسهل على المحرر ربطهم في سلاسل طويلة ومقبولة. وفي الاختبارات عبر تسعة معايير مختلفة، تتراوح من حل المسائل الرياضية إلى كتابة الأكواد البرمجية وإجراء المحادثات، تفوقت هذه الطة الجديدة باستمرار على النهج السابقة. فقد زادت عدد الكلمات المقبولة بنسبة تتراوح بين تسعة وتسعة عشر بالمئة مقارنة بالمسودة غير المحررة، وحققت أعلى سرعة إجمالية في سبعين سيناريو اختبار من أصل اثنتين وسبعين. وحتى عندما طُلب من النظام التعامل مع مدخلات أطول بعشر مرات من البيانات التي تدرب عليها، حافظ على تفوقه، مما يثبت أن طريقة ربط المرشحين هذه قوية وقابلة للتوسع.
تشير النتائج إلى أن عنق الزجاجة في تسريع الذكاء الاصطناعي لا يكمن فقط في جعل المسود أسرع، بل في جعل توقعاته أسهل في التحقق. فمن خلال إصلاح ترابط التوقعات قبل إرسالها إلى القاضي، يتجنب النظام الوقت الضائع في الرفض وإعادة التوليد. ولا يتطلب هذا النهج القوة الحسابية الهائلة للنموذج الرئيسي للقيام بالعمل الشاق الخاص بالارتباط؛ بل يستخدم شبكة صغيرة متخصصة تضيف وقتاً ضئيلاً جداً للعملية — حيث لا تشكل سوى حوالي 2.8 بالمئة من إجمالي الوقت لكل كتلة نصية. وقد أظهر الباحثون أن هذه الإضافة الصغيرة تحقق عائداً هائلاً، مما يسم يسمح للنظام بمعالجة المعلومات بسرعة أكبر بكثير من ذي قبل. وبينما حاولت طرق أخرى حل ذلك عبر إجراء فحوصات معقدة على كل كلمة على حدة أو عبر مطالبة النموذج الرئيسي بالقيام بعمل إضافي، حققت "ليلي كور" نتائجها من خلال تنظيم المعلومات التي يوفرها المسود بالفعل في هيكل يسهل التنقل فيه. وتشير النتائج إلى أنه بالنسبة لمستقبل الذكاء الاصطناعي عالي السرعة، فإن المفتاح قد لا يكون في بناء نماذج أكبر، بل في بناء طرق أكثر ذكاءً وكفاءة لربط النقاط بين الكلمات التي تولدها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.