AsymSpec: Context-Asymmetric Speculative Decoding for Agentic LLMs
يُعد AsymSpec إطار عمل لفك التشفير الاستنتاجي غير المتماثل يُمكّن المُسود الخفيف من الوصول إلى سياق المدخلات الكامل بينما يعمل المُحقِّق الضخم على رؤية مضغوطة، مما يوازن بفعالية بين سرعة الاستدلال والدقة للنماذج اللغوية الكبيرة الوكيلية عبر تحقيق أداء يقارب السياق الكامل بتكاليف حوسبة أقل بكثير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تتصرف أنظمة الذكاء الاصطناعي الحديثة بشكل متزايد كوكلاء مستقلين، قادرة على استرجاع المستندات، واستخدام الأدوات البرمجية، وإجراء محادثات متعددة الجولات لحل المشكلات المعقدة. وبينما يعمل هؤلاء الوكلاء، فإنهم يراكمون تاريخاً متنامياً من المعلومات: نتائج البحث، ومخرجات الأدوات، والرسائل السابقة. ولجعل هذه الأنظمة سريعة بما يكفي للاستخدام في العالم الحقيقي، يلجأ المهندسون غالباً إلى ضغط هذا التاريخ، عبر تلخيص المستندات الطويلة في جمل قصيرة أو تجريد الصور التفصيلية لتوف most الوقت. ومع ذلك، يأتي هذا الضغط بثمن باهظ: يفقد الذكاء الاصطناعي التفاصيل الدقيقة الضرورية للاستنتاج الدقيق، مما يضعه أمام خيار صعب بين السرعة والذكاء. وتعد تقنية "فك التشفيد التخميني" (speculative decoding) التقليدية، التي تستخدم نموذجاً صغيراً وسريعاً لتخمين ما سيقوله نموذج كبير وبطيء، هي الحل المعتاد لتسريع الذكاء الاصطناعي. ومع ذلك، تصطدم هذه الطريقة التقليدية بحائط مسدود في البيئات الوكيلة لأنها تتطلب من كل من "المخمن" الصغير و"المتحقق" الكبير رؤية نفس المعلومات تماماً. فإذا تم ضغط المعلومات لتوفير الوقت، يفقد المخمن نفس التفاصيل الحرجة التي يفقدها المتحقق، مما يعني أن التسريع لا يمكنه استعادة الدقة المفقودة.
اقترح باحثون من شركة هواوي تكنولوجيز وجامعة العلوم والتكنولوجيا في الصين نهجاً جديداً يسمى ASYMSPEC، يكسر هذا المأزق من خلال السماح للنموذذجين برؤية نسخ مختلفة من القصة نفسها. في نظامهم، يعمل النموذج الكبير والقوي الذي يتخذ القرار النهائي فقط على النسخة المضغوطة والسريعة من المدخلات للحفاظ على انخفاض زمن الاستجابة. وفي الوقت نفسه، يقرأ نموذج أصغر بكثير وأخف وزناً التاريخ الكامل غير المضغوط في الخلفية. يعمل هذا النموذج الصغير كدليل، حيث يحدد بدقة المعلومات التي فُقدت أثناء عملية الضغط ويقوم بتوجيه تنبؤات النموذج الكبير ببراعة لتشمل تلك التفاصيل المفقودة. ووجد الباحثون أن هذا الإعداد غير المتماثل يسم يتيح للنظام الاحتفاظ بمعظم دقة التحليل كامل السياق مع العمل بسرعة النسخة المضغودة. وفي الاختبارات عبر أربع قدرات وكيلية مختلفة، بما في ذلك الأسئلة المعقدة متعددة الخطوات واستخدام الأدوات، استعاد هذا الأسلوب حوالي 90 بالمائة من دقة السياق الكامل مع استخدام 20 إلى 30 بالمائة فقط من التكلفة الحسابية.
يكمن الابتكار الجوهري في كيفية تواصل النموذجين. فبدلاً من مجرد ترك النموذج الصغير يخمن والأمل في أن يتفق معه النموذج الكبير، يقوم النظام بمقارنة رد فعل النموذج الصغير تجاه النص الكامل مقابل رد فعله تجاه النص المضغوط. ويكشف الفرق بين هذين الردين بالضبط عما أزاله الضغط. ثم يستخدم النظام هذه الإشارة المحددة لتعديل مخرجات النموذج الكبير، مما يؤدي فعلياً إلى ملء الفجوات دون مطالبة النموذج الكبير بمعالجة البيانات الطويلة والثقيلة بنفسه. وتضمن آلية "حارس البوابة" الذكي تطبيق هذا التوجيه فقط عند الضرورة، مما يمنع النظام من الارتباك عندما يكون الضغط طفيفاً. ويعمل هذا النهج حتى عندما تتضمن المدخلات أنواعاً مختلفة من الوسائط؛ فعلى سبيل المثال، يمكن لنموذج صغير أن ينظر إلى صورة خام بينما يرى النموذج الكبير وصفاً نصياً فقط، حيث يقوم النموذج الصغير بتوجيه النموذج الكبير لفهم التفاصيل البصرية التي لا يستطيع رؤيتها.
اختبر الباحثون هذه الطريقة في مهام وكيلية واقعية، مثل الإجابة على أسئلة تتطلب البحث عبر مستندات متعددة، واتباع تعليمات متعددة الجولات، واستخدام الأدوات البرمجية. وقارنوا نظامهم بالأساليب القياسية التي إما تعالج كل شيء ببطء أو تضغط كل شيء بسرعة. وأظهرت النتائج أن "فك التشفيد التخميني" التقليدي لم يستطع استعادة الدقة التي فُقدت بسبب الضغط؛ بل قام ببساطة بتسريع العملية التي تفتقر للدقة. وفي المقابل، نجح هذا الأسلوب غير المتماثل الجديد في جسر الفجوة، حيث قدم أداءً قريباً من المثالي للسياق الكامل ولكن بجزء ضئيل من الوقت. وفي اختبارات محددة تتعلق بالمستندات الطويلة، حقق النظام سرعات تزيد بمقدار 1.3 إلى 1.7 مرة مقارنة بالخط المرجعي غير المضغوط، مع تقليل القوة الحسابية المطلوبة إلى حوالي الخُمس. وتشير الدراسة إلى أن هذه التقنية مفيدة بشكل خاص عندما يكون الضغط شديداً، حيث تتناسب قدرة النظام على استعادة المعلومات المفقودة طردياً مع مقدار التفاصيل التي جُردت في البداية.
يظهر هذا العمل أن المقايضة بين السرعة والدقة في وكلاء الذكاء الاصطناعي لا يجب أن تكون جامدة. فمن خلال فصل ما يراه النموذج السريع عما يراه النموذج البطيء، واستخدام دليل خفيف الوزن لنقل الرؤى الحرجة، من الممكن الحصول على كل من الكفاءة والاستنتاج عالي الجودة. وتشير النتائج إلى أنه بالنسبة للمهام التي يكون فيها السياق ثقيلاً والتفاصيل عرضة للفقدان بسهولة، يمكن لنموذج صغير يقرأ الصورة الكاملة أن يوجه بفعالية نموذجاً كبيراً يعمل مع ملخص. ويقدم هذا النهج مساراً عملياً نحو نشر وكلاء ذكاء اصطناعي متطورين في بيئات الإنتاج، حيث تعد زمن الاستجابة والتكلفة قيوداً حاسمة، دون التضحية بالموثوقية اللازمة لاتخاذ القرارات المعقدة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.