Nexus: Depth-Adaptive KV-Cache Splicing and Retrieval-Decoupled Tool Routing for Agentic LLMs on Unified Memory
يعمل Nexus على تسريع النماذج اللغوية الكبيرة الوكيلية (agentic LLMs) على الذاكرة الموحدة عبر فصل توجيه الأدوات عن التعبئة المسبقة المكلفة للمخططات (schema prefilling) من خلال مخزن جانبي دلالي (semantic lookaside buffer) وتوقيعات مضغوطة، مع استخدام آلية ربط ذاكرة تخزين مؤقت (KV-cache splicing) متكيفة مع العمق مع إعادة فك ترميز احتياطي للحفاظ على دقة المخرجات رغم انزياح تضمين الموضع الدوراني (rotary position embedding drift).
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي المتطور بسرعة، يتعلم نوع محدد من الوكلاء البرمجيين العمل نيابة عنا. هؤلاء المساعدون الرقميون لا يكتفون فقط بالإجابة على الأسئلة؛ بل يمتدون لاستخدام الأدوات، مثل التحقق من التقويم، أو البحث في قاعدة بيانات، أو إرسال بريد إلكتروني. وللقيام بذلك، يجب على البرنامج أولاً فهم دليل تعليمات مفصل لكل أداة قد يستخدمها. ومع نمو عدد الأدوات المتاحة لتصل إلى المئات، تصبح هذه الأدلة ضخمة، حيث تملأ الذاكرة قصيرة المدى للكمبيوتر بنصوص مكررة قبل أن يتمكن الوكيل حتى من البدء في التفكير. وهذا يخلق عنق زجاجة: فكلما زاد عدد الأدوات التي يمتلكها الوكيل، استغرق الأمر وقتاً أطول لبدء العمل، لأن الكمبيوتر يجب أن يعيد قراءة ومعالجة مجموعات التعليمات الضخمة هذه في كل مرة يتخذ فيها خطوة جديدة.
لقد بحث الباحثون عن طريقة لتجاوز عنق الزجاجة هذا. كانت إحدى الأفكار هي حفظ عمل الكمبيوتر على هذه التعليمات في شكل مضغوط، مثل "علامة مرجعية"، ببساطة وإعادة لصقها في الذاكرة كلما دعت الحاجة. يبدو هذا فعالاً، لكنه يصطدم بمشكلة جوهرية في كيفية تتبع نماذج الذكاء الاصطناعي الحديثة للوقت والترتيب. تستخدم هذه النماذج نظاماً لتذكر موقعها في تسلسل الكلمات، وإذا قمت بنقل كتلة من العمل المحفوظ إلى مكان مختلف في الذاكرة، فسيصاب النموذج بالارتباك بشأن ترتيب الأحداث. الأمر يشبه أخذ صفحة من منتصف كتاب ولصقها في فصل مختلف؛ قد تظل القصة منطقية، لكن الروابط الدقيقة بين الجمل قد تنكسر، مما يؤدي إلى حدوث أخطاء.
قام فريق من الباحثين المستقلين الآن ببناء نظام يسمى "Nexus" للملاحة في هذا المشهد المعقد. اكتشفوا أنه بينما لا يمكنك ببساطة نقل كتل التعليمات المحفوظة هذه من مكان لآخر دون مخاطرة، يمكنك فعل ذلك إذا كنت حذراً بشأن مكان وضعها وكيفية إصلاح الأخطاء التي ستظهر حتماً. وتكشف أعمالهم، التي اختُبرت على نوع محدد من شرائح الكمبيوتر القوية الموجودة في الحواسيب المحمولة الحديثة، عن حد دقيق للمسافة التي يمكنك تحريك هذه الكتل إليها قبل أن يصبح مخرج الذكاء الاصطناعي غير موثوق به. وجدوا أنه إذا تم نقل الكتلة لمسافة بعيدة جداً، فإن فهم النموذج للتسلسل ينحرف، لكن هذا الانحراف يمكن التنبؤ به. صمم الباحثون طريقة للكشف عن الوقت الذي يصبح فيه هذا الانحراف كبيراً جداً، وإعادة قراءة الجزء الضروري فقط من التعليمات لربط الذاكرة معاً بشكل مثالي.
إن الاكتشاف الأهم من هذا العمل هو أن النظام لا يحتاج إلى الاعتماد على هذه الاختصارات الذاكرية المحفوفة بالمخاطر لمهمته الأكثر أهمية: وهي اتخاذ القرار بشأن الأداة التي سيتم استخدامها. فبدلاً من إجبار الذكاء الاصطناعي على قراءة أدلة التعليمات الضخمة لاتخاذ قرار، يستخدم "Nexus" نظام بحث منفصل فائق السرعة. يقوم هذا النظام بمسح قائمة مدمجة من أسماء الأدوات وأوصافها للعثور على التطابق المناسب في أجزاء من المليون من الثانية. وبمجرد اختيار الأداة، يقوم الذكاء الاصطناعي بتوليد الوسائط (arguments) اللازمة باستخدام ملخص مضغوط وصغير للتعليمات—غالباً ما يتكون من بضع عشرات من الكلمات فقط—بدلاً من النص الكامل المتضخم. يحافظ هذا النهج على نظافة الذاكرة الرئيسية ويسمح للوكيل ببدء عمله بشكل أسرع بكثير، حيث يجد الكلمة الأولى من إجابته في أقل من نصف الوقت الذي يستغرقه إعادة قراءة الأدلة الكاملة.
كما اختبر الباحثون أيضاً حدود تقنية "تجزئة الذاكرة" (memory-splicing) الخاصة بهم بدقة. وقد أكدوا أنه بينما تعمل الطريقة بشكل جيد للمسافات القصيرة، إلا أن هناك حداً صلباً؛ فإذا وُضعت الكتلة المحفوظة على مسافة أكثر من 256 موضعاً من مكان إنشائها الأصلي، تصبح الأخطاء كبيرة جداً بحيث لا يمكن تجاهلها. عند هذه النقطة، يتوقف النظام عن محاولة ترقيع الذاكرة، ويعود بدلاً من ذلك إلى الطريقة الأبطأ ولكن الأكثر أماناً المتمثلة في إعادة قراءة النص الكامل. يضمن هذا أن يكون المخرج النهائي دائماً بدقة تامة كما لو أن الكمبيوتر لم يحاول أبداً استخدام الاختصارات. كما أثبتوا أن طريقة أبسط وأرخص لتخمين متى يجب التوقف عن الاختصار—بناءً على فحص سريع للحالة الداخلية للذاكرة—لا تعمل، لأنها تفشل في التنبؤ بالأخطاء بشكل موثوق.
في اختباراتهم، تمكن نظام "Nexus" من التعامل مع سجل يضم 250 أداة مختلفة دون تباطؤ، محافظاً على معدل نجاح عالٍ في اختيار الأداة الصحيحة. وعندما كان السياق متوسط الحجم، كان النظام أسرع بمقدار 1.7 مرة من الطريقة التقليدية لإعادة قراءة كل شيء. ومع ذلك، مع طول وعمق المحادثة، تلافت ميزة السرعة بشكل طبيعي، لتتساوى في النهاية مع أداء الطريقة القياسية. هذا ليس فشلاً، بل هو ميزة في تصميمهم: فالنظام يعطي الأولوية لإعطاء الإجابة الصحيحة على حساب السرعة. إنه يضمن أن المخرج لن يكون أبداً أسوأ من الطريقة القياسية، حتى لو استغرق أحياناً نفس القدر من الوقت.
أُجري هذا العمل على نوع واحد من شرائح الكمبيوتر ذات بنية ذاكرة موحدة، والتي تسمح للمعالج بالوصത്തിലേ إلى البيانات مباشرة دون نقلها بين أجزاء مختلفة من الآلة. كان هذا الإعداد للأجهزة ضرورياً لنجاح تقنية تجزئة الذاكرة، لأنها تتطلب وصولاً مادياً مباشراً إلى خلايا الذاكرة. ويؤكد الباحثون أنه بينما أرقام السرعة محددة لهذا الإعداد الواحد، فإن المبادئ الأساسية—مثل حدود تحريك كتل الذاكرة وضرورة وجود نظام توجيه منفصل—تبدو حقائق عالمية حول كيفية عمل هذه النماذج. لقد قدموا خريطة واضحة للمناطق التي تعمل فيها الاختصارات، والمناطق التي تنكسر فيها، وكيفية بناء نظام يحترم تلك الحدود لتقديم السرعة والموثوقية معاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.