Parallel Context Compaction for Long-Horizon LLM Agent Serving
تقدم هذه الورقة **الضغط السياقي المتوازي**، وهو أسلوب يستبدل التلخيص التسلسلي غير المتوقع وفاقد المعلومات بنهج متوازٍ لتوفير تحكم دقيق في حجم الملخص مع تقليل وقت التنفيذ الفعلي بشكل كبير وتحسين الإنتاجية لوكلاء النماذج اللغوية الكبيرة (LLM) ذوي الأفق الطويل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق بارع (الوكيل الذكي) تحل لغزاً ضخماً متعدد الأجزاء. في كل مرة تطرح فيها سؤالاً أو تحصل على دليل، تقوم بتدوينه في دفتر ملاحظات ضخم. ومع استمرار القضية، يصبح الدفتر أكثر سمكاً وأكثر ضخامة.
في النهاية، يصبح الدفتر ضخماً جداً لدرجة أن:
- يصبح ثقيلاً جداً للحمل: يتعب المحقق من مجرد قراءة بداية الكتاب قبل الوصول إلى الأدلة الجديدة (وهذا ما يسمى بـ "تآكل السياق" أو context rot).
- لا يتسع في حقيبة المستندات: يصبح الدفتر أكبر من حجم الحد المسموح به في حقيبة المستندات التي يُسمح للمحقق باستخدامها (وهذا هو "نافذة السياق" أو context window).
لحل هذه المشكلة، عادة ما يتوقف المحقق ويطلب من كاتب (النموذج اللغوي الكبير - LLM) تلخيص الدفتر الضخم بالكامل في ورقة غش صغيرة مكونة من صفحة واحدة. لكن الورقة التي قدمتها تشير إلى ثلاث مشكلات رئيسية في هذه الطريقة التقليدية، ثم تقدم حلاً ذكياً جديداً يسمى "التكثيف المتوازي" (Parallel Compaction).
إليك تفصيل ذلك بتبسيط شديد:
المشكلة: ملخص "المقاس الواحد للجميع"
وجد المؤلفون أن الطريقة التقليدية في التلخيص معطلة بثلاث طرق محددة:
- "الصندوق الأسود" للطول: قد تقول للكاتب: "اجعل هذا الملخص مفصلاً للغاية!" أو "اجعل هذا الملخص قصيراً جداً!"، لكن الكاتب يتجاهلك. بغض النظر عن طول الدفتر الأصلي (سواء كان صفحتين أو 200 صفحة)، يكتب الكاتب دائماً ملخصاً بنفس الحجم تقريباً (حوالي نصف صفحة). لديهم "قاعدة ذهبية" في عقولهم من تدريبهم تقول: "الملخص دائماً بهذا الطول"، ولن يغيروا ذلك.
- عنق زجاجة "وقت الانتظار": نظرًا لأن على الكاتب قراءة الدفتر الضخم بالكامل قبل كتابة كلمة واحدة، يضطر المحقق للوقوف ساكناً والانتظار. في التحقيقات سريعة الوتيرة، يتراكم وقت الانتظار هذا ليصبح دقائق أو حتى ساعات من الإنتاجية الضائعة.
- "رمية النرد" وعدم الاستقرار: إذا طلبت من الكاتب تلخيص نفس الدفتر مرتين، فقد يعطيك ملخصين مختلفين تماماً. في مرة، قد يحتفظ بالدليل المتعلق بالسيارة الحمراء؛ وفي المرة التالية، قد ينسى ذلك الدليل ويحتفظ بالدليل المتعلق بالقبعة الزرقاء. هذا يجعل أداء المحقق غير قابل للتنبؤ به.
الحل: "خط التجميع" (التكثيف المتوازي)
بدلاً من طلب من كاتب واحد قراءة الكتاب بأكه وتلخيصه في تقرير واحد، يقترح المؤلفون توظيف فريق من الكتاب وتقسيم العمل.
تخيل أن الدفتر الضخم عبارة عن قطار طويل.
- الطريقة القديمة: شخص واحد يمشي على طول القطار، يقرأ كل عربة، ويكتب تقريراً واحداً.
- الطريقة الجديدة (التكثيف المتوازي): تقطع القطار إلى عربات أصغر متساوية الحجم (كتل). تعطي العربة الأولى للكاتب (أ)، والعربة التالية للكاتب (ب)، وهكذا.
إليك اللمسة الذكية:
عندما يلخص الكاتب (أ) عربته، فإنه يحصل أيضاً على رؤية العربات السابقة (التاريخ/السياق) ليفهم السياق العام. الكاتب (ب) يرى العربات 1 و2، والكاتب (ج) يرى العربات 1 و2 و3، وهكذا. جميعهم يعملون في نفس الوقت (بالتوازي).
لماذا يعمل هذا بشكل أفضل؟
يدعي البحث أن نهج "خط التجميع" هذا يحل المشكلات الثلاث المذكورة أعلاه:
- التحكم الكامل (مقبض التحكم في الحجم): بما أنك أنت من يقرر عدد العربات (الكتل) التي ستقطع بها القطار، فأنت تتحكم في الحجم النهائي. إذا كنت تريد ملخصاً ضخماً، استخدم كتلًا صغيرة (عدد أكبر من الكتاب، تفاصيل أكثر). إذا كنت تريد ملخصاً صغيراً، استخدم كتلًا كبيرة (عدد أقل من الكتاب، تفاصيل أقل). لا يتعين عليك التوسل للذكاء الاصطناعي لاتباع التعليمات؛ أنت فقط تغير عدد العمال.
- السرعة (الازدحام المروري): بما أن جميع الكتاب يعملون في نفس الوقت، فإن الوقت الإجمالي لإنهاء الملخص يكون أسرع بكثير. الأمر يشبه وجود 10 أشخاص يغسلون سيارة واحدة في آن واحد بدلاً من شخص واحد يقوم بذلك بمفرده.
- الاستقرار (الوصفة الثابتة): نظرًا لأن كل كاتب مسؤول فقط عن جزء صغير ومركز من القصة، فمن غير المرجح أن يرتبكوا أو ينسوا الأشياء. يصبح الملخص أكثر اتساقاً وثباتاً، مرة تلو الأخرى.
الخلاصة
تظهر الورقة أنه بالنسبة لمهام الذكاء الاصطناعي الطويلة والمعقدة، لا ينبغي لك الاعتماد على ذكاء اصطناعي واحد لتلخيص تاريخ ضخم. بدلاً من ذلك، يجب عليك تقسيم ذلك التاريخ إلى قطع صغيرة، وتلخيصها جميعاً في وقت واحد باستخدام تخطيط ذكي يحافظ على ترابط السياق، ثم دمج النتائج معاً.
هذا يمنح المشغل (الإنسان المسؤول) "مقبض تحكم" دقيقاً لتحديد كمية المعلومات التي يريد الاحتفاظ بها بالضبط، مع جعل العملية برمتها أسرع وأكثر موثوقية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.