🤖 AI

AgentKVShift: Efficient KV Cache Reuse for Agentic Memory Systems

تُعد AgentKVShift طريقةً تعتمد على الاستقصاء ولا تتطلب تدريباً، حيث تُسرّع أنظمة الذاكرة الوكيلية بشكل كبير من خلال إعادة استخدام وتصحيح مخازن KV المؤقتة بكفاءة مع إعادة حساب 10-30% فقط من الرموز (tokens)، محققةً أداءً يقارب الأداء الكامل لإعادة الحساب وتسريعاً في مرحلة التعبئة المسبقة (prefill) يتراوح بين 2 إلى 3.5 ضعف عبر مختلف النماذج اللغوية الكبيرة والمقاييس المرجعية.

المؤلفون الأصليون: Nilesh Prasad Pandey, Jason Kong, Lanxiang Hu, Quanling Zhao, Yujie Zhao, Onat Gungor, Hao Zhang, Tajana Rosing

نُشر 2026-07-27

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Nilesh Prasad Pandey, Jason Kong, Lanxiang Hu, Quanling Zhao, Yujie Zhao, Onat Gungor, Hao Zhang, Tajana Rosing

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك مساعد روبوت فائق الذكاء، مثل خادم رقمي يتذكر كل ما أخبرته به. لقد كنت تدردش معه لشهور، وتناقش أفلامك المفضلة، وصعوباتك في الواجبات المدرسية، وأحلامك للمستقبل. للإجابة على سؤال جديد، يحتاج هذا الروبوت إلى العودة عبر مذكراته الضخمة من المحادثات الماضية. ولكن هناك عقبة: في كل مرة يقلب فيها صفحة جديدة ليقرأ ملاحظاتك القديمة، يتعين عليه إعادة قراءة كل كلمة من البداية، وإعادة حساب معنى كل جملة في دماغه. هذا الأمر بطيء للغاية ويستهلك الكثير من الطاقة، مثل محاولة إعادة خبز كعكة كاملة لمجرد تذوق فتات منها.

في عالم الذكاء الاصطناعي، تُسمى عملية "إعادة القراءة" هذه توليد حالات المفتاح والقيمة (KV states). فكر في هذه الحالات كـ "فهم" الروبوت الداخلي للكلمات التي قرأها للتو. عادةً، إذا رأى الروبوت نفس الكلمات مرة أخرى، يمكنه ببساطة أخذ ملاحظاته القديمة (KV cache) بدلاً من إعادة قراءة كل شيء. ومع ذلك، في المحادثات الطويلة، يتغير "السياق". فكلمة "بنك" تعني شيئًا مختلفًا عندما تتحدث عن المال مقابل عندما تتحدث عن ضفة نهر. ولأن المعنى يتغير، تصبح ملاحظات الروبوت القديمة "قديمة" أو غير دقيقة نوعًا ما. إذا استخدم الملاحظات القديمة، فقد يعطيك إجابة غريبة أو خاطئة. لذا، أمام الروبوت خيار: إما إعادة قراءة كل شيء (بطيء ومكلف) أو استخدام الملاحظات القديمة والأمل في أن تكون قريبة بما يكفي (سريع، ولكن فيه مخاطرة).

المشكلة في الطريقة القديمة
حاول العلماء إصلاح ذلك من خلال كونهم انتقائيين. فقد اكتشفوا أنه بدلاً من إعادة قراءة الصفحة بأكملة، يمكن للروبوت فقط إعادة قراءة بعض الكلمات "المهمة" (الرموز/tokens) وتخمين الباقي. هذا يشبه قراءة الجملة الأولى والأخيرة من فقرة وتخمين المنتصف. هذا الأسلوب يعمل بشكل جيد في المهام البسيطة، مثل قراءة مقال إخباري. ولكن عندما يعمل الروبوت كوكيل معقد (agent) — يدير جدولاً زمنياً، أو يكتب كوداً برمجياً، أو يخوض محادثة عميقة تمتد لعدة أيام — فإن استراتيجية "تخمين المنتصف" هذه تنهار. تصبح ملاحظات الروبوت القديمة مشوهة للغاية بحيث تصبح التخمينات سيئة، وتنخفض جودة الإجابات. لقد صُممت الطرق القديمة للنصوص الخام، لكن الوكلاء المعاصرين يستخدمون "ذاكرة منسقة": ملخصات، وعلامات، وكلمات مفتاحية أنشأها الروبوت نفسه. هذه الملاحظات المنظمة معقدة؛ وتكتيكات "إعادة القراءة الانتقائية" القديمة لا تعمل معها ببساطة.

الحل الجديد: AgentKVShift
هنا يأتي دور AgentKVShift، وهو طريقة تعمل كمحرر ذكي لذاكرة الروبوت. اكتشف الباحثون شيئًا رائعًا حول كيفية حدوث خطأ هذه الملاحظات "القديمة". وجدوا أن الخطأ ليس فوضى عشوائية؛ بل هو في الغالب "انزياح" (drift) واحد مشترك يؤثر على كتلة الذاكرة بأكملها، بالإضافة إلى اهتزازات فردية صغيرة لكل كلمة.

تخيل أن لديك كومة من الصور الفوتوغرافية القديمة التي بهتت جميعها قليًا بسبب تركها في الشمس. الطريقة القديمة ستحاول إصلاح الصور عبر اختيار بعضها وإعادة تحميضها، وترك الباقي باهتًا. يقوم AgentKVShift بشيء أذكى. فهو يختار مجموعة "جس" (probe) صغيرة من الصور (بضع كلمات فقط) ويعيد تحميضها ليرى بالضبط كيف أثرت الشمس على الكومة بأكملها. ثم، يقوم بتطبيق "تصحيح ألوان" واحد محسوب على كل صورة في الكومة، وليس فقط الصور التي أعاد تحميضها.

كيف يعمل في الممارسة العملية
إليك سحر العملية:

الجس (The Probe): عندما يحتاج الروبوت لاستخدام كتلة ذاكرة، فإنه يعيد حساب معنى عينة صغيرة من الكلمات (حوالي 10% إلى 30% من الإجمالي).
الإزاحة (The Shift): يقيس الفرق بين الحساب الجديد والملاحظة القديمة الباهتة لهذه الكلمات المختارة. هذا الفرق هو "الإزاحة" (offset) أو "الانزياح" (drift).
التصحيح (The Correction): بدلاً من ترك الـ 70% إلى 90% الأخرى من الكلمات كما هي، يأخذ AgentKVShift ذلك "الانزياح" المقاس ويضيف تصحيحًا طفيفًا إلى كل كلمة في كتلة الذاكرة. إنه يشبه قول: "الكومة بأكملها مائلة للاصفرار بنسبة 5%، فلنضف القليل من اللون الأزرق إلى كل صورة لإصلاحها".

النتائج
النتائج مثيرة للإعجاب. في الاختبارات باستخدام أربعة نماذج ذكاء اصطناعي مختلفة (تتراوح من النماذج الصغيرة ذات 3 مليارات معلمة إلى النماذج الكبيرة ذات 32 مليار معلمة)، تمكن AgentKVShift من تقديم إجابات تكاد تكون بنفس جودة إعادة قراءة كل شيء من البداية.

السرعة: حقق هذا بينما كان يعيد حساب 10% إلى 30% فقط من البيانات. جعل هذا الروبوت أسرع بمقدار 2 إلى 3.5 مرة في بدء استجاباته مقارنة بعدم استخدام التخزين المؤقت (caching) على الإطلاق.
الكفاءة: وصل إلى نفس النتائج عالية الجودة التي لم تحققها الطرق الأخرى إلا عندما كانت تعيد حساب ما يقرب من نصف البيانات (45-55%).
المتانة: حتى عندما تم ضغط ذاكرة الروبوت لتوفير المساحة (باستخدام إعدادات 2-bit أو 4-bit مكثفة)، استمر AgentKVShift في العمل بشكل جيد، محتفظًا بدقة تزيد عن ضعف دقة الطرق السابقة.

ما لا يفعله
من المهم ملاحظة ما لا تفعله هذه الطريقة. فهي لا تتطلب إعادة تدريب الروبوت ببيانات جديدة؛ بل تعمل مع النماذج الموجودة. كما أنها لا تحل كل مشاكل الذاكرة طويلة المدى. فهي لا تعالج سحريًا قدرة الروبوت على التفكير عبر كتل متعددة ومختلفة من الذاكرة إذا كان المنطق يتطلب تفكيراً عميقاً عابراً للكتل. بالنسبة لمهام الاستنتاج المعقدة تلك، لا تزال الفجوة بين هذه الطريقة وبين إعادة القراءة من البداية موجودة، رغم أن AgentKVShift يظل الخيار الأفضل المتاح.

لماذا هذا مهم؟
لأي شخص يبني مساعدين يعملون بالذكاء الاصطناعي يحتاجون لتذكر محادثات طويلة أو إدارة مهام معقدة على مدار أيام أو أسابيع، يوفر AgentKVShift أداة بسيطة وقوية. إنه يحول "ميزانية التحديث" (العدد المحدود من الكلمات التي يمكنك إعادة قراءتها) إلى إشارة مفيدة لكتلة الذاكرة بأكملها. من خلال إدراك أن أخطاء الذاكرة غالبًا ما تنزاح معًا، حوّل الباحثون مشكلة بطيئة ومكلفة إلى حل سريع وفعال، مما يجعل الذاكرة طويلة المدى للذكاء الاصطناعي عملية وسريعة.

ملخص تقني: AgentKVShift

بيان المشكلة
تطورت أنظمة الوكلاء المعتمدة على النماذج اللغوية الكبيرة (LLM) المعززة بالذاكرة من أنظمة بسيطة لاسترجاع المحتوى المدعوم بالاسترجاع (RAG)، والتي تسترجع مقاطع نصية خام، إلى أنظمة ذاكرة وكيلة متطورة تقوم بتنظيم محتوى مهيكل غني بالبيانات الوصفية (Metadata) المولدة بواسطة النموذج (مثل الملخصات، والكلمات المفتاحية، والوسوم، والتعليقات التوضيحية العلاقاتية). وبينما تعمل هذه الأنظمة على تحسين الحفاظ على السياق عبر مئات التفاعلات، إلا أنها تفرض اختناقاً حوسبياً كبيراً: زمن استجابة مرحلة التعبئة المسبقة (prefill latency).

في كل مرة يسترجع فيها الوكيل وحدة ذاكرة، يجب على النظام إعادة تشفير النص إلى حالات مفتاح-قيمة (KV states). وفي الذاكرة الوكيلية، لا يكون السياق المسترجع نصاً خاماً ثابتاً، بل تمثيلات ديناميكية غنية بالبيانات الوصفية حيث يركز النموذج اهتمامه بشكل أساسي على هذه البيانات. تفشل طرق إعادة استخدام مخزن (KV cache) الحالية التي لا تتطلب تدريباً (مثل CacheBlend وProphetKV)، والمصممة لأنظمة RAG ذات المقاطع النصية الخام، في التعميم على هذا الإعداد. فهي تعتمد على اختيار جزء صغير من الرموز (tokens) لإعادة حسابها بناءً على التباين، مما يترك بقية المخزن "قديماً" (stale). وفي الذاكرات الوكيلية الغنية بالبيانات الوصفية، تؤدي استراتيجية اختيار الرموز هذه إلى تدهور كبير في الدقة عبر مختلف أحجام النماذج (من 3 مليار إلى 32 مليار معلمة) وبنيات الذاكرة (سواء كانت قائمة على الملاحظات أو الرسوم البيانية). وتكمن المشكلة الجوهرية في أن هذه الطرق لا تعالج الطبيعة الهيكلية لخطأ إعادة استخدام (KV) في هذا المجال المحدد.

المنهجية: AgentKVShift
يقترح المؤلفون AgentKVShift، وهو أسلوب لتصحيح متبقيات (KV) موجه بالاستقصاء ولا يتطلب تدريباً. يستند هذا النهج إلى تحليل طيفي لمتبقيات إعادة استخدام (KV)، والذي يكشف أن الخطأ في قطعة الذاكرة المسترجعة ليس ضجيجاً عشوائياً على مستوى الرمز، بل يهيمن عليه إزاحة مشتركة على مستوى الذاكرة (تحيز على مستوى القطعة) بالإضافة إلى تقلبات صغيرة على مستوى الرمز.

تعمل الطريقة كما يلي:

اختيار الاستقصاء (Probe Selection): لكل قطعة ذاكرة مسترجعة، يتم اختيار مجموعة صغيرة من رموز "الاستقصاء" (على سبيل المثال، 10-30% من القطعة) بناءً على درجات التباين عند طبقة فحص محددة (عادةً الطبقة الأولى).
تقدير المتبقي (Residual Estimation): يقوم النظام بإعادة حساب حالات (KV) الطازجة لرموز الاستقصاء هذه. ثم يحسب متوسط المتبقي (الفرق بين حالات الـ KV الطازجة والمخزنة) للقطعة.
التصحيح العالمي (Global Correction): بدلاً من مجرد إعادة حساب الرموز المختارة وترك البقية دون تغيير، يطبق AgentKVShift إضافة متجه موزونة لجميع الرموز غير المستقصاة في القطعة. ويتم اشتقاق التصحيح من الإزاحة المقدرة على مستوى القطعة.
- $K_{j,corr} = K_{j,reuse} + w_{K,j} \cdot \hat{\mu}_{K,C}$
- $V_{j,corr} = V_{j,reuse} + w_{V,j} \cdot \hat{\mu}_{V,C}$
- هنا، يمثل $\hat{\mu}$ الإزاحة المقدرة من مجموعة الاستقصاء، وتحدد الأوزان $w$ بناءً على التباين الأولي للرمز.

يعمل هذا النهج بفعالية على تحويل "ميزانية التحديث" المحدودة (الرموز التي يُعاد حسابها فعلياً) إلى إشارة مفيدة تصحح قطعة الذاكرة بأكملها، بدلاً من مج-رد مجموعة فرعية من الرموز.

المساهمات الرئيسية

التحليل التجريبي للفشل: يوضح البحث أن طرق إعادة استخدام (KV) الحالية التي لا تتطلب تدريباً تتدهور بشكل كبير في استرجاع الذاكرة الوكيلية، مع وجود فجوات دقة مستمرة عبر ثلاث عائلات من النماذج (Qwen2.5، Qwen3، Mistral)، وأحجام تتراوح من 3 مليار إلى 32 مليار معلمة، وكلا نظامي الذاكرة (القائم على الملاحظات والقائم على الرسم البياني).
الرؤية الهيكلية: من خلال التحليل الطيفي، حدد المؤلفون أن متبقيات إعادة استخدام (KV) في الذاكرة الوكيلية تهيمن عليها إزاحة مشتركة على مستوى القطعة. واقترحوا أن طرق اختيار الرموز تفشل لأنها تترك هذا التحيز المهيمن قائماً في الرموز التي لم يتم تحديثها.
خوارزمية AgentKVShift: مخطط تصحيح مبتكر يقدر الإزاحة على مستوى القطعة من مجموعة استقصاء صغيرة ويطبق تصحيح إزاحة المتوسط لجميع الرموز المعاد استخدامها. نظرياً، وتحت افتراضات توزيع (sub-Gaussian)، توفر هذه الطريقة حداً أدنى لخطأ الانتباه أكثر إحكاماً من إعادة الاستخدام غير المصحح عندما تهيمن الإزاحة على مستوى الذاكرة على خطأ التقدير.
التكامل مع التكميم (Quantization): أظهرت النت أن الطريقة تتوافق بفعالية مع تكميم مخزن (KV cache) (2-بت و4-بت). حيث يستوعب تقدير الاستقصاء كلاً من الانزياح الدلالي وضجيج التكميم المتوسط، مما يسمح لـ AgentKVShift بالحفاظ على دقة أعلى بكثير من النماذج المرجعية تحت إعدادات التكميم القوية.

النتائج التجريبية
قيم المؤلفون AgentKVShift على اثنين من معايير الذاكرة الوكيلية طويلة المدى: LoCoMo (الحوار طويل الأمد) و AMA-Bench (التطبيقات الوكيلية).

الأداء مقابل إعادة الحساب الكاملة: في LoCoMo، يحقق AgentKVShift أداءً قريباً من إعادة الحساب الكاملة (ضمن انخفاض نسبي قدره 1.5–6% في F1) مع تحديث 10% فقط من المخزن. في المقابل، تتطلب النماذج المرجعية مثل CacheBlend وProphetKV تحديث 45–55% من المخزن لتحقيق أداء مماثل.
AMA-Bench: في مهمة الاستدعاء (Recall)، يحقق AgentKVShift أعلى قيم F1 ودقة (LLM-Judge) عبر ستة مجالات، مما يقلص الفجوة مع إعادة الحساب الكاملة إلى 0.012 نقطة F1 عند نسبة إعادة حساب 30%.
الكمون والإنتاجية: من خلال العمل بنسب إعادة حساب منخفضة (10–30%)، يوفر AgentKVShift تسريعاً في مرحلة التعبئة المسبقة بمقدار 2–3.5 ضعف مقارنة بعدم استخدام إعادة استخدام (KV) على وحدة GPU واحدة من نوع A100. وتتوسع مكاسب الإنتاجية مع طول السياق، وحجم الدفعة (batch size)، وحجم النموذج.
المتانة تجاه التكميم: تحت ظروف تكميم (KV) القوي بقدر 2-بت، يحتفظ AgentKVShift بأكثر من ضعف (2×) قيمة F1 للطرق الأخرى لإعادة الاستخدام (على سبيل المثال، 0.203 F1 مقابل أقل من 0.08 F1 للنماذج المرجعية عند استخدام KIVI 2-bit).

الأهمية
يزعم البحث أن AgentKVShift يقدم حلاً بسيطاً وفعالاً لخدمة أعباء عمل الذاكرة الوكيلية طويلة المدى. ومن خلال إدراك أن خطأ إعادة استخدام (KV) في الاسترجاع الغني بالبيانات الوصفية يختلف هيكلياً عن استرجاع النص الخام، تنقل هذه الطريقة النموذج من "اختيار الرموز التي يجب إعادة حسابها" إلى "تصحيح القطعة بأكملها بناءً على عملية استقصاء". وهذا يسمح للأنظمة الوكيلية بالحفاظ على سياق عالي الجودة عبر التفاعلات الممتدة مع تقليل زمن استجابة الاستدلال والتكلفة الحوسبية بشكل كبير، دون الحاجة إلى إعادة تدريب النموذج. ويضع المؤلفون ذلك كخطوة حاسمة نحو جعل الوكلاء المعززين بالذاكرة قابلين للتوسع للنشر في العالم الحقيقي.

أبحاث مشابهة