💻 computer science

Revisiting Multimodal KV Cache Compression: A Frequency-Domain-Guided Outlier-KV-Aware Approach

تقدم هذه الورقة FlashCache، وهو إطار عمل لضغط ذاكرة التخزين المؤقت لـ KV موجه بنطاق التردد يعمل على تحديد وحفظ "قيم KV الشاذة" الحرجة مع الاستفاء من الترشيح منخفض التردد وتخصيص الميزانية الديناميكي لتحقيق تسريع كبير في الاستدلال وتقليل الذاكرة في النماذج اللغوية الكبيرة متعددة الوسائط دون المساس بالأداء.

المؤلفون الأصليون: Yaoxin Yang, Peng Ye, Xudong Tan, Chongjun Tu, Maosen Zhao, Jia Hao, Tao Chen

نُشر 2026-03-06

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yaoxin Yang, Peng Ye, Xudong Tan, Chongjun Tu, Maosen Zhao, Jia Hao, Tao Chen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تحاول تذكر قصة طويلة ومعقدة رواها لك صديق بينما يعرض عليك عرضاً تقديمياً لصور مئات الصور.

للحفاظ على استمرارية القصة، يحتاج دماغك إلى التمسك بالتفاصيل "المفتاحية" (كيف بدت الصور) والتفاصيل "القيمية" (ماذا كانت تعني) من كل شريحة رأيتها حتى الآن. في عالم الذكاء الاصطناعي، يُسمى بنك الذاكرة هذا بـ KV Cache.

ما المشكلة؟ كلما طال العرض التقديمي (مثل مشاهدة فيلم كامل أو تحليل مستند مكون من 100 صفحة مع صور)، يصبح بنك الذاكرة هذا ضخماً جداً. إنه يملأ "دماغ" الحاسوب (ذاكرة وحدة معالجة الرسومات GPU) بسرعة كبيرة لدرجة أن الذكاء الاصطناعي يبدأ في البطء، أو التلعثم، أو حتى الانهيار لأنه يحاول حمل الكثير من الأعباء.

حاولت الحلول الموجودة سابقاً حل هذه المشكلة عبر التساؤل: "أي الشرائح نظر إليها الذكاء الاصطناعي أكثر؟" ثم التخلص من الشرائح التي تجاهلها. لكن هذا كان ينطوي على عيبين كبيرين:

أجبر الذكاء الاصطناعي على التوقف وإعادة حساب "الانتباه" (attention) في كل مرة، مما يجعله بطيئاً.
افترض أنه إذا لم "ينظر" الذكاء الاصطناعي إلى شريحة ما، فإن تلك الشريحة لا تهم. ولكن أحياناً، تكون أهم الأدلة مخبأة في الخلفية!

إليك FlashCache: نهج "مرشح الترددات"

أدرك مؤلفو هذه الورقة البحثية أنه بدلاً من السؤال "إلى ماذا نظر الذكاء الاصطناعي؟"، يجب أن نسأل: "ما هو شكل البيانات؟"

إليكم كيف فعلوا ذلك، باستخدام تشبيه بسيط:

1. تشبيه "النعومة مقابل الحدة"

تخيل أن البيانات في ذاكرة الذكاء الاصطناعي ليست مجرد قائمة كلمات، بل هي موجة صوتية.

الترددات المنخفضة (الموجات الناعمة): هذه هي النغمات الخلفية الثابتة والرتيبة. إنها تمثل الأجزاء العامة والمملة والمتكررة من القصة. معظم البيانات تشبه هذا النوع.
الترددات العالية (القمم الحادة): هذه هي الشقوق المفاجئة والحادة، أو الضوضاء العالية المفاجئة، أو الألحان الفريدة. في ذاكرة الذكاء الاصطناعي، هذه "القمم" هي القيم المتطرفة (Outliers). إنها التفاصيل الغريبة أو الفريدة أو الحاسمة التي تجعل القصة منطقية (مثل وجه محدد وسط حشد، أو سيارة حمراء وسط بحر من اللون الأزرق).

اكتشف الباحثون أنك إذا تخلصت من "الضجيج الخلفي الناعم"، فستظل القصة منطقية. ولكن إذا تخلصت من "القمم الحادة" (القيم المتطرفة)، فستنهار القصة.

2. عملية FlashCache

يعمل FlashCache مثل سماعات إلغاء الضجيج الذكية لذاكرة الذكاء الاصطناعي:

الخطوة 1: مرشح التمرير المنخفض (التنعيم): يأخذ الذكاء الاصطناعي كل الذاكرة التي جمعها ويمررها عبر مرشح يقوم بتنعيم "القمم الحادة". هذا ينشئ "نسخة أساسية" من الذاكرة — وهي الأشياء المملة والمتوسطة.
الخطوة 2: إيجاد القيم المتطرفة: يقوم الذكاء الاصطناعي بعد ذلك بمقارنة الذاكرة الأصلية بهذه "النسخة الأساسية". ويسأل: "ما المختلف؟" الأجزاء التي هي مختلفة جداً (القمم/القيم المتطرفة) يتم تحديدها كأجزاء حاسمة (Critical).
الخطوة 3: الضغط الذكي: بدلاً من الاحتفاظ بكل شيء أو الاحتفاظ فقط بما "نظر" إليه الذكاء الاصطناعي، يحتفظ FlashCache بـ النسخة الأساسية (لتوف توفير المساحة) و القيم المتطرفة الحاسمة (للحفاظ على ذكاء النظام). إنه يتخلص من الأجزاء "الناعمة" المملة والمتكررة التي لا تضيف معلومات جديدة.

3. لماذا يعد هذا تغييراً جذرياً؟

لا إعادة فحص: الطرق القديمة كان عليها التوقف وإعادة حساب درجات الانتباه (مثل سؤال الذكاء الاصطناعي: "هل نظرت إلى هذا؟"). FlashCache لا يحتاج للقيام بذلك، فهو ينظر فقط إلى "شكل" البيانات. وهذا يعني أنه يعمل بشكل مثالي مع أسرع شرائح الحاسوب الموجودة حالياً (FlashAttention).
توزيع الميزانية الديناميكي: لاحظت الورقة البحثية أيضاً أن أجزاء مختلفة من دماغ الذكاء الاصطنادي تحتاج إلى كميات مختلفة من الذاكرة. بعض الطبقات مليئة بـ "القمم الحادة" (تفاصيل مهمة)، بينما طبقات أخرى مجرد "موجات ناعمة". يقوم FlashCache تلقائياً بإعطاء ذاكرة أكبر للطبقات التي تحتاجها، وأقل للطبقات التي لا تحتاجها.

النتيجة

باستخدام خدعة "نطاق التردد" هذه، يستطيع FlashCache أن:

يقلص استخدام الذاكرة بنسبة 80% (مثل الانتقال من حقيبة سفر مليئة بالملابس إلى حقيبة ظهر صغيرة).
يسرع الذكاء الاصطناعي بمقدار 1.69 ضعفاً (مما يجعله أسرع بمرتين تقريباً).
يحافظ على ذكاء الذكاء الاصطناعي كما هو، لأنه لم يتخلص أبداً من "القمم الحادة" الحاسمة التي تحمل المعنى الحقيقي.

باخت-صار: FlashCache يشبه أمين المكتبة الذي يدرك أن معظم الكتب على الرف هي مجرد نسخ من نفس القصة المملة. وبدلاً من الاحتفاظ بكل نسخة، يحتفظ بنسخة واحدة "متوسطة" وبضع "نسخ خاصة" تحتوي على ملاحظات فريدة. هذا يوفر مساحة هائلة ويجعل العثور على الكتاب المناسب أسرع بكثير، دون فقدان التفاصيل المهمة.

إليك ملخص تقني مفصل لورقة البحث "Revisiting Multimodal KV Cache Compression: A Frequency-Domain-Guided Outlier-KV-Aware Approach" (FlashCache).

1. بيان المشكلة

تواجه النماذج اللغوية الكبيرة متعددة الوسائط (MLLMs) عبئاً استنتاجياً كبيراً بسبب نمو مخزن الـ KV المؤقت (KV Cache) بشكل طردي مع طول المدخلات البصرية (مثل: الصور المتعددة، الدقة العالية، الفيديو).

قصور الأساليب الحالية: تعتمد تقنيات الضغط الحالية (مثل: LOOK-M وMEDA) على درجات الانتباه (attention scores) لتقليم أزواج الـ KV. ويحتوي هذا النهج على عيبين رئيسيين:
1. عدم التوافق: هو غير متوافق مع نوى الانتباه (attention kernels) عالية الكفاءة مثل FlashAttention، والتي لا تُخرج درجات انتباه كاملة صراحةً دون إعادة حساب (مما يضيف عبئاً إضافياً).
2. فقدان المعلومات: تُشتق درجات الانتباه من نواتج ضرب الاستعلام (Query) والمفتاح (Key)، متجاهلةً المساهمة المباشرة لمتجهات القيمة (Value vectors) في المخرج النهائي.
الهدف: تطوير طريقة لضغط مخزن الـ KV تكون خالية من درجات الانتباه (attention-score-free)، وخالية من التدريب (training-free)، ومتوافقة مع النوى عالية الكفاءة، مع الحفاظ على المعلومات الحرجة لعملية الاستنتاج.

2. المنهجية الجوهرية: FlashCache

يقترح المؤلفون FlashCache، وهو إطار عمل يعتمد على ملاحظة أن مصفوفات الـ KV في النماذج متعددة الوسائط تظهر خصائص توزيع محددة في المجال الترددي (frequency domain).

أ. الملاحظات الرئيسية

التركيز في الترددات المنخفضة: تتركز طاقة المجال الترددي لمصفوفات الـ KV متعددة الوسائط بشكل أساسي في الترددات المنخفضة (المعلومات الهيكلية والناعمة). أما المكونات عالية التردد فتشغل نسبة ضئيلة.
ظاهرة الـ Outlier KV: يؤدي حذف أزواج الـ KV التي تنحرف بشكل كبير عن "الطاقة الأساسية" للترددات المنخفضة إلى انخفاض حاد في الأداء. تُعرف هذه الأزواج ذات الانحراف العالي بـ Outlier KVs، وهي التي تشفر السمات الحرجة للاستنتاج. وفي المقابل، فإن حذف الأزواج ذات الانحراف المنخفض له تأثير ضئيل.

ب. مكونات إطار العمل

يتكون FlashCache من وحدتين رئيسيتين:

1. وحدة التعرف على الـ Outlier KV

العملية:
- التحويل: تطبيق تحويل جيب التمام المتقطع (DCT) لنقل تنسورات المفتاح ( $K$ ) والقيمة ( $V$ ) الأصلية إلى المجال الترددي.
- الترشيح: استخدام مرشح تمرير منخفض (Low-Pass Filter) (عامل القطع $\gamma$ ) للاحتفاظ فقط بالمكونات السائدة منخفضة التردد، مما ينشئ Base KV (مخزن الـ KV الأساسي) يتميز بالنعومة.
- إعادة البناء: تطبيق تحويل DCT العكسي (IDCT) للعودة إلى المجال الزمني، والحصول على تمثيل الـ Base KV.
- حساب الانحراف: حساب متوسط مربع الخطأ (MSE) بين أزواج الـ KV الأصلية والـ Base KV.
- الاختيار: إعطاء الأولوية للاحتفاظ بأزواج الـ KV ذات أكبر انحراف (Outlier KVs) واستبعاد تلك ذات الانحرافات الصغيرة.

2. وحدة تخصيص الميزانية الديناميكية

الدافع: يختلف تركيز طاقة التردد المنخفض عبر طبقات الـ Transformer المختلفة. لذا فإن نسبة الاحتفاظ الموحدة ليست مثالية.
العملية:
- حساب نسبة طاقة معلومات الـ Outlier (طاقة التردد العالي فوق نقطة القطع) إلى إجمالي الطاقة لكل طبقة.
- تطبيع (Normalization) هذه النسب لتوليد أوزان.
- تخصيص ميزانية مخزن الـ KV الإجمالية ديناميكياً، عبر منح حصص احتفاظ أكبر للطبقات ذات كثافة طاقة الـ Outlier العالية.

3. المساهمات الرئيسية

منظور جديد: أول عمل يحلل ضغط مخزن الـ KV متعدد الوسائط من منظور المجال الترددي، وتحديد ظاهرة "الـ Outlier KV".
إطار عمل FlashCache: طريقة ضغط خالية من التدريب وخالية من درجات الانتباه، تقوم بـ:
- تحديد الـ Outlier KVs الحرجة بكفاءة باستخدام DCT وMSE.
- تخصيص ميزانيات مخزن الـ KV لكل طبقة ديناميكياً بناءً على توزيع الطاقة.
الكفاءة والتوافق: متوافق بطبيعته مع FlashAttention، مما يتجنب عبء إعادة حساب درجات الانتباه أو دمج الـ KV.
الأداء: يحقق نتائج هي الأفضل في فئتها (SOTA) عبر نماذج متعددة الوسائط ومعايير اختبار متنوعة.

4. النتائج التجريبية

أُجريت التجارب على نماذج مثل Qwen2.5-VL-7B/32B و LLaVA-OneVision-1.5-8B عبر معايير متنوعة (MileBench, MUIRBench, MMMU, V*, HR-Bench, FAVOR-Bench).

الاحتفاظ بالأداء: يحافظ FlashCache على أداء المهام بمستوى يقارب مخزن الـ KV الكامل حتى عند نسب احتفاظ منخفضة جداً (مثل 20% أو 10%).
- في مهام "الإبرة في كوم القش" (الاسترجاع)، يتفوق FlashCache بشكل كبير على النماذج المرجعية (على سبيل المثال: 25.94 مقابل 19.69 لنموذج Qwen2.5-VL-7B عند نسبة احتفاظ 20%).
السرعة والذاكرة:
- يحقق سرعة فك تشفير (decoding) أسرع بمقدار يصل إلى 1.69 ضعفاً.
- يقلل من استخدام ذاكرة الـ KV بنسبة 80%.
المقارنة: يتفوق على طرق SOTA (مثل StreamingLLM, H2O, SnapKV, LOOK-M, MEDA) في كل من الدقة والكفاءة، خاصة تحت نسب ضغط عالية (0.05 - 0.2).
العبء الإضافي: تسبب عمليات DCT/IDCT تأخراً طفيفاً جداً (مثلاً: ~1.66 مللي ثانية عند مدخلات بطول 2K) مقارنة بالتوفير الهائل في وقت فك التشفير.

5. الأهمية

القابلية للتوسع: يُمكّن FlashCache النماذج اللغوية الكبيرة متعددة الوسائط من التعامل مع السياقات فائقة الطول (الفيديو، الصور عالية الدقة) دون مواجهة مشكلة نفاد ذاكرة وحدة معالجة الرسومات (OOM)، وهي نقطة الفشل الشائعة لطرق التقليم القائمة على الانتباه.
النشر العملي: من خلال توافقه مع FlashAttention وعدم حاجته لإعادة التدريب، يمكن نشره فوراً في بيئات الإنتاج.
الرؤية النظرية: تؤسس الورقة رابطاً جديداً بين معالجة الإشارات (التحليل الترددي) واستنتاج الـ LLM، مما يشير إلى أن "القيم المتطرفة" (outliers) في المجال الترددي هي الأكثر قيمة دلالية للتعليل متعدد الوسائط.

باختصار، يعيد FlashCache تعريف ضغط مخزن الـ KV عبر الانتقال من الاستدلال القائم على درجات الانتباه إلى تحليل توزيع المجال الترددي، محققاً توازناً ناجحاً بين الاختزال الشديد للذاكرة والاحتفاظ العالي بدقة الاستنتاج.