🤖 AI

MuCRASP: Multimodal Chain-of-thought Reasoning aware Structured Pruning

يُعدّ MuCRASP إطار عمل جديد للتقليم الهيكلي لنماذج الرؤية واللغة، حيث يحافظ على دقة استدلال سلسلة الأفكار متعدد الوسائط عبر تحديد وحماية الرموز المحورية الحرجة للاستدلال ومعالجة الاختلافات في التنشيط عبر الوسائط، متفوقاً بذلك على الأساليب الحالية حتى عند معدلات الضغط العالية.

المؤلفون الأصليون: Aritra Dutta, Somak Aditya

نُشر 2026-05-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Aritra Dutta, Somak Aditya

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مساعداً عبقرياً ومتعدد المواهب، بارعاً للغاية في حل الألغاز المعقدة. يمكن لهذا المساعد أن ينظر إلى صورة (مثل صورة لغرفة فوضوية) ويقرأ سؤالاً (مثل "إذا أسقطتُ المزهرية، هل سيبتل القط؟"). وللإجابة، لا يكتفي المساعد بالتخمين؛ بل يكتب مذكرات خطوة بخطوة لأفكاره، موضحاً كيف يربط بين النقاط. وهذا ما يسمى بـ سلسلة التفكير (Chain-of-Thought - CoT).

ومع ذلك، فإن هذا المساعد ضخم جداً. فهو يشغل مساحة هائلة من ذاكرة الكمبيوتر ويستهلك طاقة كبيرة للتشغيل، مما يجعله مكلفاً للغاية بالنسبة للكثير من الناس لاستخدامه في حياتهم اليومية.

المشكلة: خطأ "المقص"
حاول العلماء جعل هذا المساعد أصغر حجماً عن طريق "التقليم" (Pruning) — أي ببساطة قص أجزاء من دماغه التي يعتقدون أنها غير مستخدمة. فكر في الأمر كبستاني يقلم شجيرة ضخمة لتناسب أصيصاً صغيراً.

مشكلة الأساليب السابقة هي أنها كانت تشبه بستانياً يستخدم مقصاً معصوب العينين؛ فقد كان يقص الأغصان بناءً على مدى "ثقلها" أو "نشاطها" بشكل عام، دون فهم ما تفعله الشجيرة فعلياً.

النتيجة: عندما قصوا الشجيرة لجعلها أصغر، قطعوا بالخطأ تلك الأغصان الدقيقة والخاصة التي تربط الخطوات المنطقية ببعضها. أصبح المساعد صغيراً وسريعاً، لكنه فقد قدرته على التفكير المنطقي. كان لا يزال قادراً على التحدث بطلاقة، لكن تفكيره أصبح مكسوراً، مثل قصة تبدو جملها منطقية بمفردها، لكن حبكتها لا معنى لها.

الحل: µCRASP (البستاني الذكي)
ابتكر المؤلفان، أريترا دتا وسوماك أديتيا، طريقة جديدة تسمى µCRASP. وبدلاً من البستاني الأعمى، فإن µCRASP هو بستاني ذكي يفهم المهمة المحددة التي تقوم بها الشجيرة: وهي التفكير المنطقي.

إليك كيف يعمل µCRASP، باستخدام ثلاث استعارات بسيطة:

1. إيجاد "نقاط الارتكاز" (إشارات الانعطاف):
في سلسلة طويلة من التفكير، تكون معظم الكلمات مجرد حشو. ولكن هناك لحظات حرجة قلي قل، حيث ينتقل المساعد من فكرة إلى أخرى (على سبيل المثال: "أنا أرى مزهرية" $\leftarrow$ "لذلك، قد تسقط"). يطلق المؤلفون على هذه الكلمات اسم الرموز المحورية (Pivot Tokens).

الاستعارة: تخيل رحلة بالقطار. معظم المسار عبارة عن خطوط مستقيمة. لكن التحويلات (حيث يغير القط مساره) هي الأجزاء الأكثر أهمية. إذا قطعت المسار عند التحويلات، سيخرج القطار عن مساره. µCRASP يحدد هذه التحويلات ويرفض قطعها، حتى لو كان ذلك يعني قطع المزيد من المسار المستقيم والممل.

2. احترام "نظام الدماغين" (الرؤية + اللغة):
يمتلك هذا المساعد طريقتين متميزتين للتفكير: واحدة للنظر إلى الصور (الرؤية) وأخرى لقراءة الكلمات (اللغة). ويجب أن يتواصل هذان الجزءان باستمرار.

الاستعارة: تخيل فريقاً من شخصين: مصور فوتوغرافي وكاتب. عليهما العمل معاً لحل لغز ما. الأساليب القديمة للتقليم عاملتهم ككتلة واحدة من البشر وقصتهم عشوائياً. أما µCRASP فيدرك أنه إذا قصت الأشخاص الذين يساعدون المصور على التحدث مع الكاتب، فإن الفريق سينهار. لذا، فهو يحمي تحديداً "غرفة الاجتماعات" حيث يلتقي هذان الدماغان.

3. الميزانية العالمية (حقيبة الظهر):
الهدف هو قص نسبة مئوية محددة من الدماغ (مثلاً 30%) لجعله أصغر.

الاستعارة: تخيل أن لديك حقيبة ظهر (ذاكرة الكمبيوتر) وتحتاج إلى وضع الكثير من المعدات فيها. الأساليب القديمة قد تقص 30% من الأحذية الثقيلة و30% من الجوارب الخفيفة، مما يتركك بدون أحذية ومع الكثير من الجوارب. يعمل µCRASP كحامل حقائب ذكي؛ فهو ينظر إلى قيمة كل قطعة (عصبون) بالنسبة لـ وزنها. قد يقرر الاحتفاظ بالأحذية الثقيلة (لأنها حاسمة للتفكير المنطقي) ويقص الكثير من الجوارب الخفيفة، مما يضمن أن الحقيبة صغيرة ولكنها لا تزال تعمل بكامل وظائفها.

النتائج
اختبر الباحثون هذه الطريقة على عدة "مساعدين" مختلفين (نماذج ذكاء اصطاسي) ووجدوا أن:

الأساليب القديمة كسرت القدرة على التفكير بسرعة كبيرة. فبمجرد أن يقصوا أكثر من 25-30% من النموذج، ينهار المنطق تماماً.
µCRASP حافظ على المنطق سليماً حتى عندما قصوا 50% من النموذج.
على الرغم من أن النموذج أصبح بنصف حجمه الأصلي، إلا أنه لا يزال بإمكانه حل الألغاز البصرية المعقدة (مثل مسائل الفيزياء أو عد الأشياء) بنفس الوضوح المنطقي للنسخة الضخمة والمكلفة.

باخت خلاص
µCRASP هو طريقة جديدة لتقليص نماذج الذكاء الاصطناعي الذكية دون كسر عقولها. يفعل ذلك من خلال تحديد وحماية اللحظات الدقيقة والحاسمة التي ينتقل فيها الذكاء الاصطناعي من فكرة إلى أخرى بعناً، ومن خلال ضمان بقاء "العينين" و"الفم" متصلين. يسمح هذا لأدوات التفكير القوية بالعمل على أجهزة أصغر وأرخص دون فقدان قدرتها على التفكير خطوة بخطوة.

ملخص تقني: µCRASP

بيان المشكلة

حققت نماذج الرؤية واللغة (VLMs) نجاحًا كبيرًا في المهام متعددة الوسائط المعقدة من خلال الاستفادة من "سلسلة التفكير" (Chain-of-Thought - CoT)، والتي تتضمن توليد خطوات وسيطة صريحة قبل الوصول إلى الإجابة النهائية. ومع ذلك، فإن أعداد المعلمات الضخمة لهذه النماذج تجعل نشرها مكلفًا حوسبيًا. وبينما يوفر تقليم النماذج المهيكل (Structured Model Pruning) مسارًا نحو الكفاءة، إلا أن الطرق الحالية تفشل في الحفاظ على دقة استدلال سلسلة التفكير عند تطبيقها على نماذج الرؤية واللغة.

حدد المؤلفون سببين رئيسيين لهذا الفشل:

التقليم غير المدرك لسلسلة التفكير (CoT-Agnostic Pruning): يتم التحكم في اتساق استدلال سلسلة التفكير بواسطة "رموز محورية" (pivot tokens) متفرقة (نقاط الانتقال بين خطوات الاستدلال). تتعامل طرق التقليم التقليدية مع جميع الرموز بالتساوي، مما يؤدي إلى إضعاف إشارة هذه الرموز الانتقالية الحرجة تحت حسابات الخسارة الإجمالية، مما يسبب خللاً في التوازن بين الإشارة والضجيج.
التفاوت عبر الوسائط (Cross-Modal Disparity): لا تأخذ طرق التقليم التقليدية المصممة لنماذج اللغة الكبيرة (LLMs) أحادية الوسائط في الاعتبار توزيعات التنشيط المتميزة بين الوسائط البصرية والنصية. تظهر نماذج الرؤية واللغة عدم تجانسًا هيكليًا وتشابكًا عبر الوسائط، مما يجعل عملية التقليم أكثر صعوبة بكثير من النماذج النصية البحتة.

المنهجية: µCRASP

يقترح المؤلفون µCRASP (التقليم المهيكل المدرك لاستدلال سلسلة التفكير متعدد الوسائط)، وهو إطار عمل للتقليم المهيكل لا يتطلب تدريبًا، مصمم للحفاظ على تماسك الاستدلال والمحاذاة عبر الوسائط تحت ميزانية عالمية للمعلمات. تعمل الطريقة من خلال أربع خطوات رئيسية:

الإسناد العالمي (Global Attribution): يحسب درجة أهمية عالمية قياسية ( $I_{global}$ ) للوحدات الهيكلية (العصبونات، رؤوس الانتباه، مجموعات GQA) باستخدام توسع تايلور من الدرجة الأولى عبر جميع مواضع الرموز.
إسناد المحور المساري (Trajectory Pivot Attribution): يحدد "الرموز المحورية" التي تميز الانتقالات بين خطوات الاستدلال (على سبيل المثال، المحددات الهيكلية مثل "الخطوة 1:" أو الروابط المنطقية مثل "بناءً عليه"). يقوم بحساب درجة إسناد محددة ( $A_{pivot}$ ) تقتصر على نوافذ محلية حول مناطق الانتقال المكتشفة هذه. يضمن ذلك منح عملية التقليم الأولوية للوحدات الحرجة للاستمرارية المنطقية بدلاً من مجرد السلاسة السطحية.
تسجيل التبعية عبر الوسائط (CMDS): يحدد التبعية بين الوسائط البصرية والنصية لكل طبقة فك تشفير باستخدام درجة مستوحاة من "التباعد الأقصى المتوسط" (Maximum Mean Discrepancy - MMD). يحدد هذا المكون الطبقات التي يكون فيها التكامل بين الرؤية واللغة في أقوى حالاته (عادةً في الطبقات الوسطى)، مما يسمح للطريقة بحماية هذه الطبقات "العنقودية" من التقليم الشديد.
تحسين حقيبة Knapsack العالمية: يدمج درجات الإسناد العالمية والمحورية مع معامل خلط مشروط بالضغط ( $\gamma_{dyn}$ ) وعوامل حماية على مستوى الطبقة مشتقة من CMDS وحساسية التنشيط. ثم تحل الط طريقة مسألة knapsack عالمية لاختيار المجموعة المثلى من الوحدات الهيكلية التي سيتم الاحتفاظ بها، مما يعظم الأهمية الحافظة للاستدلال مع احترام ميزانية المعلمات وقيود الاحتفاظ الدنيا.

المساهمات الرئيسية

تشخيص الفشل: يوضح البحث أن طرق التقليم المهيكلة الحالية (مثل FLAP، وLLM-Pruner، وAttribution Pruning) تفشل في الحفاظ على استدلال سلسلة التفكير في نماذج الرؤية واللغة، مما يتسبب غالبًا في انهيار سلاسل الاستدلال تحت ضغط متوسط رغم الحفاظ على مستويات مقبولة من الـ perplexity.
إطار عمل µCRASP: يقدم طريقة تقليم مبتعة لا تتطلب تدريبًا تستهدف صراحةً المكونات الحرجة للاستدلال. وهي تدمج الإسناد المدرك للاستدلال لالتقاط الرموز الحرجة للانتقال، ونمذجة التبعية عبر الوسائط للحفاظ على المحاذاة بين الرؤية واللغة، وحساسية الطبقة لتوجيه التقليم المهيكل.
التقييم الشامل: يوفر تقيماً واسع النطاق عبر أربعة نماذج رؤية ولغة (Llama 3.2-11B، Qwen2.5-VL-7B/3B، Gemma-3-4B) وثلاثة مجالات استدلال (الفيزيائي، الكمي، والمنطق العام). تستخدم الدراسة مقياس "النموذج اللغوي كحكم" (LLM-as-Judge) لتقييم الصلاحية المنطقية لمسارات سلسلة التفكير، متجاوزةً بذلك مقاييس الدقة التقليدية على مستوى الرمز.

النتائج التجريبية

تظهر التجارب أن µCRASP يحافظ باستمرار على جودة الاستدلال تحت مستويات ضغط متزايدة حيث تفشل النماذج المرجعية:

تماسك الاستدلال مقابل التطابق التام (Exact Match): يظهر µCRASP انفصالاً بين تماسك الاستدلال ودقة التطابق التام (EMa). فبينما يتدهور التطابق التام، تظل الصلاحية المنطقية لمسار سلسلة التفكير (المقاسة بواسطة LLM-Judge) عالية. على سبيل المثال، في نموذج Qwen2.5-VL-7B عند تقليم بنسبة 30%، يحتفظ µCRASP بدرجة 8.87 (مقابل 9.02 للنموذج الكثيف) في الاستدلال الفيزيائي، بينما ينخفض أفضل نموذج مرجعي (LLM-Pruner) إلى 7.32.
المرونة تحت الضغط العالي: يحافظ µCRASP على اتساق استدلال عالٍ (LLM-J > 7.0) حتى تقليم بنسبة 50%، وهو تحسن بمقدار 20-25 نقطة مئوية عن الطرق الموجودة. في المقابل، تعاني الطرق الحالية غالبًا من انهيار مفاجئ في الأداء بعد تقليم بنسبة 25-30%.
الحماية عبر الوسائط: تؤكد دراسات الاستئصال (Ablation studies) أن مكون CMDS ضروري للحفاظ على المحاذاة بين الرؤية واللغة؛ حيث يؤدي إزالته إلى تدهور شديد في التشابه الدلالي ودرجات التنسيق.
الأمانة التوزيعية: يحافظ µCRASP على انخفاض في تباعد KL بين توزيعات الـ logit للنموذج المقلّم والنموذج الكثيف، مما يشير إلى أن النموذج المقلّم يحافظ على هندسة الاستدلال الأساسية وليس فقط النصوص السطحية.

الأهمية والادعاءات

يزعم البحث أن µCRASP يعالج فجوة حرجة في ضغط نماذج الرؤية واللغة من خلال نمذجة السلامة الهيكلية لسلاسل الاستدلال والتفاعلات عبر الوسائط بشكل صريح. ويؤكد المؤلفون أن:

تماسك الاستدلال أمر متميز: يمكن الحفاظ على بنية السلسلة المنطقية حتى مع تدهور دقة الإجابة الحرفية، وهي ظاهرة لا تلتقطها المقاييس التقليدية مثل الـ perplexity أو التطابق التام.
نماذج الرؤية واللغة تتطلب تقليماً متخصصًا: إن تقليم نماذج الرؤية واللغة أصعب جوهريًا من تقليم نماذج اللغة أحادية الوسائط بسبب الارتباط عبر الوسائط؛ والطرق التي تتجاهل ذلك تؤدي إلى فشل كارثي في مهام الاستدلال متعدد الوسائط.
النشر العملي: تتيح الطريقة نشر نماذج استدلال متعددة الوسائط قادرة على الأجهزة ذات الموارد المحدودة دون الحاجة إلى ضبط دقيق (fine-tuning)، رغم أن المؤلفين يشيرون إلى أن استعادة ما بعد التقليم (مثل تقطير المعرفة) تظل اتجاهاً مستقبلياً محتملاً.

يلتزم المؤلفون بنطاق متواضع، مشيرين إلى قيود مثل الاعتماد على اكتشاف المحاور التجريبي، وضبط المعلمات الفائقة يدويًا لعوامل الحماية، واقتصار التقييم على اختبارات اللغة الإنجليزية. هم لا يدعون تقديم قدرات استدلال جديدة بل يسعون للحفاظ على القدرات الموجودة تحت الضغط.