Sparse but not Simpler: A Multi-Level Interpretability Analysis of Vision Transformers
تقدم هذه الورقة إطار عمل IMPACT متعدد المستويات لتوضيح أنه في حين أن التناثر الهيكلي في نماذج "Vision Transformers" يقلل من حجم الدائرة، إلا أنه لا يحسن التفسير الدلالي بشكل منهجي، حيث إن التقليم يعيد توزيع الحوسبة بدلاً من عزل وحدات وظيفية أبسط.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الجوهرية: هل جعل "دماغ" الذكاء الاصطناعي أكثر "رشاقة" يجعله أسهل في الفهم؟
تخيل أن لديك مكتبة ضخمة وفوضوية (وهي نموذج Vision Transformer، أو نموذج ذكاء اصطنا ability على رؤية الصور). هذه المكتبة تحتوي على ملايين الكتب، وكل كتاب متصل بالكتب الأخرى عبر شبكة متشابكة من الخيوط الحمراء. عندما يحاول الذكاء الاصطناعي تحديد صورة "قطة"، فإنه يسحب شبكة ضخمة ومعقدة من الخيوط للوصول إلى الإجابة.
الفرضية:
اعتقد الباحثون: "إذا قطعنا معظم تلك الخيوط الحمراء (جعلنا النموذج متفرقاً/Sparse)، فستصبح المكتبة أصغر، والشبكة أبسط، وسيكون من السهل جداً معرفة كيف يجد الذكاء الاصطناعي 'القطة' بالضبط".
الأمر يشبه أخذ ورشة عمل فوضوية ومزدحمة ورمي 70% من الأدوات الموجودة فيها. ستتوقع أن الأدوات المتبقية ستكون هي "الأفضل"، مما يجعل العمل أسهل في الفهم.
اختبار الواقع:
تقول هذه الورقة البحثية: "ليس بهذه السرعة".
بينما أدى قطع الخيوط بالفعل إلى تصغير الشبكة مادياً، إلا أنه لم يجعل المنطق الداخلي أكثر وضوحاً. لم يصبح الذكاء الاصطناعي "أبسط" في تفكيره؛ بل أصبح فقط "أكثر تفرقاً/Sparser".
التجربة: إطار عمل "IMPACT"
لاختبار ذلك، بنى الباحثون مجموعة اختبار متعددة المستويات تسمى IMPACT. تخيلها كمجموعة من أربعة كشافات ضوئية مختلفة، كل منها يسلط الضوء على جزء مختلف من دماغ الذكاء الاصطناعي ليرى ما إذا كان قد أصبح "أنظف" بعد عملية التقليم (Pruning).
1. مستوى العصبون (العمال الأفراد)
- الاستعارة: تخيل أن الذكاء الاصطناعي عبارة عن مصنع به آلاف العمال (العصبونات). في المصنع "الكثيف/Dense"، يتحدث كل عامل مع الجميع. في المصنع "المتفرق/Sparse"، قمنا بفصل 70% من الاتصالات.
- السؤال: هل أصبح العمال المتبقون الآن متخصصين؟ (على سبيل المثال: هل يفكر أحد العمال فقط في "الأذنين" والآخر فقط في "الذيول"؟)
- النتيلة: لا. لا يزال العمال "عامّين". لا يزالون يتعاملون مع مفاهيم متعددة في وقت واحد (تعدد الدلالات/Polysemanticity). قطع الاتصالات لم يجبرهم على التخصص؛ بل جعلهم يعملون بجهد أكبر باستخدام عدد أقل من المصافحات.
2. مستوى الطبقة (اجتماعات الفرق)
- الاستعارة: يعالج الذكاء الاصطناعي الصور في طبقات، مثل سباق التتابع. استخدم الباحثون أداة (المشفرات التلقائية المتفرقة/Sparse Autoencoders) لمحاولة فك تشابك الرسائل التي يتم تمريرها بين العدائين.
- السؤال: هل أصبحت الرسائل أكثر وluوضاً وأقل اختلاطاً؟
- النتيلة: لا. كانت الرسائل لا تزال مزيجاً مختلطاً. الفريق "المتفرق" لم يتواصل بوضوح أكثر من الفريق "الكثيف".
3. مستوى الدائرة (المخطط الهندسي)
- الاستعارة: هذا هو المكان الذي وجد فيه الباحثون التغيير الحقيقي الوحيد. لقد تتبعوا المسار الدقيق الذي اتخذه الذكاء الاصطناعي لحل مشكلة ما.
- النتي نتيجة: نعم، ولكن مع تحفظ. استخدم النموذج "المتفرق" مساراً أقصر بكثير (خيوط حمراء أقل). كان أصغر بحوالي 2.5 مرة.
- ومع ذلك، ولأن المصنع كان صغيراً جداً في الأصل، اضطر الذكاء الاصطناعي إلى استخدام نسبة مئوية أعلى من عماله المتبقين للقيام بالمهمة. الأمر يشبه مطبخاً صغيراً حيث يضطر الطاهي لاستخدام 90% من السكاكين المتاحة لتقطيع جزرة، بينما في المطبخ الكبير، كان سيستخدم 30% فقط من السكاكين. المسار أقصر، لكن توزيع عبء العمل لا يزال فوضوياً بنفس القدر.
4. مستوى النموذج (التفسير النهائي)
- الاستعارة: عندما يقول الذكاء الاصطناعي "هذه قطة"، فإنه يسلط الضوء على الجزء المهم من الصورة (وجه القطة). نريد أن نعرف ما إذا كان هذا "التحديد" دقيقاً.
- النتيجة: مختلطة. عند مستويات التقليم المنخفضة، أصبحت عمليات التحديد أفضل قليلاً. ولكن عند المستويات العالية (قطع 70%)، لم تتحسن عمليات التحديد كثيراً. لا يزال الذكاء الاصطناعي يشير أحياناً إلى الخلفية أو إلى الجزء الخطأ من القطة، تماماً كما فعل النموذج الكثيف.
الاستنتاج الكبير: "متفرق ولكن ليس أبسط"
يلخص عنوان الورقة البحثية الأمر تماماً: "متفرق ولكن ليس أبسط" (Sparse but not Simpler).
- ماذا حدث: أصبح الذكاء الاصطناعي أصغر مادياً واستخدم اتصالات أقل.
- ما لم يحدث: لم يصبح الذكاء الاصطناعي أكثر منطقية، أو أكثر تخصصاً، أو أسهل في الفهم بالنسبة للبشر.
الخلاصة:
مجرد قطع الاتصالات (التقليم/Pruning) يشبه أخذ غرفة فوضوية ورمي 70% من الأثاث الموجود فيها. الغرفة أصبحت أقل ازدحاماً، لكن الطريقة التي يعيش بها الشخص في الغرفة لم تتغير. لا يزال ينام في كومة من الملابس ويطبخ في الحمام؛ لديه فقط ملابس أقل وأدوات مطبخ أقل للقيام بذلك.
لجعل الذكاء الاصطناعي قابلاً للفهم حقاً، لا يمكننا الاعتماد فقط على حذف الأشياء. نحن بحاجة إلى تعليم الذكاء الاصطناعي تنظيم أفكاره بشكل مختلف منذ البداية، بدلاً من مجرد الأمل في أن يؤدي إزالة الاتصالات إلى كشف "الحقيقة" بداخله بشكل سحري.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.