Putting Registers to Work: Task Registers for Token Pruning in Vision Transformers
تقترح هذه الورقة البحثية طريقة "التقليم المتكيف مع المهام" (TAP)، وهي طريقة تستخدم سجلات خاصة بكل مهمة لترتيب الرموز ديناميكياً وتخصيص ميزانيات التقليم عبر مهام مختلفة لنموذج "Vision Transformer"، مما يحقق تحسينات كبيرة في معدل الإنتاجية مع الحفاظ على أداء تنافسي في تصنيف الصور، والتجزئة الدلالية، وكشف الأشياء.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك عقل روبوت فائق الذكاء ينظر إلى الصور ويحاول فهم ما بداخلها. هذا العقل مبني مثل فريق ضخم من العمال الصغار، كل منهم يمسك بقطعة من اللغز (تسمى "توكن" أو رمز). لاتخاذ قرار، يجب على كل عامل أن يتحدث مع كل عامل آخر. المشكلة هي أنه إذا كانت الصورة كبيرة، فإن عدد المحادثات ينفجر، مما يجعل العقل مثقلاً، بطيئاً، وجائعاً للكهرباء. لقد حاول العلماء إصلاح ذلك عبر إخبار العقل بتجاهل القطع المملة من الصورة والاحتفاظ فقط بالقطع المهمة، تماماً مثل معلم يخبر فصلاً دراسياً بأن يستمع فقط للطلاب الذين لديهم شيء ذكي لقوله. يُسمى هذا "تقليم التوكنات" (Token Pruning). لكن الجزء الصعب هنا هو أن ما يعتبر "ذكياً" أو "مهماً" يتغير بناءً على ما يحاول الروبوت فعله. فالقطعة من الصورة التي تعتبر حاسمة لرصد قطة قد تكون عديمة الفائدة لمعرفة لون السماء. لفترة طويلة، حاول العلماء استخدام نفس "قائمة التجاهل" لكل مهمة، لكن تبين أن مقاساً واحداً لا يناسب الجميع.
هذه الورقة البحثية، بعنوان "وضع السجلات في العمل" (Putting Registers to Work)، تعالج هذه المشكلة تحديداً. اكتشف المؤلفون، وهم فريق من جامعة كوين ماري في لندن، أن القواعد الخاصة بتقرير أي قطع من الصورة يجب التخلص منها تختلف تماماً باختلاف المهام. وجدوا أن الاستراتيجية التي تعمل بشكل رائع لرصد الأشياء (مثل إيجاد كلب في حديقة) قد تضر فعلياً بقدرة الروبوت على فهم مشهد ما (مثل معرفة ما إذا كان ذلك الكلب على عشب أم على رصيف). ولحل هذه المشكلة، اخترعوا نظاماً ذكياً جديداً يسمى "التقليم المتكيف مع المهام" (Task-Adaptive Pruning - TAP).
تخيل عقل الروبوت كمطبخ مزدحم. عادةً، يستخدم الطاهي (سياسة التقليم) نفس الوصفة لتقرير المكونات التي سيستبعدها، بغض النظر عما إذا كان يصنع حساءً أو كعكة. أدرك المؤلفون أن هذا كان خطأً. بدلاً من ذلك، منحوا المطبخ مجموعة من "سجلات المهام" الخاصة—فكر فيها كبطاقات وصفات ذكية وسحرية تتغير حسب الطبخة التي يتم طهيها. عندما يحتاج الروبوت لتحديد قطة، فإنه يسحب "بطاقة القطة"، والتي تخبر العقل بالضبط أي أجزاء من الصورة يجب الاحتفاظ بها وأيها يجب تجاهلها. وعندما يحتاج لرسم خريطة لغرفة كاملة، فإنه يستبدلها بـ "بطاقة الغرفة". هذه البطاقات لا تقرر فقط ما الذي يجب رميه، بل تحدد أيضاً متى يتم رميه أثناء معالجة العقل للصورة، طبقة تلو الأخرى.
اختبر الباحثون ذلك عن طريق تجميد عقل روبوت قياسي وتجربة "قواعد تجاهل" مختلفة دون إعادة تدريبه. ووجدوا ثلاث مفاجآت كبيرة. أولاً، أفضل طريقة لاختيار القطع المهمة للعثور على الأشياء هي عكس أفضل طريقة لرسم المشاهد تماماً. ثانياً، الروبوت حساس جداً لكيفية تعامله مع الطبقات الأولى من المعالجة، خاصة للمهام البسيطة مثل التمييز بين صورة قطة أو كلب. ثالثاً، عندما يرمي الروبوت قطعة من الصورة، فإنه يحتاج لتذكر كيف كان شكلها لملء الفراغ لاحقاً. ولكن إليكم المفاجأة الكبرى: بالنسبة لإيجاد الأشياء، من الأفضل التظاهر بأن القطعة لم تكن موجودة أصلاً واستخدام جار قريب لملء الفراغ. أما بالنسبة لرسم المشاهد، فمن الأفضل تذكر الفرق الدقيق وإعادة لصقه لاحقاً.
ولإصلاح كل هذا، يستخدم نظام TAP "سجل نشط" واحداً للمهمة الحالية. ينتقل هذا السجل عبر العقل، مراقباً الصورة، ويتخذ ثلاثة قرارات في الوقت الفعلي:
- الاختيار (Selection): أي "التوكنات" يتم الاحتفاظ بها وأيها يتم إسقاطها.
- الميزانية (Budget): عدد "التوكنات" التي يتم إسقاطها في كل خطوة (ربما تسقط القليل في البداية، أو أكثر لاحقاً، أو العكس).
- الاسترداد (Recovery): مقدار التفاصيل "المنسية" التي يجب استعادتها عندما يحتاج الروبوت لرسم خريطة مفصلة.
النتائج مبهرة. باستخدام هذه البطاقات الخاصة بالمهام، أصبح الروبوت أسرع بكثير دون أن يفقد ذكاءه. في اختبار قياسي لإيجاد الأشياء (COCO)، أصبح أسرع بمقدار 1.32 مرة مع الحفاظ على دقته تقريباً (انخفاض قدره 0.3 نقطة فقط). وفي اختبار لرسم المشاهد (ADE20K)، أصبح أسرع بمقدار 1.30 مرة مع انخفاض طفيف في الجودة. وحتى بالنسبة لتصنيف الصور البسيط، ظل منافساً قوياً.
يقترح المؤلفون أن هذا النهج هو خطوة نحو عقل روبوت موحد حقاً—واحد يمكنه التبديل بين رصد سيارة، أو رسم لوحة لشارع، أو قراءة لافتة، وكل ذلك باستخدام نفس المحرك الأساسي ولكن مع "أساليب تفكير" مختلفة يتم تفعيلها فورياً. هم لم يخمنوا فقط أن هذا سينجح، بل أثبتوا ذلك من خلال إجراء آلاف التجارب، وتجميد العقل لاختبار القواعد الفردية، وإظهار أن نظام "السجل" الجديد يتفوق باستمرار على الطرق القديمة التي تتبع مبدأ "مقاس واحد يناسب الجميع". إنه تذكير بأنه في عالم الذكاء الاصطناعي، أحياناً يكون أذكى شيء يمكنك فعله هو معرفة متى تتجاهل الضجيج بالضبط، وأن تعريف "الضجيج" يعتمد كلياً على ما تحاول رؤيته.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.