MergeOver: Post-Training Token Merging for Recursive Vision Transformers
تُعد MergeOver طريقة ما بعد التدريب تدمج تقنية "دمج الرموز" (Token Merging) في نماذج المحولات الرؤيوية ذات الأوزان المشتركة بشكل متكرر لتقليل استخدام الذاكرة وزمن الاستجابة بشكل كبير على الأجهزة الطرفية مع الحفاظ على دقة عالية، وكل ذلك دون الحاجة إلى إعادة تدريب مكلفة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت فائق الذكاء التعرف على القطط والكلاب والسيارات بمجرد النظر إلى الصور. للقيام بذلك، يستخدم الروبوت نوعًا خاصًا من الأدمغة يسمى "محول الرؤية" (Vision Transformer). فكر في هذا الدماغ كأنه فريق من المحققين الصغار، حيث يحصل كل بكسل في الصورة على محقق خاص به. وكلما زاد عدد البكسلات، احتجت إلى المزيد من المحققين، وكان عليهم التحدث مع بعضهم البعض أكثر ليفهموا ما يرونه. هذا أمر رائع من حيث الدقة، لكنه يمثل مشكلة كبيرة لأجهزة الكمبيوتر الصغيرة، مثل تلك الموجودة في ساعتك الذكية أو جهاز راسبيري باي (Raspberry Pi)، لأنها لا تملك ذاكرة كافية أو طاقة بطارية للتعامل مع آلاف المحققين وهم يتجاذبون أطراف الحديث في وقت واحد.
ولحل هذه المشكلة، جرب العلماء حيلتين رئيسيتين. الحيلة الأولى هي "المشاركة المتكررة للأوزان" (recursive weight-sharing)، وهي تشبه امتلاك محقق خارق واحد يقوم بنفس المهمة مرارًا وتكرارًا، حيث يعيد استخدام ملاحظاته بدلاً من توظيف فريق جديد لكل خطوة؛ وهذا يوفر المساحة ولكنه يجعل عمل المحقق أبطأ وأكثر ثقلاً. أما الحيلة الثانية فهي "دمج الرموز" (token merging)، حيث تدرك أن بعض المحققين ينظرون إلى الشيء نفسه، لذا تقوم بدمجهم في محقق واحد كبير لتوفير الوقت. السؤال الكبير الذي يتناوله هذا البحث هو: ماذا يحدث إذا حاولت استخدام هاتين الحيلتين معًا دون الحاجة إلى إعادة تدريب الروبوت بالكامل من الصفر؟ الأمر يشبه محاولة تعليم محقق واحد كيف يندمج مع نسخ منه بينما هو يعمل بالفعل، دون إفساد الخريطة التي يتبعها.
يقول المؤلفون، جونسييو كيم وفريقه من جامعة توينتي، إن محاولة الجمع بين هاتين الطريقتين عادة ما تكون كارثية لأن قواعد اللعبة تتعطل. لذا، اقترحوا طريقة جديدة تسمى MergeOver لحل هذا اللغز. تخيل أن دماغ الروبوت عبارة عن مبنى متعدد الطوابق حيث ينتقل المحققون إلى طوابق أعلى. في كل مرة ينتقلون فيها إلى طابق جديد، تتطلب بنية المبنى منهم الوقوف في شبكة مربعة مثالية. لكن دمج المحققين عادة ما يفسد هذه الشبكة المربعة، مما يترك فجوات فارغة تكسر عمل المصعد. تقدم MergeOver حيلة ذكية تسمى "إلغاء الدمج" (Unmerge): فهي تقوم مؤقتًا بتقسيم المحققين المدمجين وإعادتهم إلى مواقع الشبكة الأصلية لفترة وجيزة فقط حتى يعبروا المصعد، ثم تدمجهم مرة أخرى بمجرد وصولهم إلى الطابق التالي بأمان. هذا يسمح للروبوت بالحفاظ على استهلاك منخفض للذاكرة دون الحاجة إلى إعادة التدريب.
اختبر الفريق طريقتهم على مجموعة صور شهيرة تسمى ImageNet-1K، باستخدام أنواع مختلفة من أجهزة الكمبيوتر، من بطاقات الرسوميات القوية إلى جهاز راسبيري باي 5 الصغير. ووجدوا أن MergeOver تعمل، لكن النتائج تعتمد بشكل كبير على عدد الصور التي تطلب من الروبوت النظر إليها في وقت واحد (حجم الدفعة - batch size). عندما ينظر الروبوت إلى صورة واحدة فقط في كل مرة، فإن العمل الإضافي للدمج وإلغاء الدمج يبطئ العملية فعليًا. ومع ذلك، عندما ينظر إلى 16 صورة في وقت واحد، يحدث السحر. ففي جهاز GPU قوي، قللت هذه الإعدادات من الذاكرة المطلوبة بنسبة 38.4% وجعلت الروبوت أسرع بنسبة 21.7%. وفي جهاز راسبيري باي الصغير، جعلت الروبوت أسرع بنسبة 17.6% للعينات المكونة من 16 صورة. والأفضل من ذلك هو أن الروبوت لم يصبح غبيًا كثيرًا؛ إذ انخفضت دقته بنسبة 1.47 نقطة مئوية فقط، وهو ما يرى المؤلفون أنه ثمن ضئيل مقابل هذه الزيادة الكبيرة في السرعة.
ومع ذلك، يوضح البحث بحذر أن هذه ليست عصا سحرية تصلح كل شيء فورًا. فقد جادل المؤلفون صراحةً ضد فكرة أنه يمكنك مجرد وضع هذه الطريقة على أي نموذج وتوقع أن تعمل بشكل مثالي في كل مكان. فقد وجدوا أنه بالنسبة للمهام التي تتعامل مع صورة واحدة (حجم الدفعة 1)، فإن الطريقة تبطئ العمل فعليًا على أجهزة الكمبيوتر القوية لأن العبء الإضافي لحيلة "إلغاء الدمج" لا يستحق العناء من أجل صورة واحدة فقط. كما أشاروا إلى أنه على الرغم من أن طريقتهم توفر الكثير من الذاكرة وتسرع معالجة الدفعات، إلا أنها لا تتفوق بالضرورة على جميع أنواع نماذج الذكاء الاصطناعي الفعالة الأخرى التي صُممت من الأساس لتكون سريعة. النتائج مدروسة وواقعية، لكنهم يقترحون أن هذا يعد نقطة انطلاق واعدة — "خط أساس" (baseline) — لدمج هذه التقنيات، وليس حلاً نهائيًا ومثاليًا. ويقترح المؤلفون أن العمل المستقبلي قد يحتاج إلى دمج MergeOver مع حيل أخرى، مثل التحسين البرمجي الأفضل، لجعلها أسرع، خاصة لتلك المهام المتعلقة بالصور الفردية على الأجهزة الصغيرة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.