Neural Architecture Search on Large Kernel Convolution Search Space for Computer Vision Tasks
تقدم هذه الورقة LarKNAS، وهي طريقة جديدة للبحث عن البنية العصبية (Neural Architecture Search) تتميز بفضاء بحث لالتفافات النواة الكبيرة واستراتيجية فعالة لتقدير التدرج تكتشف نماذج تلافيفية واسعة النطاق ذات أداء يضاهي البنيات المصممة يدويًا مع تقليل تكاليف البحث بشكل كبير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الرؤية الحاسوبية، تتعلم الآلات الرؤية من خلال معالجة الصور عبر طبقات من المرشحات الرياضية، تماماً مثل العين البشرية التي تمرر الضوء عبر عدسة للتركيز على مشهد ما. لسنوات، اعتمدت أنجح التصاميم لهذه العيون الرقمية على مرشحات صغيرة ومتكررة تفحص أجزاء صغيرة من الصورة في كل مرة. وبينما عملت هذه المرشحات الصغيرة بشكل جيد في المهام الأساسية، بدأ الباحثون يشتبهون في أنها وصلت إلى سقف عندما حاولت بناء نماذج كبيرة بما يكفي لفهم المشاهد المعقدة، مثل شارع مزدحم أو منظر طبيعي شاسع. كانت الحكمة السائدة تشير إلى أنه لجعل هذه الأنظمة أكثر ذكاءً، يتعين ببساطة جعلها أكبر أو أعمق، عبر تكديس المزيد من طبقات هذه المرشحات الصغيرة. ومع ذلك، أدى هذا النهج غالباً إلى عوائد متناقصة، حيث لم يؤدِ إضافة المزيد من القدرة الحوسبية إلا إلى تحسينات طفيفة في الدقة. ومن هنا ثار التساؤل: ربما لم تكن المشكلة في حجم الآلة، بل في حجم الأدوات التي تستخدمها للنظر إلى العالم.
وضع فريق من الباحثين في جامعة "PLA Information Engineering" هدفاً لتحدي هذا الافتراض من خلال تصميم طريقة جديدة لاكتشاف طرق أفضل للرؤية الحاسوبية تلقائياً. لقد ركزوا على نوع محدد من المرشحات يُعرف باسم "النواة الالتفافية" (convolutional kernel)، وهي الأداة الرياضية التي تمسح الصورة للكشف عن الميزات مثل الحواف أو الأنسجة. وبينما استقرت التصاميم الحديثة إلى حد كبير على استخدام نوى صغيرة جداً، افترض الباحثون أن استخدام نوى أكبر بكثير يمكن أن يسمح للآلة برؤية سياق أوسع في نظرة واحدة، تماماً كما قد يتراجع الإنسان خطوة للخلف لرؤية الصورة الكاملة بدلاً من التركيز على لبنة واحدة. ولاختبار ذلك، طوروا نظاماً يسمى "LarKNAS"، وهو اختصار لـ "البحث عن بنية الشبكة العصبية في فضاء بحث النواة الالتفافية الكبيرة". لا يعتمد هذا النظام على الحدس البشري لاختيار التصميم الأفضل؛ بل يعمل كمهندس معماري آلي، يختبر آلاف التشكيلات المختلفة من هذه المرشحات الكبيرة لإيجاد الهيكل الأكثر كفاءة وقوة.
واجه الباحثون عقبة كبيرة: البحث عن أفضل تصميم من بين مجموعة هائلة كهذه مكلف للغاية من حيث الوقت والقدرة الحوسبية. تتطلب الطرق التقليدية غالباً اختبار كل تصميم على حدوه، وهي عملية قد تستغرق آلاف الأيام من وقت الحوسبة. ولحل هذه المشكلة، ابتكر الفريق استراتيجية بحث جديدة تقدر إمكانات التصميم دون تدريبه بالكامل أولاً. لقد نظروا إلى كيفية تغير الإشارات الرياضية داخل الشبكة أثناء تعلمها، مستخدمين متوسط قوة واتساق هذه الإشارات للتنبؤ بالتصاميم التي ستؤدي الأداء الأفضل. سمح لهم ذلك بالتنقل في فضاء البحث بشكل أسرع بكثير من الطرق السابقة، مما مكنهم من تصفية التصاميم الضعيفة مبكراً وتركيز الموارد على المرشحين الأكثر واعدية.
لم يكن فضاء البحث الذي بنوه يتعلق فقط بجعل المرشحات أكبر؛ بل كان يتعلق بترتيبها بذكاء. لقد صمموا هيكلاً تستخدم فيه أجزاء مختلفة من الشبكة أحجاماً مختلفة من المرشحات. فالطبقات الأولى، التي تتعامل مع التفاصيل البسيطة مثل الحواف، استخدمت مرشحات صغيرة، بينما استخدمت الطبقات الوسطى، المسؤولة عن فهم الأشكال والعلاقات المعقدة، مرشحات كبيرة جداً، يصل عرض بعضها إلى واحد وخمسين بكسلاً. كما قدموا طريقة لجعل هذه المرشحات الكبيرة أكثر كفاءة من خلال جعلها "متفرقة" (sparse)، مما يعني أنها تعالج مجموعة مختارة من نقاط البيانات بدلاً من كل نقطة منها، مما يوفر الطاقة مع الحفاظ على القدرة على الرؤية لمسافات طويلة عبر الصورة. أدى هذا النهج إلى إنتاج عائلة من النماذج التي يمكن توسيعها أو تقليصها حسب المهمة، من النسخ خفيفة الوزن للأجهزة المحمولة إلى النسخ الضخمة للخوادم عالية الأداء.
عندما اختبر الباحثون أفضل نموذج وجدوه، والمعروف باسم "LarKNASNet-L"، كانت النتائج مذهلة. ففي مجموعة بيانات "ImageNet"، وهي معيار قياسي للتعرف على الصور، حقق النموذج دقة بلغت 86.6 بالمئة. وكان هذا الأداء مقارباً، وفي بعض الحالات أفضل، من أفضل النماذج المصممة يدوياً من قبل خبراء بشريين، بما في ذلك تلك القائمة على بنيات "المحولات" (transformers) الأحدث التي هيمنت على المجال مؤخراً. كما تفوق النموذج في مهام رؤية أخرى، مثل اكتشاف الأشياء في الصور وتقسيمها إلى أجزاء متميزة، محققاً درجات عالية في معايير "COCO" و"ADE20K". ولعل الأهم من ذلك هو أن الفريق حقق هذه النتائج بتكلفة بحث بلغت 96 يوماً فقط من وقت الحوسبة على معالجات رسومية متخصصة. وهذا يمثل جزءاً ضئيلاً من التكلفة المطلوبة من قبل طرق البحث واسعة النطاق الأخرى، والتي تستهلك غالباً مئات الأيام للعثور على نموذج بحجم مماثل.
لقد استبعدت الدراسة صراحة فكرة أن مجرد إضافة المزيد من الطبقات من المرشحات الصغيرة هو المسار الأفضل للنماذج واسعة النطلة. ومن خلال مقارنة نتائجهم مع الطرق الأخرى التي تعتمد على تقنيات "إعادة المعاملة" (re-parameterization) أو النوى الكبيرة الكثيفة، وجد الباحثون أن نهجهم باستخدام النوى الكبيرة والمتفرقة ضمن بنية مرحلية كان متفوقاً. وقد أثبتوا أن محاولة استخدام طرق إعادة المعاملة، التي تدمج فروعاً متعددة من المرشحات، غالباً ما تؤدي إلى مشاكل في الذاكرة تجعل عملية البحث مستحيلة على الأجهزة القياسية. وتشير نتائجهم إلى أن المفتاح لفتح الجيل القادم من نماذج الرؤية الحاسوبية لا يكمن فقط في زيادة عدد المعلمات، بل في إعادة التفكير في الهندسة الأساسية لكيفية معالجة هذه النماذج للمعلومات البصرية.
تتجاوز آثار هذا العمل مجرد أرقام الدقة الأعلى. فقد أظهر الباحثون أن نماذجهم طورت فهماً أفضل لأشكال الأشياء، بدلاً من مجرد الاعتماد على الملمس (texture)، وهي سمة تتماشى أكثر مع الرؤية البشرية. ويشير هذا إلى أنه من خلال السماح للآلات بالنظر إلى أجزاء أكبر من الصورة في وقت واحد، يمكنها تكوين فهم أكثر قوة وشبهاً بالبشر للعالم المرئي. إن نجاح "LarKNAS" يشير إلى أن مجال الرؤية الحاسوبية قد يدخل عصراً جديداً حيث يكون تصميم فضاء البحث نفسه — أي القواعد والأدوات المستخدمة للعثور على أفضل نموذج — لا يقل أهمية عن النموذج الذي ينتجه. ومن خلال إثبات إمكانية البحث عن النوى الكبيرة بكفاءة وفعالية، فتح الفريق باباً جديداً لإنشاء أنظمة بصرية قوية وفعالة وذكية دون التكاليف الباهظة التي حدت سابقاً من مثل هذا الاستكشاف.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.