🤖 machine learning

RAViT: Resolution-Adaptive Vision Transformer

تقترح الورقة البحثية RAViT، وهو إطار عمل لمحول الرؤية متكيف مع الدقة يستخدم بنية متعددة الفروع مع آلية خروج مبكر لتحقيق دقة تضاهي نماذج محولات الرؤية القياسية مع تقليل التكاليف الحسابية بشكل كبير من خلال معالجة الصور بدقات متفاوتة.

المؤلفون الأصليون: Martial Guidez, Stefan Duffner, Christophe Garcia

نُشر 2026-03-02

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Martial Guidez, Stefan Duffner, Christophe Garcia

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك حارس أمن في متحف مزدحم، ومهمتك هي تحديد كل لوحة تمر عبر الباب.

الطريقة القديمة (نماذج الرؤية المحولة القياسية - Vision Transformers):
تقليديًا، عندما تصل لوحة ما، تخرج عدسة مكبرة ضخمة وثقيلة. تفحص كل ضربة فرشاة في اللوحة بدقة عالية، بغض النظر عما إذا كانت مجرد رسم بسيط لرجل عصوي أو تحفة فنية معقدة. هذا يستهلك الكثير من الطاقة والوقت. إذا كان المتحف مزدحمًا، ستشعر بالإرهاق، وستنفد بطارية جهازك (طاقة الجهاز) بسرعة.

المشكلة:
تعمل نماذج الذكاء الاصطناعي التي تسمى "Vision Transformers" (ViT) مثل هذا الحارس. إنها ذكية للغاية ودقيقة، لكنها أيضًا "مكلفة" للغاية من حيث الطاقة وقوة الحوسبة لأنها تحاول تحليل كل تفصيل في الصورة بدقة كاملة، حتى للصور البسيطة.

الحل الجديد: RAViT (الحارس الذكي)
ابتكر المؤلفون، مارتيال، وستيفان، وكريستوف، نظامًا جديدًا يسمى RAViT (محول الرؤية المتكيف مع الدقة). فكر في RAViT كمركز تفتيش أمني ذكي متعدد المراحل، يعتمد استراتيجية "الكسل" الفعال.

إليك كيف يعمل، باستخدام تشبيه بسيط:

1. استراتيجية "من الضبابية إلى الحدة" (متعدد الفروع)

بدلاً من النظر إلى اللوحة بعدسة مكبرة ضخمة واحدة فورًا، يقوم RAViT بإنشاء سباق تتابع يتكون من ثلاث محطات:

المحطة 1 (الرؤية منخفضة الدقة): أولاً، ينظر الحارس إلى صورة مصغرة صغيرة وضبابية ومنخفضة الدقة للوحة. الأمر يشبه التحديق من بعيد مع إغلاق عينيك قليلاً.
- لماذا؟ إذا كانت اللوحة عبارة عن دائرة حمراء بسيطة، يمكن للحارس التعرف عليها فورًا من خلال الضبابية. هذا لا يتطلب سوى قدر ضئيل جدًا من الطاقة.
المحطة 2 (الرؤية المتوسطة): إذا لم يكن الحارس متأكدًا من الرؤية الضبابية (ربما تبدو كدائرة حمراء ولكن قد تكون تفاحة حمراء)، ينتقل إلى المحطة التالية وينظر إلى نسخة متوسطة الحجم.
المحطة 3 (الرؤية عالية الدقة): فقط إذا ظلت المحطتان الأولى والثانية في حالة ارتباك، يخرج الحارس عدسته المكبرة الكاملة وعالية الدقة ليفحص كل التفاصيل.

الخدعة السحرية: النظام لا يبدأ من الصفر في كل محطة؛ بل يمرر "ملاحظة" (رمز محدد/Token) من الرؤية الضبابية إلى الرؤية المتوسطة، ثم إلى الرؤية الحادة. هذا يعني أن المحطات اللاحقة لا يتعين عليها إعادة تعلم كل شيء؛ بل تقوم فقط بتحسين التخمين السابق.

2. "الخروج المبكر" (فحص الثقة)

هذا هو الجزء الأكثر ذكاءً. عند كل محطة، يسأل الحارس نفسه: "هل أنا متأكد بنسبة 100%؟"

إذا كانت الإجابة نعم: يتوقف الحارس فورًا ويعلن النتيجة. لا داعي للذهاب إلى المحطات التالية، وهذا يوفر كميات هائلة من الطاقة.
إذا كانت الإجابة لا: ينتقل إلى المحطة التالية الأكثر تفصيلاً.

تشبيه من الواقع:
تخيل أنك تحاول تخمين حيوان موجود في غرفة مظلمة.

الذكاء الاصطناعي القياسي: تقوم بتشغيل الأضواء الساطعة، وتقترب، وتفحص فراء الحيوان وأسنانه ومخالبه قبل أن تقول: "إنه قط". (طاقة عالية، دائمًا).
RAViT: تسمع صوت "مواء". تقول: "إنه قط!" وتتوقف. لم تكن بحاجة لتشغيل الأضواء أو الاقتراب.
RAViT (الحالة الصعبة): إذا سمعت حفيفًا دون صوت، تقوم بتشغيل ضوء خافت. إذا لم تكن متأكدًا بعد، تقوم بتشغيل الضوء الساطع.

لماذا يهم هذا؟

اختبر الباحثون هذا النظام على ثلاثة "متاحف" مختلفة (مجموعات بيانات: CIFAR-10، وTiny ImageNet، وImageNet).

النتيجة: وجدوا أن RAViT يمكنه التعرف على الصور بنفس دقة نماذج الذكاء الاصطناعي القدودة والثقيلة.
التوفير: ومع ذلك، نظرًا لأنه غالبًا ما يتوقف مبكرًا أو يستخدم دقة أقل، فقد استهلك حوالي 70% فقط من الطاقة (قوة الحوسبة) التي تتطلبها النماذج القياسية.

الخلاصة

RAViT يشبه منظم الحرارة الذكي لذكائك الاصطناعي.

في اليوم المشمس (صورة بسيطة)، يعمل بطاقة منخفضة.
في اليوم العاصف (صورة معقدة)، يرفع مستوى الطاقة لإنجاز المهمة بشكل صحيح.

هذا يجعله مثاليًا للأجهزة المدمجة مثل الهواتف الذكية، أو الطائرات بدون طيار، أو المستشعرات الطبية، حيث تكون عمر البطارية أمرًا ثمينًا. فهو يسمح لهذه الأجهزة بتشغيل ذكاء اصطناعي قوي دون استنزاف البطارية في دقائق، وذلك ببساطة من خلال أن يكون "ذكيًا" في تحديد متى يعمل بجد ومتى يسترخي.

إليك ملخص تقني مفصل لورقة البحث بعنوان "RAViT: Vision Transformer المتكيف مع الدقة" (RAViT: Resolution-Adaptive Vision Transformer).

1. بيان المشكلة

حققت نماذج "Vision Transformers" (ViTs) أداءً فائقاً في مهام الرؤية الحاسوبية، لكنها تعاني من تكاليف حوسبة ومتطلبات ذاكرة عالية. ويرجع ذلك أساساً إلى آلية الانتباه الذاتي (self-attention mechanism)، التي تتوسع بشكل تربيعي مع عدد رقع الصور (الرموز/tokens).

المقايضة: يؤدي تقليل دقة الإدخال بشكل كبير إلى خفض التكلفة الحسابية بشكل كبير (على سبيل المثال، تقليل الأبعاد إلى النصف يقلل العمليات الحسابية FLOPs بنحو 4 أضعاف)، ولكنه عادة ما يؤدي إلى تدهور الدقة.
الفجوة: غالباً ما تتطلب طرق الضغط الحالية (تقليم الرموز، تقطير المعرفة، التكميم) إعادة تدريب معقدة أو تغييرات هيكلية محددة. هناك حاجة إلى إطار عمل يوازن ديناميكياً بين الدقة والتكلفة الحسابية، لا سيالما للأنظمة المدمجة محدودة الموارد، دون التضحية بمزايا السياق العالمي التي توفرها نماذج ViT.

2. المنهجية: إطار عمل RAViT

يقترح المؤلفون RAViT (Vision Transformer المتكيف مع الدقة)، وهو شبكة عصبية متعددة الفروع تعمل على نسخ متعددة من نفس الصورة بدقات مختلفة. يجمع إطار العمل بين الاستدلال من الخشن إلى الناعم (coarse-to-fine inference) مع آلية الخروج المبكر (early-exit mechanism).

أ. البنية متعددة الفروع

تغيير حجم الإدخال: يتم تغيير حجم صورة الإدخال $I$ إلى $B$ من النسخ ( $I_1, \dots, I_B$ ) بدقات متناقصة (على سبيل المثال، $1/4$ الحجم، $1/2$ الحجم، الحجم الأصلي).
معالجة الفروع:
- تبدأ العملية بأقل نسخة دقة ( $I_1$ ) والتي تمر عبر أول مشفر ViT ( $T_1$ ).
- نقل الميزات: بدلاً من نقل جميع خرائط الميزات، يقوم إطار العمل بنقل رمز التصنيف (CLS token) الناتج فقط من الفرع $i$ ليعمل كرمز CLS أولي للفرع $i+1$ . يسمح هذا للفرع ذي الدقة الأعلى بـ "وراثة" الفهم العام المستمد من الدقة المنخفضة دون الحاجة لإعادة التهيئة.
- تستخدم جميع الفروع نفس أبعاد التضمين (embedding dimensions) والأحجام المخفية، مما يضمن التوافق مع رمز CLS.
استراتيجية من الخشن إلى الناعم: يعالج النموذج الصورة من الدقة المنخفضة (تكلفة منخفضة) إلى الدقة العالية (تكلفة عالية) فقط عند الضرورة.

ب. آلية الخروج المبكر (Early-Exit)

الاستدلال الديناميكي: في نهاية كل فرع، يقوم "رأس الخروج" (exit head) -وهو عبارة عن MLP بسيط- بحساب التنبؤ ودرجة عدم اليقين الخاصة به.
مقياس عدم اليقين: يتم اشتقاق درجة الثقة من الاعتلاج (entropy) لتنبؤ الـ softmax.
منطق القرار:
- إذا كان الاعتلاج أقل من عتبة محددة مسبقاً ( $E_{th}$ )، يعتبر النموذج التنبؤ واثقاً بما يكفي ويخرج مبكراً، متخطياً الفروع اللاحقة.
- إذا كان الاعتلاج عالياً (غير مؤكد)، يتم تمرير رمز CLS إلى الفرع التالي ذي الدقة الأعلى وعدد الطبقات الأكثر.
القدرة على التكيف: يسمح هذا للنظام بالمقايضة بين الدقة والسرعة/عمر البطارية أثناء وقت التشغيل من خلال ضبط العتبة. الصور البسيطة تخرج مبكراً؛ والصور المعقدة تمر عبر الفروع الأعمق.

ج. استراتيجية التدريب

دالة الخسارة: يتم تقليل خسارة عالمية، وهي مجموع الأوزان لخسائر التقاطع المتقاطع (cross-entropy losses) من جميع نقاط الخروج:
$L_{total} = \sum_{i=1}^{B} \omega_i L_{branch-i}$
التحسين: يتم تدريب النموذج من البداية إلى النهاية (end-to-end). ويشير المؤلفون إلى أن تحديد الأوزان $\omega_i$ (مثل $1/B$ ) يعطي نتائج جيدة.

3. المساهمات الرئيسية

بنية مبتكرة متعددة الدقة: إطار عمل قائم على ViT يعالج الصور بدقات متعددة بطريقة من الخشن إلى الناعم، مع نقل رمز CLS فقط بين الفروع للحفاظ على المعلومات مع تقليل العبء الإضافي.
تكامل الخروج المبكر الديناميكي: آلية استدلال في وقت التشغيل تسمح للنموذج بالتكيف وتوقف الحوسبة بناءً على صعوبة الصورة والثقة، مما يتيح توازناً قابلاً للضبط بين الدقة والتكلفة الحسابية.
الكفاءة دون الاعتماد على التدريب المسبق: توضح الطريقة تقليلاً كبيراً في العمليات الحسابية (حوالي 30%) مع الحفاظ على دقة مقاربة لنماذج ViTs القياسية، حتى عند تدريبها من الصفر على مجموعات بيانات أصغر.

4. النتائج التجريبية

قام المؤلفون بتقييم RAViT على CIFAR-10، و Tiny ImageNet، و ImageNet.

CIFAR-10 (فرعان):
- نموذج 1-3 (طبقة واحدة في فرع الدقة المنخفضة، و3 في الدقة العالية) حقق دقة 84.9% مع 81% من العمليات الحسابية (FLOPs) لنموذج ViT قياسي مكون من 4 طبقات.
- مع استخدام الخروج المبكر (عتبة 0.15)، انخفضت الدقة قليلاً إلى 82.6% ولكن انخفضت العمليات الحسابية إلى 61% من النموذج المرجعي.
Tiny ImageNet (3 فروع):
- نموذج 2-0-3 (طبقتان للدقة المنخفضة، 0 للوسطى، 3 للعالية) حقق دقة 40.7% (مقابل 41.0% لنموذج ViT ذي 4 طبقات) مع 78% من العمليات الحسابية.
- مع الخروج المبكر (عتبة 0.2)، انخفضت العمليات الحسابية إلى 71% مع فقدان ضئيل جداً في الدقة (40.4%).
ImageNet (3 فروع):
- بالمقارنة مع ViT-B (12 طبقة).
- حقق نموذج 1-1-8 دقة 73.25% (99.85% من دقة ViT-B البالغة 73.36%) مع 70% فقط من التكلفة الحسابية.
- مع الخروج المبكر (عتبة 1.0)، انخفضت التكلفة إلى 65% مع انخفاض طفيف في الدقة إلى 72.6%.

النتيجة العامة: عبر جميع مجموعات البيانات، حققت نماذج RAViT دقة مكافئة لنماذج ViTs الكلاسيكية بينما تطلبت فقط ~70% من العمليات الحسابية (FLOPs).

5. الأهمية والآثار المترتبة

الأنظمة المدمجة: تم تصميم RAViT خصيصاً للأجهزة ذات الموارد المحدودة (البطارية، الذاكرة). القدرة على ضبط عتبة الخروج المبكر تسم باستمرار للنظام إعطاء الأولوية لعمر البطارية (الخروج مبكراً) أو الدقة (المعالجة الكاملة) بناءً على الاحتياجات في الوقت الفعلي.
القابلية للتوسع: البنية مرنة؛ حيث يمكن تعديل عدد الفروع والطبقات دون تغيير التصميم بشكل جذري.
نهج تكميلي: على عكس تقليم الرموز أو التكميم، يغير RAViT استراتيجية معالجة المدخلات. ويمكن دمجه مع تقنيات ضغط أخرى لتحقيق كفاءة أكبر.
العمل المستقبلي: يقترح المؤلفون استخدام البحث في البنية العصبية (NAS) لتحديد توزيع الطبقات الأمثل لكل فرع تلقائياً، وربط عتبات الخروج بمستويات بطارية الأجهزة.

في الختام، يقدم RAViT حلاً عملياً وفعالاً للاختناق الحسابي في نماذج Vision Transformers من خلال الاستفادة من معالجة تعدد الدقات والاستدلال المتكيف، مما يجعل نشر ViT عالي الأداء ممكناً على أجهزة الحافة (edge devices).