🤖 AI

Accelerating Vision Transformers on Brain Processing Unit

تقترح هذه الورقة طريقة مبتكرة لتسريع نماذج "Vision Transformers" على وحدات معالجة الدماغ (BPUs) المُحسّنة للشبكات العصبية الالتفافية (CNN)، وذلك عن طريق إعادة هيكلة النموذج لاستبدال الطبقات الخطية بمعاملات التفافية، مما يتيح توريث الأوزان دون الحاجة لإعادة التدريب مع تحقيق تسريع كبير في الاستنتاج مع فقدان ضئيل في الدقة.

المؤلفون الأصليون: Jinchi Tang, Yan Guo

نُشر 2026-02-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jinchi Tang, Yan Guo

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك عامل مصنع فائق الكفاءة ومتخصص يسمى BPU (وحدة معالجة الدماغ). هذا العامل هو خبير في تجميع مكعبات ليغو رباعية الأبعاد (التي تمثل بيانات الصور القياسية مثل الارتفاع، العرض، قنوات الألوان، والدفعات). في عالم الذكاء الاصطناعي، يعتبر هذا العامل هو الخبير المعتمد لبناء الشبكات العصبية التلافيفية (CNNs) (وهي "بناء الطوب" التقليدي في رؤية الحاسوب).

ومع ذلك، فقد وصل مهندس معماري ثوري جديد من نوع مختلف وهو محول الرؤية (Vision Transformer - ViT). بدلاً من البناء باستخدام مكعبات الليغو رباعية الأبعاد، يعمل الـ ViT باستخدام رزم من الورق ثلاثية الأبعاد (تسلسلات من البيانات). إنه ذكي للغاية وغالبًا ما يحقق نتائج أفضل، لكنه يتحدث لغة مختلفة. عندما تحاول توظيف عامل مصنع الـ BPU لبناء ViT، يصاب العامل بالارتباك؛ فهو مصمم لتكديس المكعبات، وليس لفرز رزم الورق. ونتيجة لذلك، يضطر بناء الـ ViT إلى أن يتم بواسطة عامل عام الأغراض وأبطأ بكثير (الـ CPU)، مما يترك الـ BPU الخارق فائق السرعة في حالة خمول.

حل الورق: خدعة "تغيير الشكل"

ابتكر مؤلفا هذه الورقة البحثية، جينتشي تانج ويان غوو، حلاً ذكياً للالتفاف على هذه المشكلة. لم يحاولوا تعليم الـ BPU كيفية قراءة رزم الورق (لأن ذلك سيكون صعباً ويتطلب إعادة تدريب النظام بأكمله)، بل قاموا بإعادة تشكيل رزم الورق لتبدو مثل مكعبات الليغو.

إليك كيف فعلوا ذلك، باستخدام تشبيهات بسيطة:

مشكلة الطبقة الخطية (Linear Layer): في نموذج ViT القياسي، يستخدم "الدماغ" طبقات خطية لمعالجة المعلومات. فكر في هذه الطبقات كأنها مترجم يقرأ قائمة من الكلمات ويخرج قائمة جديدة. الـ BPU لا يستطيع قراءة القوائم؛ هو يفهم فقط الشبكات رباعية الأبعاد.
- الحل: أخذ المؤلفون هذا "المترجم" وأعادوا تشكيل تعليماته لتبدو مثل مكعب ليغو 1×1. رياضياً، يقوم بنفس الوظيفة تماماً، لكنه الآن يتناسب تماماً مع مصنع الـ BPU. الأمر يشبه أخذ خريطة مسطحة ولفها على شكل أسطوانة فقط لكي تتناسب مع أنبوب معين، دون تغيير محتوى الخريطة.
مشكلة تسوية الطبقة (Layer Normalization): يستخدم الـ ViT أيضاً خطوة تسمى "تسوية الطبقة" للحفاظ على توازن بياناته (مثل منظم الحرارة "الثرموستات" الذي يحافظ على درجة حرارة الغرفة). الـ BPU لا يحتوي على منظم حرارة مدمج.
- الحل: قام المؤلفون ببناء "منظم حرارة" باستخدام مكعبات الليغو الموجودة لدى الـ BPU. لقد أنشأوا سلسلة خاصة من المكعبات الصغيرة (تلافيف 1×1) تقوم بحساب المتوسط والتباين، مما يحاكي فعلياً عمل منظم الحرارة باستخدام الأدوات التي يمتلكها الـ BPU بالفعل.

سحر "عدم إعادة التدريب"

عادةً، إذا قمت بتغيير مخطط بناء، عليك هدمه وإعادة بنائه من الصفر. ولكن لأن المؤلفين كانوا حذرين للغاية في جعل "مكعبات الليغو" الخاصة بهم متطابقة رياضياً مع "رزم الورق" الأصلية، فإن المخططات الأصلية (الأوزان) لا تزال تعمل بشكل مثالي.

لم يحتاجوا إلى إعادة تدريب النموذج أو تعليمه أشياء جديدة. لقد قاموا ببساطة بأخذ نموذج "DeiT" الجاهز (وهو نسخة فعالة من ViT)، وطبقوا خدعة تغيير الشكل الخاصة بهم، ثم سلموه إلى الـ BPU. تعرف الـ BPU فوراً على التنسيق الجديد وبدأ العمل بكامل سرعته.

النتائج: السرعة مقابل الدقة

اختبر الفريق نموذجهم في مهمتين مختلفتين: التعرف على آلاف الأشياء (ImageNet) وفرز الزهور.

المقايضة: عندما تقوم بتحويل نموذج ليعمل على هذا العتاد المتخصص، فإنك تخسر عادةً جزءاً ضئيلاً من الدقة (مثل الانتقال من صورة عالية الدقة إلى صورة JPEG مضغوطة قليلاً).
- في اختبار ImageNet الكبير، انخفضت دقة نموذج DeiT-Base بنسبة 1.4% فقط (من 81.8% إلى 80.4%).
- في اختبار الزهور، كان الانخفاض أقل حتى، حيث بلغ 0.5% فقط.
العائد: في مقابل هذا الانخفاض الضئيل في الدقة، أصبح النموذج أسرع بكثير.
- النموذج الأكبر (DeiT-Base) كان أسرع بمقدار 3.8 مرة على الـ BPU مقارنة بـ CPU القياسي.
- كما شهدت النماذج الأصغر تحسناً في السرعة، تراوح بين 1.3 إلى 2.1 ضعف.

اكتشاف مضحك

أثناء اختبارهم، لاحظ المؤلفون شيئاً مثيراً للاهتمام. في بعض الأحيان، كانت الملصقات الرسمية على صور الاختبار خاطئة (على سبيل المثال، صورة "أسد" وُصفت بأنها "قرد"). نموذج DeiT الأصلي حدد الأسد بشكل صحيح، لكن النظام اعتبره خطأ بسبب الملصق السيئ. ونموذج المؤلفين الجديد السريع حدد الأسد بشكل صحيح أيضاً. هذا يشير إلى أن النموذج في الواقع أكثر ذكاءً مما تشير إليه الدرجات الرسمية، لأنه يستطيع الرؤية من خلال "الأخطاء المطبعية" في بيانات الاختبار.

باخت تختصار

هذه الورقة هي المرة الأولى التي ينجح فيها شخص ما في أخذ "محول الرؤية" (مهندس رزم الورق) وجعله يعمل على "وحدة معالجة دماغ" متخصصة (مصنع الليغو) دون الحاجة لإعادة بناء المهندس من الصفر. ومن خلال إعادة تشكيل الرياضيات بذكاء لتناسب العتاد، حققوا زيادة في السرعة قدرها 3.8 ضعف مع فقدان ضئيل جداً في الذكاء، مما يثبت أن هذه النماذج المتقدمة من الذكاء الاصطناعي يمكنها أخيراً العمل بكفاءة على الرقائق المتخصصة والمدمجة.

ملخص تقني: تسريع نماذج "ترانسفورمر الرؤية" (Vision Transformers) على وحدة معالجة الدماغ (BPU)

بيان المشكلة
تتناول الورقة البحثية عدم توافق هيكلي حرج بين الأجهزة المتخصصة في المعالجة العصبية ونماذج "ترانسفورمر الرؤية" (ViT) الحديثة. وتحديداً، تم تحسين وحدة معالجة الدماغ (BPU) من شركة "هورايزن" (Horizon) لعمليات الالتفاف رباعية الأبعاد (ذات التكميم INT8) النموذجية للشبكات العصبية الالتفافية (CNNs). ومع ذلك، تعتمد نماذج ViT، مثل نموذج "ديت" (DeiT)، بشكل كبير على الطبقات الخطية (Linear Layers) وطبقات تسوية الطبقة (Layer Normalization) التي تعمل على تدفقات بيانات ثلاثية الأبعاد. هذا التباين يمنع وحدة BPU من تسريع العمليات الجوهرية لنماذج ViT، مما يضطر هذه النماذج للعمل على وحدات المعالجة المركزية (CPUs) العامة، وبالتالي تفقد قدرات التسريع التي توفرها الأجهزة المتخصصة.

المنهجية
لحل عدم التوافق هذا دون الحاجة إلى إعادة تدريب النموذج، يقترح المؤلفون إعادة تشكيل هيكلية لنموذج DeiT. وتتضمن المنهجية الجوهرية استبدال العمليات غير الالتفافية بعمليات التفاف مكافئة رياضياً يمكن لوحدة BPU تسريعها:

تحويل الطبقة الخطية: يتم تحويل الطبقات الخطية، التي تعالج عادةً بيانات ثلاثية الأبعاد $(B, N, C)$ ، إلى عمليات التفاف نقطية (Point-wise Convolutions). ويتم ذلك عن طريق إعادة تشكيل مصفوفة الأوزان $W \in \mathbb{R}^{O \times I}$ إلى تنسيق رباعي الأبعاد $W' \in \mathbb{R}^{O \times I \times 1 \times 1}$ عبر عمليات التوسيع (Unsqueeze). كما يتم تغيير ترتيب تنسيق المدخلات من $(B, N, C)$ إلى $(B, C, 1, N)$ ليتوافق مع متطلبات تدفق البيانات رباعي الأبعاد الخاص بوحدة BPU.
إعادة صياغة تسوية الطبقة (LayerNorm): يتم تفكيك عملية تسوية الطبقة إلى سلسلة من عمليات الالتفاف بنقاط $1 \times 1$ . حيث يتم حساب المتوسط باستخدام عملية التفاف بأوزان تساوي $1/H$ (حيث $H$ هو البعد الخفي)، ويتم حساب التباين عن طريق طرح المتوسط، ثم تربيع النتيجة، وتطبيق عملية التفاف ثانية. كما يتم إعادة تشكيل المعلمات القابلة للتعلم $\gamma$ و $\beta$ لتتطابق مع أبعاد المدخلات.
وراثة الأوزان: أحد الجوانب الحاسمة لهذا النهج هو أن النموذج المعاد تشكيله لا يتطلب إعادة تدريب أو ضبط دقيق (Fine-tuning). حيث يتم توريث الأوزان المدربة مسبقاً من نماذج DeiT القياسية مباشرة إلى الطبقات الالتفافية المعاد تشكيلها.
التكميم (Quantization): تتم معالجة النماذج المعدلة من خلال مجموعة أدوات خوارزمية Horizon BPU، باستخدام التكميم بعد التدريب (PTQ) باستراتيجية الحد الأقصى والأدنى (Min-Max) ومجموعة بيانات معايرة لتحويل النماذج إلى دقة INT8.

المساهمات الرئيسية

أول نشر ناجح: يزعم المؤلفون أن هذا هو أول نشر ناجح لنماذج "ترانسفورمر الرؤية" (ViT) على منصة BPU يستفيد بشكل كامل من قدرات تسريع الأجهزة الخاصة بها.
تكييف الهيكلية: يقترحون طريقة مبتكرة لإعادة هيكلة نموذج DeiT عبر استبدال الطبقات الخطية وطبقات LayerNorm بمعاملات التفاف مكافئة، مما يسمح بتسريع INT8 دون فقدان في الهيكلية.
نشر بدون إعادة تدريب: تتيح هذه الطة وراثة الأوزان المدربة مسبقاً بشكل مباشر، مما يلغي التكلفة الحسابية والتعقيد الناتج عن إعادة التدريب أو الضبط الدقيق للهيكل الجديد للعمليات.
التحقق الواسع: تم التحقق من صحة النهج على مجموعتين مختلفتين من البيانات: مجموعة بيانات ImageNet واسعة النطاق، ومجموعة بيانات أصغر لتصنيف الزهور.

النتائج التجريبية
تسجل الورقة تجارب مكثفة تقارن بين نماذج DeiT الأصلية والنسخ المحسنة والمكممة لـ BPU:

أداء ImageNet:
- الدقة: حقق نموذج DeiT-Base المكمم دقة Top-1 بنسبة 80.4% على ImageNet، وهو انخفاض قدره 1.4% فقط عن نسبة 81.8% الأصلية. وأظهرت النسخ المقطرة (Distilled) مرونة أكبر، حيث حافظ نموذج DeiT-Base Dist. على دقة 81.7% (انخفاض بنسبة 1.7%).
- كشف الشذوذ: لاحظ المؤلفون أن كلا النموذجين (الأصلي والمكمم) توقعا التصنيفات الصحيحة لعدة صور في مجموعة التحقق من ImageNet كانت معروفة بأنها مصنفة بشكل خاطئ في التعليقات التوضيحية الرسمية، مما يشير إلى أن الدقة الحقيقية للنماذج قد تكون أعلى قليلاً مما تظهره المقاييس المسجلة.
أداء تصنيف الزهور:
- في مجموعة بيانات تحتوي على 5 فئات من الزهور، حقق نموذج DeiT-Small المكمم دقة 97.4% بانخفاض قدره 0.3% فقط عن نسخة الدقة الكاملة.
تسريع الاستنتاج (Inference Speedup):
- أظهرت النماذج المكممة تسريعاً كبيراً في الاستنتاج على أجهزة BPU مقارنة بنظيراتها ذات الدقة العائمة (Floating-point):
- DeiT-Base: حقق تسريعاً بمقدار 3.82×.
- DeiT-Small: حقق تسريعاً بمقدار 2.16×.
- DeiT-Tiny: حقق تسريعاً بمقدار 1.30×.
- تشير النتائج إلى أن فوائد التكميم وتسريع الأجهزة تكون أكثر وضوحاً في بنيات النماذج الأكبر حجماً.

الأهمية والادعاءات
تضع هذه الورقة هذا العمل كخطوة محورية لسد الفجوة بين نماذج الرؤية الحاسوبية القائمة على "الترانسفورمر" والأجهزة المدمجة المتخصصة. ومن خلال إثبات إمكانية نشر نماذج ViT على وحدات BPU مع حد أدنى من التدهور في الدقة وتحسينات كبيرة في السرعة، يجادل المؤلفون بأن طريقتهم توفر حلاً عملياً لسيناريوهات النشر عند الحافة (Edge Deployment) في العالم الحقيقي. كما تم تسليط الضوء على القدرة على استخدام الأوزان المدربة مسبقاً دون إعادة تدريب ككسب رئيسي في الكفاءة، مما يجعل الانتقال إلى نماذج "الترانسفورمر" المعززة بالأجهزة أمراً ممكناً للبيئات محدودة الموارد. ويدعي المؤلفون بتواضع أن هذا يمثل أول محاولة ناجحة للاستفادة الكاملة من تسريع BPU لنماذج DeiT.

أبحاث مشابهة