GPU Acceleration in Deep Learning Training: A Comparative Study on Model Scale and Performance
تُظهر هذه الدراسة المزايا الكبيرة في الأداء لوحدات معالجة الرسومات NVIDIA RTX 3050 مقارنة بوحدات المعالجة المركزية من Intel في تدريب التعلم العميق، حيث كشفت عن تسريع بمقدار 40.6 ضعفاً لنماذج ResNet50 واسعة النطاق على مجموعة بيانات CIFAR-10.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي الحديث، تُعلَّم الحواسيب التعرف على الأنماط، بدءاً من تحديد قطة في صورة فوتوغرافية وصولاً إلى ترجمة جملة من لغة إلى أخرى. تعتمد عملية التعلم هذه، والمعروفة باسم التعلم العميق، على هياكل رياضية معقدة تحاكي الطريقة التي تربط بها الخلايا العصبية في الدماغ البشري. ولتدريب هذه الأنظمة، يجب على الحواسيب إجراء مليارات العمليات الحسابية، وهي مهمة تتطلب قدرة معالجة هائلة. لعقود من الزمن، كان "المعالج المركزي" (CPU)، وهو العقل القياسي للحاسوب، هو الأداة المعتمدة للمهام العامة. ومع ذلك، مع ازدياد حجم هذه النماذج الرقمية وتعقيدها، غالباً ما عانى المعالج المركزي من مواكبة هذا النمو، مما أدى إلى إبطاء عمليات البحث والتطوير. ولحل هذه المشكلة، توجه العلماء إلى نوع مختلف من المعالجات صُمم في الأصل لمعالجة الرسوميات في ألعاب الفيديو، وهو "وحدة معالجة الرسومات" (GPU). وبينما يشبه المعالج المركزي (CPU) بضعة خبراء مَهَرة للغاية يمكنهم حل المشكلات الصعبة واحداً تلو الآخر، فإن وحدة معالجة الرسومات (GPU) تشبه جيشاً ضخماً من آلاف العمال البسيطين الذين يمكنهم جميعاً أداء المهمة البسيطة نفسها في الوقت ذاته تماماً. هذه القدرة على العمل بالتوازي تجعل وحدة معالجة الرسومات مناسبة بشكل فريد للعمليات الحسابية المتكررة المطلوبة لتدريب نماذج التعلم العميق، ولكن النقطة الدقيقة التي تصبح فيها هذه الميزة حاسمة ظلت موضوعاً لاستقصاء دقيق.
وضع باحثون في جامعة "هونان الأولى للنورمال" (Hunan First Normal University) هدفاً لقياس مدى سرعة وحدة معالجة الرسومات مقارنة بالمعالج المركزي مع زيادة حجم نموذج التعلم. لم يعتمدوا على النظرية أو محاكاة الحاسوب وحدها؛ بل أجروا سلسلة من التجارب المنضبطة باستخدام أجهزة حقيقية وبيانات حقيقية. استخدم الفريق مجموعة قياسية مكونة من 60,000 صورة ملونة صغيرة، وهي مجموعة تُعرف باسم (CIFAR-10)، والتي تحتوي على صور لطائرات وسيارات وطيور وأشياء شائعة أخرى. قاموا بتدريب ثلاث نسخ مختلفة من "الدماغ الرقمي" على هذه البيانات: شبكة صغيرة وبسيطة جداً تحتوي على حوالي نصف مليون إعداد داخلي، وشبكة متوسطة الحجم تحتوي على حوالي 11.7 مليون إعداد، وشبكة كبيرة ومعقدة تحتوي على حوالي 25.6 مليون إعداد. ولكل من هذه النماذج الثلاثة، أجروا عملية التدريب نفسها مرتين: مرة على بطاقة رسوميات قوية، ومرة على معالج مركزي عالي الأداء، مع الحفاظ على جميع المتغيرات الأخرى متطابقة لضمان مقارنة عادلة.
كشفت النتائج عن تحول واضح ودراماتيكي في الأداء مع كبر حجم النماذج. فعندما درب الباحثون النموذج الأصغر والأبسط، كانت بطاقة الرسومات أسرع بمرتين فقط من المعالج المركزي. في هذا السيناريو، استغرق الوقت المستغرق في نقل البيانات بين ذاكرة الحاسوب والمعالج جزءاً كبيراً من الوقت الإجمالي، مما حد من ميزة السرعة التي يوفرها العمال المتوازون. ومع ذلك، عندما زاد حجم النموذج إلى المستوى المتوسط، أصبحت بطاقة الرسومات أسرع بأكثر من سبع مرات؛ حيث أدى حجم العمليات الحسابية الأكبر إلى تمكين المعالج من قضاء وقت أطول في العمل ووقت أقل في انتظار البيانات. وأصبح الفرق أكثر إثارة للدهشة مع النموذج الأكبر؛ ففي هذه الحالة، أكملت بطاقة الرسومات عشر جولات من التدريب في 134 ثانية فقط، بينما استغرق المعالج المركزي أكثر من 5,400 ثانية لإنهاء العمل نفسه. وهذا يعني أن بطاقة الرسومات كانت أسرع بأكثر من أربعين مرة، حيث قلصت جلسة تدريب كانت ستستغرق أكثر من ساعة ونصف إلى ما يزيد قليلاً عن دقيقتين.
ومن الأهمية بمكان أن الدراسة أكدت أن هذه السرعة الهائلة لم تأتِ على حساب الجودة. فقد حققت النماذج التي تم تدريبها على بطاقة الرسومات والمعالج المركزي دقة متطابقة تقريباً في الصور الاختبارية، مما يثبت أن الطريقة الأسرع لم تنتج نتيجة أسوأ. ووجد الباحثون أن العلاقة بين حجم النموذج والسرعة ليست خطاً مستقيماً؛ إذ إن فائدة استخدام بطاقة الرسومات تنمو بشكل "فوق خطي" (super-linearly). ومع زيادة عدد الإعدادات الداخلية في النموذج، يصبح الوقت الذي يتم توفيره أكبر بشكل أسّي. وهذا يشير إلى أنه بالنسبة للمهام الصغيرة والبسيطة، قد يكون معالج الحاسوب القياسي كافياً، ولكن بالنسبة للنماذج واسعة النطاق التي تقود أكثر أنواع الذكاء الاصطناعي تقدماً اليوم، فإن بطاقة الرسومات ليست مجرد خيار بل هي ضرورة. يقدم هذا العمل خريطة كمية ملموسة للباحثين والمهندسين، توضح بالضبط أين تكمن نقطة التحول ولماذا يصبح الانتقال إلى الحوسبة المتوازية أمراً ضرورياً مع ازدياد تعقيد الأدمغة الرقمية التي نبنيها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.