Provisioning to Runtime Optimization of a +100 MW AI Cluster
تقدم هذه الورقة أول عرض شامل ومتكامل لإدارة الطاقة لمركز بيانات ذكاء اصطناعي فائق النطاق، حيث تفصل العملية بدءاً من التخطيط المبكر للطاقة للمسرعات من الجيل التالي وصولاً إلى تحسين وقت التشغيل لمنشأة بقدرة 150 ميجاوات تستضيف 83,000 وحدة معالجة رسومية من طراز GB200.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول بناء أكبر وأقوى حاسوب فائق في العالم لحل أصعب مشكلات الذكاء الاصطناعي. لقد اشتريت الآلاف من أسرع الرقائق الحاسوبية (GPUs) التي يمكن للمال أن يشتريها. ولكن هناك عقبة: ليس لديك ما يكفي من الكهرباء لتشغيلها جميعاً بكامل سرعتها.
في الواقع، تجادل الورقة البحثية بأن نفاذ الطاقة أصبح الآن مشكلة أكبر من نفاذ رقائق الكمبيوتر. الأمر يشبه امتلاك أسطول من 100 سيارة سباق ولكن لديك وقود يكفي فقط لملء نصفها.
تصف هذه الورقة كيف قامت شركة ميتا (الشركة وراء فيسبوك) بحل هذه المشكلة لمركز بيانات ضخم بقدرة 150 ميجاوات. لم يكتفوا بمجرد توصيل كل شيء بالأجهزة وتمني الأفضل؛ بل عاملوا الكهرباء كمورد ثمين ومحدود يجب إدارته عبر ثلاث مراحل متميزة.
إليك قصة كيف فعلوا ذلك، باستخدام تشبيهات بسيطة.
المراحل الثلاث لإدارة الطاقة
قسم المؤلفون العملية إلى ثلاث مراحل: التخطيط، التحقق، والتشغيل.
المرحلة 1: التخطيط (مرحلة "الميزانية")
قبل وصول أجهزة الكمبيوتر حتى، كان على الفريق تحديد عدد الأجهزة التي يمكنهم استيعابها ضمن ميزانية الكهرباء الثابتة الخاصة بهم.
- الطريقة القديمة: عادةً، ينظر المهندسون إلى "السرعة القصوى" للرقاقة (القدرة الحرارية التصميمية، أو TDP) ويفترضون أنها ستستخدم هذه القدرة دائماً. إذا كانت الرقاقة مصنفة لـ 1,200 واط، فإنهم يخططون لـ 1,200 واط.
- طريقة ميتا: أدركوا أنه إذا أجبروا كل رقاقة على العمل بأقصى سرعة لها، فلن يتمكنوا إلا من وضع عدد قليل من الرقائق في المبنى. لذا تساءلوا: "ماذا لو جعلنا جميع الرقائق تعمل ببطء أقل قليلاً؟"
- التشبيه: تخيل بوفيه يحتوي على كمية ثابتة من الطعام.
- الاستراتيجية (أ): قدم وجبة ضخمة مكونة من 10 أطباق لكل شخص. يمكنك إطعام 50 شخصاً فقط.
- الاستراتيجية (ب): قدم وجبة أصغر قليلاً مكونة من 8 أطباق لكل شخص. الآن يمكنك إطعام 60 شخصاً.
- النتيجة: على الرغم من أن كل شخص حصل على طعام أقل قليلاً، إلا أن إجمالي الطعام الذي تناوله الجميع كان أعلى، وتم إطعام عدد أكبر من الناس.
- الاكتشاف: وجدوا أنه من خلال خفض حد الطاقة لكل وحدة معالجة رسومات (GPU) من 1,200 واط إلى حوالي 1,000 واط، يمكنهم وضع المزيد من وحدات معالجة الرسومات في مركز البيانات. الانخفاض الطفيف في سرعة كل رقاقة بمفردها تم تعويضه بأكثر من ذلك من خلال وجود مزيد من الرقائق التي تعمل معاً. منحهم هذا زيادة بنسبة 10% في إجمالي قدرة الحوسبة.
المرحلة 2: التحقق (مرحلة "اختبار الواقع")
بمجرد تركيب أجهزة الكمبيوتر، أدرك الفريق أن خططهم لم تطابق الواقع تماماً.
- المشكلة: كانت عدادات الطاقة الداخلية لأجهزة الكمبيوتر (PSUs) تكذب. كانت مفرطة في الحذر، حيث تبلغ أن الآلات تستهلك طاقة أكثر مما تستخدمه بالفعل. الأمر يشبه مقياس الوقود في السيارة الذي يظهر دائماً "فارغ" بينما لا يزال هناك ربع خزان متبقي.
- الحل: قارنوا بين العدادات الداخلية وحساسات الطاقة الرئيسية للمبنى (وهي دقيقة جداً). وجدوا أنه إذا تجاهلوا القراءات "الأسوأ حالاً" ونظروا إلى الاستخدام "المتوسط" (تحديداً المئوية السبعين)، فيمكنهم الوثوق بالأرقام بشكل أكبر.
- النتيجة: لأنهم توقفوا عن الثقة في العدادات الداخلية المفرطة في الحذر، أدركوا أن لديهم القليل من "الطاقة المخفية" التي لا يستخدمونها. قاموا برفع الطاقة مرة أخرى قليلاً (من 1,000 واط إلى 1,020 واط)، مما استخرج زيادة في الأداء بنسبة 2%.
المرحلة 3: التشغيل (مرحلة "شرطي المرور")
الآن مركز البيانات يعمل في مهام تدريب ذكاء اصطناعي حية. المشكلة هي أن أعباء عمل الذكاء الاصطناعي "متزامنة"، مما يعني أن جميع الرقائق يجب أن تنتظر بعضها البعض. إذا كانت إحدى الرقائق بطيئة، فإن المهمة بأكملها تتباطأ.
- المشكلة: أحياناً، تحدث طفرة مفاجئة في شبكة الكهرباء. إذا اكتشف النظام طفرة، كانت الطريقة القديمة هي إغلاق أو إبطاء رقاقة واحدة محددة فوراً لتوفير الطاقة. ولكن في سباق متزامن، إذا أبطأت أحد العدائين، فإن الفريق بأكمده يخسر.
- الحل (Dimmer): قاموا ببناء نظام ذكي يسمى "Dimmer". بد instead من معاقبة رقاقة واحدة، يقوم النظام بخفض طاقة كل الرقائق في المهمة بمقدار ضئيل ومتساوٍ.
- التشبيه: تخيل مجموعة من العدائين في سباق تتابع. إذا أصبح المسار زلقاً (حد الطاقة)، فبدلاً من عرقلة عداء واحد (مما يوقف الفريق بأكمله)، يطلب المدرب من الجميع الجري ببطء أكثر قليلاً. يبقى الفريق متماسكاً، ويستمر السباق دون توقف.
- النتيجة: هذا يمنع النظام من الانهيار ويسمه باستغلال آخر بضعة بالمائة من "الطاقة الضائعة" التي لم تكن مستخدمة سابقاً. أضاف هذا أيضاً زيادة بنسبة ~2%.
رؤى رئيسية أخرى
- تأثير "عنق الزجاجة": مركز البيانات هو مزيج من أجهزة مختلفة (كمبيوترات، تبريد، مفاتيح شبكة). أحياناً، لا يكون حد الطاقة محدداً بواسطة أجهزة الكمبيوتر، بل بواسطة نظام التبريد أو كابلات الشبكة. إذا كان جزء واحد من السلسلة ضعيفاً، فإنه يحد من السلسلة بأكملها.
- تقلبات الطاقة: عندما تعمل رقائق الذكاء الاصطناعي، فإنها أحياناً تتوقف لجزء من الثانية للتواصل مع بعضها البعض، مما يسبب انخفاضاً ثم طفرة في استخدام الطاقة. أنشأ الفريق "منعم برمجيات" (software smoother) يملأ هذه الفجوات الصغيرة بعمل وهمي، مما يحافظ على استقرار استخدام الطاقة مثل نهر هادئ بدلاً من بحر هائج. هذا يحمي الشبكة الكهربائية للمبنى من الصدمات.
- الأحدث هو الأفضل: قارنوا بين رقائقهم الجديدة (GB200) والقديمة (H100). الرقائق الجديدة فعالة للغاية لدرجة أنه على الرغم من أنها تستخدم طاقة أقل لكل رقاقة، إلا أن المجموعة الجديدة أسرع بنحو ضعف سرعة المجموعة القديمة في نفس المبنى.
الخلاصة
من خلال التعامل مع الكهرباء كمورد مرن وليس كحد ثابت، ومن خلال إدارتها بعناية من مرحلة التخطيط إلى العمليات اليومية، تمكنت ميتا من الحصول على حوالي 14% أكثر من قدرة الحوسبة من مركز بيانات بقدرة 150 ميجاوات دون بناء جدار واحد جديد أو شراء سلك واحد جديد.
لم يجدوا بطارية سحرية؛ بل تعلموا فقط كيف يستخدمون الكهرباء التي لديهم بالفعل بحكمة أكبر بكثير.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.