GAR: Carbon-Aware Routing for LLM Inference via Constrained Optimization
تقدم هذه الورقة البحثية "التوجيه الواعي بالبيئة" (GAR)، وهو إطار عمل للتحسين متعدد الأهداف المقيد يعمل على تقليل انبعاثات ثاني أكسيد الكربون لعمليات استنتاج النماذج اللغوية الكبيرة (LLM) من خلال توجيه الطلبات ديناميكيًا إلى نماذج غير متجانسة مع الالتزام الصارم بأهداف مستوى الخدمة المتعلقة بالدقة وزمن الاستج</strong>استجابة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدير خدمة توصيل مزدحمة لشركة تستخدم أسطولاً من الشاحنات ذات الأحجام المختلفة لتوصيل الطرود (الإجابات على الأسئلة). بعض هذه الشاحنات صغيرة وموفرة للوقود ولكنها بطيئة أو سيئة في حمل الأحمال الثقيلة. وأخرى عبارة عن شاحنات عملاقة وقوية يمكنها التعامل مع أي شيء فوراً، لكنها تستهلك الوقود بشراهة وكأن لا نهاية لها.
في عالم الذكاء الاصطناعي، هذه "الشاحنات" هي النماذج اللغوية الكبيرة (LLMs). حالياً، عندما يطرح مستخدم سؤالاً، يختار النظام عادةً شاحنة بناءً على السرعة أو التكلفة فقط. هو لا يهتم كثيراً بمقدار "التلوث الكربوني" الذي قد تسببه تلك الشاحنة، رغم أن "الوقود" (الكهرباء) يصبح أكثر اتساخاً في أوقات معينة من اليوم أو في أماكن معينة.
تقدم الورقة البحثية التي شاركتَها نظاماً جديداً يسمى GAR (التوجيه الواعي بالبيئة - Green-Aware Routing). فكر في GAR كأنه مراقب حركة مرور ذكي للغاية، لا ينظر فقط إلى السرعة والسعر، بل ينظر أيضاً إلى الأثر البيئي لكل عملية توصيل على حدة.
إليك كيف يعمل GAR، مقسماً إلى مفاهيم بسيطة:
1. المشكلة: "الشاحنة الأكثر اتساخاً" هي غالباً الخيار الافتراضي
في الوقت الحالي، إذا طرحت سؤالاً، قد يرسل النظام السؤال إلى أكبر وأقوى شاحنة لمجرد الأمان، أو أسرع شاحنة لتوفير الوقت.
- المشكلة: أحياناً، يمكن لشاحنة أصغر أن تؤدي المهمة بنفس الكفاءة، لكن النظام لا يعرف ذلك إلا بعد إرسال الشاحنة الكبيرة الملوثة بالفعل.
- عامل الشبكة: تخيل أن شبكة الكهرباء تشبه النهر. أحياناً تكون المياه نظيفة (طاقة متجددة مثل الرياح/الشمس)، وأحياناً تكون عكرة (وقود أحفوري). هذه الأوقات "العكرة" تتغير بناءً على الوقت من اليوم والمكان. GAR يعرف هذا؛ فهو يحاول إرسال "الشاحنات المتسخة" فقط عندما تكون المياه نظيفة، أو الأفضل من ذلك، يرسل "الشاحنات النظيفة" عندما تكون المياه عكرة.
2. الحل: مراقب حركة المرور "الواعي بالبيئة"
GAR هو صانع قرار ينظر إلى ثلاثة أشياء قبل اختيار الشاحنة:
- هل ستنجز المهمة بشكل صحيح؟ (الدقة)
- هل ستكون سريعة بما يكفي؟ (زمن الاستجابة/الكمون)
- كم مقدار التلوث الذي ستسببه؟ (الانبعاثات الكربونية)
إنه يستخدم مجموعة خاصة من القواعد (القيود الرياضية) لضمان عدم اختيار شاحنة بطيئة جداً أو غير دقيقة جداً. ولكن من بين الشاحنات التي تعد سريعة ودقيقة بما يكفي، يختار الشاحنة التي تنتج أقل قدر من التلوث.
3. كيف يتخذ القرارات (النماذج التنبؤية خفيفة الوزن)
لا يريد GAR إضاعة الوقت في تشغيل الشاحنة فعلياً ليرى ما إذا كانت ستنجح، لأن ذلك سيكون بطيئاً. بدلاً من ذلك، يستخدم كرات بلورية (مقدرات خفيفة الوزن) مدربة على بيانات سابقة لتخمين:
- "إذا أرسلنا هذا السؤال إلى نموذج 7B، هل سيحصل على الإجابة الصحيحة؟"
- "كم من الوقت سيستغرق ذلك؟"
- "كم مقدار الكربون الذي ستنتجه تلك الرحلة المحددة الآن؟"
تحدث هذه التخمينات في أقل من ميلي ثانية. وبناءً على هذه التخمينات، يختار GAR الخيار "الأكثر رفقاً بالبيئة" الذي لا يزال يلبي معايير الجودة.
4. "الميزانية المتدحرجة" (محفظة الكربون)
تخيل أن لديك ميزانية شهرية للتلوث. لا يمكنك مجرد ادخار كل تلوثك لنهاية الشهر؛ يجب أن تظل ضمن الحدود كل يوم.
- GAR-PD (المدير الذكي): هذه هي النسخة الأكثر تقدماً من GAR. فهي تحتفظ بـ "نافذة منزلقة" لآخر 100 عملية توصيل. إذا كان الفريق قد استخدم الكثير من الكربون مؤخراً، يصبح النظام تلقائياً أكثر صرامة، مما يجبر النظام على اختيار شاحنات أنظف. وإذا كان الفريق صديقاً للبيئة جداً، فإنه يسمح بقدر أكبر من المرونة. إنه يوازن الحسابات في الوقت الفعلي.
5. النتائج: إنجاز المزيد بأقل قدر من الدخان
اختبر المؤلفون هذا النظام باستخدام ستة أنواع مختلفة من المهام الصعبة (مثل مسائل الرياضيات، واختبارات العلوم، وفهم القراءة) وأسطول من خمسة نماذج ذكاء اصطناعي مختلفة (تتراوح من الصغيرة إلى الضخمة).
- الفائز الأكبر: نهج "أكبر شاحنة" التقليدي (أكبر نموذج لغوي) كان دقيقاً جداً ولكنه أنتج كمية هائلة من التلوث (2.75 جرام من ثاني أكسيد الكربون لكل طلب).
- نهج "أصغر شاحنة": وفر الكثير من التلوث ولكنه أخطأ في الإجابات كثيراً جداً.
- GAR-PD: كان هو المنطقة المثالية (Sweet Spot). لقد حقق الإجابات الصحيحة بقدر يقارب 97% من قدرة أكبر شاحنة، ولكنه قلل التلوث بنسبة 74%. لقد استطاع أن يكون سريعاً، ودقيقاً، وصديقاً للبيئة في آن واحد.
ملخص التشبيه
فكر في الأمر كطلب توصيل طعام.
- الطريقة القديمة: تطلب دائماً من أشهر مطعم وأغلاهم لأنك تريد أفضل طعام، حتى لو كانوا بعيدين ويستخدمون دراجة نارية تستهلك الكثير من البنزين.
- طريقة GAR: تسأل تطبيقاً ذكياً: "أريد برجر طعمه جيد ويصل في غضون 20 دقيقة". يتحقق التطبيق من حالة الطقس (هل الشبكة نظيفة؟)، ومن المطاعم (أي منها يمكنه القيام بذلك؟)، ويختار المطعم الذي يستخدم دراجة كهربائية وهو قريب منك. ستحصل على نفس البرجر اللذيذ، لكن الكوكب سيكون سعيداً أيضاً.
باختختصار: GAR هو طريقة جديدة لتوجيه طلبات الذكاء الاصطناعي تعامل "إنقاذ الكوكب" كهدف أساسي، وليس مجرد فكرة ثانوية، مما يضمن الحصول على إجابات ذكية دون حرق العالم من أجل الحصول عليها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.