Energy Efficiency of Locally Deployed LLMs: A Preliminary Quantitative GPU Power Benchmark on Consumer Hardware
تقدم هذه الورقة بحثاً معيارياً كمياً لتسعة من النماذج اللغوية الكبيرة مفتوحة المصدر على وحدة معالجة رسومات من فئة RTX 4060Ti المخصصة للمستهلكين، كاشفةً أن كفاءة استهلاك الطاقة مدفوعة ببنية النموذج والكمية (quantization) أكثر من عدد المعلمات، حيث حققت نماذج بمليار معلمة مثل gemma3 وllama3.2 أدنى تكاليف طاقة لكل رمز (token)، بينما استهلكت النماذج الأكبر مثل 7B-Mistral طاقة أكبر بكثير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت للتو صديقاً آلياً فائق الذكاء يعيش داخل حاسوبك، مستعداً للإجابة على الأسئلة، أو كتابة القصص، أو مساعدتك في البرمجة دون إرسال أسرارك أبداً إلى خادم سحابي ضخم. هذا هو عالم الذكاء الاصطناعي "المحلي"، وهو توجه ينفجر انتشاراً لأن الناس يريدون الخصوصية والسرعة. لكن هناك عقبة: هذه الروبوتات العبقرية جائعة. فبينما كنا نعلم منذ فترة أن تدريب هذه الأدمغة الاصطناعية الضخمة على حواسيب فائقة القدرة يستهلك الكثير من الكهرباء (مثل تزويد مدينة صغيرة بالطاقة ليوم كامل)، إلا أننا لم نكن نعرف حقاً مقدار الطاقة التي يتطلبها مجرد "التحدث" إليها على حاسوب منزلي عادي. الأمر يشبه معرفة أن السيارة تستهلك وقوداً سيئاً للغاية على الطريق السريع، ولكن ليس لديك أدنى فكرة عن كمية الوقود التي تحرقها وهي تقف في مكانها في ممر منزلك بينما تدردش مع السائق. ومع بدء المزيد من الناس في تشغيل مساعدي الذكاء الاصطناعي هؤلاء على أجهزة اللابتوب أو حواسيب الألعاب الخاصة بهم، يصبح فهم فاتورة الطاقة "النشطة" هذه مصدر قلق حقيقي لكل من محفظتك وكوكب الأرض.
هذا هو بالضبط المكان الذي تدخل فيه فريق من الباحثين من جامعة FH Aachen للعلوم التطبيقية في ألمانيا. لقد أرادوا معرفة أي من نماذج الذكاء الاصطناعي الشهيرة والمتاحة للاستخدام المجاني هي الأكثر "كفاءة في استهلاك الطاقة" عند تشغيلها على بطاقة رسوميات استهلاكية قياسية — وتحديداً بطاقة NVIDIA RTX 4060 Ti، وهي النوع الذي قد تجده في حاسوب ألعاب عالي الأداء. وبدلاً من مجرد السؤال، "أي نموذج يقدم أفضل الإجابات؟" سألوا، "أي نموذج يقدم أفضل الإجابات مع ارتشاف أقل قدر من الكهرباء؟" لقد أعدوا تجربة منضبطة حيث قدموا لتسعة نماذج مختلفة من الذكاء الاصطناعي مفتوحة المصدر (تتراوح من النماذج الصغيرة ذات المليار معلمة إلى النماذج الأكبر ذات الـ 7 مليارات معلمة) مجموعة ثابتة من 15 سؤالاً، من الحقائق البسيطة مثل "ما هي عاصمة فرنسا؟" إلى المهام المعقدة مثل كتابة الكود أو شرح مفاهيم عميقة.
لقد عمل الباحثون كالمحققين في مجال الطاقة، مستخدمين أداة تسمى nvidia-smi للتحقق من استهلاك الطاقة لبطاقة الرسوميات مرتين كل ثانية أثناء عمل النماذج. ومن الأهمية بمكان، أنهم لم يقيسوا إجمالي الطاقة فحسب؛ بل طرحوا بعناية طاقة "الخمول" الأساسية للبطاقة لعزل التكلفة الدقيقة للطاقة الناتجة عن عملية التفكير الخاصة بالذكاء الاصطناعي. كان هدفهم الرئيسي هو حساب مقدار إجمالي الطاقة (بالجول) التي استغرقها توليد كل كلمة واحدة (أو "توكن") من الإجابة. تشير نتائجهم إلى أن الأكبر ليس دائماً هو الأفضل عندما يتعلق الأمر بكفاءة الطاقة. في الواقع، تبين أن النماذج الصغيرة، وتحديداً gemma3:1b و llama3.2:1b ، كانت بطلة الكفاءة. فقد تمكنت هذه القوى الصغيرة من توليد كلمة واحدة من النص باستخدام ما لا يزيد عن 0.56 جول من الطاقة، وكان بإمكانها إنتاج أكثر من 170 كلمة في الثانية.
في المقابل، كان نموذج Mistral الأكبر، ذو الـ 7 مليارات معلمة، أقل كفاءة بكثير، حيث استهلك ما يصل إلى 4.4 ضعف الطاقة لكل كلمة مقارنة بالنموذج الصغير الأكثر كفاءة. وكشفت الدراسة أيضاً عن مفاجأة غريبة: أحد النماذج، qwen3.5:2b ، استخدم كمية عالية بشكل مفاجئ من الطاقة لكل مطالبة. ويرى الباحثون أن هذا لم يكن بسبب بطء النموذج، بل لأنه كان "يفكر" داخلياً — مستخدماً تقنية تسمى التفكير الممتد للتخطيط لإجابته قبل التحدث — مما يحرق طاقة إضافية حتى لو كان الناتج النهائي قصيراً. وهذا يسلط الضوء على أن مجرد النظر إلى إجمالي الطاقة لسؤال كامل يمكن أن يكون مضللاً؛ فالمقياس الحقيقي للكفاءة هو مقدار الطاقة اللازمة لإنتاج كل "توكن". في النهاية، تشير الورقة البحثية إلى أنه لأي شخص يقوم بتشغيل الذكاء الاصطناعي على أجهزته الخاصة، فإن الخيار الأكثر كفاءة في استهلاك الطاقة ليس بالضرورة النموذج الأقوى أو الأكبر، بل هو النموذج الذي يمتلك البنية والحجم المناسبين للمهمة، مما يثبت أن أصغر الأدمغة قد تكون أحياناً هي الأكثر رفقاً بالبيئة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.