Smells Like Prompt Spirit: Evaluating Energy Efficiency and Performance of Local LLM Inference on CPU vs GPU

تخيل عالماً لا تُكتب فيه البرمجيات التي تدير حياتنا الحديثة بأيدي البشر فحسب، بل بواسطة الذكاء الاصطناعي. لقد أصبحت هذه المساعدات الرقمية، المعروفة باسم النماذج اللغوية الكبيرة، بارعة جداً في كتابة الأكوام لدرجة أنها أصبحت الآن جزءاً من سير العمل اليومي لملايين المطورين. يمكنها إكمال جملة برمجية، أو إصلاح دالة معطلة، أو بناء برنامج صغير من وصف بسيط. ومع ذلك، فإن هذه الراحة تأتي بتكلفة خفية؛ ففي كل مرة تفكر فيها هذه النماذج، فإنها تستهلك كميات هائلة من الكهرباء، مما يساهم في بصمة كربونية متزايدة تهدد البيئة التي نأمل في حمايتها. ومع نمو الطلب على هذه الأدوات، يتساءل العلماء سؤالاً حاسماً: كيف يمكننا جعلها أسرع وأرخص دون أن نحرق الكوكب؟

وللإجابة على ذلك، وضع الباحثون مؤخراً خطة لاختبار كيفية سلوك هذه العقول الاصطناعية عند نقلها من نوع واحد من أجهزة الكمبيوتر إلى نوع آخر. لسنوات، عرف المطورون أن تشغيل هذه النماذج على شرائح رسومية متخصصة، صُممت في الأصل لألعاب الفيديو، يكون أسرع بكثير من تشغيلها على معالجات الكمبيوتر القياسية. لكن السرعة هي نصف القصة فقط؛ فقد أراد الفريق معرفة ما إذا كان هذا الانتقال إلى الأجهزة الأسرع سيوفر الطاقة أيضاً، والأهم من ذلك، ما إذا كان سيغير جودة الكود الذي تنتجه هذه النماذج. كما كانوا فضوليين بشأن خدعة دقيقة تُستخدم في صياغة الأوامر (prompting): وهي إعطاء النموذج بضعة أمثلة للمهمة قبل مطالبته بالعمل. هل يساعد عرض عينة من العمل للنموذج في توفير الطاقة، أم أنه يجعل العملية أطول فحسب؟

أخذ الباحثون خمسة نماذج برمجة مختلفة مفتوحة المصدر وأخضعوها لاختبار صارم. قاموا بتشغيل نفس المجموعة من التحديات البرمجية على جهازين مختلفين تماماً: معالج كمبيوتر قياسي ومجموعة قوية من بطاقات الرسوميات. وقاسوا بدقة مقدار الطاقة التي استهلكتها كل عملية تشغيل، والوقت الذي استغرقته، وما إذا كان الكود الناتج يعمل بالفعل. كما قارنوا بين طريقتين لطلب المساعدة من النماذج؛ في الطريقة الأولى، أعطوا النموذج مهمة بدون أي أمثلة، وهو نهج "الصفر-محاولة" (zero-shot). وفي الطريقة الثانية، قدموا له ثلاثة أمثلة لمهام مماثلة أولاً، وهو نهج "الثلاث-محاولات" (three-shot)، لتوجيه تفكير النموذج.

كانت النتائج مذهلة وكشفت عن مقايضة واضحة بين السرعة والاستقرار. فعندما نُقلت النماذج إلى أجهزة الرسوميات القوية، كان الفرق في السرعة لا يمكن تصوره؛ حيث انخفض الوقت اللازم لإنشاء الكود بنسبة تزيد عن 99 بالمائة، محولةً العمليات التي كانت تستغرق ثوانٍ إلى أجزاء من الثانية. أدت هذه السرعة الهائلة أيضاً إلى انخفاض كبير في استهلاك الطاقة، حيث استهلكت بعض المهام طاقة أقل بنسبة 90 بالمائة تقرياً مما كانت تستهلكه على المعالج القياسي. لقد كان نصراً واضحاً للكفاءة. ومع ذلك، أصبحت القصة أكثر تعقيداً عندما نظر الباحثون في جودة الكود.

عندما طُلب من النماذج العمل بدون أي أمثلة، تسبب الانتقال إلى الأجهزة الأسرع في جعل سلوكها غير متوقع. ولأن شرائح الرسوميات تعالج المعلومات بطريقة مختلفة عن المعالجات القياسية، فقد أنتجت النماذج أحياناً أكواداً ذات بنية مختلفة أو ببساطة فشلت في العمل، رغم أن الإعدادات كانت متطابقة. كان الأمر كما لو أن نفس الشخص، طُلب منه كتابة قصة في غرفتين مختلفتين، سيأتي بنهايات مختلفة تماماً. كان هذا التضارب في النتائج في أقصى درجاته عندما تُترك النماذج لتتدبر أمرها بمفردها.

تبين أن الحل لهذا عدم الاستقرار كان بسيطاً بشكل مفاجئ. فعندما قدم الباحثون ثلاثة أمثلة قبل مطالبة النموذج بكتابة الكود، تغير السلوك بشكل دراماتيكي. أصبحت النماذج أكثر اتساقاً، حيث أنتجت نتائج موثوقة بغض النظر عن نوع الكمبيوتر الذي تعمل عليه. علاوة على ذلك، وفرت هذه الطريقة المتمثلة في عرض الأمثلة الطاقة أيضاً؛ فمن خلال إعطاء النموذج مساراً واضحاً يتبعه، تجنب توليد ثرثرة غير ضرورية أو تفسيرات طويلة غالباً ما تملأ المخرجات عندما لا يتم تقديم أمثلة. لقد قامت طريقة "الثلاث-محاولات" هذه بتقليص الزوائد من العملية، مما قلل استهلاك الطاقة بأكثر من 60 بالمائة في بعض الاختبارات، وجعل إنشاء الكود أسرع وأكثر دقة.

تشير الدراسة في النهاية إلى أن مجرد شراء أجهزة أسرع ليس كافياً لحل مشكلات الطاقة والجودة في الذكاء الاصطناعي. فبينما يجعل الانتقال إلى بطاقات الرسوميات القوية العملية فعالة للغاية، إلا أنه لا يضمن نتائج أفضل بمفرده. في الواقع، بدون التوجيه الصحيح، يمكن أن تأتي السرعة على حساب الموثوقية. وكانت الاستراتيجية الأكثر فعالية التي تم العثور عليها هي مزيج من الاثنين: استخدام الأجهزة القوية للسرعة، ولكن مع اقترانها بأسلوب صياغة يعطي النموذج بضعة أمثلة ليتبعها. هذا النهج لم يحافظ على انخفاض استهلاك الطاقة فحسب، بل ضمن أيضاً أن يكون الكود الناتج مستقراً وصحيحاً.

في الختام، تسلط الأبحاث الضوء على أن مستقبل الذكاء الاصطناعي الأخضر يعتمد على كيفية طرحنا للأسئلة، وليس فقط على نوع الآلات التي نستخدمها. فمن خلال تصميم كيفية تفاعلنا مع هذه النماذج بعناية، يمكننا تسخير سرعتها دون التضحية بجودة عملها أو بصحة كوكبنا. إن الطريق إلى الأمام لا يقتصر فقط على بناء أجهزة كمبيوتر أكبر وأسرع، بل يتعلق بإيجاد التوازن الصحيح بين الأدوات التي نستخدمها والتعليمات التي نعطيها لها.