Resource Consumption Threats in Large Language Models
تستعرض هذه الدراسة المسحية بشكل منهجي تهديدات استهلاك الموارد في النماذج اللغوية الكبيرة، مقدمةً إطاراً موحداً يمتد من استحثاث التهديد وفهم الآليات إلى استراتيجيات التخفيف لمعالجة تحديات الكفاءة الحسابية والاستدامة الاقتصادية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عقلاً رقمياً ضخماً وذكياً للغاية (نموذج لغوي كبير، أو LLM) يعيش في مركز بيانات عملاق. تم استئجار هذا العقل للإجابة على الأسئلة، وكتابة القصص، وحل المشكلات. ولكن مثل أي عامل، لديه حدود: فهو يحتاج إلى الكهرباء، ويشغل مساحة على الخوادم، ويكلف مالاً لتشغيله.
هذه الورقة هي تقرير أمني حول نوع جديد من الهجمات التي لا تحاول سرقة الأسرار أو جعل الذكاء الاصطناائي يقول شيئاً مسيئاً. بدلاً من ذلك، يحاول المهاجمون استنزاف طاقة الذكاء الاصطناعي عبر إجباره على القيام بمزيد من العمل بكثير مما هو ضروري.
إليك تفصيل للمشكلة، والطريقتين الرئيسيتين اللتين يحدث بهما ذلك، وكيف يمكننا إيقافه، باستخدام تشبيهات بسيطة.
المشكلة الجوهرية: هجوم "العمل العبثي"
تخيل الذكاء الاصطناعي كأنه طاهٍ فائق السرعة في مطبخ مطعم.
- التشغيل الطبيعي: تطلب برجر. يطبخه الطاهي في 5 دقائق. يعمل المطبخ بسلاسة، ويتم إطعام الجميع.
- الهجوم: زبون سيء النية يطلب برجر، لكنه يطالب الطاهي بكتابة مقال من 50 صفحة عن تاريخ الخردل، وشرح التركيب الجزيئي للخبز، وتلاوة القائمة بأكملها بالعكس قبل تقديم الطعام.
- النتيجة: الآن أصبح الطاهي عالقاً في المطبخ لمدة 5 ساعات. الزبائن الحقيقيون الذين ينتظرون طعامهم يشعرون بالغضب، والمطبخ يسخن بشكل مفرط، والمطعم يخسر المال.
تسمي هذه الورقة هذه الهجمات "تهديدات استهلاك الموارد". الهدف ليس كسر الطاهي؛ بل إبقاؤه مشغولاً بمهام عديمة الفائدة بحيث لا يستطيع خدمة أي شخص آخر.
الطريقتان الرئيسيتان لاستنزاف الذكاء الاصطناعي
يصنف المؤلفون هذه الهجمات إلى نوعين متميزين من الفوضى:
1. الإفراط في التفكير (فخ "المثالية")
تخيل طالباً يؤدي اختباراً في الرياضيات.
- المهمة: "ما هو حاصل ضرب 12 في 13؟"
- الإجابة الطبيعية: "156." (تم في ثانية واحدة).
- هجوم الإفراط في التفكير: يبدأ الطالب في الكتابة: "حسناً، 12 هي 10 زائد 2. و13 هي 10 زائد 3. لذا أحتاج لضرب 10 في 10، ثم 10 في 3، ثم 2 في 10..." يستمر في ذلك، مضيفاً تفاصيل غير ضرورية، ومراجعة حساباته ثلاث مرات، وكتابة فقرة طويلة عن سبب صعوبة الضرب، رغم أن الإجابة بسيطة.
- الخطر: الإجابة لا تزال صحيحة (156)، لكن الطالب أضاع 10 دقائق من الوقت والطاقة. في عالم الذكاء الاصطناعي، هذا يهدر طاقة الخادم ويكلف المستخدم المزيد من المال، حتى لو بدت النتيجة "آمنة".
2. الانجراف غير المحدود (حلقة "الأسطوانة المشروخة")
الآن تخيل مكنسة كهربائية روبوتية.
- المهمة: تنظيف غرفة المعيشة.
- التشغيل الطبيعي: تنظف الغرفة وتتوقف عند انتهاء المهمة.
- هجوم الانجراف غير المحدود: يصاب الروبوت بالارتباك. يبدأ بتنظيف نفس الزاوية، ثم يدرك أنه فاتته بقعة، فيعود إليها. ثم يعتقد أنه فاتته بقعة أخرى، فيعود مجدداً. يدخل في حلقة مفرغة، ينظف نفس بوصة من السجاد للأبد حتى تنفد البطارية أو تسخن الماكينة بشكل مفرط.
- الخطر: الروبوت لا يتوقف أبداً. لا ينهي المهمة أبداً. إنه فقط يدور في دوائر، مستهلكاً كل البطارية ومعيقاً الممر للجميع. في الذكاء الاصطناعي، هذا يحدث عندما يعلق النموذج في توليد نفس الكلمات مراراً وتكراراً، دون الضغط على زر "التوقف".
لماذا يهمنا هذا؟
قد تعتقد، "وماذا لو تحدث الذكاء الاصطناعي كثيراً؟ إنه مجرد كمبيوتر". لكن الورقة تشرح ثلاثة مخاطر كبيرة:
- "حجب الخدمة" (DoS): إذا أجبر مهاجم واحد الذكاء الاصطناعي على القيام بـ "عمل عبثي"، فسيستهلك كل طاقة الخادم. فجأة، لن يتمكن المستخدمون (الشرعيون) (مثل محاولتك للتحقق من حالة الطقس) من الحصول على استجابة لأن الخادم مشغول جداً بهراء المهاجم.
- "بالوعة الأموال": معظم خدمات الذكاء الاصطناعي تفرض رسوماً حسب "الرمز" (الكلمة أو جزء من الكلمة). إذا أجبر مهاجم الذكاء الاصطناعي على توليد 10,000 كلمة لسؤال بسيط، فسيواجه المستخدم (أو الشركة التي تدفع الفاتورة) فاتورة ضخمة وغير متوقعة.
- "استنزاف البطارية": بالنسبة للذكاء الاصطناعي الذي يعمل على الهواتف أو السيارات (أجهزة الحافة/Edge devices)، يمكن لهذه الهجمات أن تستنزف البطارية في دقائق، مما يحول سيارة ذكية إلى قطعة خردة.
كيف يقوم المهاجمون بذلك؟
تسرد الورقة العديد من الحيل الذكية، لكنها تندرج عموماً تحت فئات قليلة:
- حيلة "الإسفنجة": تماماً كما تمتص الإسفنجة الماء، يرسل المهاجمون مدخلات تجعل الدوائر الداخلية للذكاء الاصطناعي "تمتص" أكبر قدر ممكن من الطاقة.
- حيلة "الحلقة": يقدمون للذكاء الاصطناعي أمراً (Prompt) يخدعه ليعتقد أنه بحاجة للاستمرار في الكلام لحل المشكلة، مما يخلق حلقة لانهائية.
- حيلة "الباب الخلفي": بعض الهجمات تخفي تعليمات سرية في بيانات تدريب الذكاء الاصطناعي (مثل كتيب تعليمات مخفي) تخبر الذكاء الاصطناعي بأن يبطئ أو يكرر نفسه عند استخدام كلمة تحفيزية معينة.
كيف ندافع ضد ذلك؟
تقترح الورقة أننا بحاجة إلى نوع جديد من الأمن، ينتقل من مجرد "جعل الذكاء الاصطناعي أسرع" إلى "جعل الذكاء الاصطناعي آمناً".
- حارس "الميزانية": تخيل إعطاء الطاهي مؤقتاً صارماً. "لديك 5 دقائق لصنع البرجر. إذا لم تنتهِ، توقف وقدم ما لديك". هذا يجبر الذكاء الاصطناعي على التوقف عن الكلام عند الوصول إلى حد معين.
- كاشف "الملل": تعليم الذكاء الاصطناعي التعرف على متى يكرر نفسه. إذا بدأ في قول الشيء نفسه مرتين، يجب أن ترسل إشارة "توقف" تقطع الطاقة تلقائياً.
- "شرطي المرور": إذا أصبح المطبخ مزدحماً جداً بطلبات العمل العبثي، يجب على شرطي المرور (نظام الخادم) حظر الطلبات الخبيثة قبل أن تصل إلى الطاهي، لحماية الزبائن الحقيقيين.
الخلاصة
هذه الورقة هي صرخة تنبيه. مع ازدياد ذكاء الذكاء الاصطناعي وتكامله في حياتنا (قيادة السيارات، إدارة البنوك، كتابة الأكواد)، لا يمكننا القلق فقط بشأن كونه "خاطئاً" أو "سيئاً". يجب أن نقلق أيضاً من تعرضه للتلاعب بهدف استنزاف مواردنا.
تماماً كما نغلق أبوابنا لمنع اللصوص، نحتاج إلى بناء "أقفال رقمية" لمنع المهاجمين من إجبار ذكائنا الاصطناعي على القيام بعمل لا نهاية له ولا فائدة منه. الهدف هو الحفاظ على كفاءة الذكاء الاصطناعي، وتوفره، وتكلفته المناسبة للجميع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.