LLMs as Hackers: Autonomous Linux Privilege Escalation Attacks
تقدم هذه الورقة hackingBuddyGPT، وهو نموذج أولي مستقل يعمل بنماذج اللغات الكبيرة (LLM) لتصعيد الامتيازات في أنظمة لينكس، وتثبت من خلال معيار قياس جديد أن النماذج المتقدمة مثل GPT-4-Turbo، عندما يتم تعزيزها باستراتيجيات التأمل والتوجيه، يمكنها تحقيق معدلات نجاح تضاهي البشر في استغلال الثغرات الأمنية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة البحث بعنوان "النماذج اللغوية الكبيرة كقراصنة: هجمات تصعيد الامتيازات في نظام لينكس ذاتية التشغيل" باستخدام لغة بسيطة وتشبيهات إبداعية.
الفكرة الكبرى: تعليم الذكاء الاصطناائي كيف يكون لصاً رقمياً
تخيل أن لديك منزلاً (نظام كمبيوتر) بباب أمامي مغلق. يحاول خبير أمني (مختبر اختراق) اقتحام المنزل للعثين على نقاط الضعف قبل أن يفعل ذلك لص حقيقي. عادةً، يتضمن هذا الأمر قيام إنسان بفحص كل نافذة، وتجربة المفاتيح، والبحث عن ألواح أرضية مرتخية.
هذه الورقة تطرح سؤالاً مخيفاً ومثيراً للاهتمام في آن واحد: هل يمكن للذكاء الاصطناعي القيام بهذه المهمة بمفرده؟
قام الباحثون ببناء لص آلي يُدعى hackingBuddyGPT. أعطوه مجموعة من "بيوت التدريب" (أجهزة افتراضية) تحتوي على نقاط ضعف محددة ومعروفة. كان هدفهم هو معرفة ما إذا كان بإمكان الذكاء الاصطناعي اكتشاف كيفية الانتقال من مستخدم عادي (ضيف) إلى مستخدم "الجذر" (Root) (سيد المنزل) دون أي مساعدة بشرية.
الشخصيات (نماذج الذكاء الاصطناعي)
اختبر الباحثون أنواعاً مختلفة من "أدمغة" الذكاء الاصطناعي لمعرفة أي منها سيكون أفضل لص:
- الدماغ المحلي (Llama3-8b): فكر فيه كـ طفل ذكي من الحي يعيش في قبو منزلك. إنه مجاني وخاص، لكنه لا يعرف الكثير عن العالم.
- النتيجة: فشل في كل شيء تقريباً. لم يستطع حتى فتح القفل. كان صغيراً جداً وغير خبير.
- المحقق المبتدئ (GPT-3.5-Turbo): هذا يشبه طالبًا في أكاديمية الشرطة. يعرف الأساسيات ويمكنه حل القضايا السهلة، لكنه يرتبك أمام الألغاز المعقدة.
- النتيجة: حل حوالي 16% إلى 50% من المنازل، اعتماداً على مقدار المساعدة التي تلقاها.
- المحقق البارع (GPT-4-Turbo): هذا هو شرلوك هولمز في المجموعة. لقد قرأ كل كتاب في المكتبة تقريباً ويمكنه ربط النقاط التي قد يغفل عنها البشر.
- النتيجة: كان فعالاً للغاية، حيث حل 33% إلى 83% من المنازل. ومع القليل من التوجيه، قدم أداءً يضاهي الخبراء البشر.
ساحة التدريب: "صالة ألعاب الهكر الرياضية"
لا يمكنك ترك لص طليقاً على الإنترنت؛ فهذا أمر غير قانوني وخطير. لذلك، بنى الباحثون "صالة ألعاب افتراضية للهكر".
- الإعداد: أنشأوا 12 منزلاً افتراضياً مختلفاً. كل منزل يحتوي على نقطة ضعف واحدة محددة (مثل نافذة مفتوحة، أو مفتاح مخبأ تحت ممسحة الأرجل، أو باب بقفل مكسور).
- القواعد: كان على الذكاء الاصطناعي أن يبدأ كضيف ويجد طريقة ليصبح "الجذر" (المالك). إذا نجح، فاز. وإذا تعثر أو نفد وقته، فقد خسر.
- المعيار الأساسي: قاموا أيضاً باستئجار هكر بشري لديه 7 سنوات من الخبرة لتجربة نفس المنازل. حل الإنسان 75% منها.
كيف حاول الذكاء الاصطناعي الاقتحام
لم يقم الذكاء الاصطناعي بالتخمين عشوائياً، بل استخدم حلقة تكرارية:
- انظر: نظر حول الكمبيوتر (مثل تفقد غرفة المعيشة).
- فكر: سأل نفسه، "ماذا يجب أن أفعل بعد ذلك؟"
- تحرك: كتب أمراً (مثل "افتح النافذة").
- كرر: رأى ما حدث وحاول مرة أخرى.
نظام "التلميحات"
في بعض الأحيان، كان الذكاء الاصطناعي يعلق. حاول الباحثون تقديم تلميحات له، مثل معلم يهمس: "هيا، افحص درج المطبخ".
- بدون تلميحات: كان على الذكاء الاصطناعي العثور على الدليل بنفسه.
- مع التلميحات: ارتفعت نسبة نجاحه بشكل كبير. لقد أثبت أن الذكاء الاصطناعي يعمل بشكل أفضل عندما يعطيه البشر نقطة انطلاق.
الجيد، والسيء، والغريب
✅ الأخبار الجيدة
- الذكاء الاصطناعي يصبح بارعاً بشكل مخيف: أفضل ذكاء اصطناعي (GPT-4) حل تقريباً نفس عدد المنازل التي حلها الخبير البشري.
- إنه رخيص (غالباً): رغم أن "المحقق البارع" يكلف مالاً لتشغيله، إلا أنه لا يزال أرخص من استئجار فريق بشري لكل اختبار.
- إنه سريع: الذكاء الاصطناست لا يتعب أبداً، ولا يأخذ استراحة قهوة، ويعمل على مدار الساعة طوال أيام الأسبوع.
❌ الأخبار السيئة
- يفتقر إلى "المنطق السليم": الذكاء الاصطناعي يشبه روبوتاً يتبع التعليمات حرفياً لكنه لا يفهم "جوهر" المهمة.
- مثال: إذا وجد الذكاء الاصطناعي كلمة مرور مكتوبة على ورقة، فقد يقرأ كلمة المرور، وينسخها، ثم... يكتفي بالنظر إليها فقط. غالباً ما ينسى فعلياً استخدام كلمة المرور لتسجيل الدخول.
- مثال: قد يحاول فتح باب مفتوح بالفعل، أو يطرق على حائط كان من الواضح أنه حائط.
- يعلق في حلقات مفرغة: أحياناً، كان يكرر نفس الأمر 20 مرة، آملاً أن ينجح في المرة الحادية والعشرين، مما يهدر الوقت والمال.
- النماذج الصغيرة عديمة الفائدة: نماذج الذكاء الاصطناعي المحلية المجانية كانت غبية جداً لتكون مفيدة لهذه المهمة.
🤯 الأخبار الغريبة
- الذكاء الاصطناعي "يهلوس": أحياناً، كان يخترع أوامر غير موجودة، مثل
exec_cat(أمر لتنفيذ قطة). كان واثقاً من صحة كلامه، لكنه كان مجرد تأليف من خياله. - يتجاهل الأخطاء: إذا قال الكمبيوتر "خطأ: كلمة مرور خاطئة"، كان الذكاء الاصطناعي غالباً ما يحاول تجربة نفس كلمة المرور الخاطئة مرة أخرى، متجاهلاً علامة التحذير.
تكلفة الاقتحام
قام الباحثون بحساب تكلفة ترك الذكاء الاصطناعي يقتحم هذه المنازل:
- الهكر البشري: يكلف حوالي 159 دولاراً في الساعة.
- الذكاء الاصطناعي (GPT-4): يكلف حوالي 1.50 إلى 11.00 دولار لكل عملية اختراق ناجحة، اعتماداً على ذكاء الاستراتيجية المستخدمة.
- الذكاء الاصطناعي (النماذج الصغيرة): يكلف سنتات قليلة، لكنها نادراً ما تنجح.
الحكم النهائي
هل يمكن للذكاء الاصطناعي استبدال الهكرز البشر؟
ليس بعد.
- الذكاء الاصطناعي بارع في اتباع قائمة مهام وتجربة آلاف الاحتمالات بسرعة.
- الإنسان أفضل في "التفكير خارج الصندوق"، وملاحظة الأدلة الدقيقة، واستخدام المنطق السليم عندما تسوء الأمور.
المستقبل:
أفضل نهج هو العمل الجماعي. تخيل إنساناً يعطي للذكاء الاصطناعي تلميحاً رفيع المستوى ("افحص المطبخ")، والذكاء الاصطناعي يقوم بالعمل الشاق المتمثل في تجربة كل مفتاح في الدرج. هذا المزيج يجعل العملية أسرع، وأرخص، وأكثر فعالية.
لماذا يهم هذا؟
إذا عرف الأشرار (الهكرز ذوو القبعات السوداء) كيفية استخدام أدوات الذكاء الاصطنا هذه، فقد يتمكنون من اختراق ملايين الحواسيب تلقائياً. ولكن إذا استخدمهم الأخيار (فرق الدفاع أو القبعات الزرقاء)، فيمكنهم العثور على تلك الثغرات وإصلاحها قبل أن يفعل الأشرار ذلك. تحذرنا الورقة: اللص الآلي موجود بالفعل عند الباب؛ وعلينا التأكد من أن أقفالنا قوية بما يكفي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.