Tiny Enough to Break In: Agentic Remote Access Trojans Powered by Small Language Models

تخيل عالماً لا تكتفي فيه الحواسيب باتباع الأوامر مثل الروبوتات المطيعة، بل تبدأ في التفكير من تلقاء نفسها مثل المحققين الفضوليين. هذا هو مجال الذكاء الاصطناعي الوكيل (Agentic AI). وخلافاً للبرامج القياسية التي تنتظر من الإنسان النقر على زر "تشغيل" في كل مرة، فإن "الوكيل" هو مساعد رقمي يمكنه النظر في موقف ما، وتحديد ما يجب فعله بعد ذلك، وتجربته، وإذا فشل، يحاول شيئاً آخر—كل ذلك بمفرده. الآن، تخيل أخذ هذه الفكرة وتقليص حجمها. بدلاً من الحاجة إلى حاسوب فائق ضخم يعتمد على السحابة للقيام بالتفكير، نحن نتحدث عن نماذج اللغات الصغيرة (SLMs). هذه النماذج تشبه الأدمغة التي توضع في الجيب، حيث يمكن أن تتسع في حاسوب محمول عادي أو حتى في هاتف، وهي قادرة على التفكير محلياً دون الحاجة إلى الاتصال بالإنترنت للرجوع إلى المركز الرئيسي.

لماذا يهم هذا؟ لأنه لعقود من الزمن، استخدم المخترقون "أحصنة طروادة للوصة عن بُعد" (RATs)—وهي برامج خبيثة تسمح لهم بالتسلل إلى الحاسوب والتحكم فيه من بعيد. عادةً، يتعين على مخترق بشري أن يجلس هناك، يقرأ الشاشة ويكتب الأوامر، ويقرر ما الذي سيقوم بسرقته أو تخريبه تالياً. ولكن ماذا لو كان البرنامج الخبيث نفسه يستطيع التفكير؟ ماذا لو استطاع الفيروس أن ينظر إلى الحاسوب الموجود عليه، ويدرك "مهلاً، هذا المنفذ مفتوح"، ويقرر تجربة خدعة معينة، ويرى ما إذا كانت قد نجحت، وإذا لم تنجح، يجرب خدعة أخرى، كل ذلك دون أن يلمس إنسان لوحة المفاتب أبداً؟ هذا هو السؤال المرعب الذي تطرحه هذه الورقة البحثية: هل يمكن لعقل ذكاء اصطناعي صغير ومحلي أن يكون صغيراً بما يكفي للاختباء داخل حاسوب، وفي الوقت نفسه ذكياً بما يكفي للاختراق والسيطرة بمفرده تماماً؟

الدماغ الصغير في حصان طروادة

في هذه الدراسة، قام فريق من الباحثين من جامعة فرجينيا ببناء "صندوق رمال" (sandbox) رقمي—وهو ساحة لعب معزولة وآمنة حيث يمكنهم اختبار فكرة جامحة دون إيذاء أي شخص. أرادوا معرفة ما إذا كان بإمكانهم بناء حصان طروادة للوص عن بُعد (RAT) مدعوم بـ نموذج لغة صغير (SLM). فكر في هذا كاللص الرقمي الذي لا يحتاج إلى سيد بشري ليخبره أي نافذة يختار؛ بدلاً من ذلك، لديه دماغ صغير محلي ينظر حوله، ويفهم كيفية عمل القفل، ويحاول فتحه.

لاختبار ذلك، أنشأوا مختبراً يحتوي على شخصيتين رئيسيتين: حاسوب "كالي" (المهاجم) وحاسوب "ميتازبليتابل" (الضحية، وهو جهاز مصمم ليكون مليئاً بالثغرات). قاموا بتثبيت نموذج ذكاء اصطناعي محلي يسمى dolphin3-cyber-8b (نموذج بـ 8 مليارات معلمة) على جانب المهاجم. كان هذا النموذج صغيراً بما يكفي للعمل على أجهزة عادية دون الحاجة إلى اتصال سحابي. كانت مهمة الذكاء الاصطناعي هي العمل كـ "دماغ" لحصان طروادة. كان من المفترض أن يقوم بـ:

1. النظر: مسح حاسوب الضحية لمعرفة الخدمات المفتوحة (مثل التحقق من أي الأبواب غير مقفلة).
2. التفكير: تقرير أي أداة سيستخدمها للاختراق.
3. العمل: إرسال الأمر لمحاولة الدخول.
4. التفاعل: إذا فشل، يقرأ رسالة الخطأ، ويفهم سبب الفشل، ويجرب نهجاً مختلفاً.

النتائج: لص متعثر بمستقبل مشرق

وجد الباحثون "شخصية مزدوجة" في ابتكارهم. من ناحية، البنية التحتية تعمل. فقد تمكن "الدماغ" الصغير للذكاء الاصطناعي بنجاح من تشغيل دورة كاملة من "النظر، التفكير، العمل" دون أي مساعدة بشرية ودون الحاجة للاتصال بالإنترنت. استطاع قراءة نتائج المسح، واختيار أداة، وتنفيذ أمر ما. "السباكة" الخاصة بالنظام كانت متينة.

ولكن من ناحية أخرى، كان الدماغ لا يزال متعثراً للغاية. فعندما طلب الباحثون من الذكاء الاصطناٍ إكمال قائمة مهام صارمة، نجح في 10.9% فقط منها. وهذا يعادل تقريباً 6 محاولات ناجحة من أصل 55 محاولة.

كان الذكاء الاصطناعي بارعاً في الأشياء السهلة. فعندما أظهر المسح وجود باب واضح الخطوة الواحدة (مثل "bind shell" محدد على المنفذ 1524 أو خدمة FTP على المنفذ 21)، استطاع الذكاء الاصطناعي المرور عبره بسهولة. كان الأمر أشبه بلص يرى باباً مفتوحاً بالفعل فيدخل فحسب. ولكن بمجرد أن تتطلب المهمة أكثر من خطوة واحدة—مثل الحاجة لتخمين كلمة مرور، أو التعامل مع خطأ معقد، أو تغيير الأدوات بعد الفشل—بدأ الذكاء الاصطناعي في التعثر.

تسلط الورقة الضوء على ثلاث طرق رئيسية فشل فيها الذكاء الاصطناعي:

• الهلوسة: اخترع الذكاء الاصطناعي أحياناً أوامر غير موجودة أو استخدم الأدوات بطرق غير مخصصة لها.
• الارتباك: غالباً ما أخطأ في قراءة رسائل الخطأ الخاصة بالحاسوب، معتقداً أن الفشل كان في الواقع نجاحاً.
• العناد: عندما فشل أمر ما، وبدلاً من تجربة استراتيجية جديدة تماماً، كان الذكاء الاصطناعي غالباً ما يعيد صياغة نفس الأمر الفاشل ويحاول مجدداً، مما يجعله عالقاً في حلقة مفرغة.

كان الباحثون واضحين جداً بشأن ما يعنيه هذا: المفهوم ممكن، لكن التكنولوجيا الحالية ليست جاهزة بعد. لقد استبعدوا صراحةً فكرة أن هذه "مشكلة محلولة" أو سلاح مثالي. في الواقع، أشاروا إلى أنه لو كان لدى مخترق بشري معدل النجاح هذا (10.9%)، فسيتم طرده فوراً. لكنهم أشاروا إلى تحول مرعب: الإنسان يحتاج إلى أجر ليعمل، أما الحاسوب فلا يحتاج لذلك. إذا استطعت تشغيل هذا الذكاء الاصطناعي المتعثر آلاف المرات يومياً بتكلفة زهيدة جداً، فإن نسبة نجاح 10% قد تؤدي في النهاية إلى اختراق.

ماذا يخبرنا هذا عن المستقبل

أهم استنتاج من هذه الورقة ليس أن الذكاء الاصطناعي هو مخترق ماهر اليوم. بل هو أن الآلية جاهزة، حتى لو كان الدماغ لا يزال في مرحلة التعلم. النظام الذي يحلل البيانات، ويتحقق من الأوامر، وينفذها عمل بشكل مثالي. الشيء الوحيد الذي أعاقه هو قدرة الاستنتاج لدى النموذج الصغير.

يجادل المؤلفون بأنه مع تحسن ذكاء هذه النماذج الصغيرة، سيتحول "اللص المتعثر" إلى "لص محترف". الفجوة بين "لا يستطيع القيام بذلك" و"يمكنه القيام بذلك" تتقلص بسرعة. بالنسبة للمدافعين، تقترح الورقة أننا لا نستطيع الاكتفاء بالبحث عن تواقيع برمجية محددة بعد الآن. بدلاً من ذلك، نحتاج إلى مراقبة سلوك هؤلاء الوكلاء. وبما أن الذكاء الاصطناعي في الدراسة علق في حلقات مفرغة، وكرر نفس الأخطاء، وجرب تركيبات غريبة من الأدوات، فإن هذه هي "العلامات" التي يجب أن تبحث عنها الأنظمة الأمنية.

باختصار، تثبت الورقة أن ذكاءً اصطناعياً محلياً صغيراً يمكنه تنفيذ هجوم وصول عن بُعد بمفرده. هو فقط لا يستطيع فعل ذلك بشكل جيد بعد. ولكن لأن التكنولوجيا تتحسن بسرعة كبيرة، فإن اليوم الذي يمكن فيه لفيروس صغير، يفكر ذاتياً، أن يخترق حاسوبك دون تدخل بشري، هو يوم أقرب مما نعتقد بكثير. كلمة "صغير" في العنوان لا تتعلق بالحجم فقط؛ بل تتعلق بكيفية صغر حجم هذه التهديدات، مما يجعل اكتشافها أصعب وإخفاءها أسهل.