💬 NLP

How Few-shot Demonstrations Affect Prompt-based Defenses Against LLM Jailbreak Attacks

تكشف هذه الورقة أن الأمثلة التوضيحية قليلة العينات (few-shot demonstrations) لها تأثيرات متباينة على الدفاعات القائمة على التلقين، حيث تعمل على تعزيز التلقينات الموجهة نحو الدور (Role-Oriented Prompts) من خلال ترسيخ الهوية، بينما تؤدي إلى تدهور كبير في التلقينات الموجهة نحو المهام (Task-Oriented Prompts) عبر تشتيت الانتباه عن التعليمات، مما يقدم رؤى بالغة الأهمية لتحسين استراتيجيات سلامة النماذج اللغوية الكبيرة.

المؤلفون الأصليون: Yanshu Wang, Shuaishuai Yang, Jingjing He, Tong Yang

نُشر 2026-02-05

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yanshu Wang, Shuaishuai Yang, Jingjing He, Tong Yang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نماذج اللغات الكبيرة (LLMs) كمتدربين موهوبين للغاية ولكنهم سذج؛ فهم بارعون في كتابة الأكواد، ورواية القصص، والإجابة على الأسئلة، لكنهم يحتاجون إلى قواعد صارمة لمنعهم من القيام بشيء خطير أو غير أخلاقي.

تبحث الورقة البحثية التي قدمتها في كيفية إعطاء هؤلاء المتدربين قواعدهم. وتحديداً، هي تبحث في طريقتين مختلفتين لكتابة تلك القواعد (المطالبات/Prompts) وكيف يغير إضافة "قصص أمثلة" (توضيحات قليلة المحاولات/few-shot demonstrations) النتيجة.

إليك تفصيل نتائجهم باستخدام تشبيهات بسيطة:

١. الطريقتان لإعطاء التعليمات

اختبر الباحثون أسلوبين رئيسيين لـ "مطالبات النظام" (System Prompts) (التعليمات الأولية المعطاة للذكاء الاصطناعي):

المطالبات الموجهة نحو الدور (RoP): نهج "الهوية"
- التشبيه: تخيل أنك تقول للمتدرب: "أنت مساعد مفيد وآمن وأخلاقي يدعى 'الحارس' (Guardian)."
- كيف يعمل: أنت تحدد من هم. أنت تعتمد على تدريبهم ليتصرفوا كمساعد جيد.
المطالبات الموجهة نحو المهمة (ToP): نهج "الوصف الوظيفي"
- التشبيه: تخيل أنك تقول للمتدرب: "مهمتك المحددة الآن هي توليد إجابات آمنة. إذا كان الطلب سيئاً، فمهمتك هي قول لا."
- كيف يعمل: أنت تحدد ماذا يجب عليهم فعله. إنه أمر محدد للحظة الحالية.

٢. "قصص الأمثلة" (توضيحات قليلة المحاولات)

في عالم الذكاء الاصطناعي، تعني "few-shot" إعطاء النموذج بضعة أمثلة حول كيفية التصرف قبل طرح السؤال الحقيقي.

التشبيه: قبل أن يبدأ المتدرب العمل، تظهر له دفتراً يحتوي على ٣ أمثلة لكيفية تعامل "الحارس" مع الأسئلة الصعبة في الماضي.
السؤال: هل عرض هذه الأمثلة يساعد المتدرب على البقاء آمناً، أم يجعله مشتتاً؟

٣. الاكتشاف الكبير: تأثيرات متضادة

اكتشاف الورقة الرئيسي هو أن إضافة هذه القصص الأمثلة تساعد نوعاً واحداً من التعليمات وتضر بالآخر. الأمر يشبه خدعة سحرية حيث تجعل نفس الأداة شخصاً يبتسم وآخر يبكي.

السيناريو أ: نهج "الهوية" (RoP) + الأمثلة = آمن للغاية

ماذا حدث: عندما قيل للذكاء الاصطناعي "أنت مساعد آمن" (RoP) ثم عُرضت عليه أمثلة على السلوك الآمن، أصبح أفضل في الحفاظ على الأمان.
التشبيه: فكر في "هوية المساعد الآمن" للذكاء الاصطناعي كأنها عضلة. عرض الأمثلة يشبه القيام ببعض تمارين الإحماء؛ فهي تعزز العضلة. الأمثلة تذكر الذكاء الاصطناعي: "نعم، هذا هو من أكون. أنا الشخص الآمن."
النتيجة: تحسن الأمان بنسبة تصل إلى ٤.٥٪. عملت الأمثلة كـ "تعزيز" للدور.

السيناريو ب: نهج "الوصف الوظيفي" (ToP) + الأمثلة = أقل أماناً

ماذا حدث: عندما قيل للذكاء الاصطناعي "مهمتك هي أن تكون آمناً" (ToP) ثم عُرضت عليه أمثلة، أصبح أسوأ في الحفاظ على الأمان.
التشبيه: تخيل أنك تعطي المتدرب تعليمات وظيفة محددة، ولكن بعد ذلك تسلمه كومة سميكة من الأوراق غير ذات الصلة لقراءتها أولاً. يتم دفن التعليمات في وسط الكومة. يتشتت انتباه المتدرب بالأمثلة وينسى القاعدة الأساسية.
العلم: تسمي الورقة هذا "تشتت الانتباه" (Attention Distraction). يركز عقل الذكاء الاصطناعي على الأمثلة (الموجودة في بداية النص) ويفقد التركيز على التعليمات الفعلية (التي تم دفعها إلى المنتصف).
النتيجة: انخفض الأمان بشكل كبير، بنسبة تصل إلى ٢١.٢٪. لقد طغت الأمثلة على القواعد.

٤. مفارقة "وضع التفكير" (Think Mode)

بحثت الورقة أيضاً في النماذج التي تمتلك "وضع تفكير" خاص (حيث تقوم بالاستنتاج خطوة بخطوة قبل الإجابة).

النتيجة: كانت هذه النماذج بشكل عام أكثر عرضة للاختراقات (الهجمات المصممة لتجاوز السلامة) وأكثر ارتباكاً بسبب الأمثلة، بغض النظر عن أسلوب التعليمات المستخدم.
التشبيه: الأمر يشبه طالباً يحلل السؤال بشكل مفرط. بدلاً من مجرد اتباع القاعدة، يبدأ في مناقشة القاعدة في رأسه، ويقوم "الأشرار" (المخترقون) بخداعه لجعله يعتقد أن الفكرة السيئة منطقية في الواقع.

٥. ماذا يجب على المطورين فعله؟

بناءً على هذه النتائج، يقدم المؤلفون نصائح محددة للغاية:

إذا كنت تستخدم نهج "الهوية" (RoP): يمكنك إضافة قصص الأمثلة! فهي تجعل الذكاء الاصطناعي أكثر أماناً.
إذا كنت تستخدم نهج "الوصف الوظيفي" (ToP): لا تضف قصص الأمثلة. فهي تجعل الذكاء الاصطناعي أقل أماناً. اجعل التعليمات قصيرة ومباشرة.
إذا كنت تستخدم نماذج "وضع التفكير": كن حذراً جداً. فهي تبدو أسهل في الخداع، لذا قد تحتاج إلى تدابير سلامة إضافية.

ملخص

تثبت الورقة أن السياق مهم.

إذا حددت شخصية الذكاء الاصطناعي، فإن الأمثلة تساعد في تقوية تلك الشخصية.
إذا حددت مهمة الذكاء الاصطناعي، فإن الأمثلة تعمل كضجيج يطغى على التعليمات.

لم يكن الباحثون يخمنون فحسب؛ بل اختبروا ذلك على العديد من نماذج الذكاء الاصطناعي ومعايير السلامة المختلفة لإثبات أن هاتين الاستراتيجيتين تتفاعلان بطرق متعاكسة مع نفس المدخلات.

ملخص تقني: كيف تؤثر نماذج الأمثلة قليلة التدريب (Few-shot) على الدفاعات القائمة على الأوامر (Prompt-based) ضد هجمات كسر الحماية (Jailbreak) لنماذج اللغات الكبيرة (LLMs)

1. بيان المشكلة

لا تزال نماذج اللغات الكبيرة (LLMs) عرضة لهجمات كسر الحماية (Jailbreak) رغم جهود المحاذاة الأمنية المكثفة (مثل RLHF وDPO). وبينما برزت الدفاعات القائمة على الأوامر، وتحديداً الأوامر الموجهة نحو الدور (RoP) والأوام்கள் الموجهة نحو المهمة (ToP)، كحلول عملية، إلا أن التفاعل بين هذه الدفاعات ونماذج الأمثلة قليلة التدريب (Few-shot demonstrations) لا يزال غير واضح.

لقد أشارت الأبحاث السابقة، مثل SG-Bench، إلى أن الأمثلة قليلة التدريب يمكن أن تحفز استجابات ضارة، لكنها عاملت التعلم قليل التدريب كعامل مستقل. وتوجد فجوة حرجة في فهم كيفية تفاعل نماذج الأمثلة قليلة التدريب بشكل مختلف مع استراتيجيات RoP مقابل ToP. وتحديداً، من غير المعروف ما إذا كان إضافة أمثلة قليلة التدريب إلى أوامر النظام (System Prompts) يعزز السلامة أم يضعفها، وما هي الآليات التي تقود هذه التفاعلات.

2. المنهجية

2.1 الإعداد التجريبي

أجرى المؤلفون تقييماً شاملاً عبر أربعة معايير أمان (AdvBench، HarmBench، SG-Bench، XSTest) باستخدام ستة نماذج لغات كبيرة رئيسية (تشمل عائلات Pangu وQwen وDeepSeek وLlama) وست طرق لهجمات كسر الحماية (AIM، DAN، Evil Confident، Prefix Rejection، Poems، Refusal Suppression).

قيمت الدراسة أربعة تكوينات دفاعية:

RoP: تأطير النموذج كـ "مساعد ذكاء اصطناعي آمن ومفيد".
ToP: تحديد "توليد استجابة آمنة" صراحةً كالمهمة الأساسية.
Few-shot General (FS-G): تقديم أمثلة لمحادثات حميدة.
Few-shot Harmful (FS-H): تقديم أمثلة توضح رفض الطلبات الضارة.

اختبر المؤلفون جميع مجموعات هذه الاستراتيجيات (على سبيل المثال، RoP وحدها، RoP+FS-G، ToP+FS-H) لقياس معدل السلامة (SR) ومعدل نجاح الهجوم (ASR).

2.2 الإطار النظري

لتفسير الظواهر الملحوظة، طور المؤلفون إطاراً رياضياً يجمع بين:

التعلم داخل السياق البايزي (Bayesian In-Context Learning): نمذجة الأمثلة قليلة التدريب كعمليات تحديث لتوزيع الاحتمال اللاحق (Posterior distribution) للنماذج على المفاهيم الكامنة.
تحليل آلية الانتباه (Attention Mechanism Analysis): استخدام مفاهيم مثل "بالوعة الانتباه" (Attention sink)، و"الضياع في المنتصف" (Lost in the middle)، وإنتروبيا Softmax لتحليل كيفية تأثير طول الأمر وموقعه على اتباع التعليمات.
النظريات المعرفية: تطبيق نظرية التنشيط المنتشر (Spreading activation theory) ونظرية العمليات المزدوجة (Dual-process theory) لتفسير تعزيز الدور وضعف الاستنتاج.

3. المساهمات الرئيسية

أول دراسة تفاعلية منهجية: يعد هذا العمل أول دراسة تبحث بشكل منهجي في آثار التفاعل بين نماذج الأمثلة قليلة التدريب واستراتيجيات أوامر النظام (RoP مقابل ToP).
إطار رياضي: يقترح المؤلفون إطاراً يعتمد على التعلم داخل السياق البايزي وتحليل الانتباه، مما يوفر نظريات رسمية للتنبؤ بالتفاعلات المتباعدة وتفسيرها.
اكتشاف التفاعلات المتباعدة: تكشف الدراسة أن نماذج الأمثلة قليلة التدريب لها تأثيرات متضادة على RoP وToP:
- تعزيز RoP: تعمل الأمثلة قليلة التدريب على تعزيز هوية الدور، مما يزيد من السلامة.
- تدهور ToP: تشتت الأمثلة قليلة التدراف الانتباه عن تعليمات المهمة، مما يقلل من السلامة.
مفارقة وضع التفكير (Think-Mode Paradox): تحديد أن النماذج ذات القدرات الاستنتاجية (Reasoning-enhanced) تظهر قابلية أكبر لكل من هجمات كسر الحماية والتفاعلات السلبية مع الأمثلة قليلة التدريب عبر جميع تكوينات الدفاع.
تفسيرات الآلية: تقدم الورقة آليات نظرية: تعزيز الدور (لـ RoP) وتشتت الانتباه (لـ ToP).

4. النتائج الرئيسية

4.1 التأثيرات المتباعدة للتعلم قليل التدريب

النتيجة الجوهرية هي أن تأثير نماذج الأمثلة قليلة التدريب يعتمد كلياً على استراتيجية أمر النظام الأساسية:

RoP + Few-shot: يؤدي إلى تحسن في السلامة.
- الآلية: تعمل الأمثلة قليلة التدريب كأدلة احتمالية تعزز الاحتمال اللاحق لدور "المساعد الآمن" ( $\theta_{safe}$ ).
- التأثير الكمي: ارتفعت معدلات السلامة بنسبة تصل إلى 4.5% (على سبيل المثال، Qwen-7B-Chat: +4.5% مع FS-H؛ Pangu-7B: +4.3% مع FS-G).
ToP + Few-shot: يؤدي إلى تدهور في السلامة.
- الآلية: تتنافس الأمثلة قليلة التدريب مع تعليمات المهمة على الانتباه. وبسبب ظاهرة "الضياع في المنتصف" وتخفيف الانتباه، ينتقل تركيز النموذج بعيداً عن تعليمات مهمة السلامة الصريحة.
- التأثير الكمي: انخفضت معدلات السلامة بشكل كبير، مع انخفاضات تصل إلى 21.2% (على سبيل المثال، Qwen-7B-Chat: -21.2% مع FS-G).

4.2 مفارقة وضع التفكير (The Think-Mode Paradox)

أظهرت النماذج ذات قدرات الاستنتاج (مثل Qwen3-8B-Think، Pangu-7B-Think):

معدلات سلامة أساسية أقل مقارنة بنظيراتها غير المزودة بوضع التفكير.
قابلية أعلى بكثير لهجمات كسر الحماية (انخفاض في السلامة بنسبة 20-45% تحت الهجوم).
تدهور مستمر عند الجمع مع الأمثلة قليلة التدريب، بغض النظر عما إذا كان المستخدم RoP أو ToP. وهذا يشير إلى أن سلاسل الاستنتاج الممتدة قد تخلق أسطح هجوم إضافية أو تتداخل مع كل من تعزيز الدور واتباع التعليمات.

4.3 التحقق عبر البيانات (Cross-Dataset Validation)

كانت الاتجاهات المتباعدة (تحسن RoP، تدهور ToP) متسقة عبر AdvBench وHarmBench وSG-Bench بالنسبة للنماذج غير المزودة بوضع التفكير. ومع ذلك، تباين حجم التأثير حسب بنية النموذج ونوع المثال قليل التدريب المحدد (FS-Harmful مقابل FS-General).

5. الأهمية والتوصيات

تجادل الورقة بأن التفاعل بين التعلم قليل التدريب وهندسة الأوامر ليس موحداً؛ فهو يعتمد بشدة على الطبيعة الدلالية لأمر النظام.

التوصيات العملية:

بالنسبة للأوامر الموجهة نحو الدور (RoP): يجب على المطورين الجمع بين RoP ونماذج الأمثلة قليلة التدريب (تحديداً أمثلة FS-Harmful) لتعظيم السلامة. فالأمثلة تعزز هوية النموذج كمساعد آمن.
بالنسبة للأوامر الموجهة نحو المهمة (ToP): يجب على المطورين تجنب إضافة نماذج الأمثلة قليلة التدريب. فوجود الأمثلة يقلل من الانتباه المخصص لمهمة السلامة الصريحة، مما يؤدي إلى ثغرات أمنية كبيرة.
بالنسبة لنماذج الاستنتاج (Reasoning Models): يجب توخي الحذر الشديد عند نشر نماذج "وضع التفكير"، حيث تظهر قابلية أعلى للتعرض للهجمات وتفاعلات سلبية مع استراتيجيات الأمثلة قليلة التدريب بشكل عام.

الخلاصة:
يسد هذا العمل فجوة حرجة في أبحاث سلامة نماذج اللغات الكبيرة من خلال إثبات أن هندسة الأوامر التي تتبع مبدأ "مقاس واحد يناسب الجميع" غير كافية. إن فعالية التعلم قليل التدريب كآلية دفاع تعتمد على استراتيجية الأوامب المحددة المستخدمة، مما يقدم دليلاً دقيقاً لنشر أنظمة لغات كبيرة أكثر أماناً في التطبيقات الواقعية.