🤖 machine learning

ReGA: Model-Based Safeguard for LLMs via Representation-Guided Abstraction

يُعد ReGA إطار عمل وقائيًا قائمًا على النماذج وقابلًا للتوسع، يستفيد من تمثيلات منخفضة الأبعاد للمواقف الحرجة تتعلق بالسلامة لتجريد ومراقبة النماذج اللغوية الكبيرة بفعالية، محققًا دقة عالية وقابلية للتفسير في اكتشاف المحتوى الضار مع التغلب على قيود القابلية للتوسع التي تفرضها تقنيات التحليل التقليدية.

المؤلفون الأصليون: Zeming Wei, Chengcan Wu, Meng Sun

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Zeming Wei, Chengcan Wu, Meng Sun

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

🧠 الصورة الكبيرة: مشكلة "العبقري شديد الثقة"

تخيل أنك وظفت عبقرياً موسوعياً (نموذج لغوي كبير، أو LLM) للعمل لديك. هذا العبقري يعرف كل شيء: كيف يكتب الأكواد البرمجية، ويحل المسائل الرياضية، ويلقي النكات. ومع ذلك، هناك خدعة: هذا العبقري مخادع قليلاً. إذا طلبت منه بلطف، قد يرفض القيام بشيء سيء. ولكن إذا سألته بطريقة ملتوية، أو تظاهرت بأنك شرير في فيلم، فقد يبدأ دون قصد (أو برغبة منه) في كتابة دليل لصنع قنبلة أو إهانة شخص ما.

هذه هي مشكلة السلامة في الذكاء الاصطناعي اليوم. نحن بحاجة إلى طريقة لمنع العبقري من القيام بأشياء سيئة دون إبطاء سرعته أو جعله يرفض المساعدة في المهام العادية.

🛡️ الحرس القديم: لماذا فشلت الطرق السابقة؟

حاول العلماء استخدام طريقتين رئيسيتين لإصلاح ذلك:

طريقة "التحقق المزدوج" (المُحكّم - LLM-Judge): تسأل العبقري: "هل هذا الطلب آمن؟" قبل أن يجيب.
- المشكلة: الأمر يشبه طلب التوقف والتفكير في كل كلمة ينطق بها العبقري. هذا يجعل العملية بطيئة، ومكلفة، وأحياناً يرتبك العبقري ويرفض المساعدة في الأسئلة "الجيدة" لمجرد أن يكون آمناً (وهذا ما يسمى بـ "الرفض المفرط").
طريقة "المخطط الكامل" (التحليل القائم على النموذج - Model-Based Analysis): حاول العلماء بناء خريطة رياضية مثالية لعقل العبقري للتنبؤ بما سيفعل.
- المشكلة: عقل العبقري ضخم جداً! محاولة رسم خريطة لكل عصب في دماغه تشبه محاولة رسم خريطة لكل حبة رمل على الشاطئ. يتطلب ذلك قوة حوسبة هائلة ولا يمكن تطبيقه على نطاق واسع.

🚀 الحل الجديد: ReGA (رادار السلامة)

ابتكر مؤلفو هذه الورقة البحثية نظام ReGA (التجريد الموجه بالتمثيل - Representation-Guided Abstraction). فكر في ReGA ليس كخريطة للدماغ بالكامل، بل كـ نظام رادار متخصص يبحث فقط عن "إشارات الخطر".

إليك كيف يعمل، مقسماً إلى ثلاث خطوات بسيطة:

1. تعلم "ذبذبة الخطر" (استخراج التمثيل - Representation Extraction)

تخيل أنك تريد تعليم حارس أمن كيفية رصد لص. لن تظهر له كل شخص عاش على مر العصور، بدلاً من ذلك، ستعرض عليه "مجموعة بيانات تباينية":

أمثلة آمنة: شخص يشتري البقالة (مطالبة آمنة).
أمثلة غير آمنة: شخص يحاول تهريب سلاح إلى المتجر (مطالبة ضارة).

يقوم ReGA بمراقبة دماغ العبقري أثناء معالجته لهذه الأمثلة. ويلاحظ أنه عندما يفكر العبقري في أشياء "ضارة"، تضيء أجزاء معينة ومحددة في دماغه بنمط معين للغاية. الأمر يشبه العثور على "تردد خطر" محدد في الراديو. يتعلم ReGA كيفية ضبط نفسه على هذا التردد وتجاهل كل شيء آخر.

2. بناء "خريطة السلامة" (بناء النموذج المجرد - Abstract Model Construction)

بدلاً من رسم خريطة للدماغ بأكمله، يأخذ ReGA تلك "ذبذبات الخطر" ويبسطها.

يقوم بتجميع "ذبذبات الخطر" المتشابهة في مجموعات (تسمى الحالات المجردة - Abstract States).
يتعلم قواعد الطريق: "إذا كان العبقري في مجموعة 'المحادثة الآمنة'، فإنه عادة ما يبقى هناك. ولكن إذا انتقل فجأة إلى مجموعة 'استغلال الثغرات'، فهذا مؤشر خطر!"

فكر في هذا مثل نظام إشارات المرور:

الضوء الأخضر: الذكاء الاصطناوي يتحرك عبر مفاهيم آمنة (مثل: "ما هي حالة الطقس؟").
الضوء الأحمر: الذكاء الاصطناعي يحاول الانتقال إلى مفهوم خطير (مثل: "كيف يمكنني اختراق بنك؟").
الضوء الأصفر: الذكاء الاصطناعي يتصرف بغرابة أو ينتقل بين الحالات بطريقة لا يفعلها الأشخاص الآمنون عادةً.

3. الحارس في الوقت الفعلي (الحماية أثناء التشغيل - Runtime Safeguarding)

الآن، عندما يطرح مستخدم سؤالاً، يعمل ReGA كـ حارس أمن عند مدخل النادي.

قبل أن يتحدث الذكاء الاصطناعي: يتحقق ReGA من السؤال. إذا كانت "ذبذبة الخطر" قوية جداً، فإنه يوقف الذكاء الاصطناعي فوراً.
بعد أن يتحدث الذكاء الاصطناعي: يتحقق ReGA من الإجابة. حتى لو كان السؤال آمناً، هل بدأ الذكاء الاصطناعي بالخطأ في كتابة شيء سيء؟ إذا تحولت "إشارات المرور" إلى اللون الأحمر أثناء الإجابة، يقوم ReReGA بقطع البث.

🌟 لماذا ReGA مميز؟ (القوى الخارقة)

إنه سريع (قابل للتوسع): لأنه ينظر فقط إلى "ترددات الخطر" وليس إلى الدماغ بأكمله، فهو سريع للغاية ولا يبطئ من سرعة العبقري.
إنه ذكي (قابل للتفسير): على عكس الذكاء الاصطناعي الذي يعمل كـ "صندوق أسود" ويقول "لا" فقط، يمكن لـ ReGA أن يخبرك لماذا. يمكنه القول: "لقد أوقفت هذا لأن الذكاء الاصطناعي انتقل من حالة 'آمنة' إلى حالة 'اختراق' بسرعة كبيرة". إنه يشبه حارس الأمن الذي يشير إلى سلوك مريب محدد.
يصعب خداعه (قوي): حتى لو حاول المهاجمون استخدام حيل "كسر الحماية" (مثل الطلب من الذكاء الاصطناعي التظاهر بأنه شرير في لعبة)، لا يزال بإمكان ReGA رؤية "ذبذبة الخطر" الكامنة في نشاط الدماغ. إنه يرى ما وراء التنكر.

🏁 الخلا-صة

ReGA يشبه إعطاء الذكاء الاصطناعي فلتر سلامة متخصص يقع بين المستخدم ودماغ الذكاء الاصطناعي. لا يحتاج لفهم العالم بأكمله؛ يحتاج فقط لمعرفة كيف يبدو "الخطر" في اللغة الداخلية للذكاء الاصطناعي.

الطريقة القديمة: محاولة حفظ كل شيء سيء محتمل (بطيئة جداً وصعبة للغاية).
طريقة ReGA: تعلم "ذبذبة" الأشياء السيئة وإيقاف الذكاء الاصطناعي بمجرد أن يبدأ في الشعور بتلك الذبذبة.

تظهر الورقة البحثية أن هذه الطريقة دقيقة بنسبة 97-98% في رصد المدخلات السيئة، وتعمل على نماذج ذكاء اصطناعي مختلفة، وهي أسرع وأرخص بكثير من الطرق الحالية. إنها خطوة كبيرة نحو جعل الذكاء الاصطناعي آمناً، موثوقاً، وجاهزاً للعالم الحقيقي.

إليك ملخص تقني مفصل لورقة البحث بعنوان "ReGA: نموذج حماية للنماذج اللغوية الكبيرة عبر التجريد الموجه بالتمثيل".

1. بيان المشكلة

حققت النماذج اللغية الكبيرة (LLMs) نجاحاً كبيراً، لكنها تواجه تحديات أمنية وسلامة حرجة، بما في ذلك توليد محتوى ضار والتعرض لهجمات كسر الحماية (jailbreaking attacks) (وهي عبارة عن مطالبات استدراجية مصممة لتجاوز فلاتر السلامة).

تواجه الحلول الحالية عيبين رئيسيين:

الأساليب القائمة على الكشف: الطرق مثل "قضاة النماذج اللغية" (استخدام نموذج لغوي آخر للتحقق من السلامة) أو فلاتر "الارتباك" (Perplexity) غالباً ما تعاني من تكاليف حوسبة عالية، والرفض المفرط (حظر المدخلات السليمة)، والافتقار إلى القابلية للتفسير.
التحليل القائم على النماذج: التقنيات التقليدية (مثل استخراج سلاسل ماركوف الزمنية المنفصلة أو الأجهزة ذات الحالات المحدودة DFA) المستخدمة للشبكات العصبية العميقة (DNNs) الأصغر حجماً تفشل في التوسع لتشمل النماذج اللغية الكبيرة. فالمساحات الميزية الهائلة للنماذج اللغية الكبيرة تتطلب ملايين الحالات المجردة لنمذجة الخصائص الشاملة، مما يخلق عنق زجاجة في التوسع يجعل هذه الطرق غير فعالة للنماذج واسعة النطاق.

التحدي الجوهري هو تطوير نظام حماية يكون قابلاً للتوسع (يعمل مع النماذج الكبيرة)، فعالاً (تكلفة استدلال منخفضة)، وقابلاً للتفسير، دون الاعتماد على مصنفات الصندوق الأسود المكلفة.

2. المنهجية: إطار عمل ReGA

يقترح المؤلفون إطار عمل ReGA (التجريد الموجه بالتمثيل)، وهو إطار تحليل قائم على النماذج يستفيد من الاكتشافات الحديثة المتعلقة بـ التمثيلات منخفضة الأبعاد ذات الأهمية للسلامة في النماذج اللغية الكبيرة. بدلاً من نمذجة جميع الحالات المخفية، يركز ReGA على اتجاهات محددة في مساحة الحالة المخفية ترتبط بمفاهيم السلامة.

يعمل إطار العمل عبر ثلاث مراحل:

المرحلة الأولى: استخراج تمثيلات السلامة

بناء مجموعة بيانات تباينية: يتم إنشاء مجموعة بيانات $D$ تحتوي على أربعة مجموعات فرعية: مطالبات آمنة ( $R_S$ )، محادثات آمنة ( $C_S$ )، مطالبات ضارة ( $R_H$ )، ومحادثات ضارة ( $C_H$ ).
اختيار الميزات: يستخرج المؤلفون الحالات المخفية من الطبقات الوسطى للنموذج اللغوي الكبير (تحديداً الطبقة $L/2$ )، حيث وُجد أن هذه الطبقات تحتوي على أكثر المفاهيم تمييزاً للسلامة قبل أن يتخذ النموذج قرار الرفض أو التوليد النهائي.
تقليل الأبعاد: يتم تطبيق تحليل المكونات الرئيسية (PCA) على الفرق بين الميزات الآمنة والضارة في مجموعة البيانات التباينية. هذا يستخرج مجموعة صغيرة من تمثيلات السلامة ( $r_1, \dots, r_K$ )، وهي الاتجاهات الرئيسية التي تميز المدخلات الآمنة عن الضارة. هذا يقلل الأبعاد من الآلاف (مثلاً 4096) إلى حجم يمكن إدارته (مثلاً 8-64).

المرحلة الثانية: بناء النموذج المجرد

رسم خرائط الحالات الملموسة: يتم إسقاط الرموز (tokens) المدخلة على تمثيلات السلامة المستخرجة لتشكيل حالات سلامة ملموسة.
التجريد (التجميع): يقوم التجميع غير الخاضع للإشراف (K-Means) برسم خرائط لهذه الحالات الملموسة إلى مجموعة صغيرة من الحالات المجردة ( $S$ ).
نمذجة الانتقال: يتم بناء سلسلة ماركوف زمنية منفصلة (DTMC). يتم نمذجة احتمالات الانتقال بين الحالات المجردة باستخدام المدخلات الآمنة فقط. وهذا يؤسس لـ "مسار آمن".
درجة السلامة:
- درجة الحالة ( $u$ ): تعتمد على نسبة المدخلات الآمنة التي تقع ضمن تجمع (cluster) معين.
- درجة الانتقال ( $v$ ): تعتمد على احتمال حدوث انتقال ضمن التوزيع الآمن.
- الدرجة الإجمالية: يتم حساب درجة مشتركة $p(x)$ لتسلسل المدخلات بناءً على آخر $m$ من الحالات وانتقالاتها.

المرحلة الثالثة: الحماية أثناء التشغيل

أثناء الاستدلال، يحسب ReGA درجة السلامة لمطالبة المستخدم (قبل التوليد) وللمحادثة الكاملة (بعد التوليد).
إذا انخفضت الدرجة عن حد معين، يقوم النظام بتفعيل الرفض.
التحقق ثنائي المستوى: يتحقق النظام من مستوى المطالبة ومستوى المحادثة معاً لالتقاط الحالات التي قد يرفض فيها النموذج في البداية ثم يولد محتوى ضاراً في حوار متعدد الأدوار.

3. المساهمات الرئيسية

إطار عمل مبتكر: تقديم ReGA، أول نظام حماية قائم على النماذج للنماذج اللغية الكبيرة يستخدم التجريد الموجه بالتمثيل للتغلب على مشكلات التوسع.
التوسع عبر التمثيلات: من خلال التركيز على الاتجاهات منخفضة الأبعاد ذات الأهمية للسلامة بدلاً من المساحات الميزية الشاملة، يقلل ReGA عدد الحالات المجردة من الملايين إلى بضع عشرات (مثلاً 32 حالة)، مما يجعله قابلاً للتنفيذ للنماذج اللغية الكبيرة.
تقييم شامل: تجارب مكثفة عبر ستة نماذج لغية كبيرة مفتوحة المصدر (Vicuna, Llama-2, Qwen, Mistral, Koala, Baichuan) ومجموعات بيانات متنوعة.
مفتوح المصدر: إتاحة الكود المصدري والإرشادات العملية للنشر.

4. النتائج التجريبية

قام المؤلفون بتقييم ReGA مقابل النماذج المرجعية بما في ذلك مصنفات MLP، وسلاسل DTMC العالمية، وقضاة النماذج اللغية، وفلاتر الارتباك.

الفعالية (RQ1):
- المساحة تحت منحنى خصائص التشغيل (AUROC): حقق ReGA درجة 0.975 على مستوى المطالبة و 0.985 على مستوى المحادثة في التمييز بين المدخلات الآمنة والضارة.
- عبر مجموعات البيانات: حافظ على دقة عالية (متوسط دقة $\approx$ 0.87 للضار، 0.97 للآمن) على مجموعات بيانات غير مرئية، مما أظهر قدرة قوية على التعميم.
- دراسة الاستئصال (Ablation): ثبت أن كل من درجات الحالة (السلامة الدلالية) ودرجات الانتقال (النمطية التوزيعية) متكاملتان وضروريتان لتحقيق الأداء الأمثل.
القدرة على التعميم (RQ2):
- كسر الحماية (Jailbreaking): نجح ReGA في كشف هجمات كسر الحماية (مثل لعب الأدوار، والأخطاء الإملائية) بدقة متوسطة تتراوح بين ~0.35 و 0.50 (حسب العتبة)، متفوقاً بشكل كبير على النماذج المرجعية التي غالباً ما تفشل تماماً أمام المدخلات العدائية.
- منظورات السلامة: أظهر قدرة جيدة على التعميم عبر فئات السلامة المختلفة (خطاب الكراهية، المواضيع غير اللائقة، إلخ).
- المتانة: ظل إطار العمل مستقراً عبر مختلف المعلمات الفائقة (عدد الحالات، أبعاد PCA) وأحجام النماذج (من 7B إلى 14B بارامتر).
المقارنة (RQ3):
- الأداء: تفوق ReGA على جميع النماذج المرجعية في الدقة. على سبيل المثال، في مجموعة بيانات HarmBench، تفوق ReGA (بدرجة AccMCA 0.81) بشكل كبير على MLP-Cls (0.56) و Uni.-DTMC (0.21).
- الكفاءة: يتميز ReGA بتكلفة استدلال ضئيلة (0.01 ثانية لكل مطالبة)، وهي مقاربة لمصنفات MLP ومتفوقة بمراحل على قضاة النماذج اللغية (2.86 ثانية لكل مطالبة).
- القابلية للتفسير: على عكس مصنفات الصندوق الأسود، يوفر ReGA حالات مجردة واحتمالات انتقال قابلة للتفسير، مما يسمح للمطورين بفهم سبب وسم المدخلات.

5. الأهمية

التقدم في SE4AI: يجسّر ReGA الفجوة بين هندسة البرمجيات للذكاء الاصطناعي (SE4AI) وسلامة النماذج اللغية الكبيرة. فهو يثبت أن تقنيات التحليل القائمة على النماذج الرسمية يمكن تكييفها للنماذج اللغية الكبيرة إذا كانت موجهة بهندسة التمثيل.
النشر العملي: يقدم حلاً خفيف الوزن، وقابلاً للتوسع، وقابلاً للتفسير لنشر النماذج اللغية الكبيرة في العالم الحقيقي، معالِجاً قضايا "الرفض المفرط" و"تكلفة الحوسبة" التي تواجه الضمانات الحالية.
نموذج جديد: تؤسس الورقة البحثية لفكرة أن السلامة في النماذج اللغية الكبيرة يمكن نمذجتها بفعالية من خلال التجريدات منخفضة الأبعاد للحالات المخفية، مما يمهد الطريق لأبحاث مستقبلية في التحقق الرسمي ومراقبة الذكاء الاصطناعي التوليدي.

في الختام، يوفر ReGA آلية قوية وفعالة وقابلة للتفسير لحماية النماذج اللغية الكبيرة، محققاً توازناً فعالاً بين كشف السلامة وبين فائدة النموذج وقابليته للتوسع.