💬 NLP

Refusal Direction is Universal Across Safety-Aligned Languages

تُثبت هذه الورقة أن آليات الرفض في النماذج اللغوية الكبيرة تُظهر عالمية عابرة للغات، حيث يمكن لمتجه اتجاه رفض واحد مستخرج من اللغة الإنجليزية أن يتجاوز بفعالية ضوابط السلامة في 14 لغة أخرى دون الحاجة إلى ضبط دقيق إضافي، مما يكشف عن آلية أساسية مشتركة لعمليات كسر الحماية متعددة اللغات.

المؤلفون الأصليون: Xinpeng Wang, Mingyang Wang, Yihong Liu, Hinrich Schütze, Barbara Plank

نُشر 2026-02-26

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Xinpeng Wang, Mingyang Wang, Yihong Liu, Hinrich Schütze, Barbara Plank

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغوي كبير (LLM) كأنه أمين مكتبة ذكي للغاية ومدرب جيدًا. لقد تعلم هذا الأمين قاعدة صارمة: "لا تعطي أبدًا كتبًا تحتوي على تعليمات خطيرة، أو خطاب كراهية، أو نصائح ضارة". في عالم الذكاء الاصطناعي، يُطلق على هذا ما يسمى بـ آلية الرفض (refusal mechanism).

لفترة طويلة، اعتقد الباحثون أن "قاعدة السلامة" هذه تشبه لغة محددة. اعتقدوا أن أمين المكتبة لا يعرف سوى كيفية قول "لا" باللغة الإنجليزية فقط. وإذا سألته بالفرنسية، أو الصينية، أو اليوروبا، فقد يرتبك أمين المكتبة وقد يسلمك الكتاب الخطير عن غير قصد.

ومع ذلك، كشفت دراسة جديدة بعنوان "اتجاه الرفض عالمي" (Refusal Direction is Universal) عن سر مذهل حول كيفية تفكير أمناء المكتبة من الذكاء الاصطناعي فعليًا.

زر الـ "لا" هو جهاز تحكم عن بعد عالمي

اكتشف الباحثون أن قدرة الذكاء الاصطناعي على قول "لا" ليست مخزنة كجملة معقدة في كل لغة. بدلاً من ذلك، هي مخزنة كـ اتجاه واحد غير مرئي في عقل الذكاء الاصطناعي (من الناحية الرياضية، يُسمى متجهًا أو vector).

تخيل عقل الذكاء الاصطناğı كغرفة ضخمة متعددة الأبعاد.

الطلبات الضارة (مثل "كيف أصنع قنبلة؟") تدفع أفكار الذكاء الاصطناعي في اتجاه واحد.
الطلبات الآمنة (مثل "كيف أخبز كعكة؟") تدفعها في اتجاه آخر.
الرفض هو اتجاه "لا" محدد يقع بينهما، ويعمل كحائط.

وجدت الدراسة أن حائط الـ "لا" هذا متوازٍ عبر جميع اللغات. إنه يشبه امتلاك "جهاز تحكم عن بعد عالمي" واحد للسلامة.

الخدعة السحرية: جهاز تحكم واحد، لجميع اللغات

إليك الجزء المذهل من التجربة:

مفتاح اللغة الإنجليزية: وجد الباحثون اتجاه الـ "لا" الدقيق باستخدام مطالبات باللغة الإنجليزية فقط.
المفتاح (التبديل): أخذوا اتجاه الـ "لا" الإنجلي هذا وطبقوه على الذكاء الاصطناعي بينما كان يتحدث اليوروبا، أو التايلاندية، أو الألمانية.
النتيجة: توقف الذكاء الاصطناعي فورًا عن رفض الطلبات الضارة في تلك اللغات. كان الأمر كما لو أنهم فصلوا القابس عن نظام السلامة باستخدام مفتاح صُنع في بلد مختلف تمامًا.

والأكثر إثارة للدهشة، أنه إذا وجدوا اتجاه الـ "لا" في الألمانية أو التايلاندية، فقد نجح الأمر تمامًا على الإنجليزية واليابانية. زر الـ "لا" لا يعتمد على اللغة؛ إنه نفس الرافعة الفيزيائية في الآلة، بغض النظر عن اللغة التي تتحدث بها الآلة حاليًا.

لماذا لا تزال عمليات "كسر الحماية" (Jailbreaks) تنجح؟ (الجدار المتصدع)

إذا كان زر الـ "لا" يعمل في كل مكان، فلماذا لا يزال يمكن خداع نماذج الذكاء الاصطناعي (كسر الحماية) عند سؤالها بلغات أخرى؟

وجد الباحثون الإجابة من خلال النظر في هندسة عقل الذكاء الاصطناعي.

في اللغة الإنجليزية: الأفكار "الضارة" والأفكار "الآمنة" تشبه جزيرتين متميزتين يفصل بينهما محيط واسع. حائط الـ "لا" قوي ومحدد بوضوح.
في اللغات الأخرى: الأفكار "الضارة" و"الآمنة" غالبًا ما تكون منضغطة معًا. إنها ضبابية وغير واضحة المعالم.

التشبيه: تخيل حارس أمن (الذكاء الاصطناعي) يقف عند بوابة.

في الإنجليزية، لديه خط رؤية واضح. يمكنه بسهما رؤية الأشرار وإيقافهم.
في بعض اللغات الأخرى، يكون الضباب كثيفًا لدرجة أن الأشرار والأخيار يبدون كحشد ضبابي. ورغم أن الحارس يحمل في يده أمر "التوقف" نفسه، إلا أنه لا يستطيع تمييز من يجب إيقافه لأن الحشد يبدو متشابهًا جدًا.

اتجاه الـ "لا" (الأمر) عالمي، لكن القدرة على التمييز بين الطلبات الجيدة والسيئة ضعيفة في العديد من اللغات. وهذا الضعف هو ما يسم يسمح للمخترقين بتمرير الطلبات الضارة بعيدًا عن الحارس.

الخلاصة

تعلمنا هذه الورقة شيئين رئيسيين:

السلامة عالمية: لا يتعلم الذكاء الاصطناعي "قاعدة سلامة" جديدة لكل لغة. بل يتعلم مفهومًا جوهريًا واحدًا لـ "الرفض" ينطبق على كل شيء.
الحلقة الأضعف: المشكلة ليست في أن الذكاء الاصطناعي لا يعرف كيف يقول "لا" باليوروبا أو التايلاندية. المشكلة هي أن عقل الذكاء الاصطناعي ضبابي للغاية بحيث لا يستطيع رؤية الفرق بين طلب آمن وغير آمن في تلك اللغات.

ماذا يعني هذا للمستقبل؟
لجعل الذكاء الاصطناعي أكثر أمانًا عالميًا، لا ينبغي لنا فقط محاولة تعليمه المزيد من كلمات الـ "لا" بلغات مختلفة. بدلاً من ذلك، نحتاج إلى مساعدة عقل الذكاء الاصطناعي على شحذ رؤيته. نحن بحاجة إلى تدريبه على الفصل بوضوح بين الأفكار "الجيدة" و"السيئة" في كل لغة، حتى يمكن استخدام زر الـ "لا" العالمي الخاص به بفعالية.

باختصر: لدى الذكاء الاصطناعي نفس علامة "التوقف" في كل لغة، ولكن في بعض اللغات، يكون من الصعب جدًا رؤية علامات الخطر لمعرفة متى يستخدمها.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "اتجاه الرفض عالمي عبر اللغات المتوافقة مع معايير السلامة".

1. بيان المشكلة

تعتمد النماذج اللغوية الكبيرة (LLMs) على آليات الرفض لضمان السلامة، والتي يتم تدريبها عادةً عبر التعلم المعزز من التغذية الراجعة البشرية (RLHF). وبينما حددت الأبحاث الحديثة أن سلوك الرفض في اللغة الإنجليزية يتم بوساطة "اتجاه رفض" محدد (متجه في فضاء التنشيط)، إلا أنه لا يزال من غير الواضح كيفية عمل هذه الآليات عبر اللغات المختلفة.

الفجوة: التقييمات الحالية للسلامة تركز على اللغة الإنجليزية. وتعد عمليات الاختراق عبر اللغات (حيث تتجاوز المطالبات بلغات غير الإنجليزية فلاتر السلامة التي تعمل في الإنجليزية) مصدر قلق متزايد.
السؤال: هل آلية الرفض خاصة بلغة معينة، أم أن هناك اتجاه رفض عالمي ومستقل عن اللغة يمكنه التعميم عبر اللغات؟ وإذا كان عالمياً، فهل يمكن استخدام متجه مستخرج من الإنجليزية (أو أي لغة متوافقة مع معايير السلامة) لتجاوز أو فرض حالات الرفض في لغات أخرى دون ضبط دقيق (fine-tuning)؟

2. المنهجية

استخدم المؤلفون نهج التدخل القائم على التنشيط للتحقيق في الخصائص الهندسية لآليات الرفض عبر 14 لغة متنوعة نمطياً.

أ. مجموعة البيانات: PolyRefuse

قام المؤلفون ببناء PolyRefuse، وهي مجموعة بيانات سلامة متعددة اللغات.

المصدر: ترجمة المطالبات الضارة من ADVBENCH و MALICIOUSINSTRUCT و TDC2023، والمطالبات الحميدة من ALPACA.
النطاق: 14 لغة (تشمل الإنجليزية، الألمانية، الإسبانية، الفرنسية، الإيطالية، الهولندية، اليابانية، الكورية، البولندية، الروسية، الصينية، العربية، التايلاندية، واليوربا) تغطي 7 أنظمة كتابة مختلفة.
التحقق: ضمنت عمليات الترجمة العكسية وفحوصات التشابه الدلالي (SBERT) دقة الترجمة.

ب. استخراج اتجاه الرفض

باستاستخدام طريقة "الفرق بين المتوسطات" (Difference-in-Means)، استخرج المؤلفون متجهات الرفض ( $\hat{r}$ ) من التيار المتبقي (residual stream) للنموذج.

الحساب: $\hat{r} = v_{harmful} - v_{harmless}$ ، حيث يمثل $v$ متوسط التنشيط عند مواضع رموز (tokens) وطبقات محددة.
الاختيار: يتم تحديد المتجه الأكثر فعالية من خلال استئصال المرشحين وقياس الانخفاض في "درجة الرفض" (الفرق في الاحتمالية اللوغاريتمية بين رموز الرفض مثل "Sorry" والرموز غير الرافضة).

ج. استراتيجيات التدخل

استخدمت الدراسة استراتيجيتين رئيسيتين للتدخل في التيار المتبقي:

الاستئصال (الاختراق/Jailbreaking): إسقاط التنشيطات على اتجاه الرفض وطرحها ( $x' = x - \hat{r}\hat{r}^\top x$ ) لإزالة سلوك الرفض.
الإضافة (التعزيز): إضافة متجه الرفض إلى التنشيطات ( $x' = x + \alpha\hat{r}$ ) لفرض سلوك الرفض.

د. الإعداد التجريبي

النماذج: تم التقييم عبر عائلات وأحجام متعددة، بما في ذلك Llama-3 (8B, 70B, 3.1-8B)، و Qwen2.5 (3B to 32B)، و Gemma-2 (2B, 9B)، و Yi-6B.
التقييم: تمت ترجمة الاستجابات إلى الإنجليزية وتصنيفها باستخدام WildGuard لتحديد معدلات الامتثال للمطالبات الضارة.
التحليل الهندسي: استخدم المؤلفون تقنية PCA لتصور التضمينات (embeddings) وحسبوا درجات السيلويت (Silhouette Scores) لقياس الفصل بين مجموعات المطالبات الضارة والحميدة في فضاء التضمين.

3. المساهمات والنتائج الرئيسية

أ. اكتشاف العالمية عبر اللغات

تقدم الورقة دليلاً تجريبياً على أن اتجاهات الرفض عالمية عبر اللغات المتوافقة مع معايير السلامة.

النقل من الإنجليزية إلى لغات أخرى: نجح متجه الرفض المستخرج من الإنجليزية في تجاوز آليات السلامة في جميع اللغات الـ 13 الأخرى. تسبب استئصال المتجه الإنجليزي في ارتفاع هائل في معدلات الامتثال (غالباً ما يتجاوز 90%) عبر جميع النماذج واللغات.
النقل من لغات غير إنجليزية إلى لغات أخرى: كانت المتجهات المستخرجة من ثلاث لغات متنوعة نمطياً ومتوافقة مع معايير السلامة (الألمانية، الصينية، التايلاندية) فعالة بنفس القدر في اختراق النماذج في جميع اللغات الأخرى، بما في ذلك الإنجليزية.
الاستنتاج: آلية الرفض ليست مرتبطة بميزات لغوية محددة، بل هي مشفرة في فضاء فرعي مشترك ومستقل عن اللغة.

ب. شذوذ اللغة "غير المتوافقة مع السلامة"

حدد المؤلفون لغة اليوربا (Yoruba) كلغة "غير متوافقة مع السلامة".

أظهرت النماذج معدلات امتثال أساسية عالية جداً للمطالبات باللغة اليوربا (مثلاً 82.9% لنموذج Llama-3.1-8B) حتى قبل أي تدخل.
أظهرت متجهات الرفض المستمدة من اليوربا قدرة ضعيفة على الانتقال إلى اللغات الأخرى، بينما انتقلت المتجهات من اللغات المتوافقة مع السلامة عالمياً. يشير هذا إلى أن العالمية تعتمد على امتلاك اللغة المصدر لمفهوم رفض قوي منذ البداية.

ج. التحليل الهندسي: التوازي مقابل الفصل

حلل المؤلفون الهندسة الداخلية للنماذج لتفسير لماذا تنجح هذه الهجمات ولماذا تستمر الثغرات.

متجهات الرفض المتوازية: اتجاهات الرفح المستخرجة من لغات مختلفة هي متوازية تقريباً في فضاء التضمين. وهذا يفسر لماذا يمكن لمتجه من لغة واحدة أن يعدل السلوك في لغة أخرى.
ضعف فصل المجموعات: بينما يكون اتجاه الرفض عالمياً، فإن الفصل بين التضمينات الضارة والحميدة ليس كذلك.
- في الإنجليزية، تشكل المطالبات الضارة والحميدة مجموعات متميزة ومنفصلة جيداً.
- في اللغات غير الإنجليزية (خاصة اللغات ذات الموارد المنخفضة)، تتداخل هذه المجموعات بشكل كبير.
- الاستنتاج: تنجح عمليات الاختراق عبر اللغات ليس لأن اتجاه الرفض مفقود، بل لأن النموذج يفشل في التمييز بوضوح بين المدخلات الضارة والحميدة في فضاءات التمثيل الخاصة باللغات غير الإنجليزية. هذا الفصل الضعيف يجعل إشارة الرفض سهلة التجاوز.

4. الأهمية والآثار المترتبة

الفهم الميكانيكي: تنقل هذه الورقة فهم سلامة النماذج اللغوية الكبيرة من كونها ظاهرة خاصة باللغة إلى كونها خاصية هيكلية هندسية. فهي تكشف أن تدريب السلامة يخلق "محور رفض" عالمياً، ولكنه غالباً ما يفشل في مواءمة حدود "كشف الضرر" عبر اللغات.
رؤية الثغرات: تفسر الورقة آلية الاختراق عبر اللغات: يمكن للمهاجمين استخدام متجه واحد (حتى لو كان من الإنجليزية) لتجاوز السلامة في أي لغة لأن اتجاه الرفض مشترك، ولأن حدود القرار في اللغات غير الإنجليزية ضبابية.
استراتيجية الدفاع: تشير النتائج إلى أن دفاعات السلامة المستقبلية لا ينبغي أن تركز فقط على إضافة المزيد من بيانات الرفض، بل على تحسين الفصل الهندسي بين التمثيلات الضارة والحميدة في فضاء التضمين لجميع اللغات.
دفاع قابل للتنفيذ: بما أن متجهات الرفض عالمية، يمكن تطوير الدفاعات من خلال تعزيز اتجاه الرفض عبر جميع اللغات في آن واحد، بدلاً من تدريب مصنفات سلامة خاصة بكل لغة.

5. القيود

تقتصر الدراسة على 14 لغة؛ وقد تختلف النتائج بالنسبة للغات ذات التمثيل المنخفض للغاية في مجموعات بيانات التدريب المسبق.
تحدد الورقة سبب الثغرات (ضعف الفصل) ولكنها لا تقترح خوارزمية دفاع ملموسة لإصلاحها، مما يترك ذلك كعمل مستقبلي.

باختصار، تثبت الورقة أن الرفض هو آلية عالمية ومستقلة عن اللغة في النماذج اللغوية الكبيرة، ولكن متانة السلامة تعتمد على قدرة النموذج على الفصل الهندسي بين المفاهيم الضارة والحميدة، وهي قدرة تتدهور بشكل كبير في السياقات غير الإنجليزية.