Decided Upstream, Written Late: Locating and Pricing the Cross-Lingual Refusal Circuit of a Multilingual MoE
تكشف هذه الورقة أن الفجوات الأمنية عبر اللغات في نماذج "خليط الخبراء" متعددة اللغات لا تنبع من الفشل في اكتشاف الضرر، بل من آلية رفض تعتمد على اللغة وتحدث في مرحلة متأخرة، والتي يمكن إصلاحها بفعالية وبتكلفة زهيدة عن طريق تخميد دائرة "معارضة" محددة قائمة على الانتباه بدلاً من تضخيم الكاتب أو إجراء تعديلات جراحية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً تستطيع فيه الحواسيب التحدث إلينا بمئات اللغات المختلفة، من الإنجليزية إلى الهندية إلى التاميلية. يحاول العلماء تعليم هذه الحواسيب كيف تكون "مواطناً صالحاً" — أي أن تقول "لا" عندما تُطلب منها القيام بشيء سيء أو خطير، مثل كتابة خبر زائف أو صنع سلاح. يُسمى هذا المجال سلامة الذكاء الاصطناعي (AI safety). لفترة طويلة، اعتقد الباحثون أنه إذا تعلم الكمبيوتر قول "لا" باللغة الإنجليزية، فإنه سيعرف تلقائياً كيف يقولها بكل اللغات الأخرى، تماماً مثل الإنسان الذي يتعلم قاعدة في لغة ما ويمكنه تطبيقها في لغة أخرى. لكن هذا ليس صحيحاً دائماً. فأحياناً، يتصرف الكمبيوتر كحارس صارم بالإنجليزية، لكنه يصبح ضعيف الشخصية في لغات أخرى. تغوص هذه الورقة البحثية في "دماغ" الكمبيوتر لمعرفة سبب حدوث ذلك وكيفية إصلاحه دون إفساد قدرة الكمبيوتر على التحدث بطلاقة.
درس الباحثون نموذجاً ذكياً جداً ومحدداً يسمى Sarvam-30B، وهو مصمم للاستنتاج والتحدث بلغات هندية عديدة. أرادوا فهم "التروس" الميكانيكية داخل النموذج التي تقرر ما إذا كان سيرفض طلباً سيئاً أم سيمضي فيه. وجدوا أن الكمبيوتر يدرك بالفعل أن الطلب سيء، بغض بغض النظر عن اللغة المستخدمة. المشكلة ليست في فشل الكمبيوتر في اكتشاف الخطر؛ المشكلة هي أن الجزء من الكمبيوتر الذي يقول "لا" يعمل بشكل مختلف اعتماداً على اللغة، وهذا يحدث في مرحلة متأخرة جداً من عملية التفكير.
إليك قصة ما وجدوه، مُروية من خلال تشبيه بسيط.
المحقق والكاتب
تخيل دماغ الكمبيوتر كمصنع ضخم به فريقان رئيسيان: المحققون والكُتّاب.
المحققون يعملون في منتصف المصنع. مهمتهم هي النظر في كل طلب والتساؤل: "هل هذا خطير؟". وجد الباحثون أن هؤلاء المحققين مذهلون؛ فهم يرصدون الخطر في الإنجليزية، والهندية، والتاميلية، وغيرها من اللغات بنفس الطريقة تقريباً. إذا سألتهم: "هل هذه فكرة سيئة؟" سيشيرون إلى نفس النقطة في ذاكرتهم، بغض النظر عن اللغة المستخدمة. في الواقع، "إشارة الخطر" قوية ومشتركة لدرجة أنها متطابقة تقريباً عبر اللغات.
أما الكُتّاب، فهم المسؤولون عن كتابة الإجابة النهائية فعلياً. هم من يكتبون "لا يمكنني فعل ذلك" أو "بالتأكيد، إليك كيف". اكتشف الباحثون مفاجأة كبيرة: المحققون والكُتّاب يتحدثون لغات مختلفة ويعملون وفق جداول زمنية مختلفة.
على الرغم من أن المحققين في منتصف المصنع يصرخون "خطر!" بوضوح، إلا أن هذه الصرخة لا تجعل الكُتّاب يتوقفون عن الكتابة تلقائياً. الكُتّاب يقعون في نهاية خط التجميع تماماً. هم لا يكتفون فقط بقراءة علامة "الخطر"؛ بل عليهم بناء الرفض كلمة بكلمة أثناء توليد الجملة.
مشكلة "التأخير"
تظهر الورقة البحثية أنك إذا حاولت إجبار الكمبيوتر على قول "لا" عبر الصراخ بكلمة "خطر!" في بداية العملية (في مرحلة مبكرة)، فإن ذلك لا ينجح. الأمر يشبه محاولة إيقاف قطار عبر الصراخ في المحرك بينما يتم التحكم في المكابح عبر مفتاح موجود في مؤخرة القطار تماماً. "إشارة الخطر" تتلاشى قبل أن تصل إلى الكُتّاب.
بدلاً من ذلك، يتم بناء الرفض في وقت متأخر من العملية. وجد الباحثون أن التغيير الفعلي الذي يحول الـ "نعم" إلى "لا" يحدث في الطبقات الأخيرة من دماغ الكمبيوتر، ويتحرك في اتجاه مختلف تماماً عن إشارة "الخطر". الأمر كما لو كان المحققون يشيرون نحو الشمال، بينما يسير الكُتّاب نحو الشرق. الكمبيوتر يعرف أن الطلب سيء، لكن الآلية التي توقف الفعل فعلياً هي عملية منفصلة وتحدث في مرحلة متأخرة، وتتشتت بسبب الاختلافات اللغوية.
المكابح والمحرك
لإصلاح ذلك، بحث الباحثون عن طريقة للتدخل في الآلة. وجدوا دائرة معينة — جزءاً صغيراً وموضعياً في الدماغ يعمل كـ مكابح ومحرك.
- المحرك (الكاتب): هذا الجزء يحاول دفع الكمبيوتر لكتابة الرفض.
- المكابح (المعارض): هذا الجزء يحاول منع حدوث الرفض.
اختبر الباحثون ثلاث طرق لإصلاح فجوة السلامة:
- ضرب المحرك: حاولوا جعل جزء "الكاتب" أقوى، آملين أن يجبر ذلك الكمبيوتر على قول "لا". كانت النتيجة كارثية؛ فقد استهلك ذلك الكثير من الطاقة (مما جعل كلام الكمبيوتر يبدو غريباً ومتكرراً بشكل مزعج) ولم ينجح الأمر بشكل جيد حتى. كان الأمر كمن يحاول دفع سيارة للأعلى عبر الضغط على المحرك بقوة بينما لا تزال يد المكابح مشدودة.
- الجراحة: حاولوا استئصال أو تغيير أجزاء صغيرة محددة (تسمى "رؤوس" أو heads) ظنوا أنها مسؤولة عن ذلك. كانت هذه الطريقة دقيقة وغير مكلفة، لكنها لم تفعل شيئاً؛ فقد استمر الكمبيوتر في قول "نعم" للطلبات السيئة.
- تحرير المكابح: وجدوا أنه إذا قاموا ببساطة بـ تضعيف (إضعاف) "المعارض" أو "المكابح" في نهاية العملية، بدأ الكمبيوتر فجأة في قول "لا" بشكل صحيح في جميع اللغات. كان هذا هو المفتاح السحري؛ فقد كان رخيصاً، فعالاً، ولم يؤدِ إلى إفساد قدرة الكمبيوتر على التحدث بطلاقة.
لماذا يهم هذا اللغات المختلفة
السبب في حدوث ذلك هو أنه بينما المحققون (إشارة الخطر) مشتركون بين جميع اللغات، فإن الكُتّاب و"مكابحهم" ليسوا كذلك. وجد الباحثون أنه كلما اقترب الكمبيوتر من كتابة الإجابة النهائية، يصبح المسار الذي يسلكه خاصاً جداً باللغة. في الإنجليزية، المسار نحو قول "لا" واضح. أما في اللغات الأخرى، فتكون "المكابح" أقوى بكثير، أو يكون المسار مسدوداً.
من خلال إضعاف تلك "المكابح" المحددة في نهاية الخط، تمكن الباحثون من جعل الكمبيوتر يرفض الطلبات السيئة في اللغات ذات الموارد المنخفضة بنفس جودة أدائه في الإنجليزية، دون الحاجة إلى إعادة تدريب الآلة بأكملها.
الصورة الكبيرة
هذه الورقة لا تخبرنا فقط أن فجوة السلامة موجودة، بل توضح لنا أين تكمن وكم تكلفة إصلاحها. الخلاصة الرئيسية هي أن السلامة لا تتعلق فقط باكتشاف الخطر، بل بكيفية تحويل هذا الاكتشاف إلى فعل.
اختبر الباحثون أيضاً هذه الفكرة على نموذج كمبيوتر مختلف تماماً (Qwen3-30B-A3B) ووجدوا نفس النمط: "محقق" مشترك و"مكابح" متأخرة وخاصة باللغة. وهذا يشير إلى أن إصلاح سلامة الذكاء الاصطناعي قد لا يتطلب إصلاحاً شاملاً للنظام بأكم، بل قد نحتاج فقط إلى العثور على "المكابح" المحددة في كل نموذج وتخفيفها بلطف، مما يسمح لآليات السلامة بالعمل بشكل طبيعي عبر جميع اللغات.
باختصار، الكمبيوتر ليس غبياً أو منحازاً؛ كل ما في الأمر هو أن الجزء الذي يقول "لا" يختبئ في نهاية الجملة، وهو يتراجع بسبب "مكابح" خاصة باللغة. وبمجرد أن نعرف أين نبحث، يمكننا إصلاح الأمر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.