🤖 machine learning

Dynamically Scaled Activation Steering

تقدم هذه الورقة "توجيه التنشيط ذو القياس الديناميكي" (DSAS)، وهو إطار عمل غير مرتبط بمنهجية محددة يعمل على تعديل قوة تدخلات التنشيط بشكل تكيفي بناءً على سياق المدخلات لتحسين التوازن بين الحد من السمية والحفاظ على الفائدة في النماذج التوليدية مع تقديم حد أدنى من العبء الحسابي الإضافي.

المؤلفون الأصليون: Alex Ferrando, Xavier Suau, Jordi Gonzàlez, Pau Rodriguez

نُشر 2026-07-31

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Alex Ferrando, Xavier Suau, Jordi Gonzàlez, Pau Rodriguez

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك قائد أوركسترا ضخمة، غير مرئية، مكونة من رياضيات بحتة. هذه الأوركسترا هي "نموذج توليدي"، وهو نوع من الأدمغة الحاسوبية التي يمكنها كتابة القصص، أو رسم الصور، أو حل المشكلات. ولكن مثل أي موسيقي، قد تعزف أحياناً نوتة نشاز، أو والأسوأ من ذلك، نوتة ضارة. لسنوات، حاول العلماء إصلاح هذا عن طريق "توجيه" الموسيقى. فكر في التوجيه كأنه قائد أوركسترا يلوح بعصاه ليخبر الأوركسترا بأكملها بأن تعزف بهدوء، أو لتجنب آلة موسيقية معينة. تكمن المشكلة في الطريقة القديمة للتوجيه في أنها كانت فظة بعض الشيء: فهي تخبر الأوركسترا بأكملها أن تعزف بهدوء، حتى عندما كانت تعزف بالفعل لحناً جميلاً وآمناً. وهذا يجعل الموسيقى تبدو باهتة ومملة، حتى عندما لم يكن هناك خطأ ما.

الورقة البحثية التي ستطالعها الآن تقدم قائداً ذكياً للغاية يُدعى DSAS (التوجيه عبر التنشيط المتدرج ديناميكياً). بدلاً من التلويح بالعصا للمجموعة بأكملها في وقت واحد، يستمع DSAS إلى كل عازف بشكل فردي. إنه يخبر الموسيقيين المحددون الذين أوشكوا على عزف نوتة "سامة" أو ضارة بأن يخففوا من حدتها، بينما يترك البقية يعزفون تماماً كما يريدون. إنه الفرق بين معلم يصرخ "ليصمت الجميع!" عندما يتحدث طالب واحد فقط، وبين معلم يربت بلطف على كتف ذلك الطالب وحده. تُظهر هذه الورقة أنه من خلال كوننا بهذه الدقة، يمكننا إيقاف السلوك السيئ دون إفساد الأشياء الجيدة، مما يجعل هذه الأدمغة الاصطناعية أكثر أماناً وفائدة دون جعلها أقل ذكاءً.

الفكرة الكبرى للورقة: "مفتاح التعتيم الذكي" للذكاء الاصطناعي

أدرك الباحثون، أليكس فيراندو دي لاس موريناس وفريقه من شركة أبل وجامعة أوتونوما دي برشلونة، أن الطريقة القديمة لـ "توجيه التنشيط" كانت فجة للغاية. في عالم الذاء الاصطناعي، "توجيه التنشيط" هو تقنية يقوم فيها العلماء بتعديل الإشارات الداخلية للنموذج لدفعها نحو سلوك مرغوب، مثل أن يكون مهذباً أو صادقاً. عادةً، يقومون بتطبيق "قوة عالمية" (لنسمِّها مقبض التحكم في الصوت، أو $\lambda$ ) ترفع أو تخفض مستوى التوجيه لكل ما يفعله النموذج.

ما المشكلة؟ إذا رفعت مستوى "اللطف"، فقد يصبح النموذج مهذباً للغاية لدرجة أنه يتوقف عن الإجابة على الأسئلة تماماً، أو إذا رفعته لمنع الكلمات "السامة"، فقد يبدأ في الظهور بشكل آلي ويفقد إبداعه. تجادل الورقة بأننا بحاجة إلى معرفة متى نوجه، وليس فقط كيف نوجه.

هنا يأتي دور DSAS. يقترح المؤلفون إطار عمل يعمل مثل مفتاح تعتيم ذكي لكل كلمة (أو "توكن") يولدها الذكاء الاصطناعي. بدلاً من مقبض تحكم عالمي، يستخدم DSAS "حارس بوابة" صغيراً ومدرباً لكل طبقة من طبقات عقل الذكاء الاصطناعي. ينظر هذا الحارس في سياق ما يقوله الذكاء الاصطناعي ويسأل: "هل هذه الكلمة المحددة من المحتمل أن تكون سامة أو ضارة؟"

إذا كانت الإجابة لا (الذكاء الاصطناعي يتحدث عن يوم مشمس أو مسألة رياضية)، تظل البوابة مفتوحة، ويتدفق الذكاء الاصطناعي بشكل طبيعي.
إذا كانت الإجابة نعم (الذكاء الاصطناي على وشك إنتاج لفظ نابٍ أو تعليمات خطيرة)، تغلق البوابة، ويشتد تأثير التوجيه لإعادة توجيه ذلك الفكر المحدد.

توضح الورقة ذلك بمثال ممتع وغير مسيء: توجيه الذكاء الاصطناعي بعيداً عن كلمة "موز". عندما يُطلب من الذكاء الاصطناعي كتابة قصة عن قرد يأكل الفاكهة، يكتشف DSAS مفهوم "الموز" ويطبق قوة توجيه قوية لمنعه من قول الكلمة. ولكن عندما يُطلب منه كتابة قصة عن قطة أو سيارة، يرى DSAS أن "الموز" ليس ذا صلة، فيترك التوجيه دون تدخل. النتيجة؟ يتجنب الذكاء الاصطناعي مفهوم "الموز" عندما ينبغي له ذلك، لكنه لا يفقد قدرته على التحدث عن القطط أو السيارات.

ما وجدوه: توازن أفضل

اختبر الفريق نظام DSAS على عدة نماذج ذكاء اصطناعي شهيرة (مثل Qwen وGemma) وقارنه بطرق التوجيه الأخرى. قاموا بقياس شيئين: مدى جودة تجنب النموذج للسمية (أو مفهوم "الموز") ومدى جودة احتفاظه بذكائه العام (مثل قدرته على الإجابة على أسئلة المعلومات العامة أو كتابة جمل سلسة).

كانت النتائج واضحة: لقد حسن DSAS المقايضة باستمرار.

في رسوم الورقة البيانية، والتي تشبه سلاسل الجبال التي تظهر أفضل توازن ممكن (تسمى "جبهة باريتو")، كانت خطوط DSAS دائماً أعلى وأفضل من الطرق القديمة.

بالنسبة للسمية: عندما حاولوا منع الذكاء الاصطناعي من أن يكون فظاً، سمح DSAS للنماذج بأن تكون أكثر أماناً دون أن تبدو كآلات مكسورة. حافظت النماذج على سلاستها وقدرتها على الإجابة على الأسئلة المعقدة (مقاسة بمعايير مثل MMLU) بشكل أفضل بكثير مما كانت عليه عند استخدام التوجيه القديم "الذي يناسب الجميع".
بالنسبة للصور: جربوا هذا أيضاً على مولدات الصور (النماذج التي ترسم صوراً). طلبوا من النموذج طمس صور الموز ولكن إبقاء الصور الأخرى حادة. الطريقة القديمة جعلت كل شيء ضبابياً قليلاً. أما DSX، فقد قام بطمس الصور التي تحتوي على موز فقط، تاركاً صور السيارات والمناظر الطبيعية واضحة تماماً.

استكشفت الورقة أيضاً نسخة تسمى E2E-DSAS، حيث يتم تدريب "حارس البوابة" في نفس وقت تدريب التوجيه نفسه، بدلاً من أن يكون خطوة منفصلة. أظهرت هذه النسخة نتائج واعدة، حيث تفوقت أحياناً على DSAS القياسي، مما يشير إلى أن الطريقة مرنة بما يكفي ليتم دمجها مباشرة في عملية التدريب.

ما ليس عليه (وما لا يدعيه)

من المهم معرفة ما لا تقوله هذه الورقة. يشير المؤلفون بحذر إلى أن DSAS ليس عصا سحرية تحل جميع مشاكل سلامة الذكاء الاصطناعي.

إنه ليس بديلاً لضبط النموذج (Fine-tuning): لا تدعي الورقة أن DSAS يحل محل الحاجة لتدريب النماذج على بيانات جيدة. إنه أداة تُستخدم فوق النماذج الموجودة.
ليس تحديداً مكانياً مثالياً: في تجارب الصور، بينما كان DSX أفضل في استهداف مفاهيم محددة، اعترف المؤلفون أنه لم يقم دائماً بطمس الموز فقط في الصورة. أحياناً، انتشر التغبيش قليلاً إلى الخلفية. إنه تحديد "ناعم"، وليس ليزراً جراحياً.
يعتمد على البيانات: يحتاج "حارس البوابة" إلى مجموعة صغيرة من الأمثلة (مثل 32 جملة سامة و32 جملة آمنة) ليتعلم ما الذي يبحث عنه. إذا كانت البيانات مشوشة أو سيئة، فقد يرتبك الحارس، رغم أن الورقة تظهر أنه حتى في هذه الحالة، يعود DSAS بأمان إلى التوجيه القياسي بدلاً من كسر النموذج.

الخلاصة

تشير هذه الورقة إلى أن مستقبل التحكم في الذكاء الاصطناعي لا يتعلق برفع صوت الأمان للجميع. بل يتعلق بكونك قائداً ذكياً ومنتبهاً يعرف بالضبط متى يهمس بكلمة "صه" لآلة موسيقية معينة ومتى يترك الموسيقى تتدفق بحرية. من خلال تغيير حجم التوجيه ديناميكياً بناءً على ما يقوله الذكاء الاصطناعي فعلياً، يوفر DSAS طريقة لجعل هذه الأدوات القوية أكثر أماناً دون التضحية بالذكاء الذي يجعلها مفيدة. يوضح المؤلفون أن هذا النهج يعمل عبر النصوص والصور، وبينما لا يعد هذا حلاً نهائياً، إلا أنه خطوة مهمة نحو ذكاء اصطناعي يعرف كيف يتصرف دون أن يفقد شخصيته.

ملخص تقني: التوجيه الديناميكي المقياس للتنشيط (DSAS)

بيان المشكلة

برز توجيه التنشيط كتقنية قوية لتوجيه النماذج التوليدية نحو سلوكيات مرغوبة (مثل الحد من السمية، أو تعديل المعرفة) عن طريق التلاعب بالتنشيطات الداخلية دون تعديل أوزان النموذج. ومع ذلك، فإن الطرق الحالية تطبق التدخلات بشكل موحد عبر جميع المدخلات باستخدام معامل قوة عالمي ثابت ( $\lambda$ ). هذا التطبيق العشوائي يؤدي إلى تدهور أداء النموذج في المدخلات التي لا تتطلب توجيهاً، مثل المحتويات الحميدة أو غير المرتبطة، مما يخلق مقايضة غير مثالية بين السلامة/المواءمة والمنفعة/الطلاقة.

بينما توجد طرق توجيه شرطية لمعالجة هذه المشكلة، إلا أنها غالباً ما تعتمد على قواعد ثابتة، أو محفزات ثنائية، أو استدلالات على مستوى المطالبة (prompt) تفتقر إلى الدقة. علاوة على ذلك، فإن العديد من الطرق التكيفية الحالية مصممة خصيصاً لعائلات توجيه معينة (مثل طرق ITI-like) وتفشل في التعميم على أساليب التوجيه التوزيعية أو المتعلمة من البداية إلى النهاية. هناك حاجة إلى إطار عمل عالمي، غير مرتبط بطريقة محددة، يمكنه ضبط قوة التوجيه بدقة على أساس كل رمز (token) أو كل ميزة (feature)، والتدخل بقوة فقط عند اكتشاف السلوك غير المرغوب فيه.

المنهجية: التوجيه الدينامي المقياس للتنشيط (DSAS)

إن DSAS هو إطار عمل غير مرتبط بطريقة توجيه معينة، يقوم بفصل قرار متى يتم التوجيه عن كيفية التوجيه. فهو يعدل قوة أي تحويل توجيه موجود ( $T_\ell$ ) ديناميكياً عبر الطبقات والمدخلات.

الآلية الجوهرية

لكل طبقة متدخلة $\ell$ ورمز $k$ ، يقدم DSAS بوابة $h_\ell(t_{\ell,k}) \in [0, 1]$ تقوم بعملية استيفاء (interpolation) بين التضمين الأصلي والتضمين الموجه:
$T^{DSAS}_\ell(t_{\ell,k}) = (1 - h_\ell(t_{\ell,k})) \cdot t_{\ell,k} + h_\ell(t_{\ell,k}) \cdot T_\ell(t_{\ell,k}; \lambda)$
حيث $h_\ell \approx 0$ يترك التضمين دون تغيير، بينما $h_\ell \approx 1$ يطبق التدخل الكامل.

تدريب البوابة

يتم تدريب البوابة $h_\ell$ كمنظم لوجستي (logistic regressor) لكل طبقة للتمييز بين:

مجموعة المصدر ( $S$ ): العينات التي تظهر سلوكاً غير مرغوب فيه (مثل النص السام).
مجموعة التحكم ( $C$ ): العينات المحايدة فيما يتعلق بالسلوك المراد تعديله (مثل النص غير السام).

تتضمن عملية التدريب ما يلي:

جمع التنشيطات: تمرير المدخلات من $S$ و $C$ للأمام إلى الطبقة $\ell$ للحصول على متوسط التضمينات.
تقليل الأبعاد: تطبيق تحليل المكونات الرئيسية (PCA) على تنشيطات المصدر والتحكم المجتمعة للتخفيف من فرط التخصيص (overfitting) في المساحات عالية الأبعاد وتقليل وقت التدريب.
التصنيف: تدريب منظم لوجستي للتنبؤ باحتمالية أن ينتمي التنشيط إلى مجموعة المصدر. هذه الاحتمالية تعمل كمعامل قوة تكيفي.

التحسين من البداية إلى النهاية (E2E-DSAS)

يقدم البحث أيضاً نوعاً متطوراً (end-to-end) حيث يتم تحسين معاملات البوابة بشكل مشترك مع تحويل التوجيه (تحديداً مع LinEAS). يتضمن ذلك تقليل خسارة المصدر (دفع توزيعات المصدر نحو التوزيعات المستهدفة) مع تطبيق حد تنظيم للتحكم لضمان بقاء تنشيطات مجموعة التحكم مشابهة قبل وبعد التدخل. يسمح هذا بتعلم البوابة مباشرة عبر الانتشار العكسي (backpropagation) دون الحاجة إلى إسقاطات PCA ثابتة.

المساهمات الرئيسية

اقتراح الإطار العملي: تقديم DSAS، وهو إطار عمل غير مرتبط بطريقة توجيه، يقوم بتغيير مقياس قوة التدخل ديناميكياً بناءً على خصائص التنشيط، حيث يتعلم متى يوجه بدلاً من تطبيق سياسات ثابتة.
تحسين المقايضات: إثبات أن DSAS يحسن جبهة باريتو (Pareto front) بين الحد من السمية والحفاظ على القدرة (مقاسة بالارتباك Perplexity ودقة MMLU) عبر نماذج لغوية كبيرة متعددة (Qwen 2.5, Gemma 2) وطرق توجيه مختلفة (CAA, ITI, LinEAS).
التفوق على الخطوط المرجعية: تقدم الأدلة التجريبية أن DSAS يتفوق على طرق التوجيه الشرطية الحديثة (CAST, MERA, AlphaSteer) في الحفاظ على منفعة النموذج مع تقليل السمية.
التكامل من البداية إلى النهاية: توسيع نطاق DSAS إلى أطر العمل (end-to-end) عبر E2E-DSAS، مما يسمح بالتدريب المشترك مع وظائف التوجيه ويدعم مختلف وظائف التنشيط (مثل ReLU, Sigmoid).
التعميم عبر الوسائط: التطبيق الناجح لـ DSAS على نماذج الانتشار من نص إلى صورة (DMD2)، مما يوضح قدرته على تمويه الصور المرتبطة بمفهوم معين (مثل الموز) مع الحفاظ على توليد الصور غير المرتبطة.

النتائج التجريبية

الحد من السمية: في التجارب على Qwen 2.5 (1.5B, 7B) و Gemma 2 (2B)، نجح DSAS باستمرار في إزاحة جبهة باريتو، محققاً درجات سمية أقل (ToxTET) لنفس المستوى من الحفاظ على القدرة مقارنة بالتوجيه التقليدي. على سبيل المثال، دمج DSAS مع LinEAS قلل السمية بشكل كبير أكثر من LinEAS وحده دون تحمل نفس العقوبة في الارتباك أو دقة MMLU.
السلوك الشرطي: أظهرت دراسات الحالة النوعية (توجيه بعيداً عن "الموز") أن الطرق المعززة بـ DSAS نجحت في كبح المفهوم المستهدف في المطالبات ذات الصلة مع ترك المطالبات المحايدة دون تأثير كبير، حتى عند استخدام معاملات قوة عالمية أعلى ( $\lambda > 1$ ).
نماذج الانتشار: في تجارب النص إلى الصورة، نجحت طريقة CAA+DSAS في تمويه الصور التي تحتوي على مفاهيم محددة (مثل الموز، الهواتف) مع الحفاظ على وضوح الصور غير المرتبطة، بينما قام CAA التقليدي بتمويه جميع الصور دون تمييز.
الكفاءة: لا يضيف DSAS سوى عبء حسابي ضئيل عند الاستدلال (حوالي $2d_\ell + 2$ FLOPs لكل تضمين)، مما يجعله عملياً للتوليد في الوقت الفعلي.
المتانة: تظل الطريقة متينة تجاه إشارات التدريب الضوضائية؛ فإذا لم يستطع المصنف التمييز بين المصدر والتحكم، يعود DSAS طبيعياً إلى وضع آمن (توجيه موحد مع قوة مخفضة) دون تدهور الأداء دون الخط المرجعي.

الأهمية والادعاءات

يزعم البحث أن DSAS يمثل تقدماً كبيراً في توجيه التنشيط من خلال معالجة القصور الحرج المتمثل في التدخل غير المتمايز. من خلال فصل توقيت التدخل عن آلية التوجيه، يتيح DSAS:

المواءمة الانتقائية: يمكن توجيه النماذج بعيداً عن السلوكيات الضارة فقط عند الضرورة، مما يحافظ على طلاعتها الأصلية وقدراتها العامة في المدخلات الحميدة.
القابلية للتفسير: تحدد الطريقة بدقة الرموز أو الميزات المكانية التي تتطلب التوجيه وبأي مقدار، مما يوفر رؤية شفافة لعملية التدخل.
العمومية: على عكس الطرق التكيفية السابقة، لا يرتبط DSAS بخوارزمية توجيه أو وسيط مدخلات محدد، مما يجعله قابلاً للتطبيق على نطاق واسع من المهام التوليدية بما في ذلك توليد النصوص وتوليد الصور.

يخلص المؤلفون إلى أن DSAS يوفر حلاً عملياً ومنخفض التكلفة لتحقيق مواءمة أفضل في النماذج التوليدية، مما يحسن المقايضة بين السلامة والمنفعة دون الحاجة إلى إعادة تدريب مكثفة أو تعديلات في الأوزان.