💻 computer science

UniSteer: Text-Guided Flow Matching in Activation Space for Versatile LLM Steering

إن UniSteer هو نموذج مطابقة تدفق موجه بالنص يتعلم حقل سرعة شرطي شامل في فضاء التنشيط لتمكين التوجيه متعدد الاستخدامات ودقيق التفاصيل للنماذج اللغوية الكبيرة المجمدة من خلال إطار عمل موحد للتحكم السلوكي، والصدق، والتلاعب بالمفاهيم، والتصنيف.

المؤلفون الأصليون: Yingdong Shi, Ruiming Zhang, Changming Li, Zhiyu Yang, Kaixing Zhang, Jingyi Yu, Kan Ren

نُشر 2026-05-29

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yingdong Shi, Ruiming Zhang, Changming Li, Zhiyu Yang, Kaixing Zhang, Jingyi Yu, Kan Ren

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغة كبير (LLM) كأنه أوركسترا ضخمة متجمدة. بمجرد بنائها، لا يمكنك تغيير الآلات الموسيقية أو النوتة الموسيقية (أوزان النموذج) بسهولة دون إعادة بناء النموذج بأكل. عادةً، إذا أردت من الأوركسترا أن تعزف أغنية "مخيفة" أو "مفيدة"، عليك إعطاؤهم تعليمات محددة وصارمة للغاية (المطالبات/Prompts) أو استئجار قائد أوركسترا منفصل لكل نوع موسيقي (الضبط الدقيق/Fine-tuning).

UniSteer هو طريقة جديدة تعمل مثل قائد أوركسترا عالمي موجه بالنص، يمكنه تغيير أداء الأوركسترا فوراً أثناء عزفها، دون المساس بالآلات نفسها.

إليك كيف يعمل، مقسماً إلى مفاهيم بسيطة:

1. المشكلة: نهج "الواحد لا يناسب الجميع"

حالياً، إذا أردت من الذكاء الاصطناعي أن يكون "شريراً"، فأنت بحاجة إلى "متجه شرير" محدد (اتجاه رياضي). وإذا أردت أن يكون "مفيداً"، فأنت بحاجة إلى "متجه مفيد". وإذا أردت أن يكون "مفيداً ومشرراً وموجزاً في آن واحد"، فسيتعين عليك محاولة دمج هذه المتجهات الثلاثة المنفصلة معاً. وغالباً ما تتصادم هذه المتجهات، مثل محاولة قيادة سيارة للأمام بينما تضغط في الوقت نفسه على المكابح وتلف المقود يساراً. إنه أمر فوضوي ولا يعمل بشكل جيد للطلبات المعقدة.

2. الحل: "تدفق" من الاحتمالات

يغير UniSteer قواعد اللعبة. فبدلاً من تعلم اتجاه واحد لـ "الشر" أو "الفائدة"، فإنه يتعلم خريطة حركة عالمية (حقل تدفق) داخل عقل الذكاء الاصطناعي.

التشبيه: تخيل أن أفكار الذكاء الاصطناعي الداخلية هي نهر.
- الطرق القديمة تحاول دفع قارب في اتجاه معين باستخدام عمود.
- UniSteai يتعلم التيار الكامل للنهر. فهو يعرف أنه إذا قلت "كن مفيداً"، فإن المياه تتدفق طبيعياً نحو الفائدة. وإذا قلت "كن شريراً"، فإن المياه تتدفق نحو الشر.
- والأهم من ذلك، أنه يتعلم كيفية الدمج بين التوجيهات. إذا قلت "كن مفيداً ولكن موجزاً"، فإن القائد يعرف بالضبط كيف يوجه النهر لتلبية كلا الشرطين في وقت واحد، بدلاً من محاربة تيارين مختلفين.

3. كيف يعمل: تعديل "السفر عبر الزمن"

تصف الورقة البحثية عملية تسمى Flow Inversion (عكس التدفق). إليك خدعة السحر خطوة بخوة:

المصدر: يبدأ الذكاء الاصطناعي في توليد جملة (مثلاً: "أنا أعتقد...").
الرجوع للخلف (Inversion): يأخذ UniSteer فكرة الذكاء الاصطناعي الحالية (التنشيط/Activation) ويعيدها جزئياً إلى حالة ضبابية ومحايدة، بناءً على ما كان يحاول الذكاء الاصطناعي فعله في الأصل.
التقدم للأمام (Regeneration): ثم يأخذ تلك الحالة الضبابية ويدفعها "للأمام" مرة أخرى، ولكن هذه المرة يتبع التعليمات الموجودة في مطالبتك النصية (مثلاً: "كن شريراً").
النتيجة: يستمر الذكاء الاصطناعي في التوليد، ولكن الآن تم توجيه أفكاره الداخلية بلطف لتتوافق مع تعليماتك النصية الجديدة، وكل ذلك دون تغيير الذاكرة الدائمة للذكاء الاصطناعي.

4. قوتان خارقتان

تدعي الورقة أن هذا النموذج الواحد يقوم بوظيفتين متميزتين:

التوجيه (القائد): يمكنك إخبار الذكاء الاصطناعي بتغيير شخصيته، أو أسلوبه، أو مدى صدقه بمجرد كتابة شرط نصي. وهو يعمل للأشياء البسيطة ("كن موجزاً") والأشياء المعقدة ("كن طبيباً مفيداً يتجنب المصطلحات الطبية وينتهي بابتسامة").
التصنيف (المحقق): يمكنك أيضاً استخدامه لـ قراءة عقل الذكاء الاصطناعي. إذا قدمت للذكاء الاصطناعي جملة وسألته: "هل هذا سام؟" أو "هل هذا مفيد؟"، يحاول UniSteer "إعادة بناء" الجملة تحت تصنيف "سام" وتحت تصنيف "مفيد". التصنيف الذي يجعل الجملة تبدو أكثر طبيعية (يتطلب أقل قدر من "الطاقة" لإعادة البناء) هو الإجابة الصحيحة. الأمر يشبه سؤال محقق ليرى أي قصة تناسب الأدلة بشكل أفضل.

5. ما أظهرته التجارب

اختبر الباحثون هذا على ثلاثة نماذج مختلفة للذكاء الاصطناعي (Llama و Qwen) ووجدوا:

تعدد الاستخدامات: يمكن لنموذج واحد فقط التعامل مع كل شيء، بدءاً من جعل الذكاء الاصطناعي يبدو "شريراً" وصولاً إلى جعله يقول الحقيقة، أو اتباع 10 قواعد في آن واحد.
الدقة: عندما طُلب منه اتباع قواعد متعددة (مثل "ابدأ بعبارة محددة وانتهِ بأخرى")، عرف UniSteer بالضبط أين في الجملة يجب تطبيق التغيير، بدلاً من إفساد النص بأكمله.
الكفاءة: لم يكن بحاجة إلى جلسة تدريب جديدة لكل شخصية جديدة؛ كان يحتاج فقط إلى وصف نصي جديد.

الملخص

UniSteer هو أداة تتيح لك التحكم في نموذج ذكاء اصطناعي متجمد باستخدام اللغة الطبيعية. فبدلاً من بناء أداة جديدة لكل مهمة، فإنه يتعلم "تدفقاً" عالمياً لكيفية حركة أفكار الذكاء الاصطناعي. يمكنك بعد ذلك توجيه تلك الأفكار نحو أي سلوك، أو مفهوم، أو مجموعة من القواعد ببساطة عن طريق وصفها نصياً، ويمكنه أيضاً استخدام نفس المعرفة لاكتشاف ما يفكر فيه الذكاء الاصطناعي.

ملخص تقني: UniSteer

بيان المشكلة

برز التحكم القائم على التنشيط (Activation-based control) كنموذج خفيف الوزن ومرن لتوجيه النماذج اللغوية الكبيرة (LLMs) من خلال التدخل في التمثيلات الداخلية أثناء الاستدلال، مما يتجنب الحاجة إلى تحديث المعلمات (parameter updates). ومع ذلك، تواجه الأساليب الحالية قيودًا كبيرة في المرونة والتركيب:

الاتجاهات الثابتة: تعتمد أساليب مثل Contrastive Activation Addition (CAA) و Representation Engineering (RepE) على اتجاهات محددة مسبقًا وثابتة مستمدة من أمثلة تباينية.
وحدات خاصة بالمهام: تقوم أساليب التدخل المتعلمة (مثل LoReFT و ODESteer) بتدريب وحدات منفصلة لكل سلوك مستهدف.
الفشل التركيبي: تعاني هذه النهج من صعوبة في التعامل مع المفاهيم دقيقة التفاصيل أو القيود التركيبية (مثل "كن مفيدًا، وغير ضار، وموجزًا") لأن الاتجاهات المتعلمة بشكل مستقل غالبًا ما تتداخل مع بعضها البعض في فضاءات التنشيط عالية الأبعاد.

التحدي الجوهري هو تطوير آلية موحدة يمكنها توجيه النماذج اللغوية الكبيرة نحو أي سلوكيات، أو مفاهيم، أو متطلبات قيود متعددة باستخدام اللغة الطبيعية، دون الحاجة لتدريب نماذج منفصلة لكل هدف.

المنهجية: UniSteer

يقترح المؤلفون UniSteer، وهو نموذج مطابقة تدفق التنشيط الموجه بالنص (text-guided activation flow matching model) يتعلم توزيعًا شرطيًا على تنشيطات مسار المتبقي (residual-stream activations). بدلاً من تعلم متجهات ثابتة، يتعلم UniSteer حقل سرعة شرطي شامل في فضاء التنشيط.

1. مطابقة تدفق التنشيط المشروط بالنص

يقوم UniSteer بنمذجة التوزيع الشرطي $p_\theta(a^{(\ell)}_i | c, \ell, i)$ ، حيث $a$ هو تنشيط مسار المتبقي عند الطبقة $\ell$ والرمز (token) $i$ ، و $c$ هو شرط باللغة الطبيعية (مثل "كن شريرًا" أو "كن موجزًا وغير ضار").

هدف التدريب: يتعلم نموذج التدفق حقل متجه شرطي $v_\theta$ عن طريق تقليل خسارة مطابقة التدفق (flow-matching loss). يقوم النموذج بعمل استيفاء (interpolation) بين حالة ضوضاء سابقة $a_0 \sim \mathcal{N}(0, I)$ وحالة تنشيط مستهدفة $a_1$ باستخدام مسار احتمالي خطي $a_t = (1-t)a_0 + ta_1$ . السرعة المستهدفة هي $u_t = a_1 - a_0$ . يتم تدريب النموذج للتنبؤ بهذه السرعة مشروطة بالنص $c$ .
البنية: تم تنفيذ نموذج التدفق كنموذج transformer من نمط DiT مع انتباه تقاطعي (cross-attention) لمشفر نصي مجمد (Qwen3-0.6B) وتضمينات متعلمة لطبقات ومواقع الرموز.

2. توجيه التنشيط في وقت الاستدلال عبر عكس التدفق

لتوجيه نموذج لغوي كبير مجمد، يقوم UniSteer بعملية عكس التدفق (flow inversion) بدلاً من أخذ العينات من الصفر:

العكس الجزئي: يتم نقل تنشيط المصدر $a_{src}$ (الملاحظ أثناء التوليد) للخلف على طول التدفق مشروطًا بشرط المصدر $c_{src}$ إلى حالة كامنة ضوضائية وسيطة $a_\tau$ (حيث $\tau = 1 - \lambda$ ، و $\lambda$ هي قوة التعديل).
إعادة التوليد الأمامي: يتم بعد ذلك نقل الحالة الكامنة للأمام على طول التدفق مشروطة بالشرط المستهدف $c_{tgt}$ لتوليد تنشيط معدل $\hat{a}_{edit}$ .
الحقن: يتم حقن التنشيط المعدل مرة أخرى في مسار المتبقي للنموذج اللغوي الكبير المجمد للتأثير على التوليد اللاحق.

3. التصنيف في فضاء التنشيط

يعمل UniSteer أيضًا كمصنف بدون رأس (head) منفصل. بالنظر إلى مجموعة مرشحة من الملصقات النصية، يقوم النموذج بإعادة بناء تنشيط المدخل تحت كل شرط. ويتم اختيار الملصق الذي يحقق أدنى طاقة إعادة بناء شرطية ( $\|a - \tilde{a}(c_j)\|^2_2$ ) كتنبؤ.

المساهمات الرئيسية

صياغة موحدة: يصيغ البحث توجيه التنشيط كعملية نقل تنشيط مشروطة بالنص، مقدمًا نموذج مطابقة تدفق شرطي يتعلم حقل سرعة واحد لأهداف تحكم غير متجانسة (سمات سلوكية، مفاهيم دقيقة التفاصيل، وقيود متعددة).
عكس التدفق للتعديل: يقترح المؤلفون آلية عكس التدفق التي تمكن نموذجًا واحدًا من التعامل مع التوجيه أحادي السلوك والتوجيه التركيبي من خلال عكس جزئي وإعادة توليد التنشيطات بناءً على شروط اللغة الطبيعية.
واجهة موحدة للتعديل والتصنيف: يخدم نفس نموذج التنشيط الشرطي غرضين مزدوجين: توجيه التوليد عبر عكس التدفق وتصنيف الحالات الداخلية عبر طاقة إعادة البناء، مما يلغي الحاجة إلى مصنفات أو وحدات تدخل خاصة بالمهام.

النتائج التجريبية

قيم المؤلفون UniSteটি على ثلاثة نماذج لغوية كبيرة (Llama-3.2-1B، Qwen2.5-1.5B، و Qwen2.5-7B) عبر خمسة إعدادات:

التحكم السلوكي (الشخصية): حقق UniSteer أعلى درجات السمات المستهدفة عبر جميع النماذج لسمات مثل "الشر" و"المداهنة" (sycophantic)، متفوقًا على النماذج المرجعية مثل CAA و RepE.
توجيه الصدق (TruthfulQA): حسن UniSteer درجة Truth*Info مقارنة بالنماذج الأصلية، مما أظهر القدرة على التوجيه من أجل الدقة الواقعية وليس فقط الأسلوب.
توجيه المفاهيم دقيقة التفاصيل (AxBench): حقق UniSteR أداءً تنافسيًا أو متفوقًا في توجيه المفاهيم (مثل "كن مقتضبًا") مقارنة بالنماذج المرجعية الخاصة بالمفاهيم، رغم استخدام نموذج مشترك واحد.
اتباع التعليمات متعددة القيود (RECAST): تعامل UniSteer بنجاح مع القيود المتزامنة (مثل 5 أو 10 قيود)، متفوقًا على النماذج المرجعية التي تعاني من التداخل بين الاتجاهات الثابتة المتعددة.
التصنيف في فضاء التنشيط (ToxiGen): باستخدام طاقة إعادة البناء، حقق UniSteer دقة و AUC في تصنيف المحتوى السام مقابل غير السام تضاهي أو تتفوق على أفضل النتائج، مما يؤكد قدرته على تصنيف توزيعات التنشيط المعتمدة على الشرط.
التحليل على مستوى الرمز (Token-level): أظهر تحليل قيود "ابدأ بـ" (start_with) أن UniSteer يطبق التعديلات مع مراعاة الموقع، حيث يتوافق بقوة مع اتجاهات القيود في مواضع رموز محددة (مثل بداية الاستجابة) بدلاً من تطبيق اضطرابات عالمية.

الأهمية والادعاءات

يزعم البحث أن UniSteer يوفر واجهة موحدة لتوجيه وتصنيف النماذج اللغوية الكبيرة. ومن خلال الانتقة من الاتجاهات الثابتة أو الوحدات الخاصة بالمهام إلى حقل سرعة مشروط بالنص، يتعامل النهج بشكل طبيعي مع القيود التركيبية والمفاهيم دقيقة التفاصيل التي يصعب الجمع بينها بالطرق الحالية.

يؤكد المؤلفون أن هذا النهج يسمح بـ:

تعدد الاستخدامات: يمكن لنموذج واحد التعامل مع مهام متنوعة (الشخصية، الصدق، القيود) ببساطة عن طريق تغيير الشرط النصي.
القابلية للتركيب: يتم التعبير عن متطلبات القيود المتعددة مباشرة في نص الشرط، مما يتجنب مشكلات التداخل بين متجهات التوجيه المنفصلة.
القابلية للتفسير: تشير قدرة النموذج على تصنيف التنشيطات عبر طاقة إعادة البناء إلى أن التدفق المتعلم يلتقط بفعالية البنية الدلالية للحالات الداخلية للنموذج.

يشير المؤلفون أيضًا إلى وجود قيود، بما في ذلك نقص التقييم على التوليد طويل المدى، واستقرار تعدد الأدوار، ومهام الاستدلال المعقدة. كما يسلطون الضوء على اعتبارات السلامة، مع الإقرار بأن نفس الآلية المستخدمة لتحسين الفائدة يمكن نظريًا استخدامها لتضخيم السلوكيات غير المرغوب فيها، مما يستلزم فلاتر سلامة وعمليات تدقيق مستقبلية.