💬 NLP

Compositional Steering of Large Language Models with Steering Tokens

تقدم هذه الورقة "رموز التوجيه التركيبية" (compositional steering tokens)، وهي طريقة تدمج سلوكيات اللغة الطبيعية في رموز الإدخال وتتعلم رمز تركيب مخصص لتمكين التوجيه متعدد السلوكيات بفعالية في وضع الصفر (zero-shot)، وهو ما يتفوق على الأساليب القائمة على التنشيط والأساليب القائمة على التعليمات.

المؤلفون الأصليون: Gorjan Radevski, Kiril Gashteovski, Giwon Hong, Carolin Lawrence, Goran Glavaš

نُشر 2026-04-21

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Gorjan Radevski, Kiril Gashteovski, Giwon Hong, Carolin Lawrence, Goran Glavaš

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك طباخاً موهوباً جداً، ولكنه عنيد قليلاً (وهو النموذج اللغوي الكبير أو LLM). يمكن لهذا الطباخ كتابة قصص مذهلة، وحل مسائل رياضية، وترجمة اللغات. ومع ذلك، إذا طلبت منه القيام بشيئين في وقت واحد — مثل "اكتب قصة بالفرنسية و اجعلها مكونة من 50 كلمة بالضبط" — فإنه غالباً ما يرتبك. قد يكتب بالفرنسية ولكنه ينسى عدد الكلمات، أو يلتزم بعدد الكلمات ولكنه يعود للتحدث بالإنجليزية.

هذه هي مشكلة التوجيه التركيبي (Compositional Steering): جعل الذكاء الاصطناعي يتبع قواعد متعددة في آن واحد دون أن ينهار.

إليك كيف حل مؤلفو هذه الورقة البحثية المشكلة، باستخدام تشبيه بسيط لـ بطاقات الوصفات السحرية.

الطريقة القديمة: الزبون كثير الكلام

في السابق، إذا أردت من الطباخ اتباع القواعد، كان عليك كتابة ملاحظة طويلة ومفصلة (أمر/Prompt) مثل: "يرجى كتابة قصة بالفرنسية، اجعلها أقل من 50 كلمة، استخدم الحروف الصغيرة، وتأكد من أنها مضحكة."

المشكلة؟ الطباخ هش. إذا غيرت ترتيب الكلمات في ملاحظتك، أو إذا طلبت ثلاث قواعد بدلاً من اثنتين، فسيشعر الطباخ بالإرهاق ويبدأ في تجاهل بعض التعليمات. الأمر يشبه الصراخ بقائمة طويلة من المطالب؛ الطبح يسمع المطالب الأولى وينسى البقية.

الطريقة الجديدة: بطاقات الوصفة السحرية (رموز التوجيه)

أدرك المؤلفون أنه بدلاً من الصراخ بتعليمات طويلة، يمكنهم إعطاء الطباخ بطاقات خاصة وغير مرئية (تسمى رموز التوجيه/Steering Tokens) تمثل سلوكيات محددة.

فكر في هذه الرموز كأنها مكونات سحرية:

بطاقة تقول "فرنسي".
بطاقة تقول "قصير".
بطاقة تقول "مضحك".

بدلاً من كتابة جملة، أنت فقط تسلم الطباخ البطاقات: [بطاقة الفرنسي] + [بطاقة القصير].

الخطوة 1: صنع البطاقات (تدريب الرموز الفردية)

أولاً، علم الباحثون الطباخ معنى كل بطاقة. عرضوا على الطباخ آلاف الأمثلة من "النصوص الفرنسية" و"النصوص القصيرة". ومن خلال عملية تسمى التقطير الذاتي (Self-Distillation) (تخيل الطباخ وهو يعلم نسخة من نفسه)، أنشأوا "بطاقة فرنسية" محددة و"بطاقة قصيرة" محددة.

الأمر الجوهل هو أن هذه البطاقات تعيش في مساحة المدخلات (input space). هي لا تغير دماغ الطباخ (الأوزان الداخلية للنموذج)؛ بل تضيف فقط مكوناً خاصاً إلى الوعاء قبل بدء الطبخ. هذا يحافظ على شخصية الطباخ الأصلية مع إضافة مهارات جديدة.

الخطوة 2: بطاقة "و" (السحر الحقيقي)

هنا يكمكن الجزء العبقري. إذا ألقيت فقط بطاقتي "الفرنسي" و"القصير" على الطاولة، فقد يظل الطباخ مرتبكاً بشأن كيفية مزجهما.

لذا، أنشأ الباحثون بطاقة "و" (AND) خاصة.

لقد دربوا هذه البطاقة خصيصاً على أزواج من التعليمات (مثل: "فرنسي وَ قصير").
تتعلم هذه البطاقة مفهوم الجمع/التركيب. إنها تعمل مثل قائد الأوركسترا، الذي يخبر عازف "الفرنسي" وعازف "القصير" كيف يعزفان معاً دون تصادم.

لماذا يعد هذا أمراً مهماً؟

1. إنها تعمل على تركيبات لم ترها من قبل
أفضل ما في الأمر هو أن بطاقة "و" ذكية بما يكفي للتعميم.

قاموا بتدريبها على "فرنسي + قصير" و"ألماني + طويل".
ثم قدموا لها تركيبة جديدة: "ألماني + قصير".
على الرغم من أن الطباخ لم يرَ "ألماني + قصير" معاً من قبل، إلا أن بطاقة "و" عرفت كيفية مزجهما! الأمر يشبه طباخاً يعرف كيفية خلط النكهات "الحارة" و"الحلوة"، لذا عندما تطلب منه "حار" و"حامض"، يمكنه استنتاج ذلك فوراً دون الحاجة إلى وصفة جديدة.

2. إنها قوية (الترتيب لا يهم)
إذا قلت "قصير ثم فرنسي" أو "فرنسي ثم قصير"، فالنتيجة واحدة. البطاقات السحرية تعمل بغض النظر عن كيفية ترتيبها على الطاولة. وهذا يجعل النظام موثوقاً للغاية للتطبيقات الواقعية.

3. القوة الهجينة
وجد الباحثون أن البطاقات السحرية تعمل بشكل أفضل إذا همست بالتعليمات للطباخ أثناء تسليمه البطاقات.

البطاقات + الهمس = أفضل النتائج.
تتولى البطاقات المنطق الصعب (أعداد الكلمات الدقيقة، التنسيق الصارم)، بينما يضيف الهمس (اللغة الطبيعية) اللمسات الدقيقة والسياق. معاً، لا يمكن هزيمتهما.

ملخص التشبيه

النموذج اللغوي الكبير (LLM): طباخ موهوب ولكنه يتشتت بسهولة.
الأوامر باللغة الطبيعية: قائمة طويلة ومربكة من المطالب تُصرخ في وجه الطباخ.
رموز التوجيه: "بطاقات سحرية" متخصصة وغير مرئية تمثل قواعد محددة (اللغة، الطول، الأسلوب).
رمز "و" (AND): بطاقة القائد الخاصة التي تتعلم كيفية مزج القواعد المختلفة معاً بشكل مثالي.
النتيجة: يمكن للطباخ الآن اتباع تعليمات معقدة ومتعددة القواعد (مثل "اكتب قصيدة فرنسية من 50 كلمة بحروف صغيرة") بدقة تامة، حتى لو لم يرَ هذا المزيج بالتحديد من قبل.

لماذا يجب أن تهتم؟

هذه التكنولوجيا تعني أنه في المستقبل، لن يتمكن مساعدو الذكاء الاصطناعي من "الدردشة" فحسب، بل سيكون بمقدورهم اتباع قيود صارمة ومعقدة تلقائياً. تخيل أن تطلب من ذكائك الاصطناعي:

"صغ مسودة عقد قانوني بالإسبانية، واجعله أقل من صفحتين، واستخدم النقاط، وتأكد من أن له نبرة رسمية."

بهذه الطريقة، لن يعاني الذكاء الاصطناعي للجمع بين كل تلك القواعد. ببساطة، سيخرج "البطاقات" الصحيحة ويمزجها معاً بشكل مثالي، مما يجعله أكثر فائدة للمهام التجارية والإبداعية في العالم الحقيقي.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "التوجيه التركيبي للنماذج اللغوية الكبيرة باستخدام رموز التوجيه" (Compositional Steering of Large Language Models with Steering Tokens).

1. بيان المشكلة

غالباً ما يتطلب نشر النماذج اللغوية الكبيرة (LLMs) في سيناريوهات العالم الحقيقي التحكم في سلوكيات مخرجات متعددة في آن واحد (على سبيل المثال: توليد استجابة تكون باللغة الفرنسية، وأقل من 50 كلمة، وبأحرف صغيرة). يُعرف هذا بـ التوجيه التركيبي (Compositional Steering).

تواجه الأساليب الحالية قيوداً كبيرة:

الضبط الدقيق (Fine-tuning): إن تحديث معاملات النموذج لكل مجموعة من $N$ من السلوكيات هو أمر مكلف حاسوبياً ( $2^N$ من الإجراءات) ويؤدي إلى خطر النسيان الكارثي أو التداخل السلبي.
التلقين باللغة الطبيعية (Natural Language Prompting): رغم مرونتها، إلا أن التلقين التعليمي القياسي يتسم بالهشاشة؛ فالمطالبات المتكافئة دلالياً غالباً ما تعطي نتائج غير متسقة، ويتدهور الأداء بشكل كبير عند دمج عدة قيود معاً.
توجيه التنشيط (Activation Steering): الأساليب التي تضخ نواقل (vectors) في مساحة التنشيط الداخلي للنموذج (مثل Contrastive Activation Addition) غالباً ما تفشل في التعميم على تركيبات غير مرئية من السلوكيات أو تتطلب قيوداً متعامدة يصعب توسيع نطاقها.
رموز الجوهر (Gist Tokens): تركز طرق ضغط الرموز الحالية على تعليمات فردية وتفتقر إلى آليات لتركيب سلوكيات متميزة متعددة.

التحدي الجوهري هو إنشاء آلية توجيه تسمح بـ التركيب صفري المعرفة (zero-shot composition) للسلوكيات (بما في ذلك السلوكيات غير المرئية والعدد غير المرئي من السلوكيات) دون تعديل المعاملات الداخلية للنموذج.

2. المنهجية: رموز التوجيه التركيبي

يقترح المؤلفون رموز التوجيه (Steering Tokens)، وهي طريقة تعمل بالكامل في مساحة تضمين المدخلات (input embedding space) مع إبقاء النموذج الأساسي مجمدًا. يتكون النهج من مرحلتين متميزتين من التدريب باستخدام التقطير الذاتي (self-distillation).

أ. البنية (Architecture)

رموز السلوك ( $<b>$ ): لكل سلوك $b$ (مثل "الفرنسية"، "10-50 كلمة")، يتم تعلم متجه تضمين قابل للتدريب $e_b$ مخصص.
**رمز التركيب ($ $):** يتم تعلم متجه قابل للتدريب$ e_{}$ لتمثيل مفهوم "التركيب" نفسه.
تنسيق المدخلات: يتم بناء تسلسل المدخلات لتوجيه النموذج بسلوكين $b_i$ و $b_j$ كالتالي: [Prompt Tokens] + $e_{b_i}$ + $e_{<and>}$ + $e_{b_j}$ .

ب. عملية التدريب (التقطير الذاتي)

يتم تدريب النموذج باستخدام "معلم" (Teacher) مجمد (النموذج اللغوي الأساسي) و"طالب" (Student) (نفس النموذج اللغوي مع إضافة رموز التوجيه).

المرحلة الأولى: تدريب رموز السلوك الفردية
- مدخل المعلم: المطالبة (Prompt) + تعليمات اللغة الطبيعية (مثلاً: "أجب بالفرنسية").
- مدخل الطالب: المطالبة + رمز السلوك (مثلاً: <french>).
- الهدف: تقليل تباعد KL (KL-divergence) بين توزيعات مخرجات المعلم والطالب. يتعلم رمز السلوك محاكاة تأثير التعليمات.
- التهيئة (Initialization): يتم تهيئة رموز السلوك كمتوسط تضمينات الكلمات في تعليماتها المقابلة.
المرحلة الثانية: تدريب رمز التركيب
- مدخل المعلم: المطالبة + تعليمات لسلوكين (مثلاً: "أجب بالفرنسية. استخدم 10-50 كلمة.").
- مدخل الطالب: المطالبة + رموز السلوك + رمز التركيب (مثلاً: <french> <and> <words_10_50>).
- الهدف: تقليل تباعد KL. ومن المهم ملاحظة أن رموز السلوك ($$, $ $) تكون **مجمدة** خلال هذه المرحلة. هذا يجبر رمز$ $ على تعلم وظيفة التركيب بدلاً من مجرد تعديل ناقلات سلوك محددة.
- تنظيم التعامد (Orthogonality Regularization): يتم إضافة حد خسارة ( $L_{orth}$ ) لإجبار تضمين $$ على البقاء متعامداً مع جميع تضمينات السلوك المجمدة. هذا يمنع رمز التركيب من الانهيار في تمثيل سلوك واحد ويضمن تعلمه لوظيفة "تركيبية" متميزة.

3. المساهمات الرئيسية

التركيب في مساحة المدخلات: على عكس توجيه التنشيط، تعمل هذه الطريقة في مساحة رموز المدخلات، مما يسمح بتركيب أكثر فعالية صفري المعرفة دون التداخل مع الحالة الداخلية للنموذج.
عامل التركيب المخصص: يسمح إدخال رمز <and> القابل للتعلم للنموذج بالتعميم على:
- تركيبات غير مرئية من سلوكيات مرئية.
- تركيبات تتضمن سلوكيات غير مرئية.
- تركيبات تتضمن عدداً غير مرئي من السلوكيات (مثلاً: التدريب على أزواج، والاستدلال على ثلاثيات).
التكامل (Complementarity): تثبت الطريقة أن رموز التوجيه وتعليمات اللغة الطبيعية يكملان بعضهما البعض؛ حيث يؤدي الجمع بينهما إلى أداء متفوق.
التقييم الصارم: تقدم الورقة تقييماً واسع النطاق على القيود القابلة للتحقق (الطول، اللغة، التنسيق، الهيكل) عبر عائلات نماذج متعددة (Qwen, Llama, OLMo, Gemma) وأحجام مختلفة (من 3B إلى 14B)، متجنبة ذاتية التقييم البشري.

4. النتائج التجريبية

قيم المؤلفون طريقتهم مقابل خطوط الأساس بما في ذلك التلقين القياسي، وتوجيه التنشيط (CAA)، وLM-Steer، ودمج LoRA (DARE).

التعميم المتفوق: تفوقت رموز التوجيه مع عامل <and> بشكل كبير على تعليمات النص في التركيبات غير المرئية.
- مثال: في نموذج Qwen3-8B، بالنسبة للتركيبات غير المرئية المكونة من 3 سلوكيات، حقق النهج الهجين (الرموز + التعليمات) دقة بلغت 62.9%، مقارنة بـ 54.0% للتعليمات وحدها.
المتانة تجاه الترتيب: بينما أظهر توجيه الرموز الصرف بعض الحساسية لترتيب الرموز، فإن النهج الهجين (الرموز + التعليمات) قلل بشكل كبير من تباين الترتيب، مما جعل النظام قوياً تجاه كيفية ترتيب القيود في المدخلات.
قوانين القياس (Scaling Laws):
- تحسن الأداء مع حجم النموذج (3B $\to$ 14B).
- كان تدريب رمز <and> على تركيبات سلوكين فقط كافياً لتعميم نموذج 14B على تركيبات مكونة من 3 سلوكيات. التدريب الصريح على بيانات مكونة من 3 سلوكيات أدى أحياناً إلى تدهور الأداء في المقاييس الأكبر، مما يشير إلى أن النماذج الأكبر تتعلم المنطق التركيبي بكفاءة أكبر من الأمثلة الأبسط.
استقلالية النموذج: عملت الطريقة عبر بنيات متنوعة (Qwen, Llama, OLMo)، وإن كان مقدار التحسن يختلف (على سبيل المثال، استفادت نماذج Llama من النهج الهجين أكثر من نماذج Qwen).
دراسات الاستئصال (Ablation Studies):
- أدى إزالة رمز <and> إلى انهيار الأداء في التركيبات غير المرئية.
- كان تنظيم التعامد حاسماً؛ فبدونه، فشل رمز التركيب في التعميم بفعالية.
- وفرت التهيئة الصفرية لرمز <and> مع قيود التعامد أفضل مقايضة بين الدقة والتباين.

5. الأهمية والأثر

تعالج هذه الدراسة عقبة حرجة في نشر النماذج اللغوية الكبيرة: الحاجة إلى تحكم متعدد القيود دون تكلفة الضبط الدقيق.

الكفاءة: توفر بديلاً فعالاً للمعاملات مقارنة بالضبط الدقيق، حيث تتطلب فقط تعلم مجموعة صغيرة من المتجهات ( $|B| + 1$ ) بدلاً من تحديث أوزان النموذج.
القابلية للتوسع: إن القدرة على تركيب سلوكيات غير مرئية وأعداد متغيرة من القيود تجعل هذا النهج قابلاً للتطبيق في التطبيقات الديناميكية في العالم الحقيقي حيث تتغير مجموعات القيود باستمرار.
الواقعية: من خلال التركيز على القيود القابلة للتحقق، تضع الورقة معياراً صارماً للتحكم التركيبي، متجاوزة الأدلة القائمة على الملاحظات العابرة الشائعة في الأعمال السابقة.
الاتجاه المستقبلي: تشير النتائج إلى أن "التركيب" هو وظيفة متميزة وقابلة للتعلم داخل مساحة التضمين، مما يفتح آفاقاً جديدة للتحكم في النماذج اللغوية الكبيرة عبر مشغلات (operators) متعلمة بدلاً من مجرد اللغة الطبيعية أو نواقل التنشيط.

في الختام، توفر رموز التوجيه التركيبي آلية قوية وقابلة للتوسع وفعالة للتحكم متعدد السلوكيات، مما يثبت أن الرموز المدخلة المتعلمة يمكن أن تعمم بفعالية المنطق التركيبي المعقد عبر بنيات متنوعة للنماذج اللغوية الكبيرة.