💬 NLP

Activation-Space Personality Steering: Hybrid Layer Selection for Stable Trait Control in LLMs

تقترح هذه الورقة إطار عمل هجينًا جديدًا لاختيار الطبقات يستخرج سمات الشخصية الخمس الكبرى من الحالات المخفية للنماذج اللغوية الكبيرة عبر اكتشاف الفضاء الجزئي منخفض الرتبة لتمكين التوجيه السلوكي المستقر والدقيق دون المساس بالطلاقة أو القدرات العامة.

المؤلفون الأصليون: Pranav Bhandari, Nicolas Fay, Sanjeevan Selvaganapathy, Amitava Datta, Usman Naseem, Mehwish Nasim

نُشر 2026-03-09

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Pranav Bhandari, Nicolas Fay, Sanjeevan Selvaganapathy, Amitava Datta, Usman Naseem, Mehwish Nasim

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك صديقًا آليًا ذكيًا جدًا وكثير الكلام (نموذج لغوي كبير، أو LLM). هذا الروبوت يعرف الكثير من الحقائق ويمكنه كتابة القصص، لكن شخصيته حاليًا تشبه "اللوحة البيضاء". أحيانًا يبدو مرحًا، وأحيانًا غاضبًا، وأحيانًا خجولًا، وأحيانًا مغرورًا، اعتمادًا كليًا على ما تسأله عنه.

أراد الباحثون في هذه الورقة البحثية منح هذا الروبوت شخصية متسقة بناءً على أمر (Command)—مثل قولك له: "اليوم، كن منظمًا وجادًا للغاية"، أو "اليلم، كن جامحًا ومبدعًا"—دون الحاجة إلى إعادة بناء الروبوت من الصفر.

إليك كيف فعلوا ذلك، مشروحًا عبر تشبيهات بسيطة:

1. المشكلة: "تقلبات المزاج" لدى الروبوت

الأساليب الحالية لتغيير شخصية الروبوت تشبه محاولة تعليم كلب حيلة جديدة عن طريق إعادة كتابة دماغه بالكامل (إعادة التدريب). هذا يستغرق وقتًا طويلاً، ويكلف ثروة، وقد يجعل الكلب ينسى كيف يجلس. الأساليب الأخرى تشبه الصراخ في وجه الكلب في كل مرة ينبح فيها (التلقين/Prompting)، وهو أمر غير مضمون النتائج ولا يعمل دائمًا.

أراد الباحثون طريقة لتعديل مزاج الروبوت فورًا أثناء حديثه، دون كسر قدرته على التفكير أو التحدث بوضوح.

2. الحل: "جهاز التحكم عن بعد لشخصية الروبوت"

بنى الفريق نظامًا يعمل مثل جهاز تحكم عن بعد لشخصية الروبوت. لقد ركزوا على "السمات الخمس الكبرى" الشهيرة:

Openness (الانفتاح: مبدع/فضولي)
Conscientiousness (اليقظة/الضمير: منظم/مسؤول)
Extraversion (الانبساط: اجتماعي/منفتح)
Agreeableness (المقبولية: طيب/متعاون)
Neuroticism (العصابية: قلق/انفعالي)

يطلقون على هذا اسم "توجيه الشخصية في مساحة التنشيط" (Activation-Space Personality Steering). وهي طريقة فخمة لقول: "لقد وجدنا المفاتيح الكهربائية المحددة داخل دماغ الروبوت التي تتحكم في هذه الأمزجة، وتعلمنا كيفية تحريكها."

3. كيف يعمل الأمر: خدعة السحر ذات الخطوات الثلاث

الخطوة أ: إيجاد "مفاتيح الشخصية" (الخريطة)

أولاً، طرح الباحثون على الروبوت آلاف الأسئلة، بعضها مصمم لجعله يتصرف بـ "درجة عالية" في سمة معينة (مثل: منظم جدًا) وبعضها لجعله يتصرف بـ "درجة منخفضة" (مثل: فوضوي جدًا).

نظروا داخل طبقات دماغ الروبوت (مثل النظر إلى طوابق مختلفة في ناطحة سحاب) ليروا أين تحدث الأفكار "المنظمة" مقابل الأفكار "الفوضوية". ووجدوا أن سمات الشخصية هذه ليست مبعثرة عشوائيًا؛ بل تعيش في حي مدمج ومشترك داخل دماغ الروبوت.

تشبيه: تخيل أن دماغ الروبوت عبارة عن مكتبة ضخمة. أدرك الباحثون أن جميع الكتب المتعلقة بـ "كون المرء منظمًا" مكدسة بدقة على نفس الرفوف القليلة، بغض النظر عن أي مكتبة (نموذج) أنت فيها. لقد رسموا خرائط لهذه الرفوف حتى يعرفوا بالضبط أين يصلون إليها.

الخطوة ب: "اختيار الطبقة الهجين" (الترموستات الذكي)

هذا هو الجزء الصعب. في الماضي، حاول الناس تحريك المفتاح في طابق محدد (مثلاً: "دائمًا حرك المفتاح في الطابق الثامن عشر"). لكن الباحثين وجدوا أنه أحيانًا يكون الطابق الثامن عشر نائمًا، بينما الطابق العاشر مستيقظ تمامًا.

لذا، ابتكروا استراتيجية هجينة:

الخريطة الثابتة (خارج نطاق التشغيل): هم يعرفون الطابق الذي يحتوي عادةً على مفتاح "الانبساط".
المستشعر الحي (ديناميكي): عندما تطرح سؤالًا محددًا، يتحقق النظام في تلك اللحظة من أي طابق يتفاعل أكثر مع هذا السؤال المحدد.

تشبيه: فكر في الأمر مثل ترموستات المنزل الذكي. أنت تعرف أن السخان موجود عادة في غرفة المعيشة (الخريطة الثابتة). ولكن إذا فتحت نافذة في المطبخ، فإن المستشعر الذكي يكتشف تيار الهواء البارد هناك ويقوم بتشغيل السخان في المطبخ بدلاً من ذلك (المستشعر الديناميكي). هذا يضمن بقاء المنزل دافئًا مهما حدث.

الخطوة ج: "الدفعة اللطيفة" (التوجيه)

بمجرد معرفة المفتاح الصحيح والطابق الصحيح، لا يجبرون الروبوت على التغيير. بل يعطونه دفعة لطيفة.

تشبيه: تخيل أن الروبوت عبارة عن قارب يبحر في خط مستقيم. لجعل القارب يتجه نحو "الطيبة"، لا نقوم بتمزيق القارب. نحن فقط ندفع الدفة قليلاً إلى اليسار. ينعطف القارب بشكل طبيعي، لكنه يظل نفس القارب، ويبحر بنفس السلاسة.

4. النتائج: لماذا هذا أمر رائع؟

اختبر الباحثون هذا على عدة نماذج روبوتية مختلفة (مثل LLaMA و Mistral و Qwen). وإليك ما حدث:

إنه يعمل: استطاعوا جعل الروبوت يبدو منظمًا للغاية أو عاطفيًا للغاية بناءً على الأمر.
إنه مستقر: لم يبدأ الروبوت في الهلوسة أو التحدث بكلمات غير مفهومة. ظلت "سلاسة" (Fluency) حديثه مثالية.
la
إنه ذكي: لم ينسَ الروبوت كيفية حل المسائل الرياضية أو الألغاز المنطقية. لقد حافظ على قدراته الذهنية مع تغيير شخصيته.
إنه فعال: لم يحتاجوا إلى إعادة تدريب الروبوت. لقد استخدموا فقط ملف "تحكم عن بعد" صغير الحجم.

5. الصورة الكبيرة

تعتبر هذه الورقة البحثية طفرة لأنها تجسر الفجوة بين علم النفس (كيف يمتلك البشر شخصيات) وعلوم الحاسوب (كيفية التحكم في الذكاء الاصطناي).

بدلاً من محاولة إجبار الذكاء الاصطناعي على أن يكون شخصية محددة عبر كتابة مطالبات (Prompts) طويلة ومعقدة، تسمح لنا هذه الطريقة بضبط "الحالة المزاجية" الداخلية للذكاء الاصطناعي مثل قرص ضبط الراديو. يمكننا جعله أكثر تعاطفًا لروبوت علاج نفسي، أو أكثر جدية لروبوت قانوني، بشكل فوري وآمن، دون كسر الآلة.

باختصار: لقد اكتشفوا كيفية إعطاء الذكاء الاصطناعي قرص ضبط للشخصية، ووجدوا الأزرار الدقيقة التي يجب تدويرها، وأثبتوا أنه يمكنك تغيير المزاج دون كسر الموسيقى.

إليك ملخص تقني مفصل للورقة البحثية بعنوان: "توجيه الشخصية عبر مساحة التنشيط: اختيار الطبقات الهجين للتحكم المستقر في السمات في النماذج اللغوية الكبيرة (LLMs)."

1. بيان المشكلة

تُظهر النماذج اللغوية الكبيرة (LLMs) شخصيات ضمنية في مخرجاتها، ولكن التحكم الموثوق في هذه السمات أو مواءمتها لتلبية احتياجات مستخدم محددة يظل تحديًا كبيرًا. تواجه طرق المواءمة الحالية عدة قيود:

تكاليف إعادة التدريب: طرق مثل التعلم المعزز من التغذية الراجعة البشرية (RLHF) أو تحسين التفضيل المباشر (DPO) مكلفة حوسبيًا، وتتطلب مجموعات بيانات ضخمة، وغالبًا ما تؤدي إلى تدهور طلاقة النموذج أو قدراته العامة.
قيود التوجيه الثابت: تفترض تقنيات توجيه التنشيط الحالية غالبًا طبقات حقن ثابتة (مثل استخدام الطبقة "الوسطى" دائمًا) أو نطاقات ضيقة. وهذا يفشل في مراعاة الاختلافات المعمارية بين النماذج، وتفاوت الحساسية عبر سمات الشخصية المختلفة، والسياق الخاص بالمطالبة (Prompt).
عزل السمات: غالبًا ما تقوم النهج السابقة بنمذجة سمات الشخصية (الانفتاح، اليقظة، الانبساط، الوفاق، العصابية - OCEAN) بشكل منعزل، متجاهلة البنية المشتركة منخفضة الرتبة لهذه البناءات النفسية.
عدم الاستقرار: غالبًا ما يؤدي التوجيه إلى تباين عالٍ، أو انخفاض في الطلاقة، أو "التوجيه العكسي" (حيث يتحرك النموذج في الاتجاه المعاكس للقصد).

2. المنهجية

يقترح المؤلفون مسارًا جديدًا وشاملًا (End-to-end) لتوجيه النماذج اللغوية الكبيرة نحو سمات شخصية محددة من "الخمس الكبرى" أثناء الاستدلال دون إعادة تدريب. تتكون الطريقة من أربع مراحل رئيسية:

أ. استخراج التنشيط والتقييس

البيانات: تستخدم مجموعة بيانات مصنفة بمستويات عالية ومنخفضة لكل سمة من سمات OCEAN.
العملية: استخراج تنشيطات التدفق المتبقي (Residual stream) من نموذج لغوي سببي مدرب مسبقًا.
اشتقاق الاتجاه: حساب متوسط الفرق بين تنشيطات السمات العالية والمنخفضة لكل طبقة. يتم تقييس هذه الفروق وتجميعها عبر الطبقات باستخدام أوزان متعلمة غير سالبة لإنشاء متجه اتجاه قوي لكل سمة ( $d^{(c)}$ ).

ب. اكتشاف الفضاء الفرعي منخفض الرتبة

الفرضية: تشغل سمات الشخصية فضاءً فرعيًا مشتركًا ومنخفض الرتبة داخل مساحة تنشيط النموذج.
التقنية: يتم تجميع اتجاهات السمات المجمعة وإخضاعها لتحليل المكونات الرئيسية (PCA) أو تحليل القيم المفردة (SVD).
النتيجة: يتم استخراج المكونات المتعامدة من أعلى $k$ . يؤدي إسقاط متجهات السمات في هذا الفضاء الفرعي إلى تقليل الضوضاء والتباين مع الاحتفاظ بأكثر من 95% من طاقة ما بين السمات، مما ينتج عنه متجهات توجيه مدمجة ومستقرة.

ج. استراتيجية اختيار الطبقة الهجين

هذا هو الابتكار الجوهري في الورقة، حيث يعالج مشكلة "أي طبقة يجب توجيهها". بدلاً من تثبيت طبقة واحدة، يستخدم المؤلفون نهجًا ذا مرحلتين:

الأولوية غير المتصلة (الثابتة): تحديد "أفضل" طبقة لكل سمة باستخدام مطالبات اختبار محايدة. ويتم تقييم الطبقات بناءً على ثلاثة تشخيصات:
- $\Delta \ell_2$ : الحساسية الخام لتوزيع المخرجات.
- تباعد KL: التحول الدلالي في الرموز (Tokens) عالية الاحتمالية.
- معدل الانقلاب (Flip Rate): التغيرات الفئوية في الرمز الأعلى احتمالية.
- النتيجة: طبقة "موثقة" ( $L^*_c$ ) مستقرة ومحددة لكل سمة.
الاختيار الديناميكي وقت التشغيل: بالنسبة لمطالبة (Prompt) محددة، تحسب الطريقة الإزاحة لكل طبقة ( $\nu$ ) لتحديد الطبقة الأكثر استجابة لهذا السياق المحدد.
الجمع الهجين: يحدث الحقن النهائي عبر مزيج مرجح من الأولوية الثابتة (80%) والمرشح الديناميكي (20%). هذا يوازن بين الموثوقية والتكيف الواعي بالسياق.

د. التوجيه أثناء الاستدلال

الحقن: يتم إضافة متجه السمة المقياس والمُعاير قطبيًا إلى التدفق المتبقي للطبقات المختارة عبر خطافات أمامية (Forward hooks).
معايرة القطبية: تضمن اتجاه المتجه ليتوافق مع السمة المقصودة (مثل "عالي" مقابل "منخفض") من خلال اختبار اضطرابات صغيرة على مجموعة معايرة.
التحكم في الكثافة: يستخدم معامل كسب عالمي ( $g$ ) ومعامل قياسي ( $\alpha$ ) تم ضبطه تجريبيًا لضمان أن يكون التوجيه قويًا بما يكفي لتغيير السلوك ولكن ضعيفًا بما يكفي للحفاظ على الطلاقة (بهدف تحقيق درجة طلاقة $\geq 3.5$ ).

3. المساهمات الرئيسية

إطار عمل موحد منخفض الرتبة: يثبت أن سمات الشخصية من "الخمس الكبرى" تقطن في فضاء فرعي مشترك منخفض الأبعاد، مما يسمح بتمثيل مدمج وتكوين متعدد السمات دون تداخل في المعلمات.
اختيار الطبقة الهجين: يقدم استراتيجية قوية تجمع بين التشخيصات غير المتصلة والاستجابة الديناميكية وقت التشغيل، متجاوزًا هشاشة التوجيه ذي الطبقة الثابتة.
التحكم ثنائي الاتجاه: تدعم الطريقة التوجيه الإيجابي (سمة عالية) والسلبي (سمة منخفضة) ضمن نفس الإطار، على عكس العديد من أساليب التلقين أو الضبط الدقيق التي تتطلب شرطًا منفصلاً.
الحفاظ على القدرات: تم تصميم المسار لتوجيه الشخصية دون تدهور قدرات النموذج الأساسية في الاستدلال أو الطلاقة أو المعرفة العامة.

4. النتائج والتقييم

تم تقييم الطريقة عبر نماذج متعددة (LLaMA-3-8B, Ministral-8B/24B, Qwen-14B, Gemma-3-4B) باستخدام ثلاثة تكوينات: الأساسي (Base)، الموجه إيجابيًا، والموجه سلبيًا.

فصل السمات: حققت الطريقة فصلًا كبيرًا في درجات السمات (مقياس ليكرت 1-5). بالنسبة لنموذج LLaMA-3-8B، بلغ متوسط الفصل ( $\Delta$ ) قيمة 2.64، متفوقًا على أو موازيًا لأساليب SFT/DPO مع تجنب تكاليف إعادة التدريب.
الطلاقة والاستقرار: على عكس الطرق السابقة التي تسبب تدهورًا في الطلاقة عند مستويات التوجيه القصوى، حافظ هذا النهج على الطلاقة أو حتى حسنها. والأهم من ذلك، أنه قلل التباين بشكل جذري (على سبيل المثال، انخفض تباين "الانفتاح" من 0.84 إلى 0.20)، مما جعل تأثيرات التوجيه متسقة للغاية عبر عمليات التشغيل.
الحفاظ على القدرات العامة: أظهر التقييم على MMLU (المعرفة/الاستدلال) و ARC-Challenge (الاستدلال المعقد) أن التوجيه لم يسبب تدهورًا كارثيًا. ظلت الدقة مستقرة حول المستوى الأساسي مع تقلبات طفيفة فقط.
دراسات الاستئصال (Ablation Studies): أكدت مقارنة استراتيجيات "الهجين"، و"الديناميكي فقط"، و"الثابت فقط" أن النهج الهجين يعطي أقوى فصل للسمات، مما يثبت أن الأولويات الثابتة والتكيف الديناميكي يكملان بعضهما البعض.

5. الأهمية والآثار المترتبة

الربط بين النظرية والتطبيق: نجح العمل في ترجمة المفاهيم النفسية (الخمس الكبرى) إلى آليات عملية منخفضة الرتبة داخل النماذج اللغوية الكبيرة، مما يسد الفجوة بين النظرية النفسية ومواءمة النماذج.
الكفاءة: يوفر بديلًا خفيف الوزن أثناء الاستدلال لعمليات الضبط الدقيق المكلفة، مما يجعل تخصيص الشخصية متاحًا للتطبيقات في الوقت الفعلي.
الأمان والتحكم: من خلال تمكين التحكم الدقيق في السمات السلوكية دون تغيير أوزان النموذج، يفتح هذا العمل آفاقًا جديدة للمساعدين الآليين المخصصين، والتطبيقات الحساسة للسلامة، والتفاعلات المتوافقة مع المستخدم.
القدرة على التعميم: المنهج مستقل عن المعمارية وقابل للتوسع عبر أحجام مختلفة من النماذج، مما يشير إلى خاصية أساسية لكيفية ترميز النماذج اللغوية الكبيرة للشخصية.

القيود والعمل المستقبلي: يشير المؤلفون إلى أن معامل الكثافة $\alpha$ يتم معايرته تجريبيًا حاليًا. يهدف العمل المستقبلي إلى أتمتة هذه المعايرة واستكشاف آليات التوجيه الآمنة للنماذج مغلقة المصدر حيث لا يمكن الوصول إلى التنشيطات الداخلية. كما تم تسليط الضوء على الاعتبارات الأخلاقية المتعلقة بإمكانية إساءة استخدام توجيه الشخصية في نشر المعلومات المضللة.