💬 NLP

Psychological Steering of Large Language Models

تقدم هذه الورقة إطار عمل للتوجيه النفسي باستخدام حقن في تيار المتبقي (residual-stream) معيرة دلالياً ومقيدة بالطلاقة، والتي تتفوق على نماذج التلقين الأساسية الموجودة في التحكم في سمات الشخصية للنماذج اللغوية الكبيرة، بينما تكشف عن كل من القدرة الخطية على التحكم في هذه التمثيلات وتباعدها عن النماذج النفسية البشرية.

المؤلفون الأصليون: Leonardo Blas, Robin Jia, Emilio Ferrara

نُشر 2026-04-17

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Leonardo Blas, Robin Jia, Emilio Ferrara

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغة ضخم (LLM) كأنه ممثل موهوب للغاية، يمتلك قدرات هائلة، وقد حفظ كل كتاب وفيلم ومحادثة كُتبت على الإطلاق. يمكن لهذا الممثل أن يلعب أي دور، لكنه عادة ما يلتزم بشخصية "محايدة". أحياناً، تريد منه أن يلعب دوراً محدداً — مثل محقق غاضب، أو شخص متفائل للغاية، أو شرير يعشق الفوضى.

هذه الورقة البحثية تدور حول إيجاد الطريقة المثالية لتوجيه هذا الممثل ليلعب تلك الأدوار دون أن يخرج عن النص أو يبدو كآلة روبوتية.

المشكلة: الطريقة القديمة كانت غير دقيقة

في السابق، حاول الباحثون تغيير شخصية الممثل بطريقتين رئيسيتين:

طريقة "التلقين" (الطلب بلطف): تخبر الممثل: "تظاهر بأنك سمكة سادية".
- العيب: الأمر يشبه إعطاء ملاحظة للمخرج. أحياناً يستمع الممثل، وأحياناً يتجاهلك. إنه أمر غير متسق.
طريقة "الحقن" (تعديل الدماغ): تحاول دفع أفكار الممثل الداخلية (من الناحية الرياضية، "التنشيطات العصبية") قسراً لفرض سلوك معين.
- العيب: الطريقة القديمة في فعل ذلك كانت تشبه محاولة ضبط تردد راديو عبر التخمين. كنت تدير القرص قليلاً، تستمع، ثم تديره أكثر، وتخمن. إذا كان الإعداد المثالي بعيداً جداً على القرص (مثل 10,000 وحدة)، فلن تجده أبداً لأنك كنت تبحث فقط في الأرقام الأولى. كما أنك كنت تستخدم مسطرة غير معايرة، لذا فإن "وحدة واحدة" كانت تعني شيئاً مختلفاً لكل راديو.

الحل: نظام تحديد المواقع النفسي (GPS)

ابتكر المؤلفون إطار عمل جديداً يسمى التوجيه النفسي (Psychological Steering). فكر في الأمر كترقية من جهاز ضبط راديو يعتمد على التخمين إلى نظام تحديد مواقع (GPS) عالي التقنية يعرف بالضبط أين يقع محطة "الانفتاح" أو "السادية".

إليك كيف فعلوا ذلك، باستخدام تشبيهات بسيطة:

1. معايرة المسطرة (وحدة المركز - Centroid Unit)

تخيل أنك تحاول تحريك صندوق ثقيل. إذا دفعته بوصة واحدة، سيتحرك قليلاً. إذا دفعته 10,000 بوصة، سيطير عبر الغرفة.

الطريقة القديمة: كانوا يدفعون الصندوق باستخدام "وحدات" لا معنى لها. أحياناً كانت الوحدة الواحدة بمثابة لمسة ريشة؛ وفي أحيان أخرى كانت بمثابة ضربة مطرقة ثقيلة.
الطريقة الجديدة: قاسوا المسافة بين "الصندوق السعيد" و"الصندوق الحزين" داخل دماغ النموذج. حددوا "دفعتهم" بناءً على المسافة الفعلية بين هاتين الحالتين. الآن، هم يعرفون بالضبط مقدار القوة التي يجب توجيهها للوصول إلى النتيجة المثالية، بغض النظر عن مدى بعد الهدف.

2. حقن "فرق المتوسط" (MDS Injection)

اختبرت الورقة ست طرق مختلفة لدفع دماغ الممثل. ووجدوا أن الطريقة الأفضل تسمى MDS (فرق المتوسط).

التشبيه: تخيل أن لديك حشداً من الناس. نصفهم يرتدون قمصاناً حمراء (تمثل "اللطف") والنصف الآخر يرتدون قمصاناً زرقاء (تمثل "القسوة").
طريقة MDS تجد المركز الدقيق للحشد الأحمر والمركز الدقيق للحشد الأزرق. ثم ترسم خطاً مستقيماً بينهما.
لجعل الممثل "لطيفاً"، تقوم بدفعه برفق عبر ذلك الخط نحو المركز الأحمر. ولجعله "قاسياً"، تدفعه نحو المركز الأزرق.
النتيجة: كانت هذه الطريقة فعالة بشكل مدهش. في 11 نموذجاً من أصل 14 نموذج ذكاء اصطناعي، نجحت هذه "الدفعة" بشكل أفضل من مجرد طلب "كن لطيفاً" من الذكاء الاصطناعي (التلقين).

3. الطريقة الهجينة الفائقة (PM)

أدرك المؤلفون أن النهج الأفضل ليس مجرد طريقة واحدة منهما. لقد دمجوا بين طريقة "الطلب بلطف" (التلقين) وطريقة "دفع الدماغ" (MDS).

التشبيه: الأمر يشبه إخبار الممثل: "أنت شخص لطيف"، بالتزامن مع دفعه برفق كيميائياً ليشعر باللطف فعلياً.
النتيجة: هذا المزيج (المسمى PM) كان البطل بلا منازع. فقد تفوق على كلتا الطريقتين بمفردهما في 13 نموذجاً من أصل 14. جعل هذا المزيج تحولات شخصية الذكاء الاصطناعي أقوى وأكثر موثوقية.

مثال "البحث عن نيمو"

تتضمن الورقة مثالاً مضحكاً حيث قاموا بتوجيه ذكاء اصطناعي لكتابة قصة عن فيلم البحث عن نيمو.

الذكاء الاصطناعي الطبيعي: يكتب قصة لطيفة عن سمكة.
الذكاء الاصطناعي الموجّه: فجأة، تتحول القصة إلى مظلمة. يصبح الأب السمكة، مارلين، "سيد التلاعب" الذي يستمتع بمعاناة الآخرين.
لماذا يهم هذا: لم يكتفِ الذكاء الاصطناعي بـ قول إنه مظلم؛ بل تغيرت نبرة القصة بالكامل، واختيار الكلمات، وتدفق القصة لتناسب تلك الشخصية المظلمة، وكل ذلك مع الحفاظ على لغة إنجليزية طليقة وطبيعية. وهذا شيء لم تستطع طريقة "الطلب" القديمة القيام به بهذه السلاسة.

الاكتشاف الكبير: التحكم الخطي

أكثر النتائج إثارة هي أن هذا التوجيه يعمل خطياً.

التشبيه: فكر في مقبض التحكم في الصوت. إذا أدرته قليلاً، يصبح الصوت أعلى قليلاً. إذا أدرته تماماً، يصبح عالياً.
وجد المؤلفون أن "مقبض الشخصية" الخاص بهم يعمل بنفس الطريقة. إذا دفعوا الذكاء الاصطناعي بنسبة 10% نحو "الانفتاح"، فسيصبح أكثر انفتاحاً بنسبة 10%. وإذا دفعوه بنسبة 50%، فسيصبح أكثر انفتاحاً بنسبة 50%. إنه أمر قابل للتنبؤ به وموثوق.

العقبة: فجوة "الاثنين الكبيرين"

بينما يمكن توجيه الذكاء الاصطناعي ليكون "منفتحاً" أو "عصبياً"، وجدت الورقة شيئاً غريباً. في علم النفس البشري، عادة ما تسير بعض السمات معاً في أنماط محددة (مثل كيفية ارتباط "الاستقرار" و"اللدونة").

لم يتبع "دماغ" الذكاء الاصطناعي هذه الأنماط البشرية تماماً. فعندما جعلوا الذكاء الاصطناعي أكثر "انفتاحاً"، لم يقم تلقائياً بتعديل السمات الأخرى بالطريقة التي يفعلها البشر.
ما يعنيه هذا: لقد تعلم الذكاء الاصطناعي محاكاة الكلمات والسلوكيات البشرية، لكن "نفسيته" الداخلية لا تزال غريبة نوعاً ما. إنه محاكٍ بارع، لكنه ليس روحاً بشرية كاملة.

الملخص

هذه الورقة هي طفرة في التحكم في الذكاء الاصطناعي. إنها تنقلنا من "الأمل في أن يستمع الذكاء الاصطناعي لتعليماتنا" إلى "التوليف العلمي لدماغ الذكاء الاصطناعي" ليكون بالضبط من نريده أن يكون.

الطريقة القديمة: "من فضلك كن لطيفاً". (تعمل أحياناً، ولا تعمل أحياناً أخرى).
الطريقة الجديدة: "هذه هي المسافة الرياضية الدقيقة نحو 'اللطف'، وهذه هي القوة المثالية لتطبيقها". (تعمل في كل مرة تقريباً).

يفتح هذا الباب أمام إنشاء رفقاء ذكاء اصطناعي، أو معالجين نفسيين، أو شخصيات لعب أدوار يشعرون باتساق حقيقي ويتماشون بعمق مع شخصيات بشرية محددة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "التوجيه النفسي للنماذج اللغوية الكبيرة" (Psychological Steering of Large Language Models) من تأليف ليوناردو بلاس وآخرون.

1. بيان المشكلة

تُظهر النماذج اللغوية الكبيرة (LLMs) سلوكيات سمات شخصية بشرية متسقة مستمدة من بيانات التدريب الخاصة بها. وبينما يسعى الباحثون لتوجيه هذه النماذج نحو سمات نفسية محددة (مثل سمات الشخصية الخمس الكبرى - OCEAN)، تواجه الأساليب الحالية قيوداً كبيرة:

قيود التلقين (Prompting Limitations): رغم أن "تلقين الشخصية" (P2) يعد خط أساس قوياً، إلا أنه غالباً ما يعاني في التوليد مفتوح النهايات ويفتقر إلى التحكم الدقيق.
قيود هندسة التمثيل (RepE Limitations): أدت المحاولات السابقة لتوجيه النماذج عبر التدخلات على مستوى التنشيط (إضافة متجهات إلى تيار المتبقي/residual stream) إلى نتائج متضاربة، حيث زعمت بعض الدراسات أن التلقين يتفوق على هندسة التمثيل (RepE).
الفجوات المنهجية: تعاني طرق هندسة التمثيل (RepE) الحالية من مشكلتين حرجتين:
1. مساحات بحث غير معايرة: تقوم هذه الطرق بمسح قوة الحقن باستخدام وحدات اعتباطية (مثل المتجهات الوحدة)، مما يجعل من المستحيل العثور على الإعدادات المثلى إذا كانت تقع خارج النطاق المختبر (على سبيل المثال، إذا كانت تتطلب 10,000 وحدة).
2. مساحات بحث مقيدة: غالباً ما تختبر عدداً قليلاً من قيم القوة المنفصلة (مثل $[0.4, 0.5, \dots, 1.5]$ )، مما قد يؤدي إلى تفويت نقطة التدخل المثلى الحقيقية.
3. مشكلات الطلاقة: تؤدي التدخلات القوية غالباً إلى تدهور طلاقة النص، لكن الأساليب الحالية تفتقر إلى آليات قوية لتقييد ذلك.

2. المنهجية

يقترح المؤلفون إطار عمل للتوجيه النفسي يعالج هذه الفجوات من خلال ثلاثة مساهمات رئيسية:

أ. مقياس قوة مُعاير ومسحات غير محدودة

بدلاً من استخدام متجهات الوحدة الاعتباطية، عرّف المؤلفون قوة الحقن بـ وحدات المركز المعايرة دلالياً (semantically calibrated centroid units).

اشتقوا متجهات تيار المتبقي بناءً على المسافة بين مراكز مجموعات التنشيط التي تمثل المفهوم ونقيضه.
أجروا مسحات غير محدودة لمعامل الحقن ( $\alpha$ ).
التوقف المبكر: للحفاظ على الطلاقة، يتم إيقاف البحث تلقائياً إذا انخفض النص المولد عن عتبة الطلاقة (درجة $\ge 0.95$ باستخدام مصنف يعتمد على RoBERTa).
التقييم خفيف الوزن: لتجنب استدعاءات واجهة برمجة التطبيقات (API) المكلفة أثناء المسحات، قاموا بتدريب نماذج انحدار لوجستي خفيفة الوزن على تضمينات الجمل لتقدير وجود المفهوم، مع الاحتفاظ بالنماذج الرائدة (GPT-5.1) للتقييم المقارن النهائي فقط.

ب. اشتقاق متجهات التوجيه

تقارن الورقة بين ستة أنواع من متجهات حقن تيار المتبقي المشتقة من 1,000 جملة اصطناعية (500 للمفهوم، و500 للنقيض):

مجسات L1/L2: متجهات عمودية على حدود القرار لمصنفات الانحدار اللوجستي المنتظمة بـ L1/L2 (مع أو بدون تقاطع).
متجهات فرق المتوسط (Mean-Difference - MD):
- MDB: مشتقة من فرق مراكز تنشيطات الـ "prefill" لـ "نعم/لا" ( $h^b_\ell$ ).
- MDS: مشتقة من فرق مراكز تنشيطات العبارة الكاملة لـ "حدثني عن نفسك" ( $h^s_\ell$ ).

النتيجة الرئيسية: وجد المؤلفون أن تنشيطات $h^s_\ell$ (العبارات الكاملة) وفرت قدرة أفضل على الفصل وتأثيرات توجيه أقوى من تنشيطات $h^b_\ell$ (نعم/لا) للمهام مفتوحة النهايات. وبناءً عليه، أصبح MDS (فرق المتوسط على العبارات الكاملة) هو التركيز الأساسي.

ج. إطار التقييم

الأدوات: استخدموا استبيان IPIP-NEO-120 واختبارات الحكم الموقفي (SJTs) المصنعة لنموذج OCEAN (الانفتاح، اليقظة، الانبساط، المقبولية، العصابية).
النهج الهجين (PM): قدموا طريقة هجينة تجمع بين تلقين P2 وحقن MDS لاختبار ما إذا كان النموذجان يكملان بعضهما البعض.

3. النتائج الرئيسية

قيمت الدراسة 14 نموذجاً لغوياً كبيراً (تتراوح من 1 مليار إلى 32 مليار معلمة، بما في ذلك Llama-3، Gemma-3، Qwen3، وOlmo-3).

MDS مقابل التلقين (P2):
- تفوقت حقن MDS على خط الأساس المستقر P2 في 11 من أصل 14 نموذجاً في التوليد مفتوح النهايات (SJTs).
- تراوحت مكاسب الأداء بين 3.6% و16.4%.
- هذا ينقض التقارير السابقة (مثل Banayeeanzade et al.) التي زعمت أن التلقين يتفوق على حقن MD، مما يشير إلى أن الإخفاقات السابقة كانت بسبب مساحات بحث غير معايرة.
الأداء الهجين (PM):
- تفوقت الطريقة الهجينة (التلقين + MDS) على كلا منهما (P2 وMDS) في 13 من أصل 14 نموذجاً.
- تراوحت المكاسب عن P2 بين 5.6% و21.9%.
- تراوحت المكاسب عن MDS بين 3.3% و26.7%.
الخطية والتحكم:
- تباين تأثير التوجيه بشكل خطي تقريباً مع معامل الحقن $\alpha$ (96.15% من الاتجاهات سجلت $R^2 \ge 0.75$ ).
- يدعم هذا فرضية التمثيل الخطي، مؤكداً أن التحرك على طول اتجاه محدد في فضاء التمثيل يزيد بشكل موثوق من احتمالية التعبير عن المفهوم المقابل.
- ظلت الطلاقة عالية (تدهور ضئيل) ضمن نطاق $\alpha$ الأمثل.
تغاير السمات (Trait Covariance):
- بينما تُعرف سمات OCEAN بأنها غير متعامدة، فإن أنماط التغاير المستحثة من حقن MDS لم تتوافق مع نموذج "الثنائي الكبير" (Big Two) للاستقرار والمرونة. وهذا يشير إلى وجود فجوة بين التمثيلات الكامنة التي تتعلمها النماذج اللغوية الكبيرة والهياكل النفسية البشرية.

4. الأهمية والمساهمات

أفق جديد في هندسة التمثيل (RepE): ترسي الورقة مكانة هندسة التمثيل كأفق قابل للتطبيق ومتفوق للتوجيه النفسي مفتوح النهايات، بشرما تم معايرة مساحات البحث بشكل صحيح.
الدقة المنهجية: تقدم إطار عمل معيارياً لـ "المسحات غير المحدودة" باستخدام وحدات المركز، مما يحل مشكلة العثور على قوة الحقن المثلى التي تم إغفالها سابقاً.
الفائدة العملية: تسمح طريقة MDS بتوجيه مرن، مقيد بالطلاقة، لسمات متعددة متميزة داخل عملية توليد واحدة (مثل الانتقال من "الامتثال للمعايير الأنثوية" إلى "السادية" في منتصف النص)، وهي قدرة لا يستطيع التلقين تحقيقها.
رؤية في نفسية النموذج: تسلط الفجوة بين التغاير المستحث ونموذج "الثنائي الكبير" الضوء على اختلاف جوهري بين كيفية ترميز النماذج اللغوية الكبيرة للشخصية مقابل كيفية هيكلتها نفسياً لدى البشر.

5. الخاتمة

خلص المؤلفون إلى أنه مع المعايرة الصحيحة (وحدات المركز) والبحث غير المحدود، فإن حقن فرق المتوسط (MDS) هي أداة قوية لتوجيه النماذج اللغوية الكبيرة. وعند دمجها مع التلقين، فإنها توفر التحكم الأكثر قوة في السمات النفسية المتاحة حالياً، حيث تتفوق على التلقين وحده في غالبية النماذج المختبرة. يربط هذا العمل بين النظرية القياسية النفسية وهندسة التنشيط، مما يوفر "مفتاح تحكم" خطي تقريباً للتحكم في التعبير السلوكي في النماذج اللغوية الكبيرة.