🤖 machine learning

Where Paths Split: Localized, Calibrated Control of Moral Reasoning in Large Language Models

تقدم هذه الورقة طريقة تسمى التوجيه التقاربي-التباعدي (Convergent-Divergent Routing) مقترنة بمعايرة اللوجيت المزدوجة (Dual Logit Calibration) لتحقيق تحكم دقيق وقابل للتفسير في الاستدلال الأخلاقي للنماذج اللغوية الكبيرة عبر توجيهها نحو أطر أخلاقية محددة مثل النفعية أو الواجبية مع الحفاظ على قدراتها العامة.

المؤلفون الأصليون: Chenchen Yuan, Zheyu Zhang, Gjergji Kasneci

نُشر 2026-05-06

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Chenchen Yuan, Zheyu Zhang, Gjergji Kasneci

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل نموذج لغة ضخم (LLM) كأنه محطة قطارات ضخمة ومزدحمة. داخل هذه المحطة، تتحرك آلاف القطارات (مسارات البيانات) باستمرار، حاملةً المعلومات لاتخاذ القرار بشأن ما سيقوله الذكاء الاصطناعي تالياً. عادةً ما تندمج هذه القطارات وتنفصل بطرق معقدة، ويكون "البوصلة الأخلاقية" للذكاء الاصطناعي مجرد مزيج ضبابي من كل الآراء المختلفة التي قرأها من قبل.

أحياناً، نريد من الذكاء الاصطناعي أن يتصرف كاتبٍ صارم للقواعد (Deontology)، وفي أحيان أخرى، نريده أن يتصرف كآلة حاسبة لـ "أكبر قدر من الخير لأكبر عدد من الناس" (Utilitarianism). المشكلة هي أن الأساليب الحالية لتغيير عقل الذكاء الاصطناعي تشبه الصراخ بالتعليمات عبر مكبر صوت، أو محاولة توجيه محطة القطارات بأكملة باستخدام رافعة ضخمة وغير دقيقة؛ فهي تفتقر للدقة، وغالباً ما تُعطل أشياء أخرى، ولا يمكنك حقاً معرفة مدى استجابة الذكاء الاصطناعي لها.

تقدم هذه الورقة البحثية طريقة جراحية جديدة لتوجيه التفكير الأخلاقي للذكاء الاصطناعي تسمى التوجيه التقاربي-التباعدي (Convergent-Divergent Routing - CDR). وإليك كيف تعمل، مقسمة إلى خطوات بسيطة:

1. إيجاد "نقاط التحول" (نقاط التفرع)

اكتشف الباحثون أنه داخل دماغ الذكاء الاصطناعي، توجد نقاط محددة حيث تسير مسارات قطارات "إتبع القواعد" ومسارات قطارات "الحاسبة" جنباً إلى جنب لفترة، ثم تنفصل عن بعضها البعض.

التشبيه: تخيل طريقاً سريعاً حيث تشترك السيارات المتجهة إلى "نيويورك" والسيارات المتجهة إلى "بوسطن" في نفس المسارات لفترة، ثم تصل إلى مخرج محدد حيث ينقسم الطريق.
الابتكار: بدلاً من محاولة توجيه الطريق السريع بأكمله، وجد الباحثون نقاط الانفصال هذه بالضبط داخل طبقات الذكاء الاصطناعي، ويسمونها "نقاط التفرع" (Branch Points).

2. استراتيجية "حارس البوابة" (التحكم الثنائي)

بمجرد العثور على الانفصال، قاموا بتركيب بوابة بسيطة.

التشبيه: إذا كنت تريد من الذكاء الاصطناعي أن يكون "إتبع القواعد"، فهم ببساطة يغلقون البوابة أمام طريق "الحاسبة" عند نقطة الانفصال. تستمر قطارات "إتبع القواعد" في المضي قدماً، لكن قطارات "الحاسبة" تُمنع من دخول هذا الجزء المحدد من المسار.
النتيجة: كان هذا وحده فعالاً بشكل مدهش. فمن خلال مجرد حظر المسار غير المرغوب فيه، بدأ الذكاء الاصطناعي يفكر بشكل طبيعي وفق الإطار الأخلاقي المطلوب، دون الحاجة لإعادة تدريب النموذج بالكامل.

3. "مقبض الضبط الدقيق" (معايرة اللوجيت المزدوجة)

حظر الطريق أمر جيد للاختيارات البسيطة مثل "نعم/لا"، ولكن ماذا لو أردت أن يكون الذكاء الاصطناعي بنسبة 70% "إتبع القواعد" و30% "حاسبة"؟

التشبيه: تخيل أن أفكار الذكاء الاصطناعي هي مزيج من لونين من الطلاء: الأزرق (القواعد) والأصفر (النتائج).
- الأساليب السابقة حاولت إضافة دلو ضخم من الطلاء الأزرق، مما أدى غالباً إلى تحويل الخليط بأكمله إلى لون طيني غير متوقع.
- تستخدم هذه الورقة مقبض خلط دقيق. لقد حددوا اتجاهين محددين (مثل مقبضين منفصلين) في دماغ الذكاء الاصطناعي يتحكمان في كميات الأزرق والأصفر.
- يستخدمون صيغة رياضية (تسمى معايرة اللوجيت المزدوجة - Dual Logit Calibration) لتدوير هذه المقابض بقدر كافٍ فقط بحيث يتطابق اللون النهائي تماماً مع ما طلبه المستخدم (على سبيل المثال، 70% أزرق و30% أصفر).

4. لماذا هذا أفضل؟

الدقة: إنه يشبه استخدام المشرط بدلاً من المطرقة الثقيلة. هم يلمسون فقط الأسلاك المحددة حيث يتم اتخاذ القرار الأخلاقي، مما يترك بقية دماغ الذكاء الاصطناعي (قدرته على الرياضيات، كتابة الشعر، أو الإجابة على الأسئلة العامة) دون أي مساس.
القدرة على التنبؤ: مع الأساليب القديمة، قد يؤدي تدوير "المقبض" إلى جعل الذكاء الاصطناعي يفقد صوابه أو يتوقف عن العمل. أما مع هذه الطريقة، فإذا طلبت 50% من أسلوب معين، ستحصل على 50% بالضبط. إنه تحكم موثوق ومعاير.
لا حاجة لإعادة التدريب: لا يحتاجون لتعليم الذكاء الاصطناي أشياء جديدة، بل يقومون فقط بتعديل التروس الداخلية أثناء تشغيل الذكاء الاصطناعي.

الخلاصة

اختبر الباحثون هذه الطريقة على معضلات أخلاقية واقعية (مثل "معضلة العربة" الشهيرة أو الاختيارات الأخلاقية اليومية). وجدوا أن طريقتهم يمكن أن تجعل الذكاء الاصطناعي يجادل بموثوقية من منظور صارم قائم على القواعد أو من منظور قائم على النتائج، بل ويمكنها مزجهم بأي نسبة يريدها المستخدم. والأهم من ذلك، لم يفقد الذكاء الاصطناعي قدرته على أداء المهام الأخرى؛ بل أصبح ببساطة بارعاً في تبديل "شخصيته" الأخلاقية عند الطلب.

باختصار: لقد وجدوا المفتاح الدقيق في دماغ الذكاء الاصطناعي حيث تتباين الفلسفات الأخلاقية، وبنوا جهاز تحكم عن بعد دقيق لتوجيه الذكاء الاصطناعي نحو الرؤية الأخلاقية المحددة التي تريدها، دون كسر أي شيء آخر.

ملخص تقني: حيث تنقسم المسارات: التحكم الموضعي والمعاير للاستدلال الأخلاقي في النماذج اللغوية الكبيرة

بيان المشكلة

مع انتقال النماذج اللغوية الكبيرة (LLMs) من مجرد روبوتات دردشة سلبية إلى وكلاء فاعلين ومحاكيات اجتماعية، تطور الطلب على التحكم في سلوكها الأخلاقي. تفتقر الأساليب الحالية لتوجيه سلوك النموذج، مثل هندسة الأوامر (prompt engineering) أو إضافة متجهات توجيه قياسية، إلى القابلية للتفسير وضمانات المعايرة. وتحديداً، يظل النطاق الفعال لمعاملات التوجيه غير واضح، كما أن درجة الالتزام بمنظور أخلاقي مستهدف تكون غير متوقعة. يجادل المؤلفون بأن التوجيه الأخلاقي الفعال يتطلب تدخلات تكون موضعية (تعديل فقط حيث تتنافس الأطر الأخلاقية داخل الشبكة) ومعايرة (إنتاج تأثيرات يمكن التنبؤ بها عبر أوزان تفضيل محدودة). يركز البحث على الزوج النموذجي للأطر الأخلاقية: الواجب الأخلاقي (Deontology) (الواجبات القائمة على القواعد) والنفعية (Utilitarianism) (النتائج القائمة على العواقب)، والتي غالباً ما تؤدي إلى توصيات متضاربة في المعضلات الأخلاقية.

المنهجية

يعمل النهج المقترح، التوجيه التقاربي-التباعدي (CDR)، أثناء وقت الاستدلال دون الحاجة لضبط دقيق للنموذج (fine-tuning). ويتكون من مرحلتين رئيسيتين:

1. التوجيه التقاربي-التباعدي (CDR) والتحكم الثنائي

الفرضية الجوهرية هي أن الأطر الأخلاقية تتنافس عند "نقاط تفرع" محددة داخل كتل المحولات (transformer blocks) حيث تتقارب المسارات ثم تتباعد.

تحديد نقاط التفرع: تحدد الطريقة الطبقات التي تتشارك فيها رؤوس الانتباه (attention heads) عبر أطر أخلاقية مختلفة (التقارب)، ولكن وحدات الشبكة الأمامية (FFN) اللاحقة تتباعد.
- رؤوس الانتباه: يتم تدريب مجسات خطية (linear probes) على تمثيلات رؤوس الانتباه للتنبؤ بتسميات الأطر الأخلاقية. الرؤوس ذات الأداء التنبؤي العالي تُحدد كعناصر ذات صلة.
- متجهات الشبكة الأمامية (FFN): يحدد المؤلفون متجهات الـ FFN (أعمدة مصفوفة الإسقاط العلوي) التي تتوافق مع اتجاهات أخلاقية محددة مشتقة من الكلمات الدلالية (مثل "deontology").
آلية البوابة (Gating Mechanism): عند نقاط التفرع المحددة، تقوم الطريقة ببوابات (حجب) التدفق من رؤوس الانتباه المشتركة إلى وحدات الـ FFN غير المستهدفة. هذا يمنع انتشار الإشارات من الرؤوس المشتركة إلى الوحدات اللاحقة للإطار الأخلاقي غير النشط، مع ترك الحسابات العلوية سليمة.
التحكم الثنائي: يعمل هذا الحجب بمفرده كمفتاح ثنائي، مما يعزز بشكل كبير الاستدلال في الإطار المستهدف دون الحاجة لأوامر صريحة، مما يؤدي فعلياً إلى استقطاب مخرجات النموذج.

2. التحكم الدقيق عبر المعايرة المزدوجة للوجيت (Dual Logit Calibration)

لتحقيق تحكم مستمر ومعاير بدلاً من مجرد التبديل الثنائي، قدم المؤلفون عملية من مرحلتين:

استخراج الاتجاهات المزدوجة: باستخدام التدفقات المتبقية (residual streams) التي يتم الحصول عليها تحت التحكم الثنائي (حيث يتم كبت أحد الأطر)، يطبق المؤلفون تقنية الأنماط المكانية المشتركة (CSP)، وهي تقنية مقتبسة من معالجة إشارات تخطيط كهربائية الدماغ (EEG). تعزل تقنية CSP الاتجاهات المميزة ( $u^{(l)}$ للنفعية و $d^{(l)}$ للواجب الأخلاقي) لكل طبقة من نقاط التفرع، وذلك عبر تعظيم نسبة التباين بين الفئتين مع كبت التباين المشترك.
المعايرة المزدوجة للوجيت (DLC): هذه عملية تحديث مغلقة، تعتمد على الحد الأدنى من معيار $\ell_2$ $ℓ_{2}$ ، تُطبق على التدفق المتبقي عند خطوات فك التشفيد.
- تحدد الطريقة لوجيتات اتجاهية بناءً على إسقاط التدفق المتبقي على الاتجاهات المستخرجة.
- تقوم بحل مسألة تحسين لإيجاد التحديث $\Delta h^{(l)}_t$ الذي يقلل من معيار التعديل مع فرض أن الإسقاطات الاتجاهية الناتجة تتوافق مع أوزان التفضيل المحددة من قبل المستخدم $(\alpha_U, \alpha_D)$ ، حيث $\alpha_U + \alpha_D = 1$ .
- هذا يستبدل المعامل القياسي غير المحدود المستخدم في طرق التوجيه السابقة بمعاملات تفضيل محدودة على (1-simplex)، مما يضمن القابلية للتفسير والقدرة على التنبؤ.

المساهمات الرئيسية

التدخل الموضعي: يقدم البحث نهجاً آلياً للتوجيه الأخلاقي يستهدف "نقاط التفرع" (رؤوس الانتباه المشتركة التي تتباعد في وحدات FFN متميزة) بدلاً من تطبيق متجهات إضافة عالمية.
التحكم المعاير: من خلال تكييف تقنية CSP وتقديم المعايرة المزدوجة للوجيت، تمكن الطريقة من التحكم الدقيق حيث يمكن ضبط الميل الأخلاقي للنموذج باستمرار ليتوافق مع أوزان التفضيل المحددة $(\alpha_U, \alpha_D)$ .
القابلية للتفسير: توفر الطريقة آلية واضحة لكيفية التلاعب بالاستدلال الأخلاقي، وتتبع التنافس بين الأطر وصولاً إلى مكونات معمارية محددة.
الحفاظ على القدرات العامة: يضمن الطبيعة الموضعية للتعديلات الحفاظ على قدرات اللغة العامة (مثل المعلومات العامة، الرياضيات، الترجمة) بشكل كبير، على عكس بعض طرق التوجيه العالمية التي تضعف الأداء.

النتائج التجريبية

تم تقييم الطريقة على معضلات أخلاقية من الحياة الواقعية (مجموعة بيانات AITA) باستخدام نماذج LLaMA-2-7B-Chat، و Vicuna-7B-v1.5، و Yi-1.5-6B-Chat.

التحكم الثنائي: نجحت الطريقة في استقطاب سلوك النموذج نحو الإطار المستهدف. على سبيل المثال، في نموذج LLaMA، أدى ضبط $\alpha_U=1$ (نفعية بحتة) إلى زيادة معدل المخرجات النفعية من خط الأساس البالغ ~62% إلى ~84%، بينما أدى ضبط $\alpha_U=0$ إلى انخفاضه إلى ~20%.
المعايرة الدقيقة: أظهرت الطريقة علاقة شبه رتيبة بين وزن التفضيل المدخل $\alpha_U$ والميل النفعي الملحوظ ( $U_{op}$ ). كان متوسط الخطأ المطلق (MAE) بين المعدلات المستهدفة والملاحظة أقل بكثير من النماذج المرجعية (الأمر فقط، توجيه رأس Top-K، وتوجيه نسبة ما بعد FFN في أفضل الطبقات)، مع انحرافات تقع عادةً ضمن 5 نقاط مئوية.
دراسات الاستئصال (Ablation Studies):
- استبدال CSP بطرق أخرى لاستخراج الاتجاه (مثل cPCA أو PLS-DA) أدى إلى أخطاء معايرة أعلى.
- إزالة آلية البوابة (Blocking) قللت بشكل كبير من قدرة النموذج على التمييز بين الأوزان التفضيلية العالية والمنخفضة، خاصة في نموذج Vicuna.
- التوجيه في طبقات مفردة (بدون منطق نقاط التفرع الكامل) كان أقل فعالية من مسار CDR الكامل.
القدرات العامة: أظهر التقييم في مهام GSM8K و TriviaQA والترجمة تدهوراً طفيفاً جداً في القدرات العامة عبر معظم الإعدادات، مع انخفاضات طفيفة فقط عند الأوزان المتطرفة لنماذج معينة.
التقييم البشري: أكد المقيمون البشريون أن تبريرات النموذج تتوافق باستمرار مع الإطار الأخلاقي المذكور (دقة 0.81 لـ LLaMA و 0.85 لـ Vicuna).

الأهمية والادعاءات

يدعي المؤلفون أن عملهم يوفر آلية موثوقة، وقابلة للتفسير، ومعايرة لتوجيه النماذج اللغوية الكبيرة نحو أطر أخلاقية محددة أثناء الاستدلال. تكمن الأهمية في:

الانتقال من التوجيه "الصندوق الأسود" لمتجهات التوجيه إلى فهم آلي لمكان وكيفية معالجة الاستدلال الأخلاقي داخل المحولات.
تقديم تحكم معاير حيث يكون درجة المحاذاة الأخلاقية قابلة للتنبؤ ومحدودة، مما يعالج عدم اليقين المرتبط بالمعاملات القياسية في الأعمال السابقة.
إثبات أن التعديلات الموضعية يمكن أن تغير مواقف الاستدلال عالية المستوى دون التأثير بشكل واسع على الذكاء العام للنموذج.

يخلص البحث إلى أنه بينما ينصب التركيز الحالي على المحور الثنائي (الواجب الأخلاقي مقابل النفعية)، فإن إطار العمل الخاص بـ "التوجيه التقاربي-التباعدي" يفتح الطريق أمام العمل المستقبلي لاستكشاف أنظمة قيم أكثر تعددية وأطياف أخلاقية أكثر تعقيداً. ويشدد المؤلفون على أهمية الاستخدام المسؤول والشفافية، مشيرين إلى أن القدرة على توجيه المواقف الأخلاقية تحمل مخاطر التلاعب في التطبيقات عالية الخطورة.