ملخص تقني: Polylogue – استقصاء استدلال النماذج اللغوية الكبيرة من خلال منظور الشخصيات (Personas)

بيان المشكلة

سلطت التطورات الأخيرة في النماذج اللغوية الكبيرة (LLMs) الضوء على أهمية الاستدلال متعدد الخطوات، والذي يتجلى غالباً في شكل آثار "سلسلة الأفكام" (Chain-of-Thought - CoT). وبينما نجحت الأبحاث السابقة في تحديد "متجهات الشخصية" (persona vectors)—وهي اتجاهات خطية في فضاء التنشيط تقابل سمات سلوكية—واستخدامها كأدوات تحكم ثابتة لتوجيه السلوك، لا تزال هناك فجوة في فهم الديناميكيات الزمنية لهذه السمات أثناء عملية الاستدلال. فالطرق الحالية إما تحلل النص السطحي لآثار الاستدلال (والذي قد لا يعكس حسابياً بشكل سببي العمليات الداخلية) أو تعامل مجسات التنشيط كأدوات مراقبة ثابتة عند نقاط محددة. السؤال المركزي الذي تعالجه هذه الدراسة هو ما إذا كان التفاعل المتغير زمنياً لعدة شخصيات كامنة خلال توليد سلسلة أفكار واحدة (ما يسمى بـ "النقاش المتعدد" أو الـ polylogue) يمكن أن يعمل كآلية تنبؤية وقابلة للتنفيذ للتحكم في وقت الاستدلال.

المنهجية

1. إطار عمل الـ Polylogue

يعرف المؤلفون الـ polylogue بأنه السلسلة الزمنية لمحاذات التنشيطات الخفية للنموذج مع مجموعة من متجهات الشخصية المحددة مسبقاً طوال عملية التوليد. يعامل هذا النهج متجهات الشخصية ليس كأدوات توجيه ثابتة، بل كمجسات ديناميكية للمراقبة والتدخل مع تطور عملية الاستدلال.

2. اشتقاق شخصيات الاستدلال

بالاستناد إلى إطار شونفيلد (Schoenfeld, 1985) المعرفي لحل المشكلات الرياضية، قامت الدراسة بتحويل ثماني حلقات استدلال وظيفية إلى شخصيات متميزة:

• المفسر (Interpreter): فهم المشكلة.
• المحلل (Analyst): تحديد البنية والقيود.
• المخطط (Planner): وضع الخطوط العريضة الاستراتيجية.
• الحلال (Solver): تنفيذ الحسابات/المنطق.
• المستكشف (Explorer): توليد فرضيات بديلة.
• المتحقق (Verifier): فحص النتائج الوسيطة.
• المراقب (Monitor): تنظيم التقدم واكتشاف الارتباك.
• الحكم (Arbiter): الالتزام بالإجابة النهائية.

يتم استخراج هذه الشخصيات عبر فروق التنشيط التباينية. فلكل شخصية، يتم استخدام مطالبة (prompt) محفزة للسمة (مثل: "استجب كمنظم استراتيجي") ومطالبة مثبطة للسمة لتوليد مجموعات من الاستجابات. ويُعرف متجه الشخصية $v_l$ عند الطبقة $l$ بأنه الفرق بين متوسط تنشيطات التدفق المتبقي (residual stream) لظروف التحفيز ($Y^+$) والتثبيط ($Y^-$): $v_l = a_l(Y^+) - a_l(Y^-)$.

3. المراقبة والتوجيه

• المراقبة: عند كل خطوة توليد $t$، يتم إسقاط تنشيطات النموذج $a_t$ على متجهات الشخصية لحساب درجة المحاذاة $s_{k,t} = \langle v_k, a_t \rangle / \|v_k\|$. ينتج عن ذلك سلسلة زمنية متعددة المتغيرات تمثل الـ "polylogue".
• التوجيه: للتدخل، يتم إضافة متجه الشخصية إلى التدفق المتبقي عند كل خطوة: $\tilde{a}_l(t) = a_l(t) + \alpha v_l$. ويتم اختيار القوة $\alpha$ والطبقة المحددة تجريبياً لكل نموذج لتعظيم التعبير عن السمة مع الحفاظ على التماسك.

4. الإعداد التجريبي

تقيم الدراسة أربعة نماذج مفتوحة الأوزان (Qwen2.5-14B-Instruct, DeepSeek-R1-Distill-Qwen-14B, Phi-4-reasoning, Llama-3.1-Nemotron-Nano-8B-v1) على معيار MMLU-Pro. وتتم عملية التقييم حول ثلاثة محاور من "الأمانة" (faithfulness):

1. الأمانة الدلالية (Semantic Faithfulness): هل تتوافق المحاذاة الكامنة مع الشخصية المعبر عنها في النص السطحي؟
2. الأمانة الوظيفية (Functional Faithfulness): هل تتنبأ ميزات الـ polylogue بصحة الإجابة؟
3. الأمانة السببية (Causal Faithfulness): هل يمكن للتوجيه بناءً على هذه الميزات تحسين أداء النموذج؟

المساهمات الرئيسية

C1: تحليل أمانة الـ Polylogue

• دلالياً: تُظهر الدراسة أن التنشيطات الكامنة تحمل معلومات على مستوى الفقرة حول نمط الاستدلال النصي. وبينما يتفوق ترتيب الـ polylogue على خط الأساس العشوائي، إلا أنه يُظهر مكاسب محدودة مقارنة بخط الأساس القائم على التكرار، مما يشير إلى أن النص السطحي والحالات الكامنة لا يعكسان بعضهما البعض دائماً بشكل مثالي، وهو ما يتفق مع النتائج التي تشير إلى أن نص الـ CoT ليس دائماً مسؤولاً سببياً عن التنبؤات.
• وظيفياً: باستخدام انحدار لوجستي منظم بـ L1، يوضح المؤلفون أن ميزات الـ polylogue (باستخدام ثمانية اتجاهات قابلة للتفسير فقط) تتنبأ بالصحة بشكل تنافسي مع خطوط الأساس القائمة على التنشيط منخفضة الأبعاد (مثل حالات التنشيط المختزلة عبر PCA). والأهم من ذلك، أن المعاملات المتفرقة تكشف عن أنماط قابلة للتفسير: بالنسبة لنماذج الاستدلال، فإن الحالة عند الخطوة النهائية (مثل نشاط "المراقب") تتنبأ بالصقية بشكل كبير. فعلى سبيل المثال، يرتبط ارتفاع تنشيط "المراقب" في نهاية المسار بالإجابات غير الصحيحة، مما يشير إلى أن النموذج لا يزال في حالة عدم يقين.
• سببياً: تترجم الدراسة الميزات التنبؤية إلى استراتيجية توجيه مشروطة بالفقرة. ومن خلال تضخيم أو كبح متجهات شخصية محددة في فترات فقرات معينة (بناءً على إشارة معاملات الانحدار)، يتدخل المؤلفون في عملية الاستدلال.

C2: التوجيه الديناميكي للفقرات

يطبق المؤلفون تدخلاً بسيطاً حيث يتم توجيه النموذج نحو شخصيات محددة في مراحل معينة من الاستجابة.

• النتائج: أدت هذه الطريقة إلى تحسين الدقة في ثلاثة من النماذج الأربعة المختبرة (Qwen, DeepSeek, Llama-Nemotron).
• الاستثناء: أظهر نموذج Phi-4-reasoning تدهوراً ملحو-ظوراً في الأداء، وهو ما يعزوه المؤلفون إلى احتمالية وجود عدم خطية في الفضاء الكامن الخاص به أو تأثيرات خاصة بالنموذج.

النتائج والأهمية

تضع الورقة البحثية الـ polylogue كـ أداة قابلة للتفسير لمراقبة وتدخل وقت الاستدلال.

• القدرة التنبؤية: تلتقط ميزات الـ polylog إشارات جوهرية ذات صلة بالصحة، مما يضاهي أو يتجاوز خطوط الأساس القائمة على الإسقاط العشوائي، ويقترب من أداء خطوط الأساس الكاملة للتنشيط، رغم استخدامها لمجموعة ميزات مضغوطة للغاية وقابلة للتفسير.
• القابلية للتنفيذ: تقدم الدراسة دليلاً ملموساً على إمكانية تحديد وتعديل أهداف التوجيه الكامنة في مراحل مختلفة من الاستجابة. ويشير نجاح التوجيه المشروط بالفقرة إلى أن "التوجيه الكامن المدرك للمرحلة" هو اتجاه واعد للتحكم في سلوك النماذج.
• القصور والتواضع: يقر المؤلفون بأن القواعد الثابتة على مستوى الفقرة ليست كافية للتحكم القوي عبر جميع النماذج (كما ظهر في فشل Phi-4). وهم لا يدعون أن النموذج يجسد وكلاء (agents) منفصلين، بل أن الـ polylogue هو مصطلح وصفي للتفاعل المتغير زمنياً للمكونات الكامنة.

الأهمية:
يجسر هذا العمل الفجوة بين تحليل الاستدلال على المستوى السطحي وبين سبر أغوار الفضاء الكامن. ومن خلال معاملة متجهات الشخصية كإشارات ديناميكية بدلاً من مقابض ثابتة، تقدم الورقة طريقة لـ "قراءة" و"توجيه" الأنماط الوظيفية الداخلية للنماذج اللغوية الكبيرة أثناء استدلالها. وهذا يشير إلى مسار نحو أنظمة استدلال أكثر شفافية وقابلية للتحكم، متجاوزة التوجيه السلوكي الثابت نحو التدخل الديناميكي المدرك للمرحلة.