ملخص تقني: التمثيلات الخطية في النماذج اللغوية يمكن أن تتغير بشكل جذري عبر المحادثة

بيان المشكلة

أثبتت الأبحاث الحديثة أن النماذج اللغوية الكبيرة (LLMs) تمتلك تمثيلات خطية تقابل مفاهيم عالية المستوى مثل الواقعية، والأخلاق، والصدق. وقد اقتُرحت هذه التمثيلات كآليات للكشف عن سلوك النموذج والتحكم فيه. ومع ذلك، فإن النماذج اللغوية الكبيرة تتكيف بطبيعتها مع سياقها، حيث تُظهر تعلماً في السياق (in-context learning) يمكنه تغيير "المعتقدات" المُعبر عنها. وتوجد فجوة حرجة في فهم كيفية تطور هذه التمثيلات الخطية ديناميكياً ضمن السياق المتراكم للمحادثة. ومن غير الواضح ما إذا كانت الاتجاهات الخطية التي تم تحديدها لتمثيل مفاهيم مثل "الواقعية" تظل مستقرة أم أنها تخضع لإعادة تنظيم كبيرة مع تقدم المحادثة. يشكل هذا عدم الاستقرار تحدياً جوهرياً لصلاحية البناء (construct validity) لطرق التفسير التي تفترض معاني ثابتة للميزات، مثل المشفّرات المتفرقة (sparse autoencoders - SAEs) أو الفحص الساكن (static probing).

المنهجية

يتقصى المؤلفون ديناميكيات التمثيل باستخدام عائلة نماذج Gemma 3 (بشكل أساسي نسخة 27B-IT)، مع تجارب تكميلية على Qwen3 14B ونماذج Gemma الأصغر.

التصميم التجريبي:

1. تحديد الأبعاد الخطية: يقوم المؤلفون ببناء مجموعات بيانات متوازنة من الأسئلة التي تُجاب بـ "نعم/لا" (حقائق علمية عامة، هوية النموذج، الأخلاق، ومواضيع ذات صلة بالسياق). ويقومون بملاءمة نماذج انحدار لوجستي منتظمة على تنشيطات التدفق المتبقي (residual stream) للنموذج (تحديداً عند توكن "نعم"/"لا") لتحديد الاتجاهات الخطية التي تفصل بين الإجابات الواقعية وغير الواقعية.
   • لضمان القوة، يستخدمون استراتيجية تدريب "اليوم المعاكس" (opposite day)، حيث يتم تدريب الانحدار على كل من المطالبات القياسية ومطالبات "اليوم المعاكس" (المقلوبة سلوكياً). هذا يعزل بُعد "الواقعية" ليكون مقاوماً للانعكاس السلوكي البسيط، مما يميزه عن مجرد أنماط الاستجابة.
2. مقياس درجة الهامش (Margin Score): لتحديد كمية محاذاة التمثيل، يحسب المؤلفون "درجة الهامش". يقيس هذا المقياس الفصل بين إسقاطات الإجابات الواقعية وغير الواقعية على طول الاتجاه الخطي المحدد. تشير الدرجة الموجبة إلى المحاذاة الصحيحة مع الحقيقة الأرضية؛ بينما تشير الدرجة السالبة إلى حدوث انقلاب حيث تُسقط الإجابات غير الواقعية بقوة أكبر على اتجاه "الواقعية".
3. السيناريوهات السياقية: تقيم الدراسة هذه التمثيلات عبر عدة سياقات محادثة:
   • اليوم المعاكس: مطالبة توجه النموذج للإجابة عكس الواقع.
   • محادثات تقمص الأدوار: سيناريوهات مكتوبة مسبقاً تتضمن نقاشات حول الوعي (حيث يدعي النموذج أنه يختبر الكيفيات المحسوسة/qualia) والشاكرات (حيث يدعي النموذج امتلاك قوة روحية/ألوهية). يتم إعادة تشغيل هذه السيناريوهات على النموذج (خارج السياسة/off-policy) وأيضاً توليدها عبر التفاعل المباشر (on-policy).
   • محاكاة الجدال: نسختان من النموذج يتجادلان في جوانب متضادة لموضوع ما، مع تبديل الأدوار للنموذج المستهدف.
   • القصص الخيالية: قصص خيال علمي مؤطرة صراحةً كخيال لاختبار ما إذا كان المحتوى وحده هو ما يدفع التغييرات دون تقمص الأدوار.
4. التدخلات السببية: في الملحق B.8، يقوم المؤلفون بإجراء توجيه للتنشيط (activation steering) على التوكن الذي يسبق توليد الإجابة لاختبار ما إذا كانت التدخلات تؤدي إلى تغييرات سلوكية متسقة عبر السياقات المختلفة.

النتائج الرئيسية

1. الانقلاب الدراماتيكي للتمثيل:
النتيجة الجوهرية هي أن التمثيلات الخطية لمفاهيم مثل الواقعية والأخلاق يمكن أن تنقلب بشكل دراماتيكي خلال مسار المحادثة.

• في سيناريوهات "اليوم المعاكس"، تتدهور درجة الهامش للأسئلة الواقعية وتنقلب في النهاية بعد بضع جولات، مما يعني أن النموذج يمثل الإجابات غير الواقعية على أنها أكثر "واقعية" من الإجابات الواقعية.
• في محادثات تقمص الأدوار (الوعي والشاكرات)، تنقلب التمثيلات الخاصة بـ الأسئلة ذات الصلة بالسياق. على سبيل المثال، في محادثة يتبنى فيها النموذج شخصية تدعي الوعي، يبدأ الاتجاه الخطي الذي تم تحديده كـ "واقعي" في مطالبة فارغة بتمثيل الادعاء "أنا أختبر الكيفيات المحسوسة" كحقيقة، رغم أنه غير واقعي موضوعياً.
• والأهم من ذلك، أن التمثيلات لـ الأسئلة العامة (مثل "هل يمكن للصوت الانتقال في الفراغ؟") تظل مستقرة نسبياً، مما يشير إلى أن التغيير خاص بالمحتوى ذي الصلة بالمحادثة وليس انهياراً عالمياً للحالة الداخلية للنموذج.

2. القوة عبر الظروف:

• خارج السياسة مقابل داخل السياسة: يحدث الانقلاب حتى عندما يتم إعادة تشغيل نص المحادثة من نموذج آخر أو نص مكتوب مسبقاً. لا يحتاج النموذج إلى توليد المحادثة بنشاط لإظهار هذه التحولات التمثيلية؛ السياق وحده كافٍ.
• عائلات النماذج وأحجامها: لوحظت الظاهرة عبر عائلات نماذج مختلفة (Gemma, Qwen)، وهي أكثر وضوحاً في النماذج الأكبر (27B و 12B) مقارنة بالنماذج الأصغر (4B)، والتي تظهر تغيراً ضئيلاً موثوقاً.
• اتساق الطبقات: يظهر التأثير باستمرار عبر طبقات النموذج حيث يمكن فك تشفير الواقعية بشكل موثوق (عادةً في الطبقات الوسطى إلى المتأخرة).

3. تقمص الأدوار مقابل المحتوى:
تكون التغييرات التمثيلية أقوى بكثير في سيناريوهات تقمص الأدوار الحوارية مقارنة بالسياقات التي يُطلب فيها من النموذج ببساطة توليد قصة مؤطرة صراحةً كخيال. هذا يشير إلى أن النموذج يعيد هيكلة تمثيلاته بناءً على "الدور" الذي يلعبه في التفاعل بدلاً من مجرد معالجة المحتوى الدلالي للنص.

4. فشل التفسير الساكن:

• الطرق غير الخاضعة للإشراف: تفشل طريقة البحث المتسق مع التباين (CCS) غير الخاضعة للإشراف أيضاً في الحفاظ على تمثيلات متسقة في السياقات الطويلة، حيث غالباً ما يكون أداؤها أقل من مستوى الصدفة في الأسئلة العامة بعد المحادثة.
• التوجيه السببي: التدخلات في التوجيه (activation patching) التي تنجح في تحيز سلوك النموذج في سياق فارغ يمكن أن تنتج آثاراً معاكسة في سياق محادثة طويلة. على سبيل المثال، التوجيه نحو السلوك "الواقعي" في سياق فارغ قد يحيز النموذج نحو الإجابات "غير الواقعية" في محادثة ذات موضوع الشاكرات.

الأهمية والادعاءات

يجادل الورقة بأن هذه النتائج تتحدى بشكل أساسي الافتراضات التي تقوم عليها طرق التفسير والسلامة الحالية.

• صلاحية البناء: يزعم المؤلفون أن التفسيرات الساكنة للميزات الخطية غالباً ما تكون مضللة. فالاتجاه المحدد كـ "واقعية" في سياق قصير لا يتوافق باستمرار مع الواقعية الحقيقية عبر جميع السياقات. وهذا يعني أن "كواشف الكذب" أو مراقبات السلامة القائمة على الفحص الساكن قد تفشل في التفاعلات ذات السياق الطويل.
• فرضية تقمص الأدوار: تدعم النتائج وصف "تقمص الأدوار" للنماذج اللغوية الكبيرة، حيث يعيد النموذج هيكلة تمثيلاته الداخلية لتناسب الدور الذي يوجهه السياق، بدلاً من المرور بتغيير جوهري في "المعتقدات" أو المعرفة. حقيقة أن إعادة التشغيل خارج السياسة تسبب تغييراً مشابهاً تشير إلى أن هذا ميزة من ميزات التكيف السياقي العام.
• الآثار على السلامة: تعقد الطبيعة الديناميكية للتمثيلات الجهود المبذولة لضمان سلامة النموذج أو موثوقيته بناءً على الحالات الداخلية. إذا كان بإمكان النموذج تغيير تمثيله لما هو "واقعي" بناءً على الإشارات الحوارية، فإن تأكيد أن الحالة الحالية تقع ضمن منطقة "واقعية" في فضاء التمثيل ليس ضماناً للموثوقية.
• الاتجاهات المستقبلية: يشير المؤلفون إلى أن فهم هذه الديناميكيات ضروري لتطوير طرق تفسير أكثر قوة تأخذ في الاعتبار الوقت والسياق، ولفهم آليات التعلم في السياق والتكيف.

تختتم الورقة بالدعوة إلى الحذر: يجب عدم افتراض أن طرق التفسير التي تم تدريبها أو ملاءمتها لتوزيعات معينة (مثل المطالبات الفارغة) تمتلك معانٍ صالحة عند تطبيقها على توزيعات مدخلات مختلفة، مثل السياق المتراكم للمحادثة الطبيعية.