ملخص تقني: التوجيه الفيزيائي السببي في نماذج عالم الفيديو عبر ناقلات تنشيط المفاهيم

بيان المشكلة

تفتقر نماذج عالم الفيديو (Video world models)، التي تتعلم تمثيلات الديناميكيات الفيزيائية لمهام مثل التعلم المعزز القائم على النموذج والقيادة الذاتية، حاليًا إلى آليات للتحكم في توقعاتها الفيزيائية وقت الاستدلال. وبينما حددت أبحاث التفسير الحديثة وجود منطقة بروز فيزيائي (Physics Emergence Zone - PEZ) ضمن طبقات المحول (Transformer) الوسطى في نموذج VideoMAE — حيث يتم تمثيل المعقولية الفيزيائية بشكل منفصل عن الميزات البصرية الأخرى — ظل من غير الواضح ما إذا كان يمكن التلاعب بهذا الهيكل مباشرة لتغيير استدلال النموذج. تعتمد طرق التوليد القابلة للتحكم الحالية (مثل ControlNet) على التكييف أثناء وقت التدريب أو المهايئات اللاحقة (post-hoc adapters) التي تتطلب تحسينًا قائمًا على التدرج (gradient-based optimization) وإشرافًا مقترنًا، مما يفشل في معالجة السؤال الجوهري حول مكان وكيفية تمثيل المعرفة الفيزيائية داخليًا وما إذا كان يمكن التدخل فيها مباشرة دون إعادة تدريب.

المنهجية

يقترح المؤلفون التوجيه الفيزيائي (physics steering)، وهو طريقة تدخل وقت الاستدلال خالية من التدريب، تستخدم ناقلات تنشيط المفاهيم (Concept Activation Vectors - CAVs) للتلاعب بالاستدلال الفيزيائي.

1. تحديد منطقة البروز الفيزيائي (PEZ):
   بناءً على عمل سابق، قام المؤلفون بتدريب مجسات انحدار لوجستي خطي (linear logistic regression probes) عند كل طبقة من طبقات نموذج VideoMAE المدرب مسبقًا للتنبؤ بالمعقولية الفيزيائية (ممكن مقابل مستحيل). وقد حددوا الـ PEZ ككتلة من الطبقات (تحديدًا الطبقات 0-5، وتصل ذروتها عند الطبقة 5) حيث تكون دقة المجس قريبة من الذروة.

2. استخراج ناقلات تنشيط المفاهيم (CAV Extraction):
   لكل طبقة داخل الـ PEZ، يتم استخراج متجه الوزن ($w_l$) للمجس الخطي المدرب وتطبيعه لتشكيل ناقل تنشيط المفهوم الفيزيائي ($v_l$). يحدد هذا المتجه اتجاهًا في فضاء التمثيل مرتبطًا بالسيناريوهات "المستحيلة فيزيائيًا". وللتعامل مع الحالات التي يكون فيها عدد عينات التدريب أصغر من أبعاد الميزة، طبق المؤلفون تحليل المكونات الرئيسية (PCA) وفحص قلب الاتجاه لضمان محاذاة المتجه بشكل صحيح مع المفهوم.

3. التدخل وقت الاستدلال:
   أثناء الاستدلال، تعدل الطريقة الحالات الخفية لرموز الرقع (patch tokens) عند طبقة مستهدفة $l^*$ عن طريق إضافة نسخة مُدرجة (scaled) من الـ CAV:
   $$\tilde{H}_{l^*}(x)_i = H_{l^*}(x)_i + \alpha \cdot v_{l^*}$$
   حيث $\alpha$ هو معامل قوة التوجيه.

• $\alpha > 0$: يحرك التمثيل نحو "المستحيل فيزيائيًا".
• $\alpha < 0$: يحرك التمثيل نحو "الممكن فيزيائيًا".
• $\alpha = 0$: الحالة المرجعية (بدون تغيير).

يتم تطبيق التدخل على الحالات الخفية للمشفر (encoder)؛ وبما أن VideoMAE هو مشفر، فإن الطريقة تغير التنبؤات الحساسة للفيزياء اللاحقة بدلاً من توليد إطارات فيديو في فضاء البكسل مباشرة.

4. مقاييس التقييم:
   يتم قياس فعالية التوجيه باستخدام:

• معدل الانقلاب (Flip Rate - FR): كسر فيديوهات الاختبار التي يتغير تصنيفها بالنسبة للحالة المرجعية.
• دلتا الدرجة ($\Delta P$): متوسط التغيير في احتمالية كون الشيء "مستحيلاً".
• النقاء الاتجاهي (Directional Purity - DP): تشابه جيب التمام بين إزاحة التمثيل المرصودة واتجاه الـ CAV المقصود.
• انحراف التمثيل (Representation Drift - RD): مقدار الإزاحة في فضاء التمثيل.

المساهمات الرئيسية

1. التوجيه الفيزيائي باستخدام CAVs: أثبت المؤلفون أن أوزان المجس الخطي عند طبقات PEZ توفر اتجاهات توجيه قابلة للتفسير. إن حقن هذه المتجهات يسمح بالتحكم ثنائي الاتجاه في الحكم الفيزيائي للنموذج (دفع $P(\text{impossible})$ إلى 1.0 أو 0.0) دون تحديث أوزان النموذج.
2. تحليل التدخل الخاص بالطبقات: من خلال حقن نفس المتجه في طبقات مختلفة، أظهر المؤلفون أن تأثير التوجيه محصور بدقة في الـ PEZ والطبقات السابقة لها. أدت التدخلات في الطبقات 6-11 إلى معدل انقلاب قدره 0.00، مما يؤكد أن تمثيل الفيزياء ذو الصلة يتم تأسيسه والوصول إليه داخل الـ PEZ.
3. تعامد الفضاء الجزئي (Subspace Orthogonality): تقيس الدراسة الزاوية بين CAV الفيزيائي وفضاء اتجاه الحركة، لتجد تعامدًا قدره 90.0 درجة. يدعم هذا فرضية أن الفيزياء والحركة مشفرتان في فضاءات جزئية منفصلة وغير متداخلة.
4. تقدير الأبعاد الجوهرية: من خلال تدريب مجس متعامد تكراري، وجد المؤلفون أن الفضاء الجزئي الفيزيائي في الـ PEZ يهيمن عليه حوالي 2-3 اتجاهات. هذا البعد المنخفض يفسر سبب فعالية نهج التوجيه بمتجه واحد بشكل كبير.
5. التوجيه الخاص بالمبادئ: وُجد أن الـ CAVs المنفصلة المدربة لمبادئ فيزيائية حدسية مختلفة (ديمومة الأشياء، الاستمرارية، والصلابة) هي تقريبًا متعامدة (على سبيل المثال، 86.1 درجة بين الاستمرارية والصلابة)، مما يشير إلى إمكانية توجيه مبادئ فيزيائية محددة بشكل مستقل.

النتائج

أجريت التجارب على معيار IntPhys باستخدام نموذج VideoMAE-base مجمد.

• فعالية التوجيه: عند طبقة PEZ الأساسية (الطبقة 5)، يعمل التوجيه بقيمة $|\alpha| \ge 5$ على إشباع حكم النموذج بشكل موثوق. التوجيه الموجب يدفع $P(\text{impossible})$ إلى 1.0، بينما التوجيه السالب يدفعها إلى 0.0. يصل النقاء الاتجاهي إلى 1.00 عند طبقة الحقن، مما يشير إلى تدخل عالي الهيكلية.
• التمركز (Localization): التأثير يعتمد كليًا على الطبقة. حقن الـ CAV المدرب في الـ PEZ في الطبقات 6-11 لا ينتج أي تغيير في الحكم الفيزيائي المقاس عند الطبقة 5، مما يؤكد أن التمثيل الفيزيائي محصور في الـ PEZ والطبقات السابقة لها.
• الهندسة: الـ CAV الفيزيائي متعامد مع اتجاه الحركة (90.0 درجة)، وهو درجة فصل أعلى مما تم الإبلاغ عنه سابقًا (69-83 درجة). يشير هذا إلى أن توجيه الفيزياء لا يخل بطبيعة تمثيلات الحركة.
• فك الارتباط (Disentanglement): تشغل المبادئ الفيزيائية المختلفة (O1, O2, O3) اتجاهات متميزة داخل فضاء الـ PEZ، حيث تكون O2 و O3 متعامدتين تقريبًا، مما يتيح إمكانية التحكم الخاص بكل مبدأ.

الأهمية والادعاءات

يزعم البحث أن الاستدلال الفيزيائي في VideoMAE ليس فقط قابلًا للقراءة (عبر المجسات الخطية)، بل هو أيضًا قابل للتوجيه مباشرة وقت الاستدلال. من خلال تحديد منطقة بروز فيزيائي (PEZ) واستخدام الـ CAVs، يقدم المؤلفون طريقة للتحكم في التوقعات الفيزيائية للنموذج دون الحاجة لإعادة التدريب، أو الضبط الدقيق، أو تغييرات هيكلية.

تكمن الأهمية في:

• التحكم السببي: الانتقال من مجرد الارتباط إلى إثبات أن التدخل في طبقات تمثيل محددة يغير حكم النموذج على المعقولية الفيزيائية بشكل سببي.
• من التفسير إلى الفعل: سد الفجوة بين التفسير الآلي (إيجاد مكان المعرفة) وهندسة التمثيل (استخدام تلك المعرفة للتحكم في السلوك).
• السلامة والتقييم: توفر هذه الطريقة وسيلة لاختبار نماذج العالم بشكل منهجي عبر توليد سيناريوهات مستحيلة فيزيائيًا دون الحاجة لجمع بيانات جديدة، وهو أمر قيم لتقييم سلامة الذكاء الاصطناعي.

يحافظ المؤلفون على نطاق عمل متواضع، مشيرين إلى أنه بينما تتحكم الطريقة في التمثيلات الداخلية للمشفر، فإن إنتاج إطارات فيديو في فضاء البكسل موجهة يتطلب ربط الطريقة بمفكك شفرة (decoder)، وهو أمر يُترك للعمل المستقبلي. كما يؤكدون أن وجود PEZ في بنيات أخرى (مثل DINOv2 أو Stable Video Diffusion) يظل سؤالًا تجريبيًا مفتوحًا.