तकनीकी सारांश: कॉन्सेप्ट एक्टिवेशन वेक्टर्स के माध्यम से वीडियो वर्ल्ड मॉडल्स में कॉज़ल फिजिक्स स्टीयरिंग

समस्या विवरण (Problem Statement)

वीडियो वर्ल्ड मॉडल्स, जो मॉडल-आधारित सुदृढीकरण शिक्षण (reinforcement learning) और स्वायत्त ड्राइविंग जैसे कार्यों के लिए भौतिक गतिकी (physical dynamics) के निरूपण (representations) सीखते हैं, वर्तमान में इन्फरेंस के समय अपनी भौतिक अपेक्षाओं को नियंत्रित करने के तंत्रों से रहित हैं। जबकि हालिया व्याख्यात्मकता अनुसंधान (interpretability research) ने VideoMAE के मध्य ट्रांसफार्मर परतों के भीतर एक फिजिक्स इमर्जेंस ज़ोन (Physics Emergence Zone - PEZ) की पहचान की है—जहाँ भौतिक संभाव्यता (physical plausibility) अन्य दृश्य विशेषताओं से अलग रूप में प्रस्तुत होती है—यह स्पष्ट नहीं था कि क्या इस संरचना का उपयोग मॉडल के तर्क (reasoning) को बदलने के लिए सीधे तौर पर किया जा सकता है। मौजूदा नियंत्रणीय जनरेशन विधियाँ (जैसे, ControlNet) प्रशिक्षण-समय की कंडीशनिंग या पोस्ट-हॉक एडेप्टर पर निर्भर करती हैं जिनमें ग्रेडिएंट-आधारित अनुकूलन और युग्मित पर्यवेक्षण (paired supervision) की आवश्यकता होती है, जो इस मूल प्रश्न को संबोधित करने में विफल रहती हैं कि भौतिक ज्ञान आंतरिक रूप से कहाँ और कैसे प्रस्तुत होता है और क्या इसे बिना पुन: प्रशिक्षण के सीधे हस्तक्षेप (intervene) किया जा सकता है।

कार्यप्रणाली (Methodology)

लेखक फिजिक्स स्टीयरिंग (physics steering) का प्रस्ताव करते हैं, जो एक प्रशिक्षण-मुक्त, इन्फरेंस-टाइम हस्तक्षेप विधि है जो भौतिक तर्क को हेरफेर करने के लिए कॉन्सेप्ट एक्टिवेशन वेक्टर्स (Concept Activation Vectors - CAVs) का उपयोग करती है।

1. फिजिक्स इमर्जेंस ज़ोन (PEZ) की पहचान:
   पूर्ववर्ती कार्य का अनुसरण करते हुए, लेखक एक प्री-ट्रेन्ड VideoMAE के प्रत्येक स्तर (layer) पर भौतिक संभाव्यता (संभव बनाम असंभव) की भविष्यवाणी करने के लिए रैखिक लॉजिस्टिक रिग्रेशन प्रोब (linear logistic regression probes) को प्रशिक्षित करते हैं। वे PEZ को उन परतों के क्लस्टर के रूप में पहचानते हैं (विशेष रूप से परतें 0–5, जिसका शिखर परत 5 पर है) जहाँ प्रोब की सटीकता अपने उच्चतम स्तर के निकट होती है।

2. CAV निष्कर्षण (Extraction):
   PEZ के भीतर प्रत्येक परत के लिए, प्रशिक्षित रैखिक प्रोब के वेट वेक्टर ($w_l$) को निकाला जाता है और उसे 'फिजिक्स CAV' ($v_l$) बनाने के लिए सामान्यीकृत (normalize) किया जाता है। यह वेक्टर प्रतिनिधित्व स्थान (representation space) में एक दिशा को परिभाषित करता है जो "भौतिक रूप से असंभव" परिदृश्यों से जुड़ा है। मामलों में जहाँ प्रशिक्षण नमूनों की संख्या फीचर आयाम (feature dimension) से कम होती है, लेखक PCA और एक दिशा-पलटने वाले चेक (direction-flip check) को लागू करते हैं ताकि यह सुनिश्चित हो सके कि वेक्टर सही ढंग से अवधारणा (concept) के साथ संरेखित है।

3. इन्फरेंस-टाइम हस्तक्षेप (Intervention):
   इन्फरेंस के दौरान, विधि एक लक्षित परत $l^*$ पर पैच टोकन के हिडन स्टेट्स (hidden states) को एक स्केल्ड CAV जोड़कर संशोधित करती है:
   $$\tilde{H}_{l^*}(x)_i = H_{l^*}(x)_i + \alpha \cdot v_{l^*}$$
   जहाँ $\alpha$ एक स्टीयरिंग स्ट्रेंथ पैरामीटर है।

• $\alpha > 0$: प्रतिनिधित्व को "भौतिक रूप से असंभव" की ओर ले जाता है।
• $\alpha < 0$: प्रतिनिधित्व को "भौतिक रूप से संभव" की ओर ले जाता है।
• $\alpha = 0$: बेसलाइन (कोई परिवर्तन नहीं)।
  हस्तक्षेप एनकोडर के हिडन स्टेट्स पर लागू किया जाता है; चूंकि VideoMAE एक एनकोडर है, इसलिए यह विधि डाउनस्ट्रीम भौतिकी-संवेदनशील भविष्यवाणियों को बदलती है, न कि सीधे पिक्सेल-स्पेस वीडियो फ्रेम को जनरेट करती है।

4. मूल्यांकन मेट्रिक्स (Evaluation Metrics):
   स्टीयरिंग की प्रभावकारिता को निम्नलिखित द्वारा मापा जाता है:

• फ्लिप रेट (Flip Rate - FR): परीक्षण वीडियो का वह अंश जिनके वर्गीकरण में बेसलाइन के सापेक्ष परिवर्तन हुआ है।
• स्कोर डेल्टा ($\Delta P$): "असंभव" होने की प्रायिकता में औसत परिवर्तन।
• डायरेक्शनल प्योरिटी (Directional Purity - DP): देखे गए प्रतिनिधित्व परिवर्तन और इच्छित CAV दिशा के बीच कोसाइन समानता (cosine similarity)।
• रिप्रेजेंटेशन ड्रिफ्ट (Representation Drift - RD): प्रतिनिधित्व स्थान में बदलाव का परिमाण।

मुख्य योगदान (Key Contributions)

1. CAVs के साथ फिजिक्स स्टीयरिंग: लेखक प्रदर्शित करते हैं कि PEZ परतों पर रैखिक प्रोब के वेट वेक्टर्स व्याख्या योग्य स्टीयरिंग दिशाएँ प्रदान करते हैं। इन वेक्टर्स को इंजेक्ट करने से मॉडल के भौतिक निर्णय (भौतिक असंभवता की प्रायिकता को 1.0 या 0.0 तक ले जाना) का द्वि-दिशीय नियंत्रण संभव होता है, जिसके लिए मॉडल वेट को अपडेट करने की आवश्यकता नहीं होती।
2. लेयर-विशिष्ट हस्तक्षेप विश्लेषण: विभिन्न परतों में समान वेक्टर को इंजेक्ट करके, लेखक दिखाते हैं कि स्टीयरिंग प्रभाव सख्ती से PEZ और प्रारंभिक परतों तक ही सीमित है। परतों 6–11 में हस्तक्षेप करने पर 0.00 का फ्लिप रेट प्राप्त होता है, जो पुष्टि करता है कि प्रासंगिक भौतिक प्रतिनिधित्व PEZ में स्थापित और सुलभ है।
3. सबस्पेस ऑर्थोगोनैलिटी (Subspace Orthogonality): अध्ययन मोशन दिशा (motion direction) के साथ भौतिक CAV के कोण को मापता है, जो 90.0° की ऑर्थोगोनैलिटी पाता है। यह इस परिकल्पना का समर्थन करता है कि भौतिकी और गति (motion) अलग-अलग, गैर-हस्तक्षेप करने वाले सबस्पेस में एनकोड किए गए हैं।
4. आंतरिक आयाम अनुमान (Intrinsic Dimensionality Estimation): पुनरावृत्ति ऑर्थोगोनल प्रोब प्रशिक्षण के माध्यम से, लेखक पाते हैं कि PEZ में भौतिक सबस्पेस लगभग 2–3 दिशाओं द्वारा संचालित है। यह निम्न आयाम (low dimensionality) बताता है कि एकल-वेक्टर स्टीयरिंग दृष्टिकोण अत्यधिक प्रभावी क्यों है।
5. सिद्धांत-विशिष्ट स्टीयरिंग: विशिष्ट सहज भौतिक सिद्धांतों (ऑब्जेक्ट परमानेंस, निरंतरता, और सॉलिडिटी) के लिए प्रशिक्षित अलग-अलग CAVs लगभग ऑर्थोगोनल पाए गए (जैसे, निरंतरता और सॉलिडिटी के बीच 86.1°), जो यह सुझाव देता है कि विशिष्ट भौतिक सिद्धांतों को स्वतंत्र रूप से स्टीयर किया जा सकता है।

परिणाम (Results)

प्रयोग एक फ्रोजन (frozen) VideoMAE-base मॉडल का उपयोग करके IntPhys बेंचमार्क पर किए गए।

• स्टीयरिंग प्रभावकारिता: प्राथमिक PEZ परत (परत 5) पर, $|\alpha| \ge 5$ के साथ स्टीयरिंग मॉडल के निर्णय को विश्वसनीय रूप से संतृप्त (saturate) कर देती है। पॉजिटिव स्टीयरिंग $P(\text{impossible})$ को 1.0 तक ले जाती है, जबकि नेगेटिव स्टीयरिंग इसे 0.0 तक ले जाती है। इंजेक्शन लेयर पर डायरेक्शनल प्योरिटी 1.00 तक पहुँच जाती है, जो एक अत्यधिक संरचित हस्तक्षेप का संकेत देती है।
• स्थानीयकरण (Localization): प्रभाव सख्ती से लेयर-निर्भर है। PEZ-प्रशिक्षित CAV को परतों 6–11 में इंजेक्ट करने पर परत 5 पर मापे गए भौतिक निर्णय में कोई परिवर्तन नहीं होता है, जो पुष्टि करता है कि भौतिक प्रतिनिधित्व PEZ और उससे पहले की परतों में स्थानीयकृत है।
• ज्यामिति (Geometry): भौतिक CAV मोशन दिशा के प्रति ऑर्थोगोनल (90.0°) है, जो पहले रिपोर्ट की गई तुलना में (69–83°) अधिक पृथक्करण का स्तर है। यह सुझाव देता है कि भौतिकी को स्टीयर करने से स्वाभाविक रूप से मोशन प्रतिनिधित्व बाधित नहीं होता है।
• विघटन (Disentanglement): विभिन्न भौतिक सिद्धांत (O1, O2, O3) PEZ स्पेस के भीतर अलग-अलग दिशाओं में स्थित हैं, और O2 एवं O3 लगभग ऑर्थोगोनल हैं, जिससे सिद्धांत-विशिष्ट नियंत्रण संभव होता है।

महत्व और दावे (Significance and Claims)

यह शोध दावा करता है कि VideoMAE में भौतिक तर्क न केवल पठनीय (रैखिक प्रोब के माध्यम से) है, बल्कि इन्फरेंस के समय सीधे स्टीयरेबल (steerable) भी है। एक स्थानीयकृत फिजिक्स इमर्जेंस ज़ोन की पहचान करके और CAVs का उपयोग करके, लेखक बिना पुन: प्रशिक्षण, फाइन-ट्यूनिंग या आर्किटेक्चरल परिवर्तनों के मॉडल की भौतिक अपेक्षाओं को नियंत्रित करने की विधि प्रदान करते हैं।

इसका महत्व निम्नलिखित में निहित है:

• कॉज़ल कंट्रोल (Causal Control): सहसंबंध (correlation) से आगे बढ़कर यह प्रदर्शित करना कि विशिष्ट प्रतिनिधित्व परतों में हस्तक्षेप करना मॉडल के भौतिक संभाव्यता निर्णयों को काउज़ली (causally) बदल देता है।
• व्याख्यात्मकता से क्रिया तक (Interpretability to Action): यांत्रिक व्याख्यात्मकता (यह खोजना कि ज्ञान कहाँ है) और प्रतिनिधित्व इंजीनियरिंग (उस ज्ञान का उपयोग व्यवहार को नियंत्रित करने के लिए करना) के बीच के अंतर को पाटना।
• सुरक्षा और मूल्यांकन: यह विधि दुनिया मॉडल्स (world models) को भौतिक रूप से असंभव परिदृश्य उत्पन्न करके व्यवस्थित रूप से स्ट्रेस-टेस्ट करने का एक तरीका प्रदान करती है, जिसके लिए नए डेटासेट संग्रह की आवश्यकता नहीं है, जो AI सुरक्षा मूल्यांकन के लिए मूल्यवान है।

लेखक एक सीमित दायरे को बनाए रखते हुए नोट करते हैं कि जबकि यह विधि एनकोडर के आंतरिक प्रतिनिधित्व को नियंत्रित करती है, स्टीयर्ड पिक्सेल-स्पेस वीडियो फ्रेम बनाने के लिए इसे एक डिकोडर के साथ जोड़ना आवश्यक होगा, जो भविष्य के कार्य के लिए छोड़ दिया गया है। वे यह भी जोर देते हैं कि अन्य आर्किटेक्चर (जैसे, DINOv2, Stable Video Diffusion) में PEZ का अस्तित्व एक खुला अनुभवजन्य प्रश्न बना हुआ है।