Partially Performative Prediction

यहाँ "पार्शियली परफॉर्मेटिव प्रेडिक्शन" (Partially Performative Prediction) पेपर का सरल भाषा और उपमाओं (analogies) के माध्यम से स्पष्टीकरण दिया गया है।

मुख्य समस्या: स्वयं-सिद्ध भविष्यवाणी (The Self-Fulfilling Prophecy)

कल्पना कीजिए कि आप एक मौसम विज्ञता (weather forecaster) हैं। पुराने दिनों में, आपका काम सरल था: बादलों को देखें, भविष्यवाणी करें कि क्या बारिश होगी, और सही साबित हों। मौसम को इस बात से कोई फर्क नहीं पड़ता था कि आप क्या कहते हैं; वह बस होता था। कंप्यूटर वैज्ञानिक इसे "क्लासिकल प्रेडिक्शन" (classical prediction) कहते हैं।

लेकिन अब, कल्पना कीजिए कि आप एक स्टॉक मार्केट एनालिस्ट हैं। यदि आप भविष्यवाणी करते हैं कि एक निश्चित स्टॉक ऊपर जाएगा, तो लोग उसे खरीद सकते हैं, जिससे वास्तव में कीमत बढ़ सकती है। आपकी भविष्यवाणी ने उस वास्तविकता को बदल दिया जिसे आप भविष्यवाणी करने की कोशिश कर रहे थे। इसे "परफॉर्मेटिव प्रेडिक्शन" (Performative Prediction) कहा जाता है। आपके कार्यों के कारण डेटा बदल जाता है।

वर्तमान मॉडल्स के साथ समस्या:
मौजूदा शोध दो चरम स्थितियों (extremes) को मानता है:

1. शुद्ध रूप से परफॉर्मेटिव (Purely Performative): डेटा बदलने का एकमात्र कारण आपकी भविष्यवाणी है (जैसे स्टॉक मार्केट का उदाहरण)।
2. शुद्ध रूप से एक्सोजेनस (Purely Exogenous): डेटा आपके नियंत्रण से बाहर के कारणों से बदलता है (जैसे तूफान के कारण मौसम का बदलना), और आपकी भविष्यवाणियों का इस पर कोई प्रभाव नहीं पड़ता।

वास्तविकता:
वास्तविक दुनिया में, यह लगभग हमेशा दोनों का मिश्रण होता है।

• उदाहरण: एक क्रेडिट स्कोरिंग एल्गोरिदम भविष्यवाणी करता है कि कौन डिफ़ॉल्ट कर सकता है।
  • परफॉर्मेटिव हिस्सा: यदि बैंक कुछ लोगों को ऋण देने से मना कर देता है, तो वे लोग अपना व्यवहार बदल सकते हैं (या आवेदन करना बंद कर सकते हैं), जिससे डेटा बदल जाता है।
  • एक्सोजेनस हिस्सा: अर्थव्यवस्था गिर जाती है, या कोई नया कानून पारित होता है। ये चीजें एल्गोरिदम के कहने के बावजूद डेटा को बदल देती हैं।

यह पेपर "पार्शियली परफॉर्मेटिव प्रेडिक्शन" पेश करता है, जो इस जटिल, वास्तविक दुनिया के मिश्रण को संभालता है।

---

उपमा: चलती भीड़ में कार चलाना

AI मॉडल को प्रशिक्षित करना एक कार चलाने जैसा समझें।

• लक्ष्य: आप लेन के केंद्र में रहना चाहते हैं (त्रुटि/लॉस को कम करना)।
• परफॉर्मेटिव शिफ्ट (आप): यदि आप बाईं ओर मुड़ते हैं, तो आपके आस-पास की अन्य कारें आपसे बचने के लिए हिल सकती हैं। आपका कार्य ट्रैफिक पैटर्न को बदल देता है।
• एक्सोजेनस शिफ्ट (सड़क): सड़क खुद मुड़ सकती है, या हवा कार को धकेल सकती है। ये वे बल हैं जिन्हें आपने पैदा नहीं किया।

क्लासिकल परफॉर्मेटिव प्रेडिक्शन यह मानता है कि सड़क सीधी और समतल है, और केवल ट्रैफिक ही आपके प्रति प्रतिक्रिया दे रहा है।
क्लासिकल ऑनलाइन लर्निंग यह मानता है कि ट्रैफिक स्थिर है, लेकिन सड़क लगातार आपके टायरों के नीचे बदल रही है।

इस पेपर का दृष्टिकोण: यह स्वीकार करता है कि दोनों हो रहे हैं। आप स्टीयरिंग चला रहे हैं (ट्रैफिक को प्रभावित कर रहे हैं), और सड़क भी मुड़ रही है (बाहरी बल)।

---

मुख्य अवधारणाएं (Key Concepts)

1. "चलता हुआ लक्ष्य" (The Moving Target)

पुराने मॉडल्स में, लक्ष्य एक "स्थिर बिंदु" (stable point) खोजना था—एक आदर्श मॉडल जो तैनात होने के बाद डेटा को बदलना बंद कर दे। यह पार्किंग स्पॉट खोजने जैसा था।

इस नए "पार्शियल" विश्व में, कोई स्थायी पार्किंग स्पॉट नहीं है। "परफेक्ट मॉडल" एक चलता हुआ लक्ष्य है।

• क्योंकि बाहरी दुनिया (एक्सोजेनस शिफ्ट) बदल रही है, इसलिए "सर्वश्रेष्ठ" मॉडल हर दिन बदल जाता है।
• क्योंकि आपका मॉडल दुनिया को प्रभावित करता है (परफॉर्मेटिव शिफ्ट), इसलिए आपका लक्ष्य को पकड़ने का प्रयास लक्ष्य को थोड़ा हिला देता है।

2. रिग्रेट (Regret): आप कितना पीछे हैं?

चूंकि आप पार्क नहीं कर सकते, इसलिए आप सफलता को "क्या मैं रुक गया?" से नहीं माप सकते। इसके बजाय, आप "रिग्रेट" (Regret) को मापते हैं।

• रिग्रेट यह अंतर है कि आपने कैसा प्रदर्शन किया और आप कैसा कर सकते थे यदि आपके पास जादुगर की तरह हर एक दिन के लिए एकदम सही मॉडल का ज्ञान होता।
• पेपर दो प्रकार के रिग्रेट को परिभाषित करता है:
  • स्टेबिलिटी रिग्रेट (Stability Regret): आप उस मॉडल से कितने दूर हैं जो अभी स्थिर होता?
  • ऑप्टिमैलिटी रिग्रेट (Optimality Regret): आप उस मॉडल से कितने दूर हैं जो अभी सबसे अच्छे परिणाम देता?

3. पाथ लेंथ (Path Length): दुनिया कितनी तेज़ी से बदल रही है?

पेपर एक प्रमुख मीट्रिक पेश करता है जिसे "पाथ लेंथ" कहा जाता है।

• कल्पना कीजिए कि "परफेक्ट मॉडल" एक धावक (runner) है। पाथ लेंथ वह दूरी है जो वह समय के साथ तय करता है।
• यदि बाहरी दुनिया शांत है (धीमा एक्सोजेनस शिफ्ट), तो धावक धीरे चलता है। इसे ट्रैक करना आसान है।
• यदि बाहरी दुनिया अराजक है (तेज़ एक्सोजेनस शिफ्ट), तो धावक दौड़ता है और टेढ़े-मेढ़े चलता है। इसे ट्रैक करना कठिन है।
• पेपर सिद्ध करता है कि आपकी त्रुटि (रिग्रेट) इस पाथ लेंथ पर बहुत अधिक निर्भर करती है। दुनिया जितनी अधिक बदलेगी, आपके एल्गोरिदम के लिए उसका पीछा करना उतना ही कठिन होगा।

---

उन्होंने क्या पाया? (परिणाम)

लेखकों ने इस मिश्रित वातावरण में AI मॉडल्स को अपडेट करने के कई सामान्य तरीकों (जैसे "रिट्रेनिंग" या "ग्रेडिएंट डिसेंट") का परीक्षण किया। यहाँ उनकी खोज है:

1. "अल्फा" ($\alpha_t$) का ट्रेड-ऑफ
वे $\alpha$ नामक एक वेरिएबल का उपयोग करते हैं जो यह दर्शाता है कि बाहरी दुनिया कितनी महत्वपूर्ण है बनाम आपका मॉडल कितना महत्वपूर्ण है।

• यदि $\alpha$ कम है (मुख्य रूप से परफॉर्मेटिव): दुनिया मुख्य रूप से आप पर प्रतिक्रिया दे रही है। पेपर दिखाता है कि मानक रिट्रेनिंग यहाँ अच्छी तरह काम करती है। "पाथ लेंथ" छोटा है क्योंकि दुनिया तब तक स्थिर है जब तक आप उसे छूते नहीं।
• यदि $\alpha$ अधिक है (मुख्य रूप से एक्सोजेनस): दुनिया अपने आप बदल रही है। आपके मॉडल के पास डेटा को आकार देने की कम शक्ति है। पेपर दिखाता है कि रिट्रेनिंग अभी भी काम करती है, लेकिन आपकी त्रुटि बढ़ जाएगी यदि बाहरी दुनिया बहुत तेज़ी से बदलती है। आप अनिवार्य रूप से एक भागती हुई ट्रेन का पीछा कर रहे हैं।

2. रिट्रेनिंग अभी भी अच्छी है (चेतावनी के साथ)
उन्होंने "रिपीटेड रिस्क मिनिमाइजेशन" (RRM) का विश्लेषण किया—जो केवल नवीनतम डेटा पर मॉडल को फिर से प्रशिक्षित करने का एक तकनीकी नाम है।

• उन्होंने सिद्ध किया कि यदि आप पर्याप्त बार रिट्रेन करते हैं, तो आप अपने रिग्रेट को कम रख सकते हैं।
• हालांकि, इस रिग्रेट की "लागत" इस बात से जुड़ी है कि बाहरी वातावरण कितनी तेज़ी से बदल रहा है। यदि बाहरी बदलाव अप्रत्याशित है, तो आपकी त्रुटि अधिक होगी।

3. ऑप्टिमैलिटी (Optimality) कठिन है
"स्थिर" बिंदु (जहाँ मॉडल बदलावों के कारण बनना बंद कर देता है) खोजना, "इष्टतम" (Optimal) बिंदु (पूर्णतम प्रदर्शन) खोजने की तुलना में आसान है।

• इष्टतम बिंदु को खोजने के लिए, आपको यह अनुमान लगाने की आवश्यकता है कि आपका मॉडल भविष्य को कैसे बदलेगा।
• पेपर इन इष्टतम बिंदुओं को खोजने के लिए "जीरोथ-ऑर्डर ऑप्टिमाइज़ेशन" (मूल रूप से सिस्टम को छूकर देखना कि वह कैसे प्रतिक्रिया देता है) का उपयोग करता है।
• उन्होंने दिखाया कि भले ही यह एक जटिल विधि है, आप इष्टतम लक्ष्य का पीछा कर सकते हैं, बशर्ते कि लक्ष्य बहुत अधिक अनियमित रूप से न बदले।

---

एक वाक्य में सारांश

यह पेपर उन गणितीय नियमों को प्रदान करता है कि AI मॉडल्स को कैसे सीखना चाहिए जब वे उस दुनिया को प्रभावित कर रहे होते हैं जिसकी वे भविष्यवाणी कर रहे हैं, जबकि दुनिया स्वतंत्र रूप से भी बदल रही होती है—यह सिद्ध करते हुए कि जब तक बाहरी दुनिया बहुत अधिक अराजक तरीके से नहीं बदलती, तब तक मानक रिट्रेनिंग विधियाँ AI को सही रास्ते पर रख सकती हैं।