तकनीकी सारांश: परफॉर्मेटिव प्रेडिक्शन में रणनीतिक रूप से भ्रामक मॉडल परिनियोजन (Strategically Deceptive Model Deployment)

समस्या विवरण (Problem Statement)

मशीन लर्निंग (ML) सिस्टम तेजी से ऐसे वातावरण में कार्य कर रहे हैं जहाँ उनका परिनियोजन (deployment) उपयोगकर्ता के व्यवहार को प्रभावित करता है, जो बदले में भविष्य के निर्णयों के लिए डेटा वितरण (data distribution) को बदल देता है। इस घटना को परफॉर्मेटिव प्रेडिक्शन (PP) के रूप में औपचारिक रूप दिया गया है। मानक PP ढांचों में, यह अंतर्निहित रूप से माना जाता है कि संस्थागत निर्णयों को नियंत्रित करने वाला मॉडल और उपयोगकर्ताओं द्वारा देखा जाने वाला मॉडल समान है, जिसके प्रति वे अपने व्यवहार को अनुकूलित करते हैं।

हालाँकि, वास्तविक दुनिया के परिनโยजन में, यह धारणा अक्सर विफल हो जाती है। संस्थान उपयोगकर्ताओं के व्यवहार को आकार देने के लिए एक सरल या क्यूरेटेड मॉडल ($\theta_D$) का खुलासा कर सकते हैं, जबकि आंतरिक रूप से एक अलग, अपारदर्शी मॉडल ($\theta_M$) पर वास्तविक निर्णय लेने के लिए निर्भर रहते हैं। यह विघटन (decoupling) एक रणनीतिक विसंगति पैदा करता है: उपयोगकर्ता $\theta_D$ के प्रति अनुकूलित होते हैं, लेकिन परिणाम $\theta_M$ द्वारा निर्धारित किए जाते हैं। मौजूदा PP साहित्य इस सूचनात्मक विषमता (informational asymmetry) को ध्यान में नहीं रखता है, जिससे यह संभावना अनदेखी रह जाती है कि संस्थान बेहतर परिणाम प्राप्त करने के लिए—अक्सर उपयोगकर्ता कल्याण की कीमत पर—रणनीतिक गलत प्रस्तुतिकरण के माध्यम से परफॉर्मेटिव फीडबैक का लाभ उठा सकते हैं।

कार्यप्रणाली: डिकपल्ड परफॉर्मेटिव प्रेडिक्शन (DPP)

लेखक डिकपल्ड परफॉर्मティブ प्रेडिक्शन (DPP) पेश करते हैं, जो तैनात निर्णय मॉडल और घोषित मॉडल के बीच के अंतर को स्पष्ट रूप से मॉडल करता है।

मुख्य औपचारिकता (Core Formalism)

• डिकपल्ड परफॉर्मेटिव रिस्क (DPR): ढांचा एक रिस्क फंक्शन $DPR(\theta_D, \theta_M) = \mathbb{E}_{z \sim D(\theta_D)}[\ell(z; \theta_M)]$ को परिभाषित करता है। यहाँ डेटा वितरण $D$, घोषित मॉडल $\theta_D$ द्वारा प्रेरित है, लेकिन लॉस $\ell$ का मूल्यांकन वास्तविक निर्णय मॉडल $\theta_M$ का उपयोग करके किया जाता है।
• अनुकूलन स्थान (Optimization Space): मानक PP के विपरीत, जो एक एकल पैरामीटर $\theta$ को अनुकूलित करता है, DPP संयुक्त स्थान $(\theta_D, \theta_M)$ पर अनुकूलन करता है।
• डिकपल्ड ऑप्टिमम: लेखक डिकपल्ड ऑप्टिमम $(\theta^*_D, \theta^*_M)$ को उस जोड़ी के रूप में परिभाषित करते हैं जो $DPR$ को न्यूनतम करती है। वे सिद्ध करते हैं कि यह ऑप्टिमम शास्त्रीय PP में पाए जाने वाले मानक परफॉर्मेटिव ऑप्टिमम ($\theta_{OP}$) की तुलना में स्पष्ट रूप से कम जोखिम प्राप्त कर सकता है, बशर्ते कि परफॉर्मेटिव ऑप्टिमम एक स्थिर बिंदु न हो (अर्थात $\theta_{OP} \neq \theta^{BR}_M(\theta_{OP})$)।

एल्गोरिद्मिक दृष्टिकोण (Algorithmic Approach)

डिकपल्ड ऑप्टिमम खोजने के लिए, पेपर डिकपल्ड परफॉर्मेटिव ग्रेडिएंट डिसेंट (DPerfGD) का प्रस्ताव करता है।

• मान्यताएँ: विधि यह मानती है कि लॉस फंक्शन $(\theta_M, \theta_D)$ में संयुक्त रूप से उत्तल (jointly convex) है और वितरण मानचित्र एक पुश-फॉरवर्ड मॉडल (push-forward model) का अनुसरण करता है जहाँ रूपांतरण $\theta_D$ के सापेक्ष एफाइन (affine) है।
• ग्रेडिएंट गणना: एल्गोरिदम दोनों मापदंडों के लिए ग्रेडिएंट की गणना करता है:
  • $\nabla_{\theta_M}$ की गणना प्रेरित वितरण पर मानक प्रत्याशा (expectation) के माध्यम से की जाती है।
  • $\nabla_{\theta_D}$ रीपैरामीट्रिज़ेशन ट्रिक (reparametrization trick) का उपयोग करता है (पुश-फॉरवर्ड मॉडल मानते हुए) ताकि वितरण मानचित्र के माध्यम से डिफरेंशिएट किया जा सके, जिससे संस्थान यह अनुकूलित कर सके कि घोषित मॉडल डेटा को कैसे आकार देता है।
• अभिसरण (Convergence): बताई गई उत्तलता और एफिनिटी मान्यताओं के तहत, लेखक सिद्ध करते हैं कि DPerfGD वैश्विक डिकपल्ड ऑप्टिमम पर अभिसरित होता है।

धोखे की लागत (Deception Cost)

ऐसे भ्रामक रणनीतियों की निरंतरता का विश्लेषण करने के लिए, पेपर धोखे की लागत (deception cost) पेश करता है, जो $\theta_D$ और $\theta_M$ के बीच के अंतर का एक मात्रात्मक माप है।

• पैरामीटर-आधारित लागत: $\|\theta_D - \theta_M\|_2$ के समानुपाती है।
• अनुभूत लागत (Perceived Cost): मॉडल आउटपुट के अपेक्षित अंतर $\mathbb{E}[|f_{\theta_D}(z) - f_{\theta_M}(z)|]$ के समानुपाती है।
• प्रतिबंधित अनुकूलन (Constrained Optimization): लेखक उन संस्थानों को मॉडल करते हैं जो प्रतिष्ठा या नियामक जोखिमों को आंतरिक रूप से आत्मसात करते हैं, जो एक बाधाबद्ध अनुकूलन समस्या को हल करते हैं (धोखे की लागत सीमा के अधीन DPR को न्यूनतम करना) या एक रेगुलराइजेशन टर्म जोड़ते हैं। वे प्रदर्शित करते हैं कि इन स्व-लगाए गए प्रतिबंधों के साथ भी, संस्थान उच्च प्रदर्शन बनाए रखते हुए महत्वपूर्ण जोखिम कमी प्राप्त कर सकते हैं, जो यह दर्शाता है कि स्वैच्छिक प्रतिबंध उपयोगकर्ताओं को बचाने के लिए अपर्याप्त हैं।

मुख्य परिणाम

1. विघटन की श्रेष्ठता (Superiority of Decoupling): सैद्धांतिक विश्लेषण (थ्योरम 4.5) और प्रायोगिक परिणाम दिखाते हैं कि डिकपल्ड ऑप्टिमम, संस्थागत जोखिम (या मूल्य निर्धारण परिदृश्यों में राजस्व) के मामले में मानक परफॉर्मेटिव ऑप्टिमम से स्पष्ट रूप से बेहतर प्रदर्शन करता है, बशर्ते कि मानक ऑप्टिमम स्थिर न हो।
2. अभिसरण गारंटी: दिखाया गया है कि DPerfGD एल्गोरिदम मानक उत्तलता और पुश-फॉरवर्ड मान्यताओं के तहत डिकपल्ड ऑप्टिमम पर प्रमाणित रूप से अभिसरित होता है।
3. स्व-नियमन की अप्रभाविता: सिंथेटिक प्राइसिंग डेटा और "गिव मी सम क्रेडिट" (Give Me Some Credit) डेटासेट पर प्रयोगों से पता चलता है कि जब संस्थान धोखाधड़ी की लागत दंड (deception cost penalty) के साथ अनुकूलित होते हैं, तो वे उच्च प्रदर्शन बनाए रखने के लिए छोटे दंड भार (penalty weights) चुनने की ओर प्रवृत्त होते हैं। फलस्वरूप, परिणामी धोखाधड़ी की लागत उच्च बनी रहती है, जिससे उपयोगकर्ता महत्वपूर्ण नुकसान के प्रति असुरक्षित हो जाते हैं।
4. मात्रात्मक अंतराल: पेपर परफॉर्मेटिव ऑप्टिमम और डिकपल्ड ऑप्टिमम के बीच रिस्क गैप पर सीमाएं स्थापित करता है, यह दिखाते हुए कि अंतराल सीधे तौर पर घोषित और तैनात मॉडलों के बीच के अंतर के परिमाण से संबंधित है।

महत्व और दावे

पेपर तर्क देता है कि मॉडल प्रकटीकरण (model disclosure) केवल एक नैतिक या पारदर्शिता का मुद्दा नहीं है, बल्कि एक मुख्य तकनीकी डिजाइन निर्णय है जो परफॉर्मेटिव सिस्टम में सीखने की गतिशीलता और कल्याण परिणामों को मौलिक रूप से बदल देता है।

• नई भेद्यता (New Vulnerability): यह कार्य एक पहले से अनमॉडल की गई परफॉर्मेटिव शक्ति (performative power) के तंत्र की पहचान करता है: संस्थान सूचनात्मक विषमता का लाभ उठाकर वास्तविक निर्णय मानदंडों पर नियंत्रण बनाए रखते हुए भ्रामक खुलासे के माध्यम से उपयोगकर्ता व्यवहार को निर्देशित कर सकते हैं।
• नियामक निहितार्थ: निष्कर्ष बताते हैं कि वर्तमान स्व-नियामक दृष्टिकोण या उपयोगकर्ता "विकल्प" पर निर्भरता अपर्याप्त है। पेपर एक ऐसे नियामक निरीक्षण और जवाबदेही तंत्र का आह्वान करता है जो मॉडल प्रकटीकरण को शासन के केंद्रीय विषय के रूप में मानता है, जो भ्रामक विज्ञापन या उपभोक्ता संरक्षण संबंधी नियमों के तुल्य हो।
• तकनीकी पुनर्गठन: निर्णय और प्रकटीकरण के अलगाव को औपचारिक रूप देकर, पेपर परफॉर्मेटिव प्रेडिक्शन के अध्ययन को रणनीतिक गलत प्रस्तुतिकरण सहित शामिल करने के लिए पुनर्गठित करता है, यह रेखांकित करते हुए कि उपयोगकर्ता व्यवहार के लिए मॉडल के मापदंडों की "सच्चाई" से अधिक उन मापदंडों की "धारणा" प्रासंगिक है।

लेखक निष्कर्ष निकालते हैं कि बाहरी बाधाओं के बिना, संस्थानों के पास रणनीतिक रूप से भ्रामक परिनियोजन में संलग्न होने के लिए एक मजबूत, प्रमाणित प्रोत्साहन होता है, जिसके लिए एल्गोरिद्मिक निर्णय लेने वाली प्रणालियों में व्यक्तियों की सुरक्षा के लिए नए तकनीकी और कानूनी सुरक्षा उपायों की आवश्यकता है।