📊 statistics

A Statistical Framework for Learning Preferences from the Past

यह शोध पत्र एक नवीन गैर-प्राचलिक (non-parametric) सांख्यिकीय ढांचे को प्रस्तुत करता है जो एक एकदिष्टता (monotonicity) धारणा के तहत पिछले विकल्पों से उपयोगकर्ता की प्राथमिकताओं का अनुमान लगाता है, जिसमें अधिकतम संभावना अनुमान (maximum likelihood estimation) का उपयोग किया गया है और सिमुलेशन एवं वास्तविक दुनिया के डेटा दोनों द्वारा मान्य सैद्धांतिक गारंटी प्रदान की गई है।

मूल लेखक: Tamojit Sadhukhan, Moulinath Banerjee, Krishanu Maulik, Parthanil Roy

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tamojit Sadhukhan, Moulinath Banerjee, Krishanu Maulik, Parthanil Roy

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप यह अनुमान लगाने की कोशिश कर रहे हैं कि आपका एक दोस्त आज रात रात के खाने में क्या ऑर्डर करेगा। आपके पास उनके पिछले ऑर्डर्स की एक लंबी सूची है: उन्होंने 10 बार पिज्जा ऑर्डर किया है, 5 बार सुशी और सिर्फ एक बार टैकोस। लेकिन यह केवल इस बारे में नहीं है कि उन्होंने कितनी बार कुछ ऑर्डर किया; यह इस बारे में भी है कि उन्होंने कितना ऑर्डर किया। क्या उन्होंने पिज्जा का एक स्लाइस खरीदा या पूरा फैमिली-साइज़ भोज? क्या उन्होंने 10 मिनट तक कोई फिल्म देखी या पूरी सीज़न बिंज-वॉच की?

यह पेपर उनके भविष्य के विकल्पों का अनुमान लगाने के लिए एक नया, स्मार्ट तरीका प्रस्तावित करता है, जो केवल उन्हें गिनने के बजाय, उन्हें उनकी "तीव्रता" (intensity) के आधार पर तौलकर देखता है।

यहाँ उनके विचार का विवरण दिया गया है, सरल उपमाओं का उपयोग करते हुए:

1. "चींटी की कॉलोनी" और "हाथी"

लेखक चींटियों की एक कहानी से शुरुआत करते हैं। जब चींटियाँ भोजन पाती हैं, तो वे गंध का एक निशान (फेरोमोन्स) छोड़ देती हैं। जितने अधिक चींटियाँ एक रास्ते पर चलती हैं, गंध उतनी ही मजबूत होती जाती है, जिससे भविष्य की चींटियों के लिए उसी रास्ते को चुनना और भी अधिक संभावित हो जाता है। यह एक "सुदृढीकरण" (reinforcement) लूप है: पिछली सफलता भविष्य की सफलता को जन्म देती है।

यह पेपर इस जैविक विचार को लेता है और इसे मानवीय विकल्पों (जैसे फिल्म या उत्पाद चुनना) पर लागू करता है। हालाँकि, केवल एक साधारण गणितीय सूत्र (जैसे "अधिक चींटियाँ = अधिक गंध") का उपयोग करने के बजाय, लेखक एक अधिक लचीला, "आकार बदलने वाला" मॉडल उपयोग करते हैं। वे अपने तरीके की तुलना एक "एलिफेंट रैंडम वॉक" (Elephant Random Walk) से करते हैं।

उपमा: कल्पना कीजिए कि एक हाथी एक संख्या रेखा (number line) पर चल रहा है। हर बार जब वह एक कदम लेता है, तो वह अपने पूरे इतिहास को देखता है। यदि उसने अतीत में दाईं ओर अधिक कदम लिए हैं, तो उसके फिर से दाईं ओर कदम रखने की संभावना अधिक होती है। लेकिन एक साधारण रोबोट के विपरीत, यह हाथी केवल एक सीधी रेखा का अनुसरण नहीं करता; इसके पास एक जटिल स्मृति है। लेखक इस "हाथी" की अवधारणा का उपयोग उपयोगकर्ता की प्राथमिकताओं के सटीक आकार को सीखने के लिए करते हैं, बिना उन्हें किसी कठोर ढांचे में बांधे।

2. "मोनोटोन" नियम (एकतरफा रास्ता)

उनके सिस्टम का मुख्य नियम मोनोटोनिसिटी (monotonicity) है। इसे प्राथमिकताओं के लिए एक एकतरफा सड़क के रूप में समझें।

यदि किसी उपयोगकर्ता ने उच्च तीव्रता के साथ "एक्शन फिल्में" चुनी हैं (घंटों तक उन्हें देखा है, उन्हें 5-स्टार रेटिंग दी है), तो उनके द्वारा फिर से "एक्शन फिल्में" चुनने की संभावना बढ़ जाती है।
यदि वे कम तीव्रता के साथ "रोमांस" चुनते हैं (उसे स्किप करते हुए देखते हैं), तो इसकी संभावना कम हो जाती है या कम रहती है।

लेखक यह मानते हैं कि आप जितनी तीव्रता से कुछ करते हैं, आपके इसे दोबारा करने की संभावना उतनी ही अधिक होती है। वे यह नहीं मानते कि संबंध एक सीधी रेखा है; वे डेटा को वक्र (curve) बनाने देते हैं।

3. "सर्वश्रेष्ठ अनुमान" और "सुरक्षा जाल"

पेपर एक सांख्यिकीय उपकरण पेश करता है जो उपयोगकर्ता के इतिहास के अनुकूल सबसे अच्छा वक्र खोजने का काम करता है।

पॉइंट एस्टीमेट (The Point Estimate): यह उपयोगकर्ता की पसंद की संभावना के बारे में उनका "सर्वश्रेष्ठ अनुमान" है। यदि किसी उपयोगकर्ता का इतिहास 80% समय एक्शन फिल्में देखने का है, तो मॉडल भविष्यवाणी करता है कि उनके अगली बार एक्शन मूवी चुनने की 80% संभावना है।
कॉन्फिडेंस सेट (The Confidence Set - सुरक्षा जाल): सांख्यिकी में, केवल एक "सर्वश्रेष्ठ अनुमान" पर्याप्त नहीं है; आपको यह जानने की आवश्यकता है कि आप कितने आश्वस्त हैं। लेखकों ने अपने अनुमान के चारों ओर एक "सुरक्षा जाल" (confidence interval) बनाया है।
- उपमा: एक मौसम पूर्वानुमान की कल्पना करें। एक साधारण पूर्वानुमान कहता है "बारिश होगी।" एक बेहतर पूर्वानुमान कहता है "बारिश होगी, और मैं 95% सुनिश्चित हूँ कि यह दोपहर 2 बजे से 4 बजे के बीच होगी।"
- लेखकों का तरीका उन कठिन "नजेंस पैरामीटर्स" (अतिरिक्त चर जो आमतौर पर गणित को बिगाड़ देते हैं) का अनुमान लगाए बिना यह सुरक्षा जाल बनाता है। वे डेटा से सीधे अपने सुरक्षा जाल की सीमाओं को खींचने के लिए एक चतुर गणितीय ट्रिक (likelihood ratio testing) का उपयोग करते हैं।

4. सिद्धांत का परीक्षण

अपने तरीके को सिद्ध करने के लिए, उन्होंने दो चीजें कीं:

सिम्युलेटेड गेम्स: उन्होंने ज्ञात प्राथमिकताओं वाले नकली उपयोगकर्ता बनाए और अपने कंप्यूटर मॉडल को उन्हें अनुमान लगाने दिया। उन्होंने विभिन्न परिदृश्य परीक्षण किए: क्या होगा यदि उपयोगकर्ता 20 विकल्प चुनते हैं बनाम 100? क्या होगा यदि कुछ विकल्प "मजबूत" (उच्च तीव्रता) हैं बनाम कुछ "कमजोर" हैं? जैसे-जैसे उन्हें अधिक डेटा दिया गया, मॉडल का अनुमान बेहतर होता गया, और उनके द्वारा बनाए गए "सुरक्षा जाल" 95% बार सटीक थे।
वास्तविक दुनिया का मूवी डेटा: उन्होंने अपने मॉडल का परीक्षण प्रसिद्ध मूवीलेंस (MovieLens) डेटासेट (लाखों मूवी रेटिंग्स) पर किया। उन्होंने प्रयास किया कि एक उपयोगकर्ता उनके पिछले रेटिंग के आधार पर "एक्शन" मूवी चुनेगा या "रोमांस" मूवी।
- परिणाम: उन्होंने पाया कि केवल फिल्मों को गिनना उतना ही प्रभावी था जितना कि उन्हें स्टार रेटिंग (तीव्रता) के आधार पर तौलना। इस विशिष्ट मामले में, "साधारण" मॉडल उनके "जटिल" मॉडल के समान ही अच्छा था, लेकिन उनके द्वारा बनाया गया ढांचा जटिल तीव्रता को संभालने के लिए पर्याप्त लचीला है यदि स्थिति की मांग हो।

सारांश

यह पेपर एक सांख्यिकीय ढांचे को प्रस्तुत करता है जो उपयोगकर्ता की प्राथमिकताओं के लिए एक स्मार्ट मेमोरी बैंक की तरह कार्य करता है।

यह याद रखता है कि आपने किसी चीज़ को कितनी बार और कितनी तीव्रता से चुना।
यह मानता है कि मजबूत पिछले चुनाव भविष्य के मजबूत चुनाव की ओर ले जाते हैं।
यह एक लचीले, गैर-कठोर गणितीय दृष्टिकोण का उपयोग करता है (हाथियों और चींटियों से प्रेरित) ताकि आपकी आदतों को सीखा जा सके।
यह केवल एक भविष्यवाणी नहीं देता, बल्कि एक विश्वसनीयता स्कोर (कॉन्फिडेंस इंटरवल) भी प्रदान करता है ताकि आप जान सकें कि भविष्यवाणी पर कितना भरोसा किया जाए।

यह अनुशंसा प्रणालियों (जैसे नेटफ्लिक्स या अमेज़न) को केवल "आपने इसे पसंद किया, इसलिए आप इसे पसंद करेंगे" तर्क से आगे बढ़कर, आपने इसे कितना पसंद किया, इसकी गहरी समझ की ओर बढ़ने में मदद करता है, जिससे अधिक व्यक्तिगत और सटीक सुझाव मिलते हैं।

तकनीकी सारांश: अतीत से पसंद सीखने के लिए एक सांख्यिकीय ढांचा

समस्या विवरण

ऑनलाइन अनुशंसा (recommendation), उपभोक्ता चयन मॉडलिंग और स्ट्रीमिंग सेवाओं जैसे विभिन्न वास्तविक दुनिया के डोमेन में, व्यक्ति विकल्पों के एक निश्चित सेट से बार-बार चयन करते हैं। उपयोगकर्ता की पसंद का सटीक अनुमान लगाना भविष्य की व्यक्तिगत अनुशंसाओं को उत्पन्न करने के लिए महत्वपूर्ण है। जबकि मौजूदा विधियाँ अक्सर चयन की आवृत्ति (frequency) पर निर्भर करती हैं, यह शोध पत्र तर्क देता है कि एक विकल्प की तीव्रता (intensity) (जैसे, खर्च की गई राशि, देखने की अवधि, या ऑर्डर का मूल्य) केवल आवृत्ति की तुलना में पसंद का एक मजबूत परिमाणीकरण प्रदान करती है।

मुख्य चुनौती जो संबोधित की गई है वह एक स्वाभाविक एकदिष्टता धारणा (monotonicity assumption) के तहत पिछले निर्णयों के आधार पर उपयोगकर्ता की पसंद की संभावनाओं का अनुमान लगाना है: जो विकल्प अतीत में अधिक बार या अधिक तीव्रता से चुने गए हैं, उनके भविष्य में चुने जाने की संभावना अधिक होती है। लेखक ह्यूरिस्टिक कर्व-फिटिंग और पैरामीट्रिक मॉडल (जैसे कि चींटी उपनिवेशों के लिए उपयोग किए जाने वाले) से आगे बढ़ने का लक्ष्य रखते हैं ताकि एक सांख्यिकीय रूप से कठोर, गैर-पैरामीट्रिक ढांचे को विकसित किया जा सके जो चयनों के इतिहास और उनकी परिवर्तनशील तीव्रताओं दोनों को ध्यान में रखता है।

कार्यप्रणाली

मॉडल सूत्रीकरण

लेखक एक संभाव्यता ढांचा प्रस्तावित करते हैं जहाँ समय $t+1$ पर एक उपयोगकर्ता का चयन पिछले चयनों की सापेक्ष तीव्रता (relative intensity) पर आधारित होता है।

डेटा संरचना: $N$ उपयोगकर्ताओं के लिए, प्रत्येक उपयोगकर्ता एक विविक्त समय विंडो (discrete time window) में दो विकल्पों ( $c_1$ और $c_0$ ) में से चयनों का एक क्रम बनाता है। प्रत्येक चयन एक तीव्रता $W_t$ के साथ जुड़ा होता है।
सापेक्ष तीव्रता ( $R_t$ ): इसे समय $t$ तक के सभी चयनों की कुल तीव्रता के सापेक्ष $c_1$ के चुने जाने के भारित अनुपात (weighted proportion) के रूप में परिभाषित किया गया है:
$R_t = \frac{\sum_{i=1}^t U_i W_i}{\sum_{i=1}^t W_i}$
जहाँ $U_i \in \{0, 1\}$ चयन को इंगित करता है और $W_i$ तीव्रता है।
पसंद फलन (Preference Function - $h$ ): समय $t+1$ पर $c_1$ चुनने की संभावना को $P(U_{t+1}=1 | R_t) = h(R_t)$ के रूप में मॉडल किया जाता है।
प्रतिबंध: फलन $h: [0, 1] \to [0, 1]$ को गैर-घटता (non-decreasing) माना जाता है, जो सुदृढीकरण गतिशीलता (reinforcement dynamic) को दर्शाता है जहाँ उच्च अतीत सापेक्ष तीव्रता भविष्य के चयन की संभावना को बढ़ा देती है।

स्टोकेस्टिक प्रक्रियाओं से संबंध

यह ढांचा सामान्यीकृत एलीफेंट रैंड वॉक (generalized elephant random walk) (जिसे [16] द्वारा प्रस्तुत किया गया था) से प्रेरणा लेता है। इस विशेष मामले में जहाँ चयनों की तीव्रता समान है ( $W_t \equiv 1$ ), इस मॉडल में चयनों का क्रम चींटी पथ चयन (ant path selection) पर लागू पैरामीट्रिक मॉडल (जैसे [7], [9]) के बजाय गैर-पैरामीट्रिक विधियों के उपयोग को प्रेरित करता है।

अनुमान प्रक्रिया

लेखक एकदिष्टता प्रतिबंध के तहत गैर-पैरामीट्रिक अधिकतम संभावना अनुमान (Non-Parametric Maximum Likelihood Estimation - NPMLE) का उपयोग करते हैं।

लाइक्लीहुड निर्माण: लॉग-लाइक्लीहुड को चयनों और उनकी संगत सापेक्ष तीव्रताओं के अवलोकनों के आधार पर तैयार किया जाता है।
अनुकूलन (Optimization): अनुमानक $\hat{h}_N$ को अद्वितीय गैर-घटते, दाएँ-सतत स्टेप फंक्शन (right-continuous step function) के रूप में परिभाषित किया गया है जो लॉग-लाइक्लीहुड को अधिकतम करता है। इसे पूल एडजसेंट वायलेटर्स एल्गोरिदम (Pool Adjacent Violators Algorithm - PAVA) का उपयोग करके एक कॉनवेक्स ऑप्टिमाइज़ेशन समस्या (आइसोटोनिक रिग्रेशन) के रूप में हल किया जाता है।
कॉन्फिडेंस सेट्स: वाल्ड-टाइप अंतराल (Wald-type intervals) पर भरोसा करने के बजाय (जिसके लिए $h$ के डेरिवेटिव और $R_t$ के वितरण जैसे न्यूसेंस पैरामीटर्स के अनुमान की आवश्यकता होती है), लेखक लाइक्लीहुड रेशियो टेस्ट (likelihood ratio tests) को उलटने (inverting) द्वारा कॉन्फिडेंस सेट्स का निर्माण करते हैं। यह दृष्टिकोण लाइक्लीहुड रेशियो सांख्यिकी के स्पर्शोन्मुखी वितरण (asymptotic distribution) का लाभ उठाता है, जो कि महत्वपूर्ण है और इसके लिए न्यूसेंस पैरामीटर अनुमान की आवश्यकता नहीं होती है।

मुख्य सैद्धांतिक परिणाम

यह शोध पत्र मानक नियमितता धारणाओं (चयन गणनाओं का सीमित समर्थन, अंतर्निहित वितरण की सहजता, और $h$ का गैर-शून्य डेरिवेटिव) के तहत प्रस्तावित अनुमानक के कठोर स्पर्शोन्मुखी गुणों को स्थापित करता है।

अनुमानक का स्पर्शोन्मुखी वितरण: एक निश्चित बिंदु $r_0$ पर अनुमानक $\hat{h}_N(r_0)$ दर $N^{1/3}$ पर अभिसरित (converge) होता है (जो पैरामीट्रिक सेटिंग्स में सामान्य $N^{1/2}$ दर से धीमा है)। सीमित वितरण को चेर्नॉफ वितरण (Chernoff distribution) (दो-तरफा ब्राउनियन मोशन के द्विघात ड्रिफ्ट के न्यूनतम स्थान का वितरण) द्वारा वर्णित किया गया है।
$N^{1/3}(\hat{h}_N(r_0) - h(r_0)) \xrightarrow{d} C \cdot \arg\max_{x \in \mathbb{R}} (B(x) - x^2)$
जहाँ $B(x)$ एक दो-तरफा ब्राउनियन मोशन है।
लाइक्लीहुड रेशियो सांख्यिकी: $H_0: h(r_0) = h_0$ के परीक्षण के लिए लाइक्लीहुड रेशियो सांख्यिकी एक यादृच्छिक चर $D$ में अभिसरित होती है, जिसे ड्रिफ्ट वाले ब्राउनियन मोशन के ग्रेटेस्ट कॉनवेक्स माइनरेंट (greatest convex minorant) और उसके प्रतिबंध के बीच वर्ग अंतर के समाकलन (integral) के रूप में परिभाषित किया गया है।
$2 \log \lambda_N(h_0) \xrightarrow{d} \int \left( (g_{1,1}(x))^2 - (g^0_{1,1}(x))^2 \right) dx$
यह परिणाम $h'(r_0)$ या कोवेरिएट्स के घनत्व का अनुमान लगाए बिना कॉन्फिडेंस इंटरवल बनाने की अनुमति देता है, जिससे न्यूसेंस पैरामीटर की समस्या से बचा जा सकता है जो मोनोटोन फलन अनुमान में आम है।

अनुभवजन्य परिणाम

सिमुलेशन अध्ययन

लेखकों ने छह विन्यासों (configurations) में विस्तृत सिमुलेशन किए, जो चयनों की संख्या (स्थिर बनाम यादृच्छिक) और तीव्रता शासन (equal, uniform, and persistent) में भिन्न होते हैं।

प्रदर्शन मेट्रिक्स: उन्होंने टेस्ट एरर (ओरेकल के विरुद्ध भविष्य कहनेवाला सटीकता) और एक्सपेक्टेड कैलिब्रेशन एरर (ECE) का मूल्यांकन किया।
निष्कर्ष:
- जैसे-जैसे नमूना आकार $N$ बढ़ता है, टेस्ट एरर और ECE दोनों लगातार कम होते जाते हैं, जो निरंतरता (consistency) को प्रदर्शित करते हैं।
- अनुमानक मध्यम नमूना आकारों पर भी अच्छी तरह से कैलिब्रेटेड थे।
- 95% कॉन्फिडेंस सेट्स वांछित व्यवहार प्रदर्शित करते हैं: उनकी लंबाई $N$ के साथ एकदिष्ट रूप से घटती है, और कवरेज प्रोबेबिलिटी सभी विन्यासों में नाममात्र 0.95 स्तर के करीब रहती है।

वास्तविक दुनिया का अनुप्रयोग

इस ढांचे को मूवी जॉनर (जैसे एक्शन बनाम रोमांस) के लिए उपयोगकर्ता की पसंद का अनुमान लगाने के लिए मूवी लेंस (MovieLens - 20M) डेटासेट पर लागू किया गया।

सेटअप: उपयोगकर्ता की रेटिंग को चयन तीव्रता के रूप में माना गया। मॉडल को चयनों 11-15 पर प्रशिक्षित किया गया और चयनों 16-20 पर परीक्षण किया गया।
तीव्रता तुलना: लेखकों ने "कांस्टेंट इंटेंसिटी" मॉडल (सभी चयनों को समान भार दिया गया) की तुलना "रेटिंग-आधारित इंटेंसिटी" मॉडल (भार उपयोगकर्ता की रेटिंग के बराबर है) से की।
परिणाम: रेटिंग-आधारित तीव्रता ने भविष्य कहनेवाला सटीकता या कैलिब्रेशन के मामले में कांस्टेंट इंटेंसिटी मॉडल की तुलना में कोई महत्वपूर्ण सुधार नहीं दिखाया। यह सुझाव देता है कि इस विशिष्ट डेटासेट के लिए, सरल कांस्टेंट-इंटेंसिटी मॉडल डेटा की आवश्यक संरचना को पकड़ लेता है।
व्याख्यात्मकता (Interpretability): अनुमानित पसंद फलन और उनके कॉन्फिडेंस सेट्स ने कार्रवाई योग्य अंतर्दृष्टि प्रदान की। उदाहरण के लिए, कॉन्फिडेंस इंटरवल जोखिम-जागरूक निर्णय लेने में मदद करते हैं, जिससे उच्च प्राथमिकता निश्चितता वाले उपयोगकर्ताओं और उच्च अनिश्चितता वाले उपयोगकर्ताओं के बीच अंतर किया जा सके।

महत्व और दावे

यह शोध पत्र दावा करता है कि यह एक नवीन सांख्यिकीय ढांचा प्रदान करता है जो प्रकृति में देखे जाने वाले सुदृढीकरण गतिकी (चींटी उपनिवेशों) और मानव निर्णय लेने के बीच के अंतर को पाटता है। इसके प्राथमिक योगदान हैं:

गैर-पैरामीट्रिक लचीलापन: पिछले पैरामीट्रिक दृष्टिकोणों के विपरीत, यह ढांचा मजबूत कार्यात्मक रूप (functional form) धारणाएं नहीं थोपता है, जिससे विविध उपयोगकर्ता व्यवहारों को पकड़ना संभव होता है।
तीव्रता का समावेश: यह चयनों की तीव्रता को स्पष्ट रूप से मॉडल करता है, यह स्वीकार करते हुए कि सभी उपयोगकर्ता क्रियाएं समान भार नहीं रखती हैं।
सांख्यिकीय कठोरता: यह इस विशिष्ट सुदृढीकरण सेटिंग में एकदिष्टता बाधाओं के तहत पसंद अनुमान के लिए पहले सैद्धांतिक गारंटी (निरंतरता, स्पर्शोन्मुखी वितरण और कॉन्फिडेंस सेट्स) प्रदान करता है।
व्यावहारिक उपयोगिता: लाइक्लीहुड-रेशियो-आधारित कॉन्फिडेंस सेट्स जटिल न्यूसेंस पैरामीटर अनुमान के बिना अनिश्चितता को मापने का एक सिद्धांतपूर्ण तरीका प्रदान करते हैं, जिससे यह विधि मजबूत और वास्तविक दुनिया की अनुशंसा प्रणालियों के लिए लागू करने योग्य बन जाती है।

लेखक निष्कर्ष निकालते हैं कि हालांकि यह ढांचा वर्तमान में स्थिर सेटिंग्स के लिए डिज़ाइन किया गया है, फिर भी यह गैर-स्थिर गतिकी और उपयोगकर्ता-विशिष्ट कोवेरिएट्स को शामिल करने वाले भविष्य के कार्यों के लिए एक आधारभूत कदम के रूप में कार्य करता है।