Two-Sided Prioritized Ranking: A Coherency-Preserving Design for Marketplace Experiments
यह शोध पत्र टू-साइडेड प्रायोरिटाइज्ड रैंकिंग (TSPR) का प्रस्ताव करता है, जो एक नवीन प्रयोगात्मक डिज़ाइन है जो ऑनलाइन मार्केटप्लेस में मूल्य परिवर्तनों के कुल औसत उपचार प्रभाव (total average treatment effect) का अनुमान लगाने के लिए रैंक की गई सूचियों में स्थिति पूर्वाग्रह (position bias) का लाभ उठाता है, जबकि प्लेटफॉर्म की सुसंगतता को बनाए रखता है और हस्तक्षेप पूर्वाग्रह (interference bias) को कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, व्यस्त होटल बुकिंग वेबसाइट के मैनेजर हैं। आप एक नए विचार का परीक्षण करना चाहते हैं: क्या होगा यदि हम अपने 25% होटलों की कीमतें कम कर दें?
एक आदर्श दुनिया में, आप बस अपने आधे विज़िटर्स को सस्ती कीमतें दिखा सकते हैं और बाकी आधे को सामान्य कीमतें, फिर तुलना कर सकते हैं। लेकिन ऑनलाइन मार्केटप्लेस की वास्तविक दुनिया में, यह एक दुस्वप्न है जिसके दो कारण हैं:
- "निष्पक्षता" की समस्या (Coherency): यदि आप एक उपयोगकर्ता को एक होटल \100 में दिखाते हैं और उनके मित्र को वही होटल \80 में दिखता है, तो पहले उपयोगकर्ता को लगेगा कि उसके साथ धोखा हुआ है। वे साइट छोड़ सकते हैं और कभी वापस नहीं आएंगे। आप एक ही चीज़ के लिए अलग-अलग लोगों को अलग-अलग कीमतें नहीं दिखा सकते।
- "भीड़ वाला कमरा" की समस्या (Interference): आपके सर्च रिजल्ट्स में 20 होटलों की एक सूची है। यदि आप होटल A की कीमत कम करते हैं, तो लोग होटल B के बजाय उस पर क्लिक करेंगे। भले ही होटल B की कीमत में कोई बदलाव न हुआ हो, फिर भी उसकी बिक्री गिर जाएगी क्योंकि उसने होटल A को ग्राहक दे दिए। इसे 'इंटरफेरेंस' (हस्तक्षेप) कहा जाता। यदि आप होटल A की कीमत कम करने के प्रभाव को मापने की कोशिश करते हैं, तो आप अनजाने में होटल B के डेटा को भी खराब कर देते हैं।
पुराने तरीके (और वे क्यों विफल होते हैं)
- "कमरे को विभाजित करने" की विधि (User-Level A/B Test): आप ग्रुप A को सस्ती कीमतें दिखाते हैं और ग्रुप B को सामान्य कीमतें।
- यह क्यों विफल होता है: यह "निष्पक्षता" के नियम का उल्लंघन करता है। ग्रुप A देखता है \100 का टैग; ग्रुप B देखता है \80 का। लोग नाराज हो जाते हैं।
- "रैंडम शफल" विधि (Item-Level A/B A/B Test): आप सभी के लिए एक ही लिस्ट रखते हैं, लेकिन कुछ होटलों को रैंडमली "ट्रीटेड" (कीमत कम की गई) और अन्य को "अनट्रीटेड" (सामान्य कीमत) के रूप में चिह्नित करते हैं।
- यह क्यों विफल होता है: यह "भीड़ वाले कमरे" के नियम का उल्लंघन करता है। क्योंकि ट्रीटेड होटल सस्ते हैं, वे अनट्रीटेड होटलों का सारा ध्यान अपनी ओर खींच लेते हैं। आपका डेटा गड़बड़ा जाता है क्योंकि आइटम आपस में लड़ रहे होते हैं।
- "ग्रुपिंग" विधि (Cluster Randomization): आप होटलों को उनके पड़ोस (जैसे, "डाउनटाउन" बनाम "बीच") के आधार पर समूह में बांटते हैं और पूरे डाउनटाउन समूह को कीमतों में कटौती देते हैं।
- यह क्यों विफल होता है: यह बहुत धीमा और अपरिष्कृत है। आपके पास केवल कुछ ही पड़ोस हैं, इसलिए आपका डेटा "नॉइजी" (शोर वाला) है। यह केवल दो बादलों को देखकर मौसम का अनुमान लगाने जैसा है।
नया समाधान: टू-साइडेड प्रायोरिटाइज्ड रैंकिंग (TSPR)
इस पेपर के लेखक एक चतुर तकनीक प्रस्तावित करते हैं जिसे TSPR कहा जाता है। वे यह नहीं बदलते कि लोग क्या देखते हैं (कीमतें), बल्कि वे यह बदलते हैं कि चीजें सूची में कहाँ दिखाई देती हैं।
अपने सर्च रिजल्ट्स को एक कॉन्सर्ट लाइनअप की तरह समझें।
- हेडलाइनर्स (सूची के शीर्ष पर): सभी उन्हें देखते हैं। उन्हें 90% ध्यान मिलता है।
- ओपनिंग एक्ट्स (सूची के नीचे): केवल सबसे समर्पित प्रशंसक ही उन्हें देखते हैं। उन्हें लगभग कोई ध्यान नहीं मिलता।
TSPR कैसे काम करता है:
- सेटअप: आपके पास होटलों की एक सूची है। आप गुप्त रूप से कुछ को "सस्ता" (Treated) और कुछ को "सामान्य" (Untreated) के रूप में चिह्नित करते हैं। आप संतुलन बनाए रखने के लिए कुछ "डमी" होटल (Placebo) भी जोड़ते हैं।
- विभाजन: आप अपने विज़िटर्स को दो समूहों में विभाजित करते हैं: ग्रुप A और ग्रुप B।
- जादुई ट्रिक:
- ग्रुप A एक ऐसी सूची देखता है जहाँ सामान्य होटल सबसे ऊपर (हेडलाइनर्स) हैं, और सस्ते होटल नीचे (ओपनिंग एक्ट्स) धकेल दिए गए हैं।
- ग्रुप B एक ऐसी सूची देखता है जहाँ सस्ते होटल सबसे ऊपर (हेडलाइनर्स) हैं, और सामान्य होटल नीचे (ओपनिंग एक्ट्स) धकेल दिए गए हैं।
- परिणाम:
- सभी को एक ही कीमतें दिखती हैं। किसी के साथ धोखाधड़ी नहीं होती। निष्पक्षता बनी रहती है!
- ग्रुप B के लिए "सस्ते" होटलों को भारी ध्यान मिलता है क्योंकि वे सबसे ऊपर हैं।
- ग्रुप A के लिए "सस्ते" होटलों को लगभग कोई ध्यान नहीं मिलता क्योंकि वे नीचे छिपे हुए हैं।
यह समस्या को कैसे हल करता है
क्योंकि ग्रुप B सस्ते होटलों को पहले देखता है, वे उन्हें खरीदते हैं। क्योंकि ग्रुप A सामान्य होटलों को पहले देखता है, वे उन्हें खरीदते हैं।
ग्रुप B बनाम ग्रुप A की कुल बिक्री की तुलना करके, आप गणितीय रूप से यह पता लगा सकते हैं कि कीमत में गिरावट ने वास्तव में कितनी मदद की, बिना "भीड़ वाले कमरे" की समस्या के डेटा खराब हुए। आप इंटरफेरेंस से लड़ नहीं रहे हैं; आप इंटरफेरेंस का उपयोग कर रहे हैं (इस तथ्य का उपयोग कि लोग केवल सूची के शीर्ष भाग को देखते हैं) अपने फायदे के लिए कर रहे हैं।
उपमा: "गोल्डन टिकट" परेड
कल्पना कीजिए कि एक परेड में 100 फ्लोट्स (झांकियां) हैं।
- समस्या: आप जानना चाहते हैं कि किसी फ्लोट को "गोल्डन टिकट" (डिस्काउंट) देने से वह अधिक लोकप्रिय होता है या नहीं। लेकिन यदि आप बीच में एक टिकट देते हैं, तो लोग उसे अनदेखा कर देते हैं क्योंकि वे सामने वाले फ्लोट को देख रहे होते हैं।
- पुराना तरीका: आप रैंडम फ्लोट्स को टिकट देते हैं। जिन्हें आगे रखा गया है उन्हें सारा प्यार मिलता है, और जिन्हें पीछे रखा गया है उन्हें कुछ नहीं मिलता। आप यह नहीं बता सकते कि टिकट ने काम किया या यह केवल उनकी स्थिति (पोजीशन) का कमाल था।
- TSPR तरीका:
- परेड A: आप सभी "गोल्डन टिकट" वाले फ्लोट्स को बिल्कुल पीछे रखते हैं। भीड़ उन्हें मुश्किल से देख पाती है।
- परेड B: आप सभी "गोल्डन टिकट" वाले फ्लोट्स को बिल्कुल आगे रखते हैं। भीड़ पागल हो जाती है।
- गणित: चूंकि दोनों परेडओं के बीच एकमात्र अंतर यह है कि टिकट कहाँ रखे गए हैं, इसलिए भीड़ की प्रतिक्रिया में अंतर आपको ठीक-ठीक बताएगा कि "गोल्डन टिकट" कितना शक्तिशाली है।
निचोड़
यह पेपर सिद्ध करता है कि केवल सूची को पुनर्व्यवस्थित करके (एक समूह के लिए उपचारित वस्तुओं को शीर्ष पर और दूसरे के लिए नीचे रखकर), कंपनियां विश्वास तोड़े बिना और उपयोगकर्ताओं के साथ भरोसा खराब किए बिना सटीक प्रयोग चला सकती हैं।
यह एक "विन-विन" (दोनों की जीत) स्थिति है:
- उपयोगकर्ता सुसंगत और निष्पक्ष कीमतें देखते हैं।
- कंपनियाँ एक अस्त-व्यस्त और प्रतिस्पर्धी बाजार में भी स्पष्ट, सटीक डेटा प्राप्त करती हैं कि क्या काम कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।