Prior-Free Sample Size Design for Test-and-Roll Experiments
यह शोध पत्र टेस्ट-एंड-रोल प्रयोगों को डिजाइन करने के लिए एक प्रायोर-फ्री (prior-free) वर्स्ट-केस मार्जिनल बेनिफिट (WMB) नियम प्रस्तावित करता है जो एक व्यावहारिक 'वन-थर्ड' (one-third) बेंचमार्क स्थापित करके मानक मिनिमैक्स रिग्रेट (minimax regret) की सीमाओं को हल करता है, जो यह सुझाव देता है कि गॉसियन (Gaussian) और बरनौली (Bernoulli) दोनों परिणामों के लिए कुल जनसंख्या का लगभग एक-तिहाई नमूना आकार इष्टतम है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक कंपनी के मैनेजर हैं जिसमें कर्मचारियों की एक निश्चित संख्या है, मान लीजिए N लोग। आपके पास दो नए सॉफ़्टवेयर टूल हैं, Tool A और Tool B, और आपको वह टूल चुनना है जो सभी को अधिक उत्पादक (productive) बनाए। आप अभी तक यह नहीं जानते कि कौन सा बेहतर है।
आपके पास आगे बढ़ने के दो विकल्प हैं:
- "रोलआउट" (Rollout) दृष्टिकोण: बस एक टूल चुनें और उसे तुरंत सभी को दे दें। (तेज़, लेकिन जोखिम भरा यदि आप गलत टूल चुन लेते हैं)।
- "टेस्ट-एंड-रोल" (Test-and-Roll) दृष्टिकोण: पहले, आप कुछ कर्मचारियों पर एक छोटा प्रयोग चलाते हैं (मान लीजिए कि उनकी संख्या m है)। आप Tool A को उनमें से आधे लोगों को देते हैं और Tool B को बाकी आधे को। आप देखते हैं कि कौन सा बेहतर काम करता है। फिर, आप जीतने वाले टूल को बाकी कर्मचारियों को दे देते हैं।
बड़ी दुविधा: प्रयोग में कितने लोग होने चाहिए?
यह इस शोध पत्र का मूल प्रश्न है। यह एक्सप्लोरेशन (सीखना/खोज करना) और एक्सप्लॉइटेशन (जो आप जानते हैं उसका उपयोग करना) के बीच एक क्लासिक खींचतान है।
- यदि आप बहुत कम लोगों का परीक्षण करते हैं (छोटा m): आप भाग्यशाली हो सकते हैं और सही टूल चुन सकते हैं, लेकिन गलत टूल चुनने का जोखिम भी रहता है। यदि आप गलत टूल चुनते हैं, तो आपको उसे पूरी कंपनी को देना होगा, जिससे उत्पादकता का भारी नुकसान होगा।
- यदि आप बहुत अधिक लोगों का परीक्षण करते हैं (बड़ा m): आप लगभग निश्चित रूप से जान जाएंगे कि कौन सा टूल बेहतर है। हालाँकि, परीक्षण के दौरान, प्रयोग के आधे लोग मजबूरन बेहतर नहीं (वorse) टूल का उपयोग कर रहे होते हैं। यदि आप अपनी कंपनी के 90% लोगों का परीक्षण करते हैं, तो आप केवल सुनिश्चित होने के लिए अपने कार्यबल के 45% की उत्पादकता बर्बाद कर रहे हैं।
यह शोध पत्र पूछता है: प्रयोग के लिए आदर्श संख्या (m) क्या है ताकि पूरी कंपनी की खुशी (कल्याण) को अधिकतम किया जा सके?
पुराना तरीका: "डरा हुआ" मैनेजर
लेखकों ने पहले यह देखा कि सांख्यिकीविद (statisticians) आमतौर पर "एब्सोल्यूट मिनिमैक्स रिग्रेट" (Absolute Minimax Regret) नामक विधि का उपयोग करके इसे कैसे हल करते हैं। इसे एक ऐसे मैनेजर के रूप में सोचें जो सबसे खराब स्थिति से बहुत डरा हुआ है।
यह मैनेजर सोचता है: "क्या होगा अगर दोनों टूल्स लगभग एक जैसे हों, लेकिन एक बस थोड़ा सा बेहतर हो? यदि मैं बहुत अधिक लोगों का परीक्षण करता हूँ, तो मैं समय बर्बाद कर रहा हूँ। लेकिन यदि मैं बहुत कम लोगों का परीक्षण करता हूँ, तो शायद मैं गलत टूल चुन लूँ!"
क्योंकि यह तरीका सबसे खराब स्थिति (जहाँ टूल्स लगभग समान हैं और गलत होने की लागत अधिक है) पर इतना केंद्रित है, इसलिए यह अत्यधिक सतर्क हो जाता है। यह मैनेजर को बताता है: "किसी का परीक्षण न करें! बस अनुमान लगाएं और तुरंत रोलआउट करें।"
शोध पत्र का तर्क है कि यह बेतुका है। वास्तविक दुनिया में, हम जानते हैं कि एक अच्छा निर्णय लेने के लिए हमें कुछ डेटा की आवश्यकता होती है। "डरा हुआ" तरीका प्रयोगों को इतना छोटा कर देता है कि वे उपयोगी ही नहीं रह जाते।
नया तरीका: "मार्जिनल" मैनेजर
लेखक एक नया नियम प्रस्तावित करते हैं जिसे वर्स्ट-केस मार्जिनल बेनिफिट (WMB) नियम कहा जाता है।
इस सवाल को पूछने के बजाय कि "पूरे प्रोजेक्ट के लिए सबसे बुरा क्या हो सकता है?", यह मैनेजर एक सरल, चरण-दर-चरण प्रश्न पूछता है:
"क्या एक और जोड़े (pair) लोगों को प्रयोग में जोड़ना सार्थक है?"
- लागत (Cost): दो और लोगों को जोड़ने का मतलब है कि दो और लोगों को परीक्षण के दौरान संभावित रूप से खराब टूल का उपयोग करना होगा।
- लाभ (Benefit): दो और लोगों को जोड़ने से हमें थोड़ा अधिक जानकारी मिलती है, जिससे हमारे द्वारा रोलआउट के दौरान गलती करने की संभावना कम हो जाती है।
मैनेजर लोगों को प्रयोग में तब तक जोड़ता रहता है जब तक कि लाभ (भविष्य के रोलआउट को गलती से बचाना) लागत (वर्तमान परीक्षण विषयों को बर्बाद करना) से अधिक रहता है। जैसे ही एक और जोड़े को जोड़ने की लागत लाभ से अधिक हो जाती है, वे रुक जाते हैं।
जादुई संख्या: "एक-तिहाई का नियम" (Rule of Thirds)
कुछ भारी गणित (जिसका विवरण शोध पत्र जटिल सूत्रों और गॉसियन सन्निकटन के साथ देता है) करने के बाद, लेखक एक आश्चर्यजनक रूप से सरल उत्तर पाते हैं।
चाहे डेटा "हाँ/ना" (जैसे सिक्का उछालना) हो या "संख्याएँ" (जैसे टेस्ट स्कोर), इष्टतम रणनीति लगभग हमेशा यह होती है:
अपनी जनसंख्या का 1/3 हिस्सा टेस्ट करें, और शेष 2/3 हिस्से पर रोल आउट करें।
- यदि आपके पास 300 लोग हैं: 100 का परीक्षण करें। 200 पर रोल आउट करें।
- यदि आपके पास 3,000 लोग हैं: 1,000 का परीक्षण करें। 2,000 पर रोल आउट करें।
यह क्यों महत्वपूर्ण है?
- अनुमान लगाने की आवश्यकता नहीं: आपको पहले से यह अनुमान लगाने की ज़रूरत नहीं है कि टूल्स कितने अच्छे हैं (कोई "प्रायर्स" या पूर्व धारणा नहीं)। आपको बस यह जानने की ज़रूरत है कि आपके पास कुल कितने लोग हैं।
- यह मजबूत (Robust) है: यह तब भी काम करता है जब आपको समस्या के सटीक विवरण नहीं पता होते, जब तक कि आप किसी अजीब, चरम मामले (जैसे एक ऐसा टूल जो कभी काम नहीं करता) में न हों।
- यह संतुलन बनाता है: यह "डरे हुए" मैनेजर को बहुत कम परीक्षण करने से और "जुनूनी" मैनेजर को बहुत अधिक परीक्षण करने से रोकता है।
सारांश
शोध पत्र कहता है कि जब आपके पास लोगों का एक निश्चित समूह होता है और आपको दो विकल्पों में से एक को चुनना होता है, तो सीखने और करने के बीच संतुलन बनाने का सबसे अच्छा तरीका यह है कि अपने समूह का एक-तिहाई हिस्सा प्रयोग पर खर्च करें और बाकी दो-तिहाई हिस्सा अंतिम निर्णय पर खर्च करें। यह नियम सरल है, इसके लिए जटिल अनुमानों की आवश्यकता नहीं है, और यह समूह को बेकार प्रयास और गलत निर्णयों दोनों से बचाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।