A note on the optimum allocation of resources to follow up unit nonrespondents in probability
यह शोध पत्र केवल प्रतिक्रिया दरों को अधिकतम करने के बजाय, अनुमानकों (estimators) के माध्य वर्ग त्रुटि (mean squared error) को न्यूनतम करने के लिए, संभाव्यता सर्वेक्षणों में गैर-प्रतिक्रिया अनुवर्ती संसाधनों (nonresponse follow-up resources) को इष्टतम रूप से आवंटित करने की एक विधि प्रस्तावित करता है और एक ऑस्ट्रेलियाई कृषि सर्वेक्षण के डेटा का उपयोग करके इसके अनुप्रयोग को प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक शहर की पूरी आबादी के रहस्य को सुलझाने की कोशिश कर रहे हैं, लेकिन आप केवल लोगों के एक छोटे, यादृच्छिक (random) समूह का साक्षात्कार ले सकते हैं। यह प्रायिकता सर्वेक्षणों (probability surveys) की दुनिया है, जो वह सांख्यिकीय उपकरण है जिसका उपयोग सरकारें और शोधकर्ता खेत में कितने भेड़ हैं से लेकर लोग अपनी नौकरियों के बारे में कैसा महसूस करते हैं, सब कुछ समझने के लिए करती हैं। बड़ी समस्या क्या है? हर कोई दरवाजा नहीं खोलता। कुछ लोग जासूस को अनदेखा कर देते हैं, कुछ फोन काट देते हैं, और कुछ बस बात करने से मना कर देते हैं। इसे गैर-प्रतिक्रिया (nonresponse) कहा जाता है।
लंबे समय तक, इन जासूसों के लिए मानक नियम सरल था: "हर उस दरवाजे पर तब तक दस्तक देते रहें जब तक कि कोई उसे खोल न दे।" लक्ष्य उच्चतम प्रतिक्रिया दर (response rate) प्राप्त करना था—उन लोगों का प्रतिशत जिन्होंने "हाँ" कहा। तर्क यह था कि यदि आप अधिक लोगों से बात करते हैं, तो शहर की आपकी तस्वीर अधिक स्पष्ट होनी चाहिए। हालाँकि, सांख्यिकीविदों ने महसूस किया है कि उच्च प्रतिक्रिया दर का अर्थ हमेशा उच्च गुणवत्ता वाली तस्वीर नहीं होता है। हो सकता है कि आप एक हजार दरवाजे खटखटाएं, लेकिन अंत में आपको पता चले कि जवाब देने वाले लोग सभी एक ही पड़ोस के हैं, जिससे आपको पूरे शहर का पक्षपाती (biased) दृश्य मिल जाए। वास्तविक लक्ष्य केवल अधिक "हाँ" उत्तर प्राप्त करना नहीं है; बल्कि आपके पास जो पैसा है, उससे सबसे सटीक उत्तर प्राप्त करना है। यह शोध पत्र एक महत्वपूर्ण प्रश्न पूछता है: यदि आपके पास दरवाजे खटखटाने के लिए एक सीमित बजट है, तो आपको बेहतर परिणाम प्राप्त करने के लिए अपना खर्च कैसे करना चाहिए, न कि केवल सबसे तेज़ आवाज़ पाने के लिए?
जासूस की दुविधा: क्यों हर दरवाजे पर दस्तक देना समय की बर्बादी हो सकती है
आधिकारिक सांख्यिकी की दुनिया में, जैसे कि ऑस्ट्रेलियाई सांख्यिकीय ब्यूरो द्वारा एकत्र किए गए आंकड़े, लागत (cost) और गुणवत्ता (quality) के बीच एक क्लासिक खींचतान होती है। सर्वेक्षण सांख्यिकीविदों के पास "गैर-प्रतिक्रिया अनुवर्ती" (Nonresponse Follow-up - NFU) के लिए एक बजट होता है—वह पैसा और समय जो उन लोगों के पीछे भागने में खर्च किया जाता है जिन्होंने पहली बार में जवाब नहीं दिया था। पुराने जमाने की रणनीति यह थी कि इस बजट का उपयोग प्रत्येक गैर-उत्तरदाता का पीछा करने के लिए किया जाए, इस उम्मीद में कि उन्हें उत्तरदाता में बदला जा सके। सोच यह थी: "अधिक उत्तरदाता मतलब बेहतर डेटा।"
लेकिन इस शोध पत्र के लेखक, एसएम टैम, ए होल्मबर्ग और एस वांग, तर्क देते हैं कि यह एक जासूस द्वारा एक ही असहयोगी गवाह का बार-बार साक्षात्कार करने के लिए अपना सारा पैसा खर्च करने जैसा है, सिर्फ यह कहने के लिए कि उन्होंने प्रयास किया, जबकि अन्य सुरागों को अनदेखा कर दिया गया जो मामले को तेजी से सुलझा सकते थे। वे बताते हैं कि प्रतिक्रिया दर डेटा की गुणवत्ता का एक खराब संकेतक है। कभी-कभी, प्रतिक्रिया दर बढ़ाने से वास्तव में डेटा खराब हो सकता है क्योंकि इससे अधिक पूर्वाग्रह (bias) आ जाता है।
उच्च प्रतिक्रिया दर के पीछे भागने के बजाय, लेखक एक नई रणनीति प्रस्तावित करते हैं: माध्य वर्ग त्रुटि (Mean Squared Error - MSE) को कम करना। सरल शब्दों में, MSE इस बात का माप है कि आपका अनुमान वास्तविक उत्तर से कितना दूर है। लक्ष्य अपने अनुवर्ती (follow-up) पैसे को इस तरह खर्च करना है कि आपका अंतिम अनुमान सत्य के जितना संभव हो सके उतना करीब हो, न कि केवल जितना संभव हो सके उतना 'तेज़' हो।
नई रणनीति: "प्रतिक्रिया समरूपता समूह" (Response Homogeneity Group) मानचित्र
इसे हल करने के लिए, लेखक एक ऐसी विधि का सुझाव देते हैं जो थोड़ी बहुत वीडियो गेम रणनीति मार्गदर्शिका (strategy guide) जैसी लगती है। वे गैर-उत्तरदाताओं को प्रतिक्रिया समरूपता समूहों (Response Homogeneity Groups - RHGs) में विभाजित करते हैं। इन समूहों को ऐसे पड़ोस के रूप में सोचें जहाँ सभी का "बात करने की इच्छा" का स्कोर समान है, जिसे प्रोपेंसिटी स्कोर (propensity score) कहा जाता है।
- समूह A: वे लोग जो बहुत अधिक संभावना रखते हैं कि यदि आप बस विनम्रता से पूछें तो वे जवाब देंगे (उच्च प्रोपेंसिटी)।
- समूह B: वे लोग जो बहुत जिद्दी हैं और चाहे आप कितनी भी कोशिश करें, जवाब देने की संभावना कम है (कम प्रोपेंसिटी)।
शोध पत्र का तर्क है कि आपको सभी के साथ एक जैसा व्यवहार नहीं करना चाहिए। यदि आपके पास एक सीमित बजट है, तो आपको अत्यधिक जिद्दी समूह B के सदस्यों को बात करने के लिए मनाने में अपना पैसा बर्बाद नहीं करना चाहिए, खासकर जब आपने पहले ही पांच बार दरवाजा खटखटा लिया हो। इसके बजाय, आपको अपना ध्यान उन समूहों पर केंद्रित करना चाहिए जहाँ कुछ अतिरिक्त दस्तक वास्तव में नई, उपयोगी जानकारी ला सकती है।
लेखक क्वासी-रैंडमाइजेशन (quasi-randomisation) और इनवर्स प्रोपेंसिटी वेटिंग (inverse propensity weighting) नामक एक गणितीय ढांचे का उपयोग करते हैं। कल्पना कीजिए कि आप भीड़ की फोटो ले रहे हैं। यदि आप केवल सामने की पंक्ति में खड़े लोगों की फोटो लेते हैं, तो आपकी फोटो पक्षपाती होगी। लेकिन यदि आप जानते हैं कि पीछे की पंक्ति में कितने लोग हैं और उनके आगे आने की कितनी संभावना थी, तो आप उस फोटो को गणितीय रूप से "खींच" (stretch) सकते हैं ताकि वह वैसी दिखे जैसी पूरी भीड़ दिखती। यह पेपर सुझाव देता है कि उस गणित का उपयोग यह तय करने के लिए करें कि किसे अतिरिक्त प्रयास (follow-up visit) की आवश्यकता है।
भेड़ फार्म प्रयोग
अपने विचार का परीक्षण करने के लिए, लेखकों ने ऑस्ट्रेलिया के 2018/19 ग्रामीण पर्यावरण और कृषि वस्तु सर्वेक्षण (REACS) के वास्तविक डेटा का उपयोग करके एक सिमुलेशन चलाया। वे फार्मों पर भेड़ों की संख्या का अनुमान लगाने की कोशिश कर रहे थे।
यहाँ उन्होंने प्रयोग कैसे तैयार किया:
- डेटा: उन्होंने 4,696 फार्मों का अध्ययन किया। 3,525 निरंतर चलने वाले फार्म थे (जिनका पहले सर्वेक्षण किया जा चुका था), और 1,171 नए फार्म थे।
- पूर्वानुमान: उन्होंने रैंडम फॉरेस्ट (Random Forest) नामक एक कंप्यूटर एल्गोरिदम (जो निर्णय लेने वाले पेड़ों की एक टीम की तरह कार्य करता है) का उपयोग किया ताकि यह अनुमान लगाया जा सके कि प्रत्येक फार्म के उत्तर देने की कितनी संभावना है। नए फार्मों के लिए, उन्होंने "k-Nearest Neighbors" पद्धति का उपयोग किया, जिसमें पुराने फार्मों के सबसे समान फार्मों को खोजकर नए फार्मों के व्यवहार का अनुमान लगाया गया।
- समूह: उन्होंने सभी गैर-प्रतिक्रिया देने वाले फार्मों को 10 समूहों (RHGs) में वर्गीकृत किया, जो उनकी प्रतिक्रिया देने की संभावना के आधार पर "बहुत अनिश्चित" (0% से 10% संभावना) से लेकर "बहुत संभावित" (90% से 100% संभावना) तक थे।
- बजट: उन्होंने $30,000 का एक काल्पनिक अनुवर्ती (follow-up) बजट निर्धारित किया।
परिणाम: कठिन नहीं, बल्कि स्मार्ट तरीके से खर्च करना
लेखकों ने एक कंप्यूटर सॉल्वर (एक सुपर-स्मार्ट कैलकुलेटर की तरह) का उपयोग यह पता लगाने के लिए किया कि भेड़ गणना में त्रुटि को कम करने के लिए प्रत्येक समूह के लिए अनुवर्ती दौरों की सही संख्या क्या होनी चाहिए, बिना बजट से बाहर जाए।
पुराना तरीका (सामान्य अभ्यास):
यदि आप बस हर दरवाजे पर समान संख्या में दस्तक देते हैं, तो आप अत्यधिक जिद्दी फार्मों (जहाँ आपको कोई परिणाम नहीं मिलता) पर बहुत अधिक समय बिता सकते हैं और "शायद" वाले फार्मों पर पर्याप्त समय नहीं दे पाते। उनके सिमुलेशन में, इस "एक-समान-दृष्टिकोण" (one-size-fits-all) ने $30,000 खर्च किए और 99% प्रतिक्रिया दर प्राप्त की। हालाँकि, उनकी भेड़ गणना में त्रुटि अभी भी अपेक्षाकृत उच्च थी।
नया तरीका (इष्टतम आवंटन - Optimal Allocation):
लेखकों के तरीके ने एक बहुत ही अलग योजना का सुझाव दिया:
- "बहुत अनिश्चित" समूहों के लिए: पहले समूह पर 6 बार दस्तक दें और दूसरे पर 5 बार। इन समूहों में उनके डेटा में उच्च भिन्नता (variance) है, जिसका अर्थ है कि वे अनुमान में समग्र अनिश्चितता में सबसे अधिक योगदान देते हैं। यहाँ अधिक दौर आवंटित करके, रणनीति उन विशिष्ट समूहों को लक्षित करती है जो त्रुटि को सबसे अधिक कम करेंगे।
- "बहुत संभावित" समूहों के लिए: केवल 1 बार दस्तक दें। ये लोग पहले से ही जवाब देने की संभावना रखते हैं; आपको उन पर 6 बार दस्तक देकर पैसा बर्बाद करने की आवश्यकता नहीं है।
- लागत: इस स्मार्ट रणनीति ने केवल $19,640 खर्च किए (बजट का लगभग दो-तिहाई)।
- परिणाम: उन्होंने गैर-प्रतिक्रिया भिन्नता (nonresponse variance) को (भेड़ों की गिनती में) 57.77 बिलियन इकाइयों से घटाकर 38.21 बिलियन इकाइयों कर दिया।
बड़ी आश्चर्यजनक बात:
"सामान्य अभ्यास" ने 99% प्रतिक्रिया दर प्राप्त की, जबकि "इष्टतम रणनीति" ने 97% प्रतिक्रिया दर प्राप्त की।
- सामान्य अभ्यास: 99% प्रतिक्रिया दर, उच्च त्रुटि, लागत $30,000।
- इष्टतम रणनीति: 97% प्रतिक्रिया दर, कम त्रुटि, लागत $19,640।
यह पेपर दिखाता है कि 99% की प्रतिक्रिया दर एक "झूठी जीत" थी। यह प्रभावशाली लग रही थी, लेकिन इसने अधिक पैसा खर्च किया और वास्तव में भेड़ की आबादी की कम सटीक तस्वीर दी। इष्टतम रणनीति ने कम पैसा खर्च किया और बेहतर उत्तर दिया, भले ही कम लोगों ने "हाँ" कहा हो। विशेष रूप से, मानक "हर दरवाजे पर दस्तक देने" वाले तरीके की तुलना में, इष्टतम आवंटन ने गैर-प्रतिक्रिया भिन्नता को लगभग 3.9% कम कर दिया। (नोट: पेपर में उल्लेखित 10.4% की कमी, बिना किसी अनुवर्ती कार्रवाई के मुकाबले रूट मीन स्क्वेर्ड एरर (RMSE) में कमी है, न कि मानक विधि की तुलना में)।
यह भविष्य के लिए क्या मायने रखता है
लेखक निष्कर्ष निकालते हैं कि उच्च प्रतिक्रिया दर के पीछे भागना एक जाल है। यह वैसा ही है जैसे कि आप जीतने वाली चाल चलने के बजाय केवल यह गिनकर खेल जीतने की कोशिश कर रहे हों कि आपने कितनी बार "चेक!" चिल्लाया है।
उनके निष्कर्ष बताते हैं कि सर्वेक्षण सांख्यिकीविदों को प्रत्येक गैर-उत्तरदाता को बदलने की कोशिश छोड़ देनी चाहिए। इसके बजाय, उन्हें डेटा का उपयोग यह पहचानने के लिए करना चाहिए कि किन समूहों को थोड़े अतिरिक्त प्रोत्साहन की आवश्यकता है और कौन पहले से ही ठीक है। जहाँ वे माध्य वर्ग त्रुटि (Mean Squared Error) को सबसे अधिक कम करेंगे, वहां संसाधनों को आवंटित करके, एजेंसियां कम पैसे में बेहतर डेटा प्राप्त कर सकती हैं।
भेड़ सर्वेक्षण के विशिष्ट मामले में, इष्टतम आवंटन ने कुछ भी न करने की तुलना में त्रुटि को काफी कम कर दिया, और मानक "हर दरवाजे पर दस्तक देने" वाले तरीके की तुलना में कम लेकिन सार्थक अंतर के साथ, जबकि हजारों डॉलर बचाए। यह पेपर यह दावा नहीं करता है कि यह हर समस्या के लिए एक जादुई समाधान है, लेकिन यह एक स्पष्ट, गणितीय रूप से ठोस तरीका प्रदान करता है जिससे सर्वेक्षण अनुवर्ती (follow-ups) को स्मार्ट बनाया जा सके, जो यह सिद्ध करता है कि कभी-कभी, यह जानना कि कब दरवाजा खटखटाना बंद करना है, उतना ही महत्वपूर्ण है जितना कि यह जानना कि कब शुरू करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।