← नवीनतम पेपर
📊 statistics

A Total Statistical Error Framework for Comparing Census Data Collection Methods

यह शोध पत्र इकाई-स्तरीय गणना और पते की शुद्धता पर आधारित जनगणना प्रतिस्थापन (इम्प्यूटेशन) विधियों की तुलना करने के लिए एक 'टोटल स्टैटिस्टिकल एरर' फ्रेमवर्क प्रस्तुत करता है, जो ऑस्ट्रेलियाई 2021 की जनगणना के डेटा के माध्यम से यह प्रदर्शित करता है कि जनगणना गैर-प्रतिक्रिया संकेतकों (नॉन-रिस्पॉन्स इंडिकेटर्स) के साथ पोस्ट-एन्यूमरेशन सर्वे मॉडलों को संवर्धित करना निर्भर गैर-प्रतिक्रिया के कारण होने वाले गंभीर पूर्वाग्रहों को प्रभावी ढंग से ठीक करता है।

मूल लेखक: Siu-MIng Tam, Anders Holmberg

प्रकाशित 2026-08-04
📖 10 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Siu-MIng Tam, Anders Holmberg

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक हलचल भरे शहर की एक सटीक तस्वीर लेने की कोशिश कर रहे हैं। आप ठीक से जानना चाहते हैं कि कौन कहाँ रहता है, प्रत्येक घर में कितने लोग हैं, और वे आमतौर पर कहाँ सोते हैं। यह एक जनगणना (census) का काम है। लेकिन जीवन अस्त-व्यस्त है। लोग आते-जाते रहते हैं, वे फॉर्म भरना भूल जाते हैं, या वे किसी अस्थायी स्थान जैसे छात्र छात्रावास या निर्माण शिविर में सो रहे होते हैं। जब जनगणना करने वाले लोगों को नहीं ढूँढ पाते या उन्हें उनका "सामान्य" पता नहीं पता होता, तो उन्हें अनुमान लगाना पड़ता है। इस अनुमान लगाने के खेल को इम्प्यूटेशन (imputation) कहा जाता है।

अब, कल्पना कीजिए कि आपके पास अनुमान लगाने के दो अलग-अलग तरीके हैं। शायद एक तरीका "निकटतम पड़ोसी" (nearest neighbor) दृष्टिकोण का उपयोग करता है (उस सबसे मिलते-जुलते व्यक्ति को ढूँढना जिसने वास्तव में उत्तर दिया था और उसके विवरणों को कॉपी करना), और दूसरा एक जटिल कंप्यूटर मस्तिष्क जिसे "रैंडम फॉरेस्ट" (random forest) कहा जाता है, का उपयोग करके भविष्यवाणी करता है। आप कैसे जानते हैं कि कौन सा अनुमान लगाने वाला बेहतर है? आमतौर पर, सांख्यिकीविद दो चीजों को अलग-अलग देखते हैं: क्या उन्होंने व्यक्ति को ढूँढ लिया? और क्या उन्होंने उनका पता सही बताया? लेकिन क्या होगा यदि एक विधि अधिक लोगों को ढूँढती है लेकिन उनके पते गलत बताती है, जबकि दूसरी विधि कम लोगों को ढूँढती है लेकिन उनके पते सही बताती है? यह एक ऐसे शेफ की तुलना करने जैसा है जो एक विशाल भोजन बनाता है लेकिन आधा जला देता है, बनाम एक जो एक छोटा भोजन पूरी तरह से बनाता है। आपको पूरे भोजन को मापने का एक तरीका चाहिए, न कि केवल उसके हिस्सों को। यह शोध पत्र ठीक इसी समस्या को हल करने के लिए एक नया "स्कोरकार्ड" बनाता है, जिससे अधिकारियों को यह तय करने में मदद मिलती है कि कौन सी अनुमान लगाने की विधि जनसंख्या की सबसे सटीक तस्वीर देती है।


द ग्रेट सेंसस गेस-ऑफ (The Great Census Guess-Off)

लोगों की गिनती की दुनिया में, पता सही होना उतना ही महत्वपूर्ण है जितना कि गिनती सही होना। यदि एक छात्र को उसके विश्वविद्यालय छात्रावास में गिना जाता है लेकिन उसका "सामान्य" पता वास्तव में उसके माता-पिता का घर है, तो यह स्थानीय नियोजन के लिए एक गलती है। इस शोध पत्र के लेखक, सिउ-मिंग टैम और एंडर्स होल्मबर्ग ने महसूस किया कि सांख्यिकीविदों के पास विभिन्न अनुमान लगाने वाली विधियों की तुलना करने का कोई एकल, निष्पक्ष तरीका नहीं था। वे एक ऐसा स्कोर चाहते थे जो "क्या हमने उन्हें ढूँढ लिया?" और "क्या हमने उनका पता सही बताया?" को एक सरल संख्या में जोड़ सके।

उन्होंने एक नया ढांचा बनाया जिसे टोटल स्टैटिस्टिकल एरर (TSE) फ्रेमवर्क कहा जाता है। इसे एक वीडियो गेम की तरह समझें जहाँ देश का प्रत्येक व्यक्ति एक पात्र (character) है। प्रत्येक पात्र के लिए, आपको "सही" (Correct) अंक (1) तभी मिलता है जब दो चीजें होती हैं: जनगणना ने वास्तव में उन्हें ढूँढ लिया हो, और उसने उन्हें सही घर के पते पर असाइन किया हो। यदि जनगणना उन्हें पूरी तरह से चूक जाती है, या यदि वह उन्हें ढूँढ लेती है लेकिन उन्हें गलत घर में डाल देती है, तो आपको "गलत" (Wrong) अंक (0) मिलता है। इन सभी अंकों को जोड़कर, आपको करेक्टनेस रेट (Correctness Rate) प्राप्त होता है। यह दर अंतिम निर्णायक होती है। यदि विधि A की करेक्टनेस रेट विधि B से अधिक है, तो विधि A जीत जाती है। इससे कोई फर्क नहीं पड़ता कि विधि A ने थोड़े कम लोगों को ढूँधा; यदि उसने सही लोगों को सही स्थानों पर पाया, तो वह बेहतर उपकरण है।

स्कोर की जाँच करने के दो तरीके

शोध पत्र बताता है कि आपके पास जो जानकारी उपलब्ध है, उसके आधार पर इस स्कोर की गणना करने के दो तरीके हैं।

प्रतिमान I: रहस्यमय बॉक्स (वैलिडेशन सर्वे)
कभी-कभी, आपको सभी के लिए "सत्य" पता नहीं होता। आपके पास केवल एक नमूना (sample) होता है। कल्पना कीजिए कि आपके पास जनगणना डेटा का एक विशाल बॉक्स है, लेकिन आप वास्तविक उत्तर नहीं जानते। अपने काम की जाँच करने के लिए, आप लोगों के एक यादृच्छिक नमूने (random sample) को एक विशेष टीम (एक पोस्ट-एन्यूमरेशन सर्वे, या PES) भेजते हैं और पूछते हैं, "हे, आप वास्तव में कहाँ रहते हैं?" आप अपने जनगणना के अनुमानों की तुलना PES के उत्तरों से करते हैं। यह एक शिक्षक द्वारा केवल कुछ यादृच्छिक प्रश्नों की जाँच करके परीक्षा को ग्रेड करने जैसा है। शोध पत्र दिखाता है कि यदि वे लोग जो PES का उत्तर नहीं देते हैं, वे उन लोगों से भिन्न हैं जो उत्तर देते हैं (उदाहरण के लिए, यदि गलत पते वाले लोग ढूँढना कठिन है), तो आपका स्कोर पक्षपाती (biased) होगा। यह ऐसा है जैसे शिक्षक ने केवल आसान प्रश्नों को ग्रेड किया क्योंकि कठिन प्रश्न पढ़ने में बहुत अस्पष्ट थे। लेखकों ने पाया कि यह "डिपेंडेंट नॉन-रिस्पॉन्स" (dependent nonresponse) एक खराब विधि को भी महान दिखा सकता है।

प्रतिमान II: मास्टर की (डायरेक्ट बेंचमार्क)
कभी-कभी, आपके पास सभी के लिए "सत्य" होता है। शायद आपके पास पिछली जनगणना या एक पूर्ण सरकारी रजिस्टर है। इस स्थिति में, आपको अनुमान लगाने या नमूना लेने की आवश्यकता नहीं है; आप बस सीधे मास्टर सूची के विरुद्ध तुलना करते हैं। यह पूरे टेस्ट की उत्तर कुंजी (answer key) होने जैसा है। आप बिना किसी अनुमान के सटीक करेक्टनेस रेट की गणना कर सकते हैं। शोध पत्र अपने मुख्य प्रयोग के लिए इस विधि का उपयोग करता है क्योंकि उनके पास 2021 की ऑस्ट्रेलियाई जनगणना का एक विशाल डेटासेट था जहाँ वे सभी के लिए वास्तविक उत्तर जानते थे।

बड़ा प्रयोग: कौन सबसे अच्छा अनुमान लगाता है?

अपने नए ढांचे का परीक्षण करने के लिए, लेखकों ने 2021 की ऑस्ट्रेलियाई जनगणना के वास्तविक डेटा का उपयोग करके एक विशाल सिमुलेशन चलाया। उन्होंने 30,000 लोगों का एक समूह लिया और मान लिया कि उनमें से 2%, 5%, या 10% का डेटा "लापता" (जैसे आय या नौकरी का प्रकार) था। फिर, उन्होंने दो अलग-अलग अनुमान लगाने वाली मशीनों को खाली जगहों को भरने के लिए छोड़ा:

  1. k-नियरेस्ट नेबर्स (kNN): यह विधि डेटाबेस में उस व्यक्ति को ढूँढती है जो लापता व्यक्ति के सबसे समान है और उसकी जानकारी कॉपी करती है।
  2. रैंडम फॉरेस्ट (RF): यह एक अधिक जटिल कंप्यूटर मॉडल है जो भविष्यवाणियाँ करने के लिए कई निर्णय वृक्षों (decision trees) का निर्माण करता है।

उन्होंने इन विधियों का परीक्षण एक कठिन स्थिति के तहत किया जिसे NMAR (Not Missing At Random) कहा जाता है। इसका अर्थ है कि जो लोग "लापता" थे, वे संयोग से लापता नहीं थे; वे इसलिए लापता थे क्योंकि उनकी आय अधिक थी, और उच्च आय वाले लोग जनगणना के प्रश्नों का उत्तर देने में कम इच्छुक थे। यह एक वास्तविक परिदृश्य है जो अनुमान लगाना बहुत कठिन बना देता है।

चौंकाने वाला परिणाम:
जब उन्होंने "कुल शुद्धता दर" (सभी लोगों सहित समग्र स्कोर) को देखा, तो तीनों विधियाँ लगभग एक जैसी लगीं। उन सभी का स्कोर लगभग 95% से 98% था। क्यों? क्योंकि अधिकांश लोगों का डेटा लापता नहीं था, इसलिए उन्हें स्वचालित रूप से सही ढंग से गिना गया था। समग्र स्कोर वास्तविक समस्या को छिपा रहा था।

लेकिन जब उन्होंने केवल उन लोगों पर ध्यान केंद्रित किया जिन्हें अनुमान की आवश्यकता थी ("कंडीशनल करेक्टness रेट"), तो कहानी पूरी तरह बदल गई।

  • रैंडम फॉरेस्ट (Random Forest) मॉडल व्यक्तिगत विवरणों का अनुमान लगाने में स्पष्ट विजेता था। इसने परीक्षण किए गए प्रत्येक चर (variable) पर kNN को पछाड़ दिया। उदाहरण के लिए, इसने सही नौकरी उद्योग का 34% समय अनुमान लगाया (kNN के 29% की तुलना में) और सही आय का 17% समय अनुमान लगाया (kNN के 12.5% की तुलना में)।
  • हालाँकि, जब पूरी तस्वीर को देखा गया (एक ही व्यक्ति के लिए एक साथ सभी चार विवरणों को सही पाना), तो k-नियरेस्ट नेबर्स (विशेष रूप से केवल 1 पड़ोसी का उपयोग करते हुए) वास्तव में थोड़ा आगे निकल गया। इसने लापता लोगों में से 3.7% के लिए सभी चार विवरण सही पाए, जबकि रैंडम फॉरेस्ट केवल 3.4% ही कर सका।

अंतर क्यों है? क्योंकि रैंडम फॉरेस्ट प्रत्येक विवरण का अलग-अलग अनुमान लगाता है। यह एक व्यक्ति के लिए नौकरी सही बता सकता है, लेकिन आय गलत कर सकता है। kNN विधि एक ही "पड़ोसी" से सभी विवरण लेती है, इसलिए उत्तर एक-दूसरे के साथ सुसंगत रहते हैं। यह एक दोस्त से पूरा पहनावा (outfit) लेने बनाम एक दोस्त से शर्ट और दूसरे से पैंट लेने जैसा था; पूरा पहनावा बेहतर फिट बैठता है। इसलिए, जबकि रैंडम फॉरेस्ट व्यक्तिगत तथ्यों के लिए एक बेहतर "विशेषज्ञ" है, सरल kNN विधि पूरी कहानी को सुसंगत रखने में वास्तव में थोड़ी बेहतर थी।

पक्षपाती सर्वेक्षण का जाल

इस शोध पत्र का सबसे महत्वपूर्ण निष्कर्ष "प्रतिमान I" के सिमुलेशन से आता है। लेखकों ने एक ऐसी स्थिति का अनुकरण किया जहाँ "जाँच टीम" (PES) उन लोगों को ढूँढने में कठिनाई महसूस कर रही थी जिनका डेटा गलत अनुमानित किया गया था।

  • मानक दृष्टिकोण (Standard Approach): यदि आप केवल उन लोगों को देखते हैं जिन्होंने PES का उत्तर दिया, तो आप सोच सकते हैं कि आपकी अनुमान लगाने की विधि 97% सटीक है।
  • वास्तविकता: वास्तविक सटीकता केवल लगभग 95% थी।
  • पक्षपात (Bias): मानक दृष्टिकोण सटीकता को लगभग 2.5 प्रतिशत अंक से बढ़ा-चढ़ाकर दिखा रहा था।

लेकिन यहाँ मुख्य बात है: जब उन्होंने विशिष्ट समूहों (जैसे कार्यरत लोगों) को देखा, तो त्रुटि बहुत बढ़ गई। क्योंकि लापता लोगों का समूह छोटा था (समूह का केवल लगभग 1.5% से 6%), छोटा पक्षपात भी भारी रूप से बढ़ गया। मानक दृष्टिकोण ने दावा किया कि कार्यरत लोगों के लिए सटीकता लगभग 50-60% थी, जबकि वास्तविक सटीकता वास्तव में 0% के करीब थी! यह एक विनाशकारी अतिरंजना (overestimation) थी।

समाधान:
लेखकों ने CBB-NR नामक एक सुधार का परीक्षण किया। इसमें सर्वेक्षण मॉडल में एक सरल "फ्लैग" (flag) जोड़ना शामिल है: "क्या इस व्यक्ति का डेटा पहले लापता था और इम्प्यूटेड (अनुमानित) किया गया था?"

  • जब उन्होंने यह सरल फ्लैग जोड़ा, तो पक्षपात 90% तक गिर गया।
  • आश्चर्यजनक रूप से, वास्तविक अनुमानित मूल्यों (आय या नौकरी के अनुमान) को जोड़ने से बहुत अधिक मदद नहीं मिली। सरल "हाँ/नहीं" वाला फ्लैग कि "यह व्यक्ति एक अनुमान था" ही असली जादुई तत्व था।

यह क्यों मायने रखता है

यह शोध पत्र सांख्यिकीविदों को जनगणना की गुणवत्ता मापने के लिए एक नया, निष्पक्ष पैमाना देता है। यह सिद्ध करता है कि "बड़ी तस्वीर" (समग्र सटीकता) को देखने से लापता डेटा के अनुमान के बारे में गंभीर खामियां छिप सकती हैं। यह हमें यह भी चेतावनी देता है कि यदि हमारे जाँच सर्वेक्षण उन लोगों को मिस कर देते हैं जिन्हें ढूँढना सबसे कठिन है (वे लोग जिनका डेटा गलत अनुमानित किया गया है), तो हम वास्तव में जितना बेहतर सोचते हैं, उससे कहीं अधिक खराब स्थिति में होंगे।

लेखक दिखाते हैं कि अपने नए "करेक्टनेस रेट" का उपयोग करके और अपने सर्वेक्षण पक्षपात को एक सरल फ्लैग के साथ ठीक करके, हम अंततः विधियों जैसे kNN और रैंडम फॉरेस्ट की निष्पक्ष रूप से तुलना कर सकते हैं। उन्होंने पाया कि जबकि जटिल कंप्यूटर मॉडल एकल तथ्यों का अनुमान लगाने में महान हैं, सरल विधियाँ जो सभी तथ्यों को एक साथ रखती हैं, पूरी कहानी को सही ढंग से बताने के लिए वास्तव में बेहतर हो सकती हैं। सबसे महत्वपूर्ण बात यह है कि उन्होंने दिखाया कि अपने जाँच सर्वेक्षणों के पक्षपात को ठीक किए बिना, हम अंधे होकर उड़ रहे हैं, यह सोचकर कि हमारे मानचित्र पूर्ण हैं जबकि वे छिद्रों से भरे हो सकते हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →