📊 statistics

The Benjamini--Hochberg Procedure Can Fail to Control the FDR for Correlated Two-Sided Gaussian Tests

यह शोधपत्र यह प्रदर्शित करके एक लंबे समय से चले आ रहे अनुमान का खंडन करता है कि बेंजामिनी-होचबर्ग प्रक्रिया सहसंबद्ध द्वि-पक्षीय गाऊसी परीक्षणों के लिए अपने नाममात्र स्तर पर गलत खोज दर (फॉल्स डिस्कवरी रेट) को नियंत्रित करने में विफल रहती है, जो अंतराल अंकगणित (इंटरवल अरिथमेटिक) के माध्यम से कठोरता से सिद्ध किया गया है और लेखक द्वारा सत्यापित किया गया है।

मूल लेखक: Edgar Dobriban

प्रकाशित 2026-07-15

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Edgar Dobriban

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो ईमानदार लोगों से भरे कमरे में झूठ बोलने वालों के एक समूह को पकड़ने की कोशिश कर रहे हैं। आपके पास एक विशेष नियम पुस्तिका (बेन्जामिनी-होचबर्ग प्रक्रिया) है जो आपको यह बताती है कि बिना निर्दोष लोगों पर गलत आरोप लगाए "पकड़े गए!" (Gotcha!) चिल्लाने के लिए। दशकों तक, सांख्यिकीविदों (statisticians) का मानना था कि यह नियम पुस्तिका अटूट थी। उन्हें लगा कि अगर कमरे में लोग एक-दूसरे को रहस्य फुसफुसा रहे हों (सह-संबंधित डेटा/correlated data), तो भी नियम पुस्तिका गलत आरोपों की संख्या को एक सख्त सीमा, जैसे कि 1% (0.01), से नीचे रखने में सक्षम होगी।

लेकिन एक नए शोध पत्र ने, जिसे GPT-5.6 Pro नामक एक सुपर-स्मार्ट AI की मदद से लिखा गया है, इस विश्वास की नींव हिला दी है।

बड़ी खोज: नियम पुस्तिका में एक खामी है
लेखक दिखाते हैं कि एक विशिष्ट प्रकार की पेचीदा स्थिति के लिए—जहाँ "परीक्षण" दो-तरफा गॉसियन संख्याओं (two-sided Gaussian numbers) की तरह हैं (सोचिए कि वे शून्य से ऊपर या नीचे हिल सकते हैं)—नियम पुस्तिका विफल हो सकती है। ऐसा होता है कि जब ये माप एक बहुत ही विशिष्ट और चालाकी भरे तरीके से सह-संबंधित होते हैं, तो नियम पुस्तिका गलत आरोपों की दर को 1% की सीमा से थोड़ा सा ऊपर जाने देती है।

1% के बजाय, गलत सूचना की दर बढ़कर 0.0104 हो सकती है। यह एक छोटा सा नंबर है, लेकिन सख्त गणित की दुनिया में, यह बांध में एक विशाल दरार की तरह है। यह शोध पत्र केवल अनुमान नहीं लगाता; यह एक कठोर "प्रमाणपत्र" (एक गणितीय सुरक्षा निरीक्षक की रिपोर्ट की तरह) बनाता है जो साबित करता है कि परीक्षणों के बड़े समूह के लिए दर निश्चित रूप से 0.01 से अधिक ही होगी।

"चालाकी वाला कारक" मॉडल (The "Sneaky Factor" Model)
उन्होंने यह खामी कैसे ढूँढी? उन्होंने इस नियम पुस्तिका का परीक्षण करने के लिए एक काल्पनिक दुनिया, एक "कारक मॉडल" (factor model) बनाया। कल्पना कीजिए कि तीन समूहों वाले लोगों के साथ एक विशाल कमरा है:

ईमानदार भीड़ (कमरे का 96%): ये वास्तविक 'नल' (true nulls) हैं। उन्हें निर्दोष माना जाना चाहिए।
सिग्नल ग्रुप A (कमरे का 1%): ये "वास्तविक" संकेत हैं, जो एक दिशा में बढ़ रहे हैं।
सिग्नल ग्रुप B (कमरे का 3%): ये भी वास्तविक संकेत हैं, लेकिन अलग दिशा में बढ़ रहे हैं।

यहाँ ट्विस्ट यह है कि कमरे में हर कोई एक अदृश्य कंडक्टर (एक गुप्त कारक जिसे Z कहा जाता है) को सुन रहा है।

ईमानदार भीड़ कंडक्टर के साथ चलती है।
सिग्नल समूह कंडक्टर के विपरीत चलते हैं, लेकिन अलग-अलग गति से।

जब कंडक्टर अपनी छड़ी लहराता है, तो संकेत तेज़ हो जाते हैं, जिससे नियम पुस्तिका अधिक बार "पकड़े गए!" चिल्लाती है। लेकिन ठीक उसी समय, "ईमानदार भीड़" थोड़ी घबराहट महसूस करती है, जिससे उनके व्यवहार के किनारे (tails) संदिग्ध रूप से संकेतों जैसे दिखने लगते हैं। यह एक आदर्श स्थिति पैदा करता है जहाँ नियम पुस्तिका भ्रमित हो जाती है, निर्दोष लोगों को बहुत अधिक खारिज कर देती है, और गलत सूचना की दर (false discovery rate) 1% की सीमा को तोड़ने के लिए पर्याप्त बढ़ जाती है।

वे कितने आश्वस्त हैं?
यह "शायद" या "हमें लगता है" वाली बात नहीं है। लेखक अविश्वसनीय रूप से आश्वस्त हैं।

प्रमाण: मुख्य तर्क एक AI द्वारा उत्पन्न किया गया था और फिर मानव लेखक द्वारा सावधानीपूर्वक जांचा गया। उन्होंने "इंटरवल अंकगणित" (interval arithmetic) नामक एक विधि का उपयोग किया, जो सुरक्षा मार्जिन के साथ गणित करने जैसा है जो गारंटी देता है कि राउंडिंग एरर के बावजूद उत्तर कभी गलत नहीं होगा। उन्होंने सिद्ध किया कि परीक्षणों की एक बड़ी संख्या के लिए, दर सख्ती से 0.0104 से अधिक है।
सिमुलेशन: इसकी पुष्टि करने के लिए, उन्होंने कंप्यूटर प्रयोग (मोंटे कार्लो सिमुलेशन) चलाए। जब उन्होंने डेटा के 200 समूहों (कुल 20,000 परीक्षणों) का परीक्षण किया, तो कंप्यूटर ने गलत सूचना की दर 0.010359 मापी। यह 1% की सीमा से सांख्यिकीय रूप से अधिक है, जो वास्तविक दुनिया के सिमुलेशन में सिद्धांत की पुष्टि करता है।

इसका क्या अर्थ है (और इसका क्या अर्थ नहीं है)
यह शोध पत्र स्पष्ट रूप से इस विचार को खारिज करता है कि बेन्जामिनी-होचबर्ग प्रक्रिया सभी सह-संबंधित दो-तरफा गॉसियन परीक्षणों के लिए सुरक्षित है। बीस वर्षों तक, विशेषज्ञों का मानना था कि यह सुरक्षित था; यह शोध पत्र कहता है, "वास्तव में, यह नहीं है।"

हालाँकि, शोध पत्र इस बात के लिए सावधान है कि नियम पुस्तिका बेकार नहीं है। उल्लंघन बहुत छोटा है (0.0104 बनाम 0.01), और यह परीक्षणों की एक बहुत बड़ी संख्या और एक विशिष्ट, निर्मित परिदृश्य में होता है। लेखक स्वीकार करते हैं कि वे यह नहीं जानते कि क्या यह परीक्षणों की छोटी संख्या में भी होता है या यह कितनी खराब स्थिति तक जा सकता है। उन्होंने अभी तक जीन या स्टॉक जैसे वास्तविक दुनिया के डेटा पर इसका परीक्षण नहीं किया है; उन्होंने केवल एक बिंदु सिद्ध करने के लिए एक गणितीय मॉडल बनाया है।

इसलिए, अगली बार जब आप सुनें कि कोई सांख्यिकीय विधि किसी भी स्थिति में काम करने के लिए "सिद्ध" है, तो इस शोध पत्र को याद करें: कभी-कभी, सबसे भरोसेमंद उपकरणों में भी एक छोटी, छिपी हुई दरार होती है जिसे केवल एक सुपर-स्मार्ट जासूस (और थोड़े से AI की मदद) ही ढूंढ सकता है।

तकनीकी सारांश: बेन्जामिनी-होचबर्ग प्रक्रिया सहसंबंधित द्वि-पक्षीय गाऊसी परीक्षणों के लिए FDR को नियंत्रित करने में विफल हो सकती है

समस्या विवरण
यह शोध पत्र बहु-परिकल्पना परीक्षण (multiple hypothesis testing) के एक लंबे समय से चले आ रहे खुले प्रश्न को संबोधित करता है: क्या बेन्जामिनी-होचबर्ग (BH) प्रक्रिया किसी भी मनमाने सहसंबंध संरचना (arbitrary correlation structure) के तहत द्वि-पक्षीय गाऊसी परीक्षणों के लिए नाममात्र स्तर $\alpha$ पर फॉल्स डिस्कवरी रेट (FDR) को नियंत्रित करती है। जबकि BH प्रक्रिया स्वतंत्रता (benjamini and hochberg, 1995) और 'पॉजिटिव रिग्रेशन डिपेंडेंस ऑन अ सबसेट' (PRDS) की स्थिति (benjamini and yekutieli, 2001) के तहत FDR नियंत्रण के लिए जानी जाती है, सहसंबंधित द्वि-पक्षीय परीक्षणों का मामला अनसुलझा रहा।

पूर्ववर्ती साहित्य, जिसमें अनुभवजन्य अध्ययन (reiner-benaim, 2007; kim and van de wiel, 2008) और प्रभावशाली समीक्षाएं (benjamini, 2010; sarkar, 2023) शामिल हैं, व्यापक रूप से यह अनुमान लगाते थे कि किसी भी सहसंबंध संरचना के तहत द्वि-पक्षीय $z$ -परीक्षणों के लिए FDR नियंत्रण बना रहता है। यह शोध पत्र उस अनुमान को चुनौती देता है, यह तर्क देते हुए कि द्वि-पक्षीय परीक्षणों में दो पूंछों (two tails) का "फोल्डिंग" ( $\{P_i \le t\} = \{X_i \ge c_t\} \cup \{X_i \le -c_t\}$ ) उन मोनोटोन-रिग्रेशन और टोटल-पॉजिटिविटी तर्कों को बाधित करता है जो एक-पक्षीय सांख्यिकी (one-sided statistics) के लिए कार्य करते हैं, जिससे संभावित रूप से FDR में वृद्धि हो सकती है।

कार्यप्रणाली और निर्माण
इस अनुमान को गलत सिद्ध करने के लिए, लेखक एक विशिष्ट गाऊसी फैक्टर मॉडल का निर्माण करते हैं जिसमें $m_N = 100N$ परिकल्पनाएं शामिल हैं, जिन्हें तीन ब्लॉकों में विभाजित किया गया है:

सत्य शून्य (True Nulls) ( $96N$ ): $X^{(0)}_i = \frac{3}{10}Z + \frac{\sqrt{91}}{10}\epsilon_i$ ।
गैर-शून्य ब्लॉक 1 (Non-nulls Block 1) ( $N$ ): $X^{(1)}_j = \frac{12}{5} - \frac{3}{10}Z + \frac{\sqrt{91}}{10}\eta_j$ ।
गैर-शून्य ब्लॉक 2 (Non-nulls Block 2) ( $3N$ ): $X^{(2)}_k = \frac{22}{5} - \frac{18}{25}Z + \frac{\sqrt{301}}{25}\xi_k$ ।

यहाँ, $Z$ एक सामान्य गुप्त कारक (common latent factor) है, और $\epsilon, \eta, \xi$ स्वतंत्र मानक नॉर्मल (standard normals) हैं। गैर-शून्य ब्लॉकों के माध्य (means) को $Z$ के विरुद्ध जाने के लिए ट्यून किया गया है, जबकि शून्य ब्लॉक $Z$ के साथ चलता है। यह एक ऐसी स्थिति बनाता है जहाँ, $Z$ के विशिष्ट वास्तविकताओं के लिए, गैर-शून्य संकेत (non-null signals) रिजेक्शन काउंट (जिससे BH थ्रेशोल्ड बढ़ता है) को ठीक उसी समय बढ़ा देते हैं जब सशर्त शून्य वितरण (conditional null distribution) भारी द्वि-पक्षीय पूंछ (heavier two-sided tails) विकसित करता है।

प्रमाण एक अनुभवजन्य संचयी वितरण फलन (empirical cumulative distribution function - CDF) के अस्यम्प्टोटिक विश्लेषण पर निर्भर करता है:

वे $p$ -मानों के लिए एक सीमित सशर्त CDF $G_z(t)$ को परिभाषित करते हैं।
वे $z$ मानों की एक सीमा की पहचान करते हैं जहाँ BH थ्रेशोल्ड $\tau_N$ को $v$ और $w$ के बीच सख्ती से सीमित किया गया है (जहाँ $v < w < \alpha$ )।
इस सीमा के भीतर, यह दिखाया गया है कि सशर्त फॉल्स डिस्कवरी प्रोपोरशन (FDP), $\alpha$ से अधिक है।

मुख्य योगदान और प्रमाण तंत्र
प्राथमिक योगदान सहसंबंधित द्वि-पक्षीय गाऊसी परीक्षणों के लिए FDR नियंत्रण विफल होने को सिद्ध करने वाला एक कठोर प्रति-उदाहरण (counterexample) है। प्रमाण दो नवाचारों द्वारा विशिष्ट है:

सीमित विशिष्टता से बचाव (Avoidance of Limiting Uniqueness): तर्क को क्रॉसिंग बिंदु की अद्वितीय सीमा या क्रॉसिंग पर CDF की अवकलनीयता (differentiability) की आवश्यकता नहीं है। इसके बजाय, यह थ्रेशोल्ड को ब्रैकेट करने के लिए दो सख्त संकेत स्थितियों (sign conditions) का उपयोग करता है।
कठोर अंतराल अंकगणित (Rigorous Interval Arithmetic): प्रमाण "आउटवर्ड-राउंडेड इंटरवल अंकगणित" (Arb लाइब्रेरी का उपयोग करके) द्वारा सत्यापित निषेधों के एक परिमित संग्रह का उपयोग करता है। गुप्त कारक स्थान और $p$ -मान थ्रेशोल्ड स्थान को तर्कसंगत आयतों (rational rectangles) में विभाजित करके, लेखक प्रमाणित करते हैं कि विशिष्ट असमानताएं सख्ती से लागू होती हैं। यह फ्लोटिंग-पॉइंट त्रुटियों को समाप्त करता है, जिससे एक गणितीय प्रमाण मिलता है कि FDR नाममात्र स्तर से अधिक है।

इस प्रमाण को AI मॉडल GPT-5.6 Pro द्वारा उत्पन्न किया गया था और बाद में लेखक द्वारा सत्यापित किया गया, जिन्होंने संख्यात्मक सिमुलेशन भी किए और पांडुलिपि का मसौदा तैयार किया।

परिणाम

सैद्धांतिक परिणाम: निर्मित मॉडल के लिए $\alpha = 0.01$ स्तर पर, लेखक सिद्ध करते हैं कि सभी पर्याप्त बड़े $N$ के लिए, $\text{FDR}_N > 0.0104$ है। यह स्पष्ट रूप से नाममात्र स्तर 0.01 का उल्लंघन करता है।
संख्यात्मक प्रमाण (Numerical Certificate): इंटरवल अंकगणित प्रमाण $Z$ के 1,000 बिन्स (bins) के योगदान को जोड़ता है, जो लगभग $0.0104168$ का प्रमाणित निचला स्तर (lower bound) प्रदान करता है।
मोंटे कार्लो प्रयोग: $N=50, 100, 200$ $N = 50, 100, 200$ के लिए स्तरीकृत मोंटे कार्लो सिमुलेशन (विचरण को संभालने के लिए $Z$ $Z$ पर स्तरीकृत) आयोजित किए गए।
- $N=200$ पर, अनुमानित FDR $0.010359$ था, जिसका 95% विश्वास अंतराल (confidence interval) $[0.010155, 0.010563]$ है, जो नाममात्र स्तर से पूरी तरह ऊपर है।
- परिणाम अस्यम्प्टोटिक सैद्धांतिक निष्कर्ष के सुसंगत हैं, जो परिमित नमूनों (finite samples) में भी नियंत्रण की विफलता को दर्शाते हैं।

महत्व और दावे
यह शोध पत्र एक ऐसे अनुमान को गलत सिद्ध करने का दावा करता है जिसे बीस वर्षों से व्यापक रूप से माना जा रहा था। यह प्रदर्शित करता है कि BH प्रक्रिया द्वि-पक्षीय गाऊसी परीक्षणों में मनमाने सहसंबंध संरचनाओं के प्रति सार्वभौमिक रूप से मजबूत नहीं है, विशेष रूप से जब सहसंबंध सिग्नल स्ट्रेंथ और शून्य वितरण की पूंछ व्यवहार के बीच एक कपलिंग (coupling) उत्पन्न करता है।

लेखक नोट करते हैं कि उल्लंघन मामूली है (नाममात्र स्तर पर लगभग 4% वृद्धि) और यह परीक्षणों की एक बड़ी संख्या वाले मॉडल में होता है। वे स्पष्ट रूप से कहते हैं कि यह एक खुला प्रश्न बना हुआ है कि क्या FDR की संभावित वृद्धि पर कोई सार्वभौमिक सीमा मौजूद है या क्या कम संख्या में परीक्षणों के लिए नियंत्रण सुनिश्चित है। यह कार्य जटिल, आश्रित सेटिंग्स में BH प्रक्रिया के लिए वर्तमान सैद्धांतिक गारंटियों की सीमाओं को रेखांकित करता है और ऐसी स्थितियों में निर्भरता-समायोजित विकल्पों (dependence-adjusted alternatives) की आवश्यकता पर बल देता है।

इसी तरह के और पेपर