An Information Theoretic Treatment of Yager's Probability Distribution Negation

तकनीकी सारांश: यागर के संभाव्यता वितरण निषेध (Probability Distribution Negation) का एक सूचना सिद्धांत संबंधी उपचार

समस्या विवरण
यह शोध पत्र संभाव्यता वितरण (probability distribution) के "निषेध" (negation) को परिभाषित करने की मौलिक चुनौती को संबोधित करता है। जहाँ शास्त्रीय तर्क (classical logic) और फजी लॉजिक (fuzzy logic) में निषेध निर्विवाद है, वहीं कई परिणामों वाले संभाव्यता वितरणों के लिए इसे परिभाषित करना गैर-तुच्छ है क्योंकि इसके कई गणितीय रूप से सुसंगत परिभाषाएँ मौजूद हैं। विशिष्ट ध्यान यागर (2015) की परिभाषा पर है, जहाँ वितरण $p = (p_1, \dots, p_n)$ का निषेध $p' = (p'_1, \dots, p'_n)$ के रूप में परिभाषित किया गया है, जहाँ $p'_i = (1 - p_i)/(n - 1)$ है। यह परिभाषा एंट्रॉपी (लॉजिकल एंट्रॉपी) को अधिकतम करने और तटस्थता बनाए रखने के लिए निषेध किए गए घटना के संभाव्यता द्रव्यमान (probability mass) को अन्य सभी परिणामों के बीच समान रूप से पुनर्वितरित करती है। यह शोध पत्र एक कठोर, स्वयंसिद्ध सूचना-सैद्धांतिक औचित्य प्रदान करने का प्रयास करता है कि क्यों यागर की परिभाषा "स्वतंत्र निषेधकों" (independent negators) के एक व्यापक वर्ग के भीतर सबसे स्वाभाविक और सिद्धांत-आधारित विकल्प है।

कार्यप्रणाली
लेखक सूचना सिद्धांत (Information Theory) और मेजरइज़ेशन थ्योरी (Majorization Theory) को संयोजित करने वाले एक एकीकृत ढांचे का उपयोग करते हैं।

• स्वतंत्र निषेधक (Independent Negators): विश्लेषण स्वतंत्र निषेधकों पर केंद्रित है (बैटिरशिन एवं अन्य, 2021b द्वारा प्रस्तुत), जिन्हें क्लाइन (2022) ने सिद्ध किया है कि वे रैखिक निषेधकों (linear negators) के समतुल्य हैं। इन्हें यूनिफॉर्म निषेतक ($N_U$) और यागर के निषेतक ($N_Y$) के कॉनवेक्स कॉम्बिनेशन के रूप में $\alpha \in [0, 1]$ द्वारा पैरामीटराइज किया गया है: $N_\alpha(p) = \alpha N_U(p) + (1-\alpha)N_Y(p)$।
• मेजरइज़ेशन (Majorization): लेखक संभाव्यता वितरणों की तुलना करने के लिए मेजरइज़ेशन ($\preceq$) की अवधारणा का उपयोग करते हैं। एक वितरण $x$, $y$ द्वारा मेजरइज़ किया जाता है ($x \preceq y$) यदि $x$, $y$ की तुलना में "अधिक सपाट" या "अधिक मिश्रित" है।
• शूर-कन्केविटी (Schur-concavity) और $\phi$-एंट्रॉपी: शोध पत्र अनिश्चितता और सूचना संरक्षण को मापने के लिए शूर-कन्केव फलनों (ऐसे फलन जो वितरण के अधिक यूनिफॉर्म होने पर बढ़ते हैं) और $\phi$-एंट्रॉपी (एक वर्ग जिसमें शैनन, गिनी और त्सालिस एंट्रॉपी शामिल हैं) के गुणों का लाभ उठाता है।
• संचार चैनल (Communication Channels): पारस्परिक सूचना (mutual information) का विश्लेषण करने के लिए निषेध प्रक्रिया को एक डिस्क्रीट मेमोरीलेस कम्युनिकेशन चैनल के रूप में मॉडल किया गया है।

मुख्य योगदान और परिणाम

1. कुलबैक-लीब्लर (KL) डाइवर्जेंस का अधिकतमकरण:
   लेखक सिद्ध करते हैं कि सभी स्वतंत्र निषेधकों के बीच, यागर का निषेतक ($N_Y$, जो $\alpha=0$ के अनुरूप है) KL डाइवर्जेंस $D(p \| N_\alpha(p))$ को अधिकतम करता है। यह परिणाम यागर के निषेध को मूल वितरण से सांख्यिकीय सु distinguisability (विभेदनीयता) के संदर्भ में "सबसे दूर" वितरण के रूप में स्थापित करता है, जो मूल कथन के "विपरीत" के रूप में अधिकतम एंट्रॉपी के सहज विचार को एक मजबूत सूचना-सैद्धांतिक आधार प्रदान करता है।

2. शूर-कन्केव फलनों का न्यूनीकरण:
   क्लाइन (2022) के पिछले कार्य का विस्तार करते हुए, जो $\phi$-एंट्रॉपी पर केंद्रित था, यह शोध पत्र सिद्ध करता है कि यागर का निषेतक सभी स्वतंत्र निषेधकों के भीतर किसी भी शूर-कन्केव फलन को न्यूनतम करता है। चूंकि शूर-कन्केव फलन (शैनन एंट्रॉपी सहित) अनिश्चितता को मापते हैं, इसलिए इसका तात्पर्य यह है कि जबकि निषेध स्वाभाविक रूप से अनिश्चितता को बढ़ाता है, यागर का दृष्टिकोण इसे यथासंभव "संरचित" तरीके से करता है, जो अन्य स्वतंत्र निषेधकों की तुलना में मूल वितरण के बारे में सूचना के नुकसान को न्यूनतम करता है।

3. पारस्परिक सूचना (Mutual Information) का अधिकतमकरण:
   निषेध को एक संचार चैनल के रूप में मॉडल करते हुए, लेखक यह प्रदर्शित करते हैं कि यागर का निषेतक इनपुट (मूल वितरण) और आउटपुट (निषेधित वितरण) के बीच पारस्परिक सूचना $I(X; Y)$ को अधिकतम करता है। यह एक द्वैत (duality) को प्रकट करता है: यागर का निषेतक वितरण को मूल से यथासंभव दूर धकेलता है (दूरी को अधिकतम करता है) और साथ ही प्रारंभिक अवस्था के बारे में अधिकतम जानकारी को संरक्षित करता है (शोर को न्यूनतम करता है)।

4. अनिश्चितता वृद्धि और अभिसरण (Convergence) का परिमाणीकरण:
   शोध पत्र एक स्वतंत्र निषेतक के क्रमिक अनुप्रयोगों के तहत अनिश्चितता में वृद्धि पर स्पष्ट मात्रात्मक सीमाएं प्रदान करता है।

• यह सिद्ध करता है कि किसी भी स्वतंत्र निषेतक के लिए, परिणामी वितरण मूल वितरण द्वारा मेजरइज़ किया जाता है ($N_\alpha(p) \preceq p$), जो औपचारिक रूप से पुष्टि करता है कि निषेध एक स्मूथिंग ऑपरेटर के रूप में कार्य करता है।
• लेखक $i$ बार निषेतक $N_\alpha$ के दोहराव के बाद $\phi$-एंट्रॉपी के लिए एक स्पष्ट निचली सीमा (lower bound) प्राप्त करते हैं।
• वे यूनिफॉर्म वितरण की ओर अभिसरण की दर को मात्रात्मक रूप से निर्धारित करते हैं, यह दिखाते हुए कि $(\frac{1-\alpha}{n-1})^i$ पद क्रमिक निषेधों को यूनिफॉर्म वितरण के करीब लाने की गति को नियंत्रित करता है।

महत्व और दावे
शोध पत्र यह दावा करता है कि वह यागर के निषेध को स्वतंत्र निषेधकों के वर्ग के भीतर "कैनोनिकल" (मानक) परिभाषा के रूप में एक व्यापक सैद्धांतिक औचित्य प्रदान करने के लिए यागर के निषेध को एक एकल ढांचे के तहत पूर्ववर्ती ज्ञात गुणों को एकीकृत और सुदृढ़ करके प्रस्तुत करता है। इसका महत्व इस बात में निहित है कि यह यागर के प्रस्ताव को सबसे तर्कसंगत परिभाषा के रूप में स्थापित करता है क्योंकि यह साथ-साथ:

• मूल वितरण से अर्थ संबंधी विषमता (semantic contrast/distance) को अधिकतम करता है।
• सूचना के विनाश को न्यूनतम करता है (अधिकतम पारस्परिक सूचना को संरक्षित करता है)।
• अन्य वैध निषेध रणनीतियों की तुलना में अनिश्चितता में वृद्धि को न्यूनतम करता है (शूर-कन्केव फलनों को न्यूनतम करता है)।

यह कार्य नए अनुप्रयोग प्रस्तावित नहीं करता है बल्कि मौजूदा अनुप्रयोगों (जैसे लक्ष्य पहचान, बहु-मानदंड निर्णय लेना, पूरक लेबल से सीखना) की सैद्धांतिक मजबूती को मान्य करता है, यह दिखाकर कि यागर की परिभाषा कठोर सूचना-सैद्धांतिक मानदंडों के तहत अनुकूल है। लेखक निष्कर्ष निकालते हैं कि ये परिणाम स्वीकार्य निषेध ऑपरेटरों के बीच मानक विकल्प के रूप में यागर के निषेतक को मानने के लिए एक बहुआयामी औचित्य प्रदान करते हैं।