🤖 machine learning

Learning High Coverage Discriminative Parsimonious Rulesets

यह शोधपत्र CDPR प्रस्तुत करता है, जो दो सबमॉड्यूलर मैक्सिमाइजेशन-आधारित एल्गोरिदम का उपयोग करने वाला एक नवीन ढांचा है, जो अत्यधिक सटीक, विभेदक और संक्षिप्त IF-THEN नियम सेट उत्पन्न करता है जो भविष्य कहनेवाला प्रदर्शन और कवरेज दर दोनों में मौजूदा विधियों से काफी बेहतर प्रदर्शन करते हैं।

मूल लेखक: Mariamma Antony, Raman Sankaran, Chiranjib Bhattacharyya, Uma Satya Ranjan

प्रकाशित 2026-06-15

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Mariamma Antony, Raman Sankaran, Chiranjib Bhattacharyya, Uma Satya Ranjan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक डॉक्टर हैं जो किसी मरीज का निदान (diagnose) करने की कोशिश कर रहे हैं। आपके पास एक विशाल नियम पुस्तिका (rulebook) है जो कहती है, "यदि मरीज में लक्षण A और लक्षण B हैं, तो उसे बीमारी X है।"

समस्या: "उच्च सटीकता, निम्न कवरेज" का जाल (The "High Accuracy, Low Coverage" Trap)
वर्तमान AI सिस्टम जो ऐसी नियम पुस्तिकाएं बनाते हैं, वे कुछ मामलों को सुलझाने में बेहद कुशल लेकिन अन्य मामलों में बहुत खराब विशेषज्ञों की तरह हैं।

अच्छी बात: जब वे वास्तव में अपनी नियम पुस्तिका में कोई मिलान पाते हैं, तो वे आमतौर पर सही होते हैं (उच्च सटीकता/high accuracy)।
बुरी बात: उनकी नियम पुस्तिका इतनी चयनात्मक (picky) है कि वह केवल बहुत कम मरीजों पर लागू होती है। अधिकांश लोगों के लिए, नियम पुस्तिका कहती है, "मुझे नहीं पता कि आपको क्या समस्या है।" इसके बाद AI को एक "डिफ़ॉल्ट नियम" (जैसे कि "शायद कुछ नहीं है") का उपयोग करके अनुमान लगाना पड़ता है, जो एक 'ब्लैक बॉक्स' है। मरीज को कोई स्पष्टीकरण नहीं मिलता, केवल एक अनुमान मिलता है।

लेखक इसे "उच्च सटीकता-निम्न कवरेज समस्या" कहते हैं। यह एक ऐसे मानचित्र की तरह है जो एक विशिष्ट सड़क के लिए तो पूरी तरह से विस्तृत है लेकिन शहर के बाकी हिस्सों को खाली छोड़ देता है।

समाधान: CDPR (एक "पूरे शहर" का मानचित्र)
यह शोध पत्र एक नया तरीका पेश करता है जिसे CDPR (कवरेज डिस्क्रिमिनेटिव पार्सिमोनियस रूल सेट्स) कहा जाता है। इसे एक नए तरीके के रूप में सोचें जिससे एक ऐसी नियम पुस्तिका बनाई जा सके जो एक साथ तीन चीजों का लक्ष्य रखती है:

उच्च सटीकता (High Accuracy): नियम सही होने चाहिए।
उच्च कवरेज (High Coverage): नियम लगभग सभी पर लागू होने चाहिए (केवल एक सड़क नहीं, बल्कि पूरे शहर को कवर करना)।
पार्सिमनी या सरलता (Parsimony/Simplicity): नियम छोटे और समझने में आसान होने चाहिए, न कि जटिल शर्तों का एक उलझा हुआ जाल।

उन्होंने यह कैसे किया: दो नए एल्गोरिदम
इस आदर्श नियम पुस्तिका को बनाने के लिए, लेखकों ने दो नए "निर्माण दल" (एल्गोरिदम) बनाए जो सबमॉड्यूलर मैक्सिमाइजेशन (Submodular Maximization) नामक एक गणितीय अवधारणा का उपयोग करते हैं। यदि यह सुनने में डरावना लगता है, तो इसे एक स्मार्ट तरीके के रूप में समझें जिससे आप बिना समय बर्बाद किए या डुप्लिकेट चुने बिना, एक सूची से सर्वोत्तम आइटम चुन सकते हैं।

GRA (ग्राफ रूल्स एल्गोरिदम):
- रूपक (Metaphor): कल्पना कीजिए कि एक विशाल सोशल नेटवर्क है जहाँ हर नियम एक व्यक्ति है। कुछ लोग बहुत अधिक ओवरलैप (overlap) करते हैं (वे बिल्कुल एक जैसे मरीजों को कवर करते हैं)। GRA इन ओवरलैप्स का एक नक्शा बनाता है। फिर, यह "सबसे लोकप्रिय" व्यक्ति (वह नियम जो सबसे अधिक नए मरीजों को कवर करता है) को चुनता है और उन्हें टीम में जोड़ता है। फिर, यह उन सभी को हटा देता है जो उस नए सदस्य के साथ बहुत अधिक ओवरलैप करते हैं। यह तब तक दोहराता रहता है जब तक कि टीम पूरी न हो जाए।
- परिणाम: यह नियमों की एक अत्यधिक सटीक, गैर-अनावश्यक (non-redundant) टीम बनाता है जो लगभग सभी को कवर करती है। इसे बनाना थोड़ा धीमा है लेकिन बहुत सटीक है।
GDY (ग्रीडी एल्गोरिदम):
- रूपक (Metaphor): यह "त्वरित और कच्चा" (quick and dirty) संस्करण है। हर एक ओवरलैप का नक्शा बनाने के बजाय, यह बस उस नियम को पकड़ लेता है जो अभी सबसे अच्छा दिख रहा है, उसे जोड़ता है, और आगे बढ़ जाता है। यह ओवरलैप्स के प्रति थोड़ा उदार है लेकिन बहुत तेज़ है।
- परिणाम: यह GRA के लगभग उतना ही अच्छा नियम पुस्तिका बनाता है, लेकिन बहुत कम समय में।

परिणाम: यह क्यों मायने रखता है
लेखकों ने इन नए दलों का परीक्षण 12 अलग-अलग वास्तविक दुनिया के परिदृश्यों (जैसे हृदय रोग, स्पैम डिटेक्शन और अल्जाइमर स्क्रीनिंग) के डेटा का उपयोग करके मौजूदा सर्वोत्तम तरीकों (जैसे IDS, RIPER, और DefragTrees) के विरुद्ध किया।

बड़ी जीत: नए तरीकों (GRA और GDY) ने अगले सबसे अच्छे तरीके की तुलना में 2.5 गुना से अधिक मरीजों को कवर किया।
समझौता (Trade-off): उन्होंने सटीकता नहीं खोई। वास्तव में, वे पुराने तरीकों की तुलना में अक्सर अधिक सटीक थे।
सरलता: उनके द्वारा बनाए गए नियम छोटे और सरल (parsimonious) थे, जिससे उन्हें पढ़ना और उन पर भरोसा करना आसान था।

एक वास्तविक उदाहरण: अल्जाइमर टेस्ट
पेपर ने विशेष रूप से अल्जाइमर के लिए न्यूरोकोग्निटिव टेस्ट (Neurocognitive Tests) को डिजाइन करने पर परीक्षण किया।

समस्या: वर्तमान परीक्षण लंबे और थकाऊ होते हैं। डॉक्टरों को हर मरीज पर कई परीक्षण करने पड़ते हैं, भले ही उन्हें इसकी आवश्यकता न हो।
CDPR का समाधान: नए एल्गोरिदम ने बीमारी के विभिन्न चरणों (जैसे "सामान्य" से "हल्की हानि" से "डिमेंशिया") के निदान के लिए आवश्यक न्यूनतम नियमों का पता लगाया।
परिणाम: इसने एक सुव्यवस्थित परीक्षण प्रक्रिया बनाई। लंबे, भ्रमित करने वाले परीक्षणों के बजाय, डॉक्टर एक स्पष्ट, छोटे नियमों के सेट का पालन कर सकते हैं जो लगभग हर मरीज को कवर करता है और विस्तार से बताता है कि निदान क्यों किया गया।

सारांश में
यह पेपर इस समस्या को हल करता है कि AI "सही तो है लेकिन बेकार है" क्योंकि वह अधिकांश लोगों के लिए अपने निर्णयों को समझाने में असमर्थ है। स्मार्ट गणितीय ट्रिक्स (GRA और GDY) का उपयोग करके, लेखकों ने एक ऐसा सिस्टम बनाया जो ऐसी नियम पुस्तिकाएं बनाता है जो सटीक, सरल और लगभग सभी को कवर करती हैं, जिससे AI स्वास्थ्य सेवा और वित्त जैसे महत्वपूर्ण क्षेत्रों में भरोसेमंद बन जाता है।

तकनीकी सारांश: हाई कवरेज डिस्क्रिमिनेटिव पार्सिमोनियस रूल्सट्स (CDPR) सीखना

1. समस्या की परिभाषा

यह शोध पत्र वर्तमान व्याख्या योग्य मशीन लर्निंग (interpretable machine learning) में एक महत्वपूर्ण सीमा को संबोधित करता है: "उच्च सटीकता-निम्न कवरेज" (high accuracy-low coverage) की समस्या। जबकि मौजूदा अत्याधुनिक (SOTA) नियम-सीखने वाले एल्गोरिदम (जैसे, IDS, RIPPER, DefragTrees) अक्सर उच्च भविष्य कहनेवाला सटीकता (predictive accuracy) प्राप्त करते हैं, वे अक्सर इनपुट स्पेस के एक बड़े हिस्से को कवर करने में विफल रहते हैं। निम्न कवरेज का अर्थ है कि डेटा के एक बड़े अंश के लिए, मॉडल एक अज्ञात तर्क वाले डिफ़ॉल्ट नियम पर निर्भर रहता है, जो स्वास्थ्य सेवा और वित्त जैसे महत्वपूर्ण क्षेत्रों में आवश्यक पारदर्शिता और व्याख्यात्मकता को कमजोर करता है।

लेखक हाई कवरेज डिस्क्रिमिनेटिव पार्सिमोनियस रूल सेट (CDPR) सीखने की समस्या को परिभाषित करते हैं। इसका उद्देश्य एक नियम सेट $S$ सीखना है जो सख्त गुणवत्ता बाधाओं के संबंध में कवरेज (नियमों द्वारा कवर किया गया डेटासेट का अंश) को अधिकतम करते हुए डिस्क्रिमिनेटिव पावर (discriminative power) को भी अधिकतम करता है:

डिस्क्रिमिनेटिव पावर: न्यूनतम नियम सटीकता ( $\alpha$ )।
पार्सिमनी (Parsimony): अधिकतम नियम चौड़ाई ( $\delta$ ) और अधिकतम नियम सेट आकार ( $\gamma$ )।
व्याख्यात्मकता (Interpretability): न्यूनतम रेडंडेंसी सुनिश्चित करने के लिए किन्हीं दो नियमों के बीच अधिकतम ओवरलैप दर ( $\beta$ )।

औपचारिक रूप से, CDPRL को इस प्रकार परिभाषित किया गया है:
$\text{maximize}_{S \subseteq B_{\alpha,\delta}} \text{coverage}(S)$
$\text{subject to: } \text{rule-size}(S) \le \gamma, \quad \text{overlap-rate}(r_i, r_j) \le \beta$
जहाँ $B_{\alpha,\delta}$ सटीकता $\ge \alpha$ और चौड़ाई $\le \delta$ वाले उम्मीदवार नियमों का सेट है। लेखक नोट करते हैं कि मौजूदा सॉल्वर सीधे इसे संबोधित नहीं कर सकते क्योंकि ओवरलैप-रेट बाधा न तो मैट्रॉइड (matroid) है और न ही नैपसैक (knapsack) बाधा।

2. कार्यप्रणाली

यह शोध पत्र CDPR समस्या को हल करने के लिए सबमॉड्यूलर मैक्सिमाइजेशन (submodular maximization) पर आधारित दो एल्गोरिदम प्रस्तावित करता है।

2.1 ग्राफ रूल्स एल्गोरिदम (GRA)

GRA को एक ग्राफ संरचना पर सबमॉड्यूलर अनुकूलन समस्या में रूपांतरित करके CDPRL समस्या को सीधे हल करने के लिए डिज़ाइन किया गया है।

ओवरलैप-ग्राफ निर्माण: एक निर्देशित ग्राफ $G=(V, E)$ बनाया जाता है जहाँ वर्टिस (vertices) $B_{\alpha,\delta}$ में उम्मीदवार नियमों का प्रतिनिधित्व करते हैं। एक निर्देशित किनारा (edge) $(r_i, r_j)$ तब मौजूद होता है यदि $r_i$ और $r_j$ के बीच ओवरलैप दर $\beta$ से अधिक हो।
चयन प्रक्रिया: एल्गोरिदम ग्राफ से उच्चतम कवरेज वाला वर्टिक्स (नियम) चुनता है, उसे नियम सेट $S$ में जोड़ता है, और चयनित वर्टिक्स के साथ-साथ उन वर्टिक्स को भी हटा देता है जो एक निर्देशित किनारे द्वारा उससे जुड़े हुए हैं (ओवरलैप बाधा को संतुष्ट करने के लिए)। यह तब तक जारी रहता है जब तक कि नियम सेट $\gamma$ तक नहीं पहुँच जाता या ग्राफ खाली नहीं हो जाता।
सैद्धांतिक गारंटी: लेखक सिद्ध करते हैं कि GRA एक अनुमान गारंटी (approximation guarantee) प्रदान करता है: $(1 - (1 - \frac{1-\beta}{\gamma(1+d\beta)})^\gamma)$ , जहाँ $d$ चयनित नोड्स की न्यूनतम इन-डिग्री है।
जटिलता: GRA का रनिंग टाइम उम्मीदवार सेट $|B_{\alpha,\delta}|$ के आकार के वर्ग (quadratic) में है।

2.2 ग्रीडी एल्गोरिदम (GDY)

GRA की कम्प्यूटेशनल लागत को संबोधित करने के लिए, लेखक एक शिथिल संस्करण पेश करते हैं जिसे CDPRL-MO (मीन ओवरलैप) कहा जाता है।

शिथिल उद्देश्य (Relaxed Objective): प्रत्येक जोड़ी के लिए $\beta \le$ ओवरलैप दर को सख्ती से लागू करने के बजाय, GDY एक फलन $g(S)$ को अनुकूलित करता है जो कवरेज और सेट में औसत ओवरलैप को कम करने के बीच संतुलन बनाता है।
सबमॉड्यूलरिटी: लेखक सिद्ध करते हैं कि उद्देश्य फलन $g(S)$ एक गैर-मोनोटोनिक सबमॉड्यूलर फलन है।
एल्गोरिदम: GDY एक ग्रीडी एप्रोक्सिमेशन एल्गोरिदम का उपयोग करता है जो कार्डिनैलिटी बाधाओं के साथ गैर-मोनोटोनिक सबमॉड्यूलर मैक्सिमाइजेशन के लिए डिज़ाइन किया गया है।
सैद्धांतिक गारंटी: GDY $1/4$ -एप्रोक्सिमेशन गारंटी प्राप्त करता है।
जटिलता: GDY का रनिंग टाइम $|B_{\alpha,\delta}|$ में लगभग रैखिक (nearly linear) है, जो बड़े उम्मीदवार सेटों के लिए इसे GRA की तुलना में काफी तेज़ बनाता है।

3. प्रमुख योगदान

समस्या का सूत्रण (Problem Formulation): यह शोध पत्र CDPR को एक नए समस्या सूत्रण के रूप में पेश करता है जो स्पष्ट रूप से उच्च कवरेज, डिस्क्रिमिटेिव पावर और पार्सिमनी के बीच उच्च सटीकता-निम्न कवरेज ट्रेड-ऑफ को लक्षित करता है, एक ऐसा अंतर जिसे लेखक पूर्व साहित्य में अप्राप्त मानते हैं।
नवीन एल्गोरिदम:
- GRA: सख्त CDPR समस्या के लिए प्रमाणित अनुमान गारंटी के साथ एक ग्राफ-आधारित एल्गोरिदम।
- GDY: शिथिल CDPRL-MO संस्करण के लिए एक कम्प्यूटेशनल रूप से कुशल ग्रीडी एल्गोरिदम।
सैद्धांतिक विश्लेषण: लेखक दोनों एल्गोरिदम के लिए अनुमान गारंटी के लिए औपचारिक प्रमाण प्रदान करते हैं, जिससे सबमॉड्यूलर अनुकूलन के ढांचे के भीतर उनकी सैद्धांतिक वैधता स्थापित होती है।
अनुभवजन्य सत्यापन (Empirical Validation): 12 डेटासेट्स (10 UCI डेटासेट्स और 2 अल्जाइमर रोग डेटासेट्स) पर व्यापक प्रयोग प्रस्तावित विधियों की प्रभावकारिता प्रदर्शित करते हैं।

4. प्रयोगात्मक परिणाम

लेखकों ने GRA और GDY का मूल्यांकन SOTA बेसलाइन्स (IDS, DefragTrees, RIPPER) और मानक ब्लैक-बॉक्स मॉडल्स (रैंडम फॉरेस्ट, लॉजिस्टिक रिग्रेशन) के विरुद्ध किया।

कवरेज: कवरेज दरों में सबसे महत्वपूर्ण सुधार देखा गया। GRA ने औसतन 97% कवरेज दर प्राप्त की, और GDY ने 91% प्राप्त किया। इसके विपरीत, अगला सर्वश्रेष्ठ बेसलाइन (IDS) केवल 35% और RIPPER 31% प्राप्त कर सका। यह सर्वश्रेष्ठ मौजूदा नियम-सीखने वाले एल्गोरिदम पर औसतन कवरेज में 2.5 गुना सुधार है।
सटीकता (डिस्क्रिमिनेटिव पावर): GRA ने औसतन नियम सेट सटीकता (RSA) 0.85 प्राप्त की, जो IDS (0.82), DefragTrees (0.76), और RIPpper (0.80) से बेहतर है। GRA का प्रदर्शन रैंडम फॉरेस्ट (RF) के प्रतिस्पर्धी रहा, जिसने 12 में से 7 डेटासेट्स में RF का मुकाबला किया या उससे बेहतर प्रदर्शन किया।
पार्सिमनी (Parsimony): दोनों GRA और GDY ने कम नियम चौड़ाई (औसत अधिकतम चौड़ाई 4) और उचित नियम सेट आकार (औसतन 7 नियम) बनाए रखा, जो IDS और RIPPER के तुलनीय है, और DefragTrees (औसत अधिकतम चौड़ाई 10) से काफी बेहतर है।
केस स्टडी (अल्जाइमर रोग): अल्जाइमर स्क्रीनिंग के लिए न्यूरोकॉग्निटिव टेस्ट डिजाइन करने के एक विशिष्ट अनुप्रयोग में, GRA और GDY ने सफलतापूर्वक ऐसे नियम सेट उत्पन्न किए जिन्होंने उच्च सटीकता और कवरेज (>70%) बनाए रखते हुए DefragTrees की तुलना में आवश्यक फीचर्स की संख्या को कम से कम 18% कम कर दिया।

5. महत्व और दावे

शोध पत्र का दावा है कि CDPR नियम सीखने में उच्च कवरेज, डिस्क्रिमिनेटिव पावर और पार्सिमनी को एक साथ अनुकूलित करने वाले दृष्टिकोण को स्थापित करने का पहला प्रयास है।

लेखक इस बात पर जोर देते हैं कि जबकि व्याख्यात्मकता को अक्सर केवल मॉडल जटिलता (कम नियम) द्वारा परिभाषित किया जाता है, महत्वपूर्ण अनुप्रयोगों में वास्तविक व्याख्यात्मकता के लिए यह आवश्यक है कि मॉडल अधिकांश इनपुट्स के लिए निर्णयों को समझा सके (उच्च कवरेज)। उच्च सटीकता-निम्न कवरेज समस्या को हल करके, प्रस्तावित विधियाँ (GRA और GDY) व्याख्या योग्य मॉडलों को उन डोमेन में तैनात करने में सक्षम बनाती हैं जहाँ पारदर्शिता और निष्ठा सर्वोपरि है, जैसे कि स्वास्थ्य सेवा और आपराधिक न्याय, बिना भविष्य कहनेवाला प्रदर्शन से समझौता किए। यह कार्य सुझाव देता है कि सबमॉड्यूलर मैक्सिमाइजेशन उच्च-गुणवत्ता वाले नियम सेट सीखने के लिए एक व्यवहार्य और प्रभावी ढांचा है, जो अधिक विश्वसनीय AI सिस्टम की ओर एक मार्ग प्रदान करता है।