Explainable AI Through a Democratic Lens: DhondtXAI for D'Hondt-Projected Feature Attribution
यह शोध पत्र DhondtXAI को प्रस्तुत करता है, जो सारणीबद्ध डेटा (tabular data) के लिए एक नवीन, SHAP-स्वतंत्र व्याख्यात्मक AI ढांचा है जो बैकग्राउंड-इंटरवेंशनल प्रभावों, फीचर एलायंस और थ्रेशोल्ड के माध्यम से फीचर एट्रिब्यूशन आवंटित करने के लिए D'Hondt अपोर्शनमेंट पद्धति को अनुकूलित करता है, जो सिंथेटिक परीक्षणों में उच्च सटीकता और स्वास्थ्य सेवा डेटासेट पर SHAP के साथ मजबूत सहमति प्रदर्शित करते हुए निर्माण द्वारा पूर्णता (completeness) को संरक्षित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन रहस्यमय कंप्यूटर प्रोग्राम (एक AI) है जो डॉक्टरों को यह अनुमान लगाने में मदद करता है कि किसी मरीज को स्तन कैंसर (breast cancer) है या मधुमेह (diabetes)। समस्या यह है कि यह कंप्यूटर एक "ब्लैक बॉक्स" की तरह है। यह एक उत्तर तो देता है, लेकिन यह आसानी से यह नहीं समझा पाता कि उसने वह चुनाव क्यों किया। यह दर्जनों सुरागों (जैसे कोशिका का आकार, उम्र, या लक्षण) को देखता है, लेकिन हमें यह नहीं पता कि कौन से सुराग सबसे अधिक मायने रखते हैं।
यह शोध पत्र इन सुरागों को समझने का एक नया तरीका पेश करता है जिसे DhondtXAI कहा जाता है। जटिल गणितीय शब्दावली का उपयोग करने के बजाय, लेखक, तुर्कर बर्क डोनमेज़ (Türker Berk Dönmez), AI की निर्णय लेने की प्रक्रिया को एक लोकतांत्रिक चुनाव की तरह मानते हैं।
यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ विभाजित किया गया है:
1. विशेषताएँ (Features) राजनीतिक दल हैं
एक सामान्य चुनाव में, विभिन्न राजनीतिक दल चुनाव लड़ते हैं। इस AI सिस्टम में, हर "सुराग" (या विशेषता) जिसे कंप्यूटर देखता है, उसे एक राजनीतिक दल की तरह माना जाता है।
- वोट: कंप्यूटर गणना करता है कि प्रत्येक सुराग कितना महत्वपूर्ण है। इस महत्व के स्कोर को "वोटों" में बदल दिया जाता है। एक सुराग जो बहुत महत्वपूर्ण है, उसे लाखों वोट मिलते हैं; कम महत्वपूर्ण वाले को कम वोट मिलते हैं।
- सीटें: लक्ष्य यह देखना है कि प्रत्येक सुराग संसद में कितने "सीटें" जीतता है। सीटों की कुल संख्या निश्चित होती है (जैसे संसद में 600 सीटें)।
2. डी'होंड्ट विधि (D'Hondt Method): गिनती का एक निष्पक्ष तरीका
यह शोध पत्र वोटों को गिनने के लिए एक विशिष्ट नियम का उपयोग करता है जिसे डी'होंड्ट विधि कहा जाता है। यह एक वास्तविक दुनिया का नियम है जिसका उपयोग तुर्की और स्पेन जैसे देशों में यह सुनिश्चित करने के लिए किया जाता है कि केवल बड़े दलों को ही नहीं, बल्कि छोटे दलों को भी प्रतिनिधित्व का उचित अवसर मिले।
- यह कैसे काम करता है: कल्पना कीजिए कि कंप्यूटर के पास भरने के लिए 600 खाली सीटें हैं। वह देखता है कि किसके पास सबसे अधिक वोट हैं और उन्हें एक सीट देता है। फिर, वह बाकी सभी के लिए संभावनाओं की पुनर्गणना करता है। वह एक-एक करके सीटें तब तक बांटता रहता है जब तक कि सभी 600 सीटें भर नहीं जातीं।
- परिणाम: वे सुराग जिन्हें सबसे अधिक "सीटें" मिलती हैं, वे ही होते हैं जिन पर AI ने अपने निर्णय के लिए सबसे अधिक भरोसा किया। यदि "कोशिका का आकार" (Cell Shape) को 124 सीटें मिलती हैं और "उम्र" (Age) को केवल 26, तो आप जान जाते हैं कि कंप्यूटर ने मरीज की उम्र की तुलना में कोशिका के आकार को बहुत अधिक महत्व दिया।
3. गठबंधन बनाना (टीम वर्क)
वास्तविक राजनीति में, छोटे दल कभी-कभी अधिक सीटें जीतने के लिए मिलकर एक "गठबंधन" या "एलायंस" बनाते हैं। DhondtXAI आपको AI सुरागों के साथ भी ऐसा करने की अनुमति देता है।
- उदाहरण: मधुमेह (diabetes) के अध्ययन में, लेखक ने संबंधित लक्षणों को एक साथ समूहबद्ध किया। "प्यास", "बार-बार पेशाब आना" और "वजन घटना" को तीन अलग-अलग पार्टियों के रूप में देखने के बजाय, उन्होंने उन्हें एक बड़े "मधुमेह लक्षणों गठबंधन" (Diabetes Symptoms alliance) में डाल दिया।
- लाभ: इस गठबंधन ने अपने वोटों को मिला दिया। अचानक, यह "सुपर-पार्टी" 600 में से 361 सीटें जीतकर भारी संख्या में जीत हासिल करती है, जिससे पता चलता है कि एक समूह के रूप में लक्षण सबसे शक्तिशाली भविष्यवक्ता हैं, भले ही व्यक्तिगत लक्षण अपने आप में छोटे दिख रहे हों।
4. थ्रेशोल्ड फिल्टर (न्यूनतम मानक)
कभी-कभी, बहुत सारे छोटे (या महत्वहीन) दल (या सुराग) संसद में भीड़ बढ़ा सकते हैं। यह शोध पत्र एक थ्रेशोल्ड (सीमा) पेश करता है, जो एक न्यूनतम मानक की तरह है जिसे किसी भी दल को चुनाव में प्रवेश करने के लिए पार करना होता है।
- यह कैसे काम करता है: उपयोगकर्ता कह सकता है, "केवल वे दल जिनके पास कम से कम 10% वोट हैं, उन्हें ही सीट मिलेगी।"
- परिणाम: जिस भी सुराग ने इस मानक को पूरा नहीं किया, उसे बाहर कर दिया जाता है। उसके वोट फिर उन मजबूत सुरागों को पुनर्वितरित कर दिए जाते हैं जिन्होंने चयन प्रक्रिया में जगह बनाई है। यह शोर को साफ करता है और आपको केवल सबसे महत्वपूर्ण कारकों की एक स्पष्ट सूची देता है।
उन्होंने क्या पाया?
लेखक ने इस नई "चुनाव प्रणाली" का परीक्षण एक मानक, प्रसिद्ध विधि के विरुद्ध किया जिसे SHAP (जो व्याख्या करने के लिए जटिल गणित का उपयोग करता है) कहा जाता है।
- ब्रेस्ट कैंसर टेस्ट: जब उन्होंने ब्रेस्ट कैंसर मॉडल पर परीक्षण चलाया, तो "चुनाव" और "गणित" लगभग पूरी तरह से सहमत थे। जिन सुरागों ने सबसे अधिक सीटें जीतीं, वे वही सुराग थे जिन्हें गणित ने सबसे महत्वपूर्ण बताया था।
- मधुमेह टेस्ट: उन्होंने मधुमेह के लिए भी ऐसा ही किया। फिर से, परिणाम मेल खाते थे। "मधुमेह लक्षणों" का "गठबंधन" चुनाव जीत गया, जिससे पुष्टि हुई कि ये लक्षण ही भविष्यवाणी के मुख्य चालक हैं।
यह क्यों मायने रखता है?
यह शोध पत्र तर्क देता है कि यह तरीका शानदार है क्योंकि यह उबाऊ, भ्रमित करने वाले डेटा को एक ऐसी कहानी में बदल देता है जिसे हम सभी समझते हैं: राजनीति।
- आंकड़ों की स्प्रेडशीट देखने के बजाय, एक डॉक्टर या मरीज एक "संसद" देख सकता है और देख सकता है कि कौन से "दल" (सुराग) सबसे अधिक शक्ति रखते हैं।
- यह AI को पारदर्शी और निष्पक्ष बनाता है, एक लोकतंत्र की तरह जहाँ हर आवाज (सुराग) को सुने जाने का मौका मिलता है, लेकिन सबसे ऊंची आवाज (सबसे महत्वपूर्ण सुराग) को सबसे अधिक सीटें मिलती हैं।
संक्षेप में, DhondtXAI एक AI के डरावने, अदृश्य तर्क को एक दृश्य, लोकतांत्रिक चुनाव में बदल देता है जहाँ आप स्पष्ट रूप से देख सकते हैं कि नियंत्रण किसके हाथ में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।