🤖 machine learning

A New Technique for AI Explainability using Feature Association Map

यह शोध पत्र FAMeX को प्रस्तुत करता है, जो फीचर एसोसिएशन मैप्स पर आधारित एक नवीन ग्राफ-सैद्धांतिक व्याख्यात्मक एआई (explainable AI) एल्गोरिदम है, जो वर्गीकरण के लिए फीचर महत्व को मापने में PFI और SHAP जैसी मौजूदा विधियों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Sayantani Ghosh, Amit Kumar Das, Amlan Chakrabarti

प्रकाशित 2026-05-13

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sayantani Ghosh, Amit Kumar Das, Amlan Chakrabarti

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट है जो भविष्यवाणियां कर सकता है, जैसे कि किसी मरीज को कोई बीमारी है या नहीं, या किसी शेयर की कीमत बढ़ेगी या नहीं। यह रोबोट अविश्वसनीय रूप से सटीक है, लेकिन यह एक "ब्लैक बॉक्स" है। आप पूछते हैं, "आपने यह निर्णय क्यों लिया?" और वह बस कहता है, "क्योंकि मैंने ऐसा कहा।" यह डरावना है, खासकर जब आपका निर्णय वास्तविक जीवन को प्रभावित करता है। हमें यह जानने की आवश्यकता है कि रोबोट जो सोच रहा है, वह क्यों सोच रहा है।

यह शोध पत्र एक नया टूल पेश करता है जिसे FAMeX (Feature Association Map based eXplainability) कहा जाता है, जो इस समस्या को हल करने के लिए बनाया गया है। यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:

समस्या: डेटा का "भीड़भाड़ वाला कमरा"

कल्पना कीजिए कि रोबोट लोगों से भरे एक कमरे (डेटा फीचर्स) के आधार पर निर्णय लेने की कोशिश कर रहा है। कुछ लोग महत्वपूर्ण तथ्य चिल्ला रहे हैं, जबकि अन्य केवल अपने पड़ोसियों की बातों को दोहरा रहे हैं।

प्रासंगिकता (Relevance): एक व्यक्ति बातचीत में कितनी उपयोगी जानकारी लाता है।
अतिरेक (Redundancy): कोई व्यक्ति दूसरों की बातों को कितनी बार दोहरा रहा है।

AI को समझाने के पुराने तरीके (जैसे PFI और SHAP) उस कमरे में मौजूद हर व्यक्ति से एक-एक करके हाथ उठाने के लिए कहने जैसे हैं ताकि देखा जा सके कि कौन महत्वपूर्ण है। वे इस तथ्य को मिस कर सकते हैं कि तीन लोग केवल एक ही बात दोहरा रहे हैं, जिससे ऐसा लग सकता है कि वहां तीन महत्वपूर्ण आवाजें हैं जबकि वास्तव में केवल एक ही है।

समाधान: "FAMeX" पार्टी प्लानर

लेखक प्रस्तावित करते हैं कि FAMεX एक स्मार्ट पार्टी प्लानर की तरह कार्य करता है जो पार्टी शुरू होने से पहले कमरे का एक नक्शा तैयार करता है।

नक्शा बनाना (द फीचर एसोसिएशन मैप):
FAMeX हर जोड़ी (फीचर्स) को देखता है और उनके बीच एक रेखा खींचता है यदि वे एक ही विषय पर बात कर रहे हैं।

यदि दो लोग बिल्कुल एक ही गुप्त बात फुसफुसा रहे हैं (उच्च समानता), तो FAMeX उनके बीच एक मोटी रेखा खींचता है।
यदि कोई ऐसी अनूठी कहानी सुना रहा है जो कोई और नहीं सुना रहा (कम समानता), तो वह अकेला खड़ा रहता है।

मेहमानों को ग्रेड देना:
एल्गोरिदम प्रत्येक व्यक्ति को इस आधार पर एक "ग्रेड" देता है कि वे दूसरों को कितना दोहरा रहे हैं:

ग्रेड 1 (ओरिजिनल्स): वे लोग जो किसी और को नहीं दोहरा रहे हैं। उन्हें अद्वितीय होने के लिए उच्च स्कोर मिलता है।
ग्रेड 2 (इकोज़/गूँज): वे जो एक या दो अन्य लोगों को दोहराते हैं। उन्हें मध्यम स्कोर मिलता है।
ग्रेड 3 (कोरस/समूह): वे जो कई अन्य लोगों को दोहराते हैं या किसी एक को बहुत ज़ोर से दोहराते हैं। उन्हें अतिरेक (redundancy) के लिए कम स्कोर मिलता है।

अंतिम स्कोर:
FAMeX प्रत्येक व्यक्ति के लिए एक "महत्व स्कोर" (Importance Score) की गणना करता है।

यदि आप अद्वितीय, मूल्यवान जानकारी लाते हैं (उच्च प्रासंगिकता) और आप दूसरों को दोहरा नहीं रहे हैं (कम अतिरेक), तो आपको एक बहुत उच्च स्कोर मिलता है।
यदि आप केवल दूसरों को दोहरा रहे हैं, तो आपका स्कोर नीचे चला जाता है, भले ही आप जो कह रहे हैं वह सच हो।

क्या यह काम कर गया?

लेखकों ने इस नए "पार्टी प्लानर" का परीक्षण दो अन्य प्रसिद्ध तरीकों (PFI और SHAP) के विरुद्ध आठ अलग-अलग वास्तविक दुनिया के डेटासेट्स (जैसे मेडिकल रिकॉर्ड, वाइन की गुणवत्ता और वाहन डेटा) का उपयोग करके किया।

उन्होंने एक खेल खेला:

उन्होंने प्रत्येक विधि को सबसे महत्वपूर्ण लोगों (फीचर्स) के शीर्ष 30% को चुनने के लिए कहा।
वे केवल उन शीर्ष लोगों को एक मानक क्लासिफायर (एक सरल निर्णय लेने वाला) में फीड करते हैं ताकि यह देखा जा सके कि वे परिणाम की कितनी अच्छी तरह भविष्यवाणी कर सकते हैं।
उन्होंने निचले 30% (सबसे कम महत्वपूर्ण लोगों) का भी परीक्षण किया ताकि यह देखा जा सके कि क्या भविष्यवाणी विफल हो जाती है।

परिणाम:

FAMeX जीत गया। जब उन्होंने FAMeX द्वारा चुने गए शीर्ष 30% फीचर्स का उपयोग किया, तो भविष्यवाणी की सटीकता PFI या SHAP द्वारा चुने गए शीर्ष विकल्पों की तुलना में लगातार अधिक थी।
अंतर स्पष्ट था। FAMeX के लिए, "सर्वश्रेष्ठ" फीचर्स का उपयोग करने और "सबसे खराब" फीचर्स का उपयोग करने के बीच का अंतर बहुत बड़ा था (अक्सर 10% से अधिक बेहतर सटीकता)। यह साबित करता है कि FAMeX वास्तव में जानता है कि महत्वपूर्ण लोग कौन हैं।
प्रतिद्वंद्वी लड़खड़ा गए। कभी-कभी, PFI और SHAP ने ऐसे "महत्वपूर्ण" फीचर्स चुने जिन्होंने भविष्यवाणी को सबसे कम महत्वपूर्ण फीचर्स को चुनने की तुलना में वास्तव में बदतर बना दिया।

टूल

लेखकों ने केवल कोड नहीं लिखा; उन्होंने एक विजुअल टूल (एक GUI) बनाया है जिसे कोई भी उपयोग कर सकता है। आप अपना डेटा अपलोड कर सकते हैं, और यह आपको एक रंगीन मानचित्र दिखाएगा (जैसा कि पेपर के चित्र 3 में है) जहाँ सबसे महत्वपूर्ण फीचर्स चमकते हैं, जिससे आपको यह समझने में मदद मिलती है कि AI का निर्णय वास्तव में किस वजह से लिया गया है।

संक्षेप में

FAMeX AI को समझाने का एक नया तरीका है जो न केवल यह नहीं पूछता कि "क्या महत्वपूर्ण है?" बल्कि यह भी पूछता है कि "कौन दूसरों की नकल कर रहा है?" शोर (अतिरेक) को फ़िल्टर करके और अद्वितीय, मूल्यवान संकेतों (प्रासंगिकता) को उजागर करके, यह एक स्पष्ट, अधिक सटीक स्पष्टीकरण देता है कि AI ने एक विशिष्ट निर्णय क्यों लिया। पेपर का दावा है कि यह विधि वर्तमान शीर्ष प्रतिस्पर्धियों की तुलना में अधिक विश्वसनीय है।

तकनीकी सारांश: FAMeX – फीचर एसोसिएशन मैप का उपयोग करके AI व्याख्यात्मकता के लिए एक नई तकनीक

समस्या विवरण
महत्वपूर्ण वास्तविक जीवन के अनुप्रयोगों—जैसे रोग का पता लगाने, मौसम के पूर्वानुमान से लेकर शेयर की कीमतों के पूर्वानुमान तक—में आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते उपयोग ने एक महत्वपूर्ण चुनौती को रेखांकित किया है: "ब्लैक-बॉक्स" प्रणालियों की अपारदर्शिता। जबकि जटिल लर्निंग एल्गोरिदम अक्सर उच्च भविष्य कहनेवाला सटीकता (predictive accuracy) प्रदान करते हैं, उनकी निर्णय लेने की प्रक्रिया अक्सर पारदर्शिता की कमी वाली होती है। व्याख्यात्मकता (interpretability) की यह कमी यह निर्धारित करना कठिन बना देती है कि निर्णय वैज्ञानिक तथ्यों पर आधारित हैं या आकस्मिक संयोगों पर, जिससे उच्च-दांव वाले वातावरण में विश्वास, जवाबदेही और विश्वसनीयता में बाधा आती है। मौजूदा एक्सप्लेनेबल AI (XAI) विधियाँ, जैसे कि परम्यूटेशन फीचर इम्पॉर्टेंस (PFI) और SHapley Additive exPlanations (SHAP), फीचर महत्व को रैंक करने का प्रयास करती हैं। हालाँकि, लेखक तर्क देते हैं कि ये विधियाँ अक्सर महत्वपूर्ण फीचर पहलुओं का समग्र विश्लेषण करने में विफल रहती हैं, विशेष रूप से प्रासंगिकता (target के प्रति सूचना योगदान) और अतिरेक/रिडंडेंसी (अन्य फीचर्स के साथ समानता/ओवरलैप)।

कार्यप्रणाली: FAMeX एल्गोरिदम
यह शोध पत्र FAMeX (फीचर एसोसिएशन मैप आधारित व्याख्यात्मकता) का प्रस्ताव करता है, जो एक ग्राफ-थ्योरेटिक फॉर्मूलेशन के माध्यम से प्रासंगिकता और अतिरेक दोनों पर एक साथ विचार करके फीचर महत्व का मूल्यांकन करने के लिए डिज़ाइन किया गया एक नया एल्गोरिदम है।

फीचर एसोसिएशन मैप (FAM): कार्यप्रणाली का मूल FAM है, जो एक ग्राफ है जहाँ फीचर्स को वर्टिक्स (vertices) के रूप में मॉडल किया गया है और उनके बीच के संबंधों को एडजेस (edges) के रूप में दर्शाया गया है।
फीचर समानता (अतिरेक/Redundancy): अतिरेक को पियर्सन के सहसंबंध गुणांक (Pearson's correlation coefficient) का उपयोग करके मापा जाता है। फीचर्स को उनके अन्य फीचर्स के साथ सहसंबंध के आधार पर ग्रेड दिया जाता है:
- ग्रेड 1: कम अतिरेक (सभी अन्य फीचर्स के साथ सहसंबंध < 0.67)।
- ग्रेड 2: मध्यम अतिरेक (कम से कम एक फीचर के साथ सहसंबंध > 0.67 लेकिन < 0.9, लेकिन तीन से कम फीचर्स के साथ)।
- ग्रेड 3: उच्च अतिरेक (कम से कम एक फीचर के साथ सहसंबंध > 0.9 OR तीन या अधिक फीचर्स के साथ सहसंबंध > 0.67)।
  एक सिमिलैरिटी स्कोर (Similarity Score) इन ग्रेड्स के आधार पर गणना किया जाता है, जहाँ उच्च ग्रेड (अधिक अतिरेक का संकेत देने वाले) उच्च स्कोर की ओर ले जाते हैं।
फीचर प्रासंगिकता (Relevance): प्रासंगिकता को टारगेट क्लास वेरिएबल के बीच म्यूचुअल इंफॉर्मेशन (MI) का उपयोग करके मापा जाता है, जिसे एक रिलवेंस स्कोर (Relevance Score) की गणना के लिए सामान्यीकृत (normalize) किया जाता है।
फीचर इम्पॉर्टेंस स्कोर: अंतिम महत्व स्कोर को दोनों मेट्रिक्स को एकीकृत करके प्राप्त किया जाता है। एल्गोरिदम का मानना है कि एक फीचर अधिक महत्वपूर्ण है यदि उसमें उच्च प्रासंगिकता और कम अतिरेक हो। फलस्वरूप, स्कोर की गणना इस प्रकार की जाती है:
$\text{Feature Importance Score} = \frac{\text{Relevance Score}}{\text{Similarity Score}}$
यह व्युत्क्रम संबंध (inverse relationship) यह सुनिश्चित करता है कि अत्यधिक अतिरेक वाले फीचर्स (उच्च सिमिलैरिटी स्कोर) को दंडित किया जाए, जबकि अत्यधिक प्रासंगिक फीचर्स को पुरस्कृत किया जाए।

एल्गोरिदम $O(n^2)$ की टाइम कॉम्प्लेक्सिटी के साथ कार्य करता है, जहाँ $n$ फीचर्स की संख्या है।

प्रमुख योगदान

समग्र फीचर विश्लेषण: अन्य प्रतिस्पर्धी विधियों के विपरीत, जो मुख्य रूप से मार्जिनल योगदान पर ध्यान केंद्रित कर सकती हैं, FAMeX स्पष्ट रूप से फीचर प्रासंगिकता और फीचर अतिरेक के बीच के ट्रेड-ऑफ को मॉडल करता है।
ग्राफ-थ्योरेटिक फॉर्मूलेशन: फीचर एसोसिएशन मैप का परिचय फीचर अंतर्निर्भरता को समझने के लिए एक दृश्य और गणितीय ढांचा प्रदान करता है।
एल्गोरिद्मिक कार्यान्वयन: लेखक एक पूर्ण एल्गोरिदम (एल्गोरिदम 1) और एक प्लेटफॉर्म-स्वतंत्र ग्राफिकल यूजर इंटरफेस (GUI) टूल प्रदान करते हैं ताकि विभिन्न डेटासेट्स पर FAMeX के अनुप्रयोग को सुगम बनाया जा सके।

प्रायोगिक परिणाम
लेखकों ने आठ बेंचमार्क डेटासेट्स (जैसे कि विस्कॉन्सिन, ILPD, WineQuality, WBDC) का उपयोग करके PFI और SHAP के विरुद्ध FAMeX का मूल्यांकन किया। मूल्यांकन में शामिल था:

सेटअप: 100 इटरेशन के लिए दोहराई गई 10-फोल्ड क्रॉस-वैलिडेशन।
मेट्रिक्स: वर्गीकरण सटीकता (Classification accuracy) को चार मानक क्लासिफायर का उपयोग करके मापा गया: सपोर्ट वेक्टर मशीन (SVM), रैंडम फॉरेस्ट (RF), नाइव बेयस (NB), और डिसीजन ट्री (DT)।
वैलिडेशन रणनीति: प्रत्येक एल्गोरिदम द्वारा पहचाने गए शीर्ष 30% और निचले 30% फीचर्स का उपयोग क्लासिफायर को प्रशिक्षित करने के लिए किया गया। एक बेहतर XAI एल्गोरिदम को अपने निचले रैंक वाले फीचर्स की तुलना में अपने शीर्ष-रैंक वाले फीचर्स का उपयोग करने पर काफी उच्च सटीकता प्रदर्शित करनी चाहिए।

निष्कर्ष (Findings):

बेहतर प्रदर्शन: चारों क्लासिफायर और आठ डेटासेट्स में, FAMeX ने PFI और SHAP की तुलना में अपने शीर्ष 30% फीचर्स का उपयोग करके लगातार उच्च वर्गीकरण सटीकता उत्पन्न की। उदाहरण के लिए, रैंडम फॉरेस्ट क्लासिफायर के साथ, FAMeX ने 80.16% की औसत सटीकता प्राप्त की, जबकि PFI के लिए यह 71.47% और SHAP के लिए 71.82% थी।
निरंतरता: FAMeX ने महत्वपूर्ण और महत्वहीन फीचर्स के बीच एक स्पष्ट अंतर प्रदर्शित किया। अधिकांश मामलों में, निचले 30% फीचर्स का उपयोग करने पर सटीकता में गिरावट महत्वपूर्ण थी (अक्सर >10% का अंतर)।
प्रतिस्पर्धियों की सीमाएं: इसके विपरीत, PFI और SHAP ने असंगत परिणाम दिखाए। कई उदाहरणों में (जैसे WBDC डेटासेट के साथ SVM), PFI या SHAP द्वारा चुने गए "निचले 30%" फीचर्स ने "शीर्ष 30%" फीचर्स की तुलना में उच्च सटीकता प्रदान की, जो उन संदर्भों में महत्वपूर्ण फीचर्स को सही ढंग से पहचानने में विफलता का संकेत देता है।

महत्व और दावे
शोध पत्र का दावा है कि FAMeX AI भविष्यवाणियों की व्याख्या करने के लिए एक आशाजनक एल्गोरिदम है क्योंकि यह फीचर अतिरेक को ध्यान में रखते हुए वर्गीकरण के संदर्भ में फीचर महत्व को प्रभावी ढंग से मापता है। लेखक कहते हैं कि प्रायोगिक परिणाम PFI और SHAP के मुकाबले FAMeX की प्रभावकारिता को स्थापित करते हैं। यह कार्य निर्णय लेने की प्रक्रियाओं की पारदर्शी और समग्र व्याख्या प्रदान करके AI सिस्टम में विश्वास पैदा करने की दिशा में एक कदम के रूप में प्रस्तुत किया गया है। लेखक विनम्रतापूर्वक निष्कर्ष निकालते हैं, यह सुझाव देते हुए कि भविष्य के कार्यों में अधिक जटिल, बड़े पैमाने के डेटासेट्स पर FAMeX को लागू करना और अतिरिक्त अत्याधुनिक XAI एल्गोरिदम के साथ तुलना करना शामिल होना चाहिए।

समस्या: डेटा का "भीड़भाड़ वाला कमरा"

समाधान: "FAMeX" पार्टी प्लानर

क्या यह काम कर गया?

टूल

संक्षेप में

इसी तरह के और पेपर