🤖 machine learning

Towards interpretable AI with quantum annealing feature selection

यह शोध पत्र फीचर मैप चयन को क्वांटम अनिलिंग के माध्यम से हल की जाने वाली एक क्वांटम कन्सट्रेंड ऑप्टिमाइज़ेशन समस्या के रूप में स्वरूपित करके, इमेज क्लासिफिकेशन में कन्वोल्शनल न्यूरल नेटवर्क्स की व्याख्या करने के लिए एक नवीन विधि प्रस्तावित करता है, जो क्लास डिसेंटैंगलमेंट और पारदर्शिता में GradCAM जैसी अत्याधुनिक तकनीकों से बेहतर प्रदर्शन करता है और साथ ही एल्गोरिदम के कम्प्यूटेशनल व्यवहार में सैद्धांतिक अंतर्दृष्टि प्रदान करता है।

मूल लेखक: Francesco Aldo Venturelli, Emanuele Costa, Sikha O K, Bruno Juliá-Díaz, Miguel A. González Ballester, Alba Cervera-Lierta

प्रकाशित 2026-04-29

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Francesco Aldo Venturelli, Emanuele Costa, Sikha O K, Bruno Juliá-Díaz, Miguel A. González Ballester, Alba Cervera-Lierta

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक प्रतिभाशाली लेकिन रहस्यमय शेफ (एक डीप लर्निंग मॉडल) है जो बिल्ली या ट्रक की तस्वीर को पूरी तरह से पहचान सकता है। हालाँकि, यह शेफ कभी नहीं बताता कि उसने वह चुनाव क्यों किया। वह बस कहता है, "यह एक बिल्ली है," और आगे बढ़ जाता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इसे "ब्लैक बॉक्स" कहा जाता है। यदि शेफ कोई गलती करता है, तो हमें पता ही नहीं चलता कि वह मूंछों को देख रहा था, कानों को, या शायद सिर्फ बैकग्राउंड के रंग को।

यह पेपर इस बात की एक झलक पाने का एक नया तरीका पेश करता है कि शेफ के दिमाग के अंदर क्या चल रहा है और उसने वास्तव में किन सामग्रियों (फीचर्स) का उपयोग करके अपना निर्णय लिया। लेकिन, एक मानक किचन टूल का उपयोग करने के बजाय, लेखकों ने एक बहुत ही विशेष, भविष्यवादी ओवन का उपयोग किया जिसे क्वांटम एनेलर (Quantum Annealer) कहा जाता है।

यहाँ उनके तरीके का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: बहुत अधिक सामग्रियाँ

जब एक कंप्यूटर किसी छवि को देखता है, तो वह उसे हजारों छोटे "फीचर मैप्स" में तोड़ देता है। इन्हें हजारों अलग-अलग फिल्टर या लेंस के रूप में समझें। एक लेंस "घुमावदार रेखाओं" को हाइलाइट कर सकता है, दूसरा "हरे टेक्सचर" को, और तीसरा "तेज किनारों" को।

मानक तरीके (जैसे GradCAM) इन सभी लेंसों को एक धुंधली तस्वीर में मिलाकर निर्णय को समझाने की कोशिश करते हैं। यह एक पूरे ऑर्केस्ट्रा को एक साथ बजते हुए सुनने जैसा है। आप संगीत तो सुनते हैं, लेकिन आप यह नहीं बता सकते कि कौन सा विशिष्ट वाद्य यंत्र धुन बजा रहा है।

2. समाधान: क्वांटम "बेस्ट-ऑफ" लिस्ट

लेखक उन लेंसों के छोटे, सटीक समूह को खोजना चाहते थे जिन्होंने वास्तव में काम किया। उन्होंने पूछा: "500 में से कौन से 10 लेंस वास्तव में इस 'हवाई जहाज' (Airplane) को पहचानने के लिए जिम्मेदार हैं?"

यह एक विशाल पहेली है। यदि आपके पास 500 लेंस हैं, तो संभावित संयोजनों (combinations) की संख्या इतनी बड़ी है कि एक सामान्य कंप्यूटर उन सभी की जांच करने में बहुत समय लेगा। यह 500 खिलाड़ियों के पूल में से 10 खिलाड़ियों की एक आदर्श टीम खोजने के लिए हर एक संयोजन को आज़माने जैसा है।

3. जादुई उपकरण: क्वांटम एनीलिंग (Quantum Annealing)

इस पहेली को हल करने के लिए, लेखकों ने क्वांटम एनीलिंग का उपयोग किया।

उपमा: कल्पना कीजिए कि आप एक अंधेरी, पहाड़ी घाटी में एक गेंद के साथ हैं। आपका लक्ष्य घाटी के सबसे निचले बिंदु (सबसे अच्छा समाधान) को खोजना है। एक सामान्य कंप्यूटर एक हाइकर (हाइकर) की तरह है जिसे कदम-दर-कदम चलना पड़ता है, हर पहाड़ी की जांच करनी पड़ती है और उम्मीद करनी पड़ती है कि वे किसी छोटे गड्ढे में न फंस जाएं।
क्वांटम तरीका: क्वांटम एनीलिंग एक जादुई गेंद की तरह है जो पहाड़ियों के माध्यम से "टनल" (tunnel) कर सकती है या एक साथ कई स्थानों पर मौजूद हो सकती है। यह हाइकर की तुलना में बहुत तेज़ी से पूरे क्षेत्र की खोज कर सकती है और पूर्णतः निम्नतम बिंदु (लेंस का सबसे अच्छा सेट) पा सकती है।

4. उन्होंने खेल कैसे सेट किया

उन्होंने इस समस्या को दो नियमों वाले खेल में बदल दिया:

"महत्वपूर्ण" नियम: ऐसे लेंस चुनें जो मॉडल को "हाँ, यह एक हवाई जहाज है!" कहने में मजबूती से मदद करते हैं। (उच्च महत्व)।
"अद्वितीय" नियम: ऐसे लेंस न चुनें जो मूल रूप से एक ही चीज़ कर रहे हों। यदि लेंस A और लेंस B दोनों "घुमावदार रेखाओं" को हाइलाइट करते हैं, तो केवल एक ही चुनें। वे एक विविध टीम चाहते हैं, क्लोन की टीम नहीं।

क्वांटम एनेलर ने लेंसों के उस सटीक मिश्रण की खोज की जो दोनों नियमों को एक साथ पूरा करता था।

5. परिणाम: स्पष्ट दृष्टि

जब उन्होंने छवियों के एक डेटासेट (जैसे हवाई जहाज, पक्षी और ट्रक) पर इसका परीक्षण किया, तो उन्होंने पाया:

कम भ्रम: उनके तरीके ने एक बहुत ही स्पष्ट तस्वीर बनाई कि मॉडल किस ओर देख रहा था। इसने मानक तरीकों की तुलना में "हवाई जहाज" के फीचर्स को "जहाज" (Ship) के फीचर्स से बेहतर तरीके से अलग किया।
बेहतर सटीकता: जब उन्होंने छवि के उन हिस्सों को हटा दिया जिन्हें उनके तरीके ने नहीं चुना था, तो मॉडल का आत्मविश्वास मानक तरीकों की तुलना में उतना कम नहीं हुआ। यह साबित करता है कि उनके द्वारा चुने गए लेंस वास्तव में महत्वपूर्ण थे।
फिजिक्स चेक: उन्होंने अपने क्वांटम सिस्टम की "ऊर्जा" का भी विश्लेषण किया (जैसे ओवन के तापमान की जांच करना)। उन्होंने पाया कि सिस्टम स्थिर था और अधिकांश समय सफलतापूर्वक सर्वोत्तम समाधान खोजने में सफल रहा।

सारांश

संक्षेप में, यह पेपर कहता है: "डीप लर्निंग मॉडल स्मार्ट हैं लेकिन समझना कठिन है। हमने क्वांटम भौतिकी का उपयोग करके एक नया टूल बनाया है जो एक 'फीचर सेलेक्टर' के रूप में कार्य करता है। आपको सब कुछ मिलाकर एक धुंधली तस्वीर दिखाने के बजाय, यह छवि के उन विशिष्ट, अद्वितीय हिस्सों को चुनता है जिनकी मॉडल वास्तव में परवाह करता है। यह AI के तर्क को बहुत स्पष्ट और भरोसेमंद बनाता है।"

उन्होंने ResNet-18 मॉडल का उपयोग करके STL-10 जैसे मानक इमेज डेटासेट पर इसे प्रदर्शित किया, जिससे दिखाया कि उनका क्वांटम दृष्टिकोण वर्तमान मानक तकनीकों की तुलना में मॉडल की सोच को बेहतर ढंग से सुलझा सकता है।

यहाँ शोध पत्र "Towards interpretable AI with quantum annealing feature selection" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डीप लर्निंग (DL) मॉडल, विशेष रूप से कन्वेल्शनल न्यूरल नेटवर्क (CNNs), महत्वपूर्ण अनुप्रयोगों में व्यापक रूप से उपयोग किए जाते हैं लेकिन अक्सर "ब्लैक बॉक्स" के रूप में कार्य करते हैं। हालाँकि Grad-CAM और Grad-CAM++ जैसी व्याख्यात्मक AI (XAI) तकनीकें यह विज़ुअलाइज़ करने के लिए मौजूद हैं कि किन इमेज क्षेत्रों ने भविष्यवाणियों को प्रभावित किया, वे महत्वपूर्ण सीमाओं से ग्रस्त हैं:

एकत्रीकरण (Aggregation): वे सभी फीचर मैप्स (FMs) के योगदान को एक एकल सैलिएंसी मैप (saliency map) में मिला देते हैं, जिससे व्यक्तिगत FMs की विशिष्ट भूमिकाओं को अलग करना विफल हो जाता है।
अतिरेक (Redundancy): वे रेडंडेंट या सह-संबंधित (correlated) रिप्रेजेंटेशन को फ़िल्टर नहीं करते हैं, जिससे यह समझना कठिन हो जाता है कि निर्णय को चलाने वाले विशिष्ट सीखे गए पैटर्न क्या हैं।
संयोजन जटिलता (Combinatorial Complexity): एक भविष्यवाणी को समझाने के लिए अनुकूलतम फीचर मैप्स के उपसमुच्चय (subset) का चयन करना एक कॉम्बिनेटोरियल ऑप्टिमाइज़ेशन समस्या है जो फीचर्स की संख्या के साथ तेजी से ( $2^N$ ) बढ़ती है, जिससे यह क्लासिकल एग्जॉस्टिव सर्च के लिए कम्प्यूटेशनल रूप से अव्यवहार्य (intractable) हो जाती है।

लेखक प्रस्तावित करते हैं कि आंतरिक सीखे गए रिप्रेजेंटेशन (न कि कच्चे इनपुट पिक्सल) पर लागू फीचर सिलेक्शन (FS), XAI के लिए एक शक्तिशाली लेकिन कम उपयोग किया जाने वाला उपकरण है। हालाँकि, इस FS समस्या को कुशलतापूर्वक हल करने के लिए एक नए दृष्टिकोण की आवश्यकता है।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र एक नया क्वांटम एनीलिंग (QA) आधारित दृष्टिकोण प्रस्तावित करता है ताकि किसी दिए गए इमेज प्रेडिक्शन के लिए सबसे प्रासंगिक और गैर-अतिरेकी (non-redundant) फीचर मैप्स का चयन किया जा सके।

A. फीचर मैप फ़िल्टरिंग (Feature Map Filtering)

ग्रेडिएंट विश्लेषण (Gradient Analysis): लेखक अंतिम कन्वेल्शनल लेयर के फीचर मैप्स ( $f^{(a)}_{ij}$ ) के सापेक्ष ग्रेडिएंट्स का ग्लोबल एवरेज पूलिंग कंप्यूट करते हैं:
$\alpha_a = \frac{1}{H_f W_f} \sum_{i,j} \frac{\partial z}{\partial f^{(a)}_{ij}}$
जहाँ $\alpha_a$ , फीचर मैप $a$ के महत्व को दर्शाता है।
सकारात्मक चयन (Positive Selection): केवल वे फीचर मैप्स रखे जाते हैं जिनका ग्रेडिएंट योगदान सकारात्मक ( $\alpha_a > 0$ ) है, क्योंकि यह अनुमानित क्लास की पुष्टि करते हैं। यह एक फ़िल्टर्ड सेट $\{\tilde{f}\}$ बनाता है।

B. QUBO फॉर्मूलेशन (QUBO Formulation)

चयन की समस्या को एक क्वाड्रेटिक अनकन्स्ट्रेंड बाइनरी ऑप्टिमाइज़ेशन (QUBO) समस्या (या समकक्ष आइसिंग मॉडल) में एनकोड किया गया है।

वेरिएबल्स (Variables): बाइनरी वेरिएबल्स (क्यूबिट्स) प्रत्येक फ़िल्टर्ड फीचर मैप के शामिल होने ($1 $) या बाहर होने ($ 0$) का प्रतिनिधित्व करते हैं।
ऑब्जेक्टिव फंक्शन (Hamiltonian): लक्ष्य चयनित मैप्स के महत्व को अधिकतम करना और अतिरेक (ज्यामितीय समानता) को न्यूनतम करना है।
$\hat{H}_{QUBO} = (1 - \beta) \frac{1}{2} \sum_{p,q} J_{pq} \hat{n}_p \hat{n}_q + \beta \sum_{p} h_p \hat{n}_p$
- लीनियर टर्म ( $h_p$ ): यह फीचर मैप $p$ के सामान्यीकृत महत्व ( $\alpha_p$ से प्राप्त) का प्रतिनिधित्व करता है।
- क्वाड्रेटिक टर्म ( $J_{pq}$ ): यह फीचर मैप $p$ और $q$ के बीच एब्सोल्यूट कोसाइन सिमिलरिटी का प्रतिनिधित्व करता है। उच्च समानता रेडंडेंसी का संकेत देती है; यह टर्म दोनों को चुनने पर दंड (penalize) लगाता है।
- हाइपरपैरामीटर ( $\beta$ ): यह उच्च-महत्व वाले फीचर्स को चुनने और रेडंडेंसी को कम करने के बीच के ट्रेड-ऑफ को नियंत्रित करता है।

C. क्वांटम एनीलिंग प्रोटोकॉल (Quantum Annealing Protocol)

इनिशियलाइजेशन (Initialization): सिस्टम सभी संभावित फीचर सबसेट्स के सुपरपोजिशन से शुरू होता है (एक ड्राइवर हैमिल्टोनियन $\hat{H}_D = -\sum \hat{\sigma}_x$ का ग्राउंड स्टेट)।
इवोल्यूशन (Evolution): सिस्टम एक समय-निर्भर हैमिल्टोनियन $\hat{H}(s) = A(s)\hat{H}_D + B(s)\hat{H}_{QUBO}$ के माध्यम से विकसित होता है, जहाँ $s$ , 0 से 1 तक जाता है।
सैंपलिंग (Sampling): अंतिम अवस्था को एक बिट-स्ट्रिंग प्राप्त करने के लिए सैंपल किया जाता है जो फीचर मैप्स के इष्टतम उपसमुच्चय का प्रतिनिधित्व करती है। यह उपसमुच्चय "एक्सप्लेनेशन मैप" बनता है।

3. मुख्य योगदान (Key Contributions)

नया XAI फ्रेमवर्क: CNNs के आंतरिक फीचर मैप्स (लेटेंट रिप्रेजेंटेशन) के चयन के लिए क्वांटम एनीलिंग का पहला अनुप्रयोग, न कि इनपुट पिक्सल्स का।
डिसेंटैंगलमेंट (Disentanglement): Grad-CAM के विपरीत, जो सभी मैप्स को एकत्रित करता है, यह विधि विशिष्ट, गैर-रेडंडेंट फीचर मैप्स के स्पार्स (sparse) उपसमुच्चय को अलग करती है, जिससे मॉडल द्वारा उपयोग किए जाने वाले विशिष्ट पैटर्न का स्पष्ट दृश्य मिलता है।
फिजिक्स-ड्रिवन विश्लेषण: लेखक एल्गोरिदम के कम्प्यूटेशनल व्यवहार का विश्लेषण करने के लिए क्वांटम भौतिकी मेट्रिक्स, जैसे कि मिनिमम एनर्जी गैप ( $\Delta_{min}$ ) और फिडेलिटी (fidelity) का उपयोग करते हैं, ताकि यह समझाया जा सके कि यह विधि क्यों काम करती है और इसकी स्केलेबिलिटी सीमाएं क्या हैं।
हाइब्रिड दृष्टिकोण: यह कार्य प्रदर्शित करता है कि कैसे उच्च-आयामी (high-dimensional) FS समस्याओं को हल करने के लिए NISQ (Noisy Intermediate-Scale Quantum) अवधारणाओं को सिम्युलेट किया जा सकता है, जो क्लासिकल ह्यूरिस्टिक्स के लिए कठिन हैं।

4. परिणाम (Results)

विधि का मूल्यांकन ResNet-18 आर्किटेक्चर का उपयोग करके STL-10 डेटासेट पर किया गया।

क्लास डिसेंटैंगलमेंट (Class Disentanglement):
- लेखकों ने भट्टाचार्य गुणांक (Bhattacharyya coefficient) का उपयोग करके क्लास-क्लास कोरिलेशन मैप्स जेनरेट किए।
- QA-आधारित विधि ( $N_f=16$ के साथ) ने पूर्ण ResNet-18 मॉडल की तुलना में काफी बेहतर डिसेंटैंगलमेंट (अधिक डायगोनल मैट्रिक्स) दिखाया, जो इंगित करता है कि चयनित FMs व्यक्तिगत क्लासेस के लिए अधिक विशिष्ट हैं।
मात्रात्मक प्रदर्शन (औसत ड्रॉप %):
- मेट्रिक: "औसत ड्रॉप %" यह मापता है कि जब एक्सप्लेनेशन मैप में नहीं होने वाले पिक्सल्स को मास्क किया जाता है, तो मॉडल का कॉन्फिडेंस कितना गिरता है। कम ड्रॉप एक बेहतर स्पष्टीकरण (मैप में महत्वपूर्ण जानकारी है) को दर्शाता है।
- निष्कर्ष: QA-fGradCAM विधि ने अधिकांश क्लासेस के लिए कम औसत ड्रॉप % (बेहतर प्रदर्शन) प्राप्त किया, जब एक कम किए गए फीचर सेट ( $N_f=16$ ) का उपयोग किया गया, तुलनात्मक रूप से Grad-CAM और Grad-CAM++ के।
- स्केलेबिलिटी नोट: जब सिम्युलेटेड एनीलिंग (SA) का उपयोग करके पूर्ण ResNet-18 ( $N_f=512$ ) तक स्केल किया गया, तो प्रदर्शन गिर गया। लेखक इसका कारण बड़े QUBO इंस्टेंस में ग्लोबल मिनिमम खोजने की कठिनाई और $\beta$ के सावधानीपूर्वक ट्यूनिंग के बिना रेडंडेंसी टर्म द्वारा फीचर्स का आक्रामक दमन (suppression) बताते हैं।
भौतिक विश्लेषण (Physical Analysis):
- एनर्जी गैप: $\Delta_{min}$ अपेक्षाकृत बड़ा (लगभग $10^{-1}$ ) पाया गया, जो बताता है कि समस्या का परिदृश्य (landscape) शेरिंगटन-मैककिन्ले मॉडल का सबसे "कठिन" इंस्टेंस नहीं है और यह सुलभ (tractable) है।
- फिडेलिटी: $\tau > 50$ के एनीलिंग समय के लिए, एल्गोरिदम ने उच्च फिडेलिटी (ग्राउंड स्टेट की ओर अभिसरण) प्राप्त की, जो प्रोटोकॉल की मजबूती की पुष्टि करती है।

5. महत्व और निष्कर्ष (Significance and Conclusion)

व्याख्यात्मकता (Interpretability): यह विधि डीप लर्निंग मॉडल्स की पारदर्शिता को बढ़ाती है, जिससे उन विशिष्ट, गैर-रेडंडेंट फिल्टर्स की पहचान होती है जो किसी निर्णय के लिए जिम्मेदार हैं, जो मोटे (coarse) हीटमैप्स से आगे बढ़कर है।
क्वांटम एडवांटेज की क्षमता: हालांकि वर्तमान हार्डवेयर सीमित है, यह अध्ययन सिद्ध करता है कि XAI को QUBO समस्या के रूप में तैयार करने से एक्सपोनेंशियल रूप से बड़े सॉल्यूशन स्पेस को कुशलतापूर्वक एक्सप्लोर करना संभव है। यह सुझाव देता है कि भविष्य का क्वांटम हार्डवेयर इन व्याख्यात्मक समस्याओं को क्लासिकल ह्यूरिस्टिक्स की तुलना में तेज़ी से और अधिक सटीकता से हल कर सकता है।
भविवी दिशाएँ: लेखक सुझाव देते हैं कि हाइपरपैरामीटर $\beta$ को ट्यून करना और संभावित रूप से कार्डिनैलिटी बाधाएं (cardinality constraints) जोड़ना परिणामों को और बेहतर बना सकता है। यह फ्रेमवर्क एजनोस्टिक (agnostic) है और इसे अन्य आर्किटेक्चर (जैसे विजन ट्रांसफॉर्मर) या जेनेरेटिव मॉडल्स पर भी लागू किया जा सकता है।

संक्षेप में, यह शोध पत्र क्वांटम कंप्यूटिंग और एक्सप्लेनेबल AI के बीच के अंतर को पाटता है, यह प्रदर्शित करते हुए कि क्वांटम एनीलिंग डीप नेटवर्क्स में फीचर सिलेक्शन की कॉम्बिनेटोरियल समस्या को प्रभावी ढंग से हल कर सकता है, जिससे अधिक स्पष्ट, विश्वसनीय और व्याख्या योग्य मॉडल स्पष्टीकरण प्राप्त होते हैं।