HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning
यह शोध पत्र हत्रीक्यू (HattriQ) प्रस्तुत करता है, जो एक सामान्य-उद्देश्य वाला फ्रेमवर्क है जो हैडामार्ड टेस्ट्स का उपयोग करके सीधे क्वांटम हार्डवेयर पर एम्प्लीट्यूड-आधारित इंटीग्रेटेड ग्रेडिएंट्स की गणना करके सर्किट-आधारित क्वांटम मशीन लर्निंग में व्याख्यात्मकता (interpretability) को सक्षम बनाता है, जिससे माप पतन (measurement collapse) और सिमुलेशन जटिलता के कारण शास्त्रीय विधियों की सीमाओं को दूर किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई, अत्यंत जटिल 'ब्लैक बॉक्स' है जो बिल्ली की तस्वीर देखकर कह सकता है, "यह एक बिल्ली है!" यह बॉक्स एक क्वांटम मशीन लर्निंग (QML) मॉडल है। यह अविश्वसनीय रूप से शक्तिशाली है, लेकिन यह क्वांटम भौतिकी के विचित्र नियमों पर काम करता है।
समस्या यह है कि यह एक ब्लैक बॉक्स है। यहाँ तक कि इसे बनाने वाले लोग भी आसानी से यह नहीं समझा सकते कि इसने यह निर्णय क्यों लिया कि वह एक बिल्ली है। क्या इसने कानों को देखा? मूंछों को? या यह सिर्फ किस्मत का खेल था? क्लासिकल दुनिया में, हमारे पास ऐसे उपकरण हैं जिनसे हम झाँककर देख सकते हैं कि इनपुट के कौन से हिस्से सबसे महत्वपूर्ण थे। लेकिन क्वांटम दुनिया में, यदि आप झाँकने की कोशिश करते हैं, तो जादू गायब हो जाता है (क्वांटम स्टेट "कोलैप्स" हो जाता), और उत्तर बदल जाता है।
यह पेपर HATTRIQ नामक एक नए टूल को पेश करता है, जिसे इस रहस्य को सुलझाने के लिए डिज़ाइन किया गया है—बिना उस जादू को तोड़े।
मुख्य समस्या: "अदृश्य" बॉक्स
एक क्वांटम कंप्यूटर को एक ऐसे शेफ की तरह समझें जो पूरी तरह से सीलबंद, ध्वनिप्रूफ रसोई में खाना बना रहा है। आप उन्हें सामग्री (डेटा) देते हैं, और वे आपको तैयार भोजन (भविष्यवाणी) परोसते हैं।
- क्लासिकल AI: आप शेफ से पूछ सकते हैं, "क्या आपने नमक ज्यादा डाला या काली मिर्च?" और वे अपनी रेसिपी चेक कर सकते हैं।
- क्वांटम AI: शेफ ऐसी सामग्रियों के साथ काम कर रहा है जो एक ही समय में दो जगहों पर मौजूद हैं (सुपरपोजिशन)। यदि आप नमक के बारे में पूछने के लिए दरवाजा खोलते हैं, तो सामग्रियां तुरंत कुछ और बन जाती हैं, और रेसिपी खराब हो जाती है।
इस कारण से, हम पहले यह नहीं बता पाते थे कि अंतिम निर्णय के लिए कौन सा "सामग्री" (इमेज का पिक्सेल, या डेटा पॉइंट) सबसे महत्वपूर्ण था।
समाधान: HATTRIQ (द "मैजिक मिरर")
लेखकों ने HATTRIQ (क्वांटम मॉडल्स के लिए हैडामार्ड टेस्ट-आधारित इनपुट एट्रिब्यूशन स्कोर स्कीम) बनाया है।
अंदर झाँककर डिश को खराब करने के बजाय, HATTRIQ एक चतुर दर्पण ट्रिक (जिसे हैडामार्ड टेस्ट कहा जाता है) का उपयोग करता है।
- उपमा: कल्पना कीजिए कि आप जानना चाहते हैं कि किसी विशिष्ट सामग्री ने स्वाद में कितना योगदान दिया, लेकिन आप सूप को सीधे चख नहीं सकते। इसके बजाय, आप वास्तविक प्रक्रिया के साथ एक समानांतर, "घोस्ट" (भूतिया) संस्करण चलाते हैं। वास्तविक सूप और घोस्ट सूप के बीच के इंटरैक्शन की तुलना करके, आप गणितीय रूप से गणना कर सकते हैं कि उस विशिष्ट सामग्री का कितना महत्व था, बिना कभी बर्तन खोले।
HATTRIQ यह काम वास्तविक क्वांटम हार्डवेयर पर करता है। यह एक विशेष सर्किट चलाता है जो क्वांटम कंप्यूटर से पूछता है: "यदि मैं इनपुट के इस विशिष्ट हिस्से में बदलाव करूँ, तो अंतिम उत्तर कैसे बदलेगा?" यह एक विशिष्ट परिणाम की "संभावना" (probability) को मापकर ऐसा करता है, जो उस इनपुट फीचर के महत्व को प्रकट करता है।
यह कैसे काम करता है ("ग्रेडिएंट" की अवधारणा)
सरल शब्दों में, HATTRIQ इंटीग्रेटेड ग्रेडिएंट्स (Integrated Gradients) की गणना करता है।
- कल्पना कीजिए कि आप एक खाली सफेद स्क्रीन (बिना इमेज के) से एक बिल्ली की पूरी तस्वीर की ओर बढ़ रहे हैं।
- HATTRIQ उस पथ पर छोटे-छोटे कदम लेता है। हर कदम पर, यह पूछता है, "इस विशिष्ट पिक्सेल ने बदलाव में कितना योगदान दिया?"
- यह उन सभी सूक्ष्म योगदानों को जोड़ता है ताकि आपको एक अंतिम स्कोर मिल सके: "यह पिक्सेल बहुत महत्वपूर्ण था (High Positive)," "यह पिक्सेल भ्रमित करने वाला था (Negative)," या "इस पिक्सेल से कोई फर्क नहीं पड़ा (Zero)।"
उन्होंने इसका परीक्षण किस पर किया?
टीम ने HATTRIQ का परीक्षण कई "ब्लैक बॉक्सेस" पर किया ताकि यह देख सके कि क्या यह उनके निर्णयों की व्याख्या कर सकता है:
- सरल पैटर्न: बार्स (bars) और स्ट्राइप्स (stripes) के बीच अंतर करना।
- हस्तलिखित अंक: संख्याओं को पहचानना जैसे 0, 1, 3, 4, आदि (MNIST और NIST डेटासेट से)।
- कपड़े: एक ड्रेस और शर्ट, या बूट्स और सैंडल के बीच अंतर करना (FashionMNIST)।
- क्वांटम भौतिकी डेटा: यहाँ तक कि एक चेन में मैग्नेटिक स्पिन का प्रतिनिधित्व करने वाले डेटा (TFIM डेटासेट) पर भी परीक्षण किया, जिससे यह साबित हुआ कि यह केवल तस्वीरों पर ही नहीं, बल्कि शुद्ध क्वांटम डेटा पर भी काम करता है।
परिणाम: यह वास्तव में काम करता है!
- यह तर्कसंगत है: जब HATTRIQ ने संख्या "4" की तस्वीर देखी, तो इसने "4" के तीखे कोणों को हाइलाइट किया और बैकग्राउंड को अनदेखा कर दिया। जब इसने "3" को देखा, तो इसने घुमावों (curves) को हाइलाइट किया। इसने केवल अनुमान नहीं लगाया; इसने वास्तव में उन फीचर्स को खोजा जिनका मॉडल उपयोग कर रहा था।
- यह मजबूत है: उन्होंने इसे "नॉइजी" (शोर युक्त) क्वांटम हार्डवेयर (एक थोड़े खराब या अपूर्ण मशीन का अनुकरण) के साथ टेस्ट किया। त्रुटियों के बावजूद, HATTRIQ ने स्पष्ट और सटीक उत्तर दिए।
- यह कुशल है: उन्होंने दिखाया कि आप इन परीक्षणों को समानांतर में चला सकते हैं (एक साथ कई "घोस्ट" किचन का उपयोग करके) ताकि काम को तेज किया जा सके।
यह क्यों महत्वपूर्ण है?
HATTRIQ से पहले, यदि कोई क्वांटम AI गलती करता था, तो हमें पता ही नहीं चलता था कि क्यों हुआ। हम अंधेरे में उड़ रहे थे।
- विश्वास (Trust): अब, हम सत्यापित कर सकते हैं कि क्या AI सही चीजों (जैसे जूते का आकार) को देख रहा है या गलत चीजों (जैसे धूल का एक रैंडम कण) को।
- डीबगिंग (Debugging): यदि AI पक्षपाती या भ्रमित है, तो HATTRIQ डेवलपर्स को यह देखने में मदद करता है कि भ्रम कहाँ हो रहा है ताकि वे मॉडल को ठीक कर सकें।
संक्षेप में, HATTRIQ पहला टॉर्च है जो हमें लाइट बंद किए बिना क्वांटम ब्लैक बॉक्स के अंदर देखने की अनुमति देता है। यह भ्रमित करने वाले, अदृश्य क्वांटम निर्णयों को "क्या महत्वपूर्ण था" के एक स्पष्ट मानचित्र में अनुवादित करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।