Disentangling Hallucinations: Orthogonal Semantic Projection for Robust Interpretability
यह शोध पत्र एक एकीकृत सैद्धांतिक ढांचे और एक ज्यामितीय हस्तक्षेप जिसे ऑर्थोगोनल सिमेंटिक प्रोजेक्शन (OSP) कहा जाता है, प्रस्तुत करता है ताकि विजन-लैंग्वेज मॉडल स्पष्टीकरणों में सिमेंटिक मतिभ्रम (hallucinations) को गणितीय रूप से समझाने और कम करने के लिए क्वेरी वेक्टर्स को डिस्ट्रैक्टर अवधारणाओं के विरुद्ध ऑर्थोगोनलाइज़ किया जा सके ताकि सुदृढ़ व्याख्यात्मकता सुनिश्चित की जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "डिसेन्टैंगलिंग हैलुसिनेशन्स: ऑर्थोगोनल सिमेंटिक प्रोजेक्शन फॉर रोबस्ट इंटरप्रिटेबिलिटी" (Disentangling Hallucinations: Orthogonal Semantic Projection for Robust Interpretability) पेपर का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
समस्या: "भ्रमित स्पॉटलाइट" (The "Confused Spotlight")
कल्पना कीजिए कि आपके पास एक स्मार्ट कैमरा सिस्टम (एक विजन-लैंग्वेज मॉडल) है जो किसी तस्वीर को देख सकता है और बता सकता है कि उसमें क्या है। यह सुनिश्चित करने के लिए कि हम इस कैमरे पर भरोसा कर सकें, हम एक विशेष टूल का उपयोग करते हैं जिसे XAI (एक्सप्लेनेबल एआई) कहा जाता है। यह टूल एक फ्लैशलाइट या हीट मैप की तरह काम करता है जो उस हिस्से पर रोशनी डालता है जिसे कैमरा अपना निर्णय लेने के लिए "देख" रहा है।
समस्या: कभी-कभी, यह फ्लैशलाइट भ्रमित हो जाती है।
यदि आप कैमरे से पूछते हैं, "कहाँ है बिल्ली (cat)?" और फोटो में वास्तव में एक कुत्ता (dog) है, तो फ्लैशलाइट अभी भी कुत्ते पर चमक सकती है। ऐसा लगता है जैसे फ्लैशलाइट सोच रही हो, "खैर, कुत्ते और बिल्लियाँ दोनों ही चार पैरों वाले रोएँदार जानवर हैं, इसलिए मैं कुत्ते को हाईलाइट कर दूँगी भले ही आपने बिल्ली के बारे में पूछा हो।"
इस पेपर में इसे "सिमेंटिक हैलुसिनेशन" (Semantic Hallucination) कहा गया है। स्पष्टीकरण (explanation) विश्वसनीय दिखता है, लेकिन वह झूठ बोल रहा है। यह गलत वस्तु को हाईलाइट कर रहा है क्योंकि कंप्यूटर के दिमाग में अवधारणाएं (concepts) बहुत अधिक "चिपचिपी" और आपस में मिली-जुली हैं।
कारण: विचारों का "भीड़भाड़ वाला कमरा" (The "Crowded Room" of Ideas)
ऐसा क्यों होता है? पेपर का तर्क है कि कंप्यूटर के दिमाग के अंदर, सभी शब्द और चित्र एक विशाल, उच्च-आयामी (high-dimensional) कमरे में रहते हैं।
- इस कमरे में, "बिल्ली" की अवधारणा और "कुत्ते" की अवधारणा अलग-अलग, अलग कोनों में नहीं हैं।
- इसके बजाय, वे एक साथ खड़े हैं, एक ही स्थान साझा कर रहे हैं क्योंकि वे कुछ समान गुणों (जैसे "रोएँ" या "पैर") को साझा करते हैं।
जब कंप्यूटर "बिल्ली" को खोजने की कोशिश करता है, तो वह "बिल्ली होने के गुण" के पूरे समूह को पकड़ लेता है। लेकिन चूंकि "कुत्ता" उसके ठीक बगल में खड़ा है और वह भी उसी स्थान को साझा कर रहा है, इसलिए कंप्यूटर गलती से "कुत्ते वाले हिस्से" को भी साथ ले लेता है। इसे "लीनियर सिमेंटिक लीकेज" (Linear Semantic Leakage) कहा जाता है। विचार एक-दूसरे में "लीक" हो रहे हैं क्योंकि वे पूरी तरह से अलग नहीं हैं।
समाधान: "नॉइज़-कैंसलिंग" फ़िल्टर (The "Noise-Canceling" Filter)
लेखकों ने एक नया तरीका प्रस्तावित किया है जिसे ऑर्थोगोनल सिमेंटिक प्रोजेक्शन (OSP) कहा जाता है। इसे कंप्यूटर के विचारों के लिए एक स्मार्ट नॉइज़-कैंसलिंग फ़िल्टर के रूप में समझें।
यह कैसे काम करता है, चरण-दर-चरण यहाँ दिया गया है:
- भटकाव की डिक्शनरी (The Dictionary of Distractions): कंप्यूटर के इमेज देखने से पहले, OSP "डिस्ट्रैक्टर्स" (distractors) की एक सूची बनाता है। यदि आप "बिल्ली" की तलाश कर रहे हैं, तो सिस्टम जानता है कि "कुत्ता", "शेर" और "बाघ" उसके करीबी रिश्तेदार हैं। यह इन डिस्ट्रैक्टर्स के गणितीय "सिग्नेचर" को इकट्ठा करता है।
- ज्यामितीय सफाई (The Geometric Cleanup): OSP कंप्यूटर के "बिल्ली" वाले विचार को गणितीय रूप से "कुत्ते", "शेर" और "बाघ" के विचारों से दूर धकेलता है।
- उपमा: कल्पना कीजिए कि आप एक भीड़भाड़ वाले कमरे में एक विशिष्ट गाना (बिल्ली) सुनने की कोशिश कर रहे हैं जहाँ हर कोई मिलते-जुलते धुन गा रहा है। OSP उन लोगों की आवाजों को सक्रिय रूप से रद्द करने वाले हेडफ़ोन की तरह है जो कुत्तों और शेरों के बारे में गा रहे हैं।
- शुद्ध सिग्नल (The Pure Signal): जो बचता है वह "बिल्ली" के विचार का एक "शुद्ध" संस्करण है। इसमें अन्य जानवरों के साथ साझा किए गए सभी गुण हटा दिए गए हैं। अब यह डिस्ट्रैक्टर्स के प्रति ऑर्थोगोनल (orthogonal) (एक सटीक 90-डिग्री के कोण पर) है।
- परिणाम (The Result): जब कंप्यूटर इस शुद्ध "बिल्ली" के विचार का उपयोग अपनी फ्लैशलाइट चमकाने के लिए करता है, तो वह कुत्ते को पूरी तरह से अनदेखा कर देता है। हीट मैप अब केवल वास्तविक बिल्ली को ही रोशन करता है, या यदि कोई बिल्ली नहीं है तो कुछ भी नहीं।
यह क्यों महत्वपूर्ण है?
पेपर यह सिद्ध करता है कि यह केवल एक विशिष्ट प्रकार के कैमरे के लिए एक ट्रिक नहीं है; यह कई अलग-अलग AI मॉडल्स (जैसे CLIP, SigLIP, और Stable Diffusion) और हीट मैप बनाने के कई अलग-अलग तरीकों के लिए काम करता है।
- यह झूठ को रोकता है: कंप्यूटर उन वस्तुओं को हाईलाइट करना बंद कर देता है जो वहां मौजूद नहीं हैं, सिर्फ इसलिए क्योंकि वे समान दिखती हैं।
- यह सच्चाई बनाए रखता है: यह कंप्यूटर को सही वस्तु खोजने में बदतर नहीं बनाता है; वास्तव में, यह अक्सर "सही" हाईलाइट को और भी सटीक बना देता है।
- यह एक प्लग-एंड-प्ले टूल है: आपको पूरे AI को फिर से प्रशिक्षित (retrain) करने की आवश्यकता नहीं है। आप बस स्पष्टीकरण उत्पन्न करने से पहले इस "फ़िल्टर" चरण को जोड़ देते हैं।
प्रमाण (The Proof)
शोधकर्ताओं ने हजारों छवियों पर इसका परीक्षण किया।
- मात्रात्मक प्रमाण (Quantitative Proof): उन्होंने मापा कि AI कितनी बार सही वस्तु की पहचान करता है और गलत वस्तुओं को अनदेखा करता है। "फ़िल्टर" (OSP) ने इन स्कोर में काफी सुधार किया।
- मानवीय प्रमाण (Human Proof): उन्होंने 200 वास्तविक लोगों को हीट मैप दिखाए। जब मैप पुराने तरीके से बनाए गए थे, तो लोग अक्सर गलत हाइलाइट्स से भ्रमित या ठगे गए थे। जब उन्होंने नए OSP तरीके से बनाए गए मैप देखे, तो लोग AI द्वारा देखी जा रही चीज़ का अनुमान लगाने में बहुत बेहतर थे और उन्हें उत्तर पर अधिक विश्वास महसूस हुआ।
सारांश
संक्षेप में, यह पेपर एक तरीका पेश करता है जिससे AI के खुद को समझाने की कोशिश करने से पहले उसकी शब्दावली को साफ (clean up) किया जा सके। समान अवधारणाओं (जैसे बिल्ली और कुत्ता) को गणितीय रूप से अलग करके ताकि वे एक-दूसरे में न मिलें, AI अंततः उस सटीक चीज़ की ओर अपनी फ्लैशलाइट चमका सकता है जिसके लिए आपने पूछा है, बिना पास रखी किसी गलत वस्तु को गलती से रोशन किए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।