Self-Correction Inside the Model: Leveraging Layer Attention to Mitigate Hallucinations in Large Vision Language Models
यह शोध पत्र ICLA को प्रस्तुत करता है, जो एक आंतरिक स्व-सुधार तंत्र है जो एक विकर्ण क्रॉस-लेयर अटेंशन मैकेनिज्म का लाभ उठाता है ताकि लार्ज विजन-लैंग्वेज मॉडल्स को बाहरी संकेतों के बिना अपने स्वयं के हिडन स्टेट्स को परिष्कृत करने और मतिभ्रम (hallucinations) को कम करने में सक्षम बनाया जा सके, जो न्यूनतम अतिरिक्त मापदंडों के साथ बेंचमार्क पर निरंतर सुधार प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान सहायक है जो चित्रों का वर्णन करने में माहिर है। हालाँकि, कभी-कभी यह सहायक थोड़ा "स्वप्निल" हो जाता है। वे एक बिल्ली की फोटो देखकर आत्मविश्वास से कह सकते हैं, "यह टोपी पहने हुए एक कुत्ता है," क्योंकि उनके विशाल प्रशिक्षण डेटा में बिल्लियाँ और कुत्ते अक्सर साथ दिखाई देते हैं, या क्योंकि उन्हें टोपी पहने हुए कुत्ते का विचार पसंद है। वे चित्र को ध्यान से नहीं देख रहे हैं; वे बस उस आधार पर अनुमान लगा रहे हैं जो उन्होंने पहले सुना है। एआई (AI) की दुनिया में, इसे हैलुसिनेशन (hallucination) कहा जाता है।
लंबे समय तक, शोधकर्ताओं ने इसे ठीक करने के लिए सहायक को "ज़्यादा गहराई से सोचने" के लिए सिखाने या उन्हें दिवास्वप्न देखने से रोकने के लिए विशिष्ट नियम देने की कोशिश की। लेकिन यहाँ एक मोड़ है: नए, सुपर-स्मार्ट सहायक (जैसे इस पेपर में दिए गए हैं) इतने अच्छे हो गए हैं कि पुराने नियम अब काम नहीं करते। वे पुराने मॉडलों की तरह समान "स्वप्निल" पैटर्न का पालन नहीं करते हैं। उन्हें रोकने के लिए पुराने तरीकों का उपयोग करना ऐसा है जैसे किसी फॉर्मूला 1 कार को यह बताकर रोकने की कोशिश करना कि वह साइकिल की तरह चलाए—यह काम नहीं करता, और कभी-कभी इससे कार दुर्घटनाग्रस्त भी हो सकती है।
नया समाधान: "सेल्फ-करेक्शन टीम" (ICLA)
लेखक, अप्रैल फू, एक चतुर नया तरीका प्रस्तावित करती हैं जिसे ICLA (Internal self-Correction utilizing Layer Attention) कहा जाता है।
यह कैसे काम करता है, यहाँ एक सरल उपमा दी गई है:
1. फैक्ट्री असेंबली लाइन
कल्पना कीजिए कि एआई मॉडल एक विशाल फैक्ट्री है जिसमें 30 अलग-अलग मंजिलें (लेयर्स) हैं।
- मंजिल 1 कच्ची छवि देखती है।
- मंजिल 2 अनुमान लगाना शुरू करती है कि यह क्या है।
- मंजिल 3 उस अनुमान को और बेहतर बनाती है।
- ...और इसी तरह, मंजिल 30 तक, जो अंतिम उत्तर लिखती है।
पुराने मॉडलों में, यदि मंजिल 5 ने गलती की, तो ऊपर की मंजिलें उसी गलती को जारी रखेंगी, या उसे और भी बिगाड़ देंगी (यह "ओवरथिंकिंग" की समस्या थी)।
2. पुराने तरीके के साथ समस्या
पहले, शोधकर्ता काम की जाँच करने के लिए बिल्कुल अंत में एक "मैनेजर" (अंतिम मंजिल पर) रखकर इसे ठीक करने की कोशिश करते थे। लेकिन इन नए, उन्नत मॉडलों में, अंतिम मंजिल वाला मैनेजर अक्सर बहुत भ्रमित या बहुत व्यस्त होता है कि वह फैक्ट्री की गहराई में हुई गलतियों को ठीक कर सके।
3. ICLA नवाचार: "वर्टिकल एलीवेटर" (Vertical Elevator)
ICLA फैक्ट्री के लेआउट को बदल देता है। केवल एक मंजिल से दूसरी मंजिल पर जाने के बजाय, अब हर मंजिल के पास एक विशेष एलीवेटर है जो इसे नीचे की सभी मंजिलों से जोड़ता है।
- यह कैसे काम करता है: जब मंजिल 20 यह तय करने की कोशिश कर रही होती है कि चित्र क्या है, तो वह केवल मंजिल 19 को नहीं देखती। वह तुरंत नीचे एलीवेटर से ज़िप करती है और यह जाँचने के लिए वापस जाती है कि मंजिल 10, 12 और 15 ने क्या देखा था।
- "डायगोनल" नियम: चीजों को व्यवस्थित रखने के लिए, एलीवेटर हर मंजिल पर ठीक उसी स्थान पर रुकता है। यदि मंजिल 20 चित्र के बाएँ हिस्से को देख रही है, तो वह निचली मंजिलों के बाएँ हिस्से की ही जाँच करेगी। वह दाहिने हिस्से से भ्रमित नहीं होगी।
- सेल्फ-करेक्शन (स्व-सुधार): यदि मंजिल 20 दिवास्वप्न (हैलुसिनेशन) में खोने लगती है, तो वह तुरंत पिछले स्तरों की ओर देख सकती है, स्पष्ट और तथ्यात्मक साक्ष्य देख सकती है, और कह सकती है, "ओह रुकिए, मैं गलत थी। शुरुआती मंजिलों ने एक बिल्ली देखी थी, न कि कुत्ता। मुझे अपना उत्तर ठीक करने दें।"
यह एक बड़ी बात क्यों है?
- यह आत्मनिर्भर है: मॉडल को किसी इंसान द्वारा यह बताने की ज़रूरत नहीं है कि, "हे, यह गलत है!" यह आंतरिक रूप से खुद को ठीक करता है, जैसे कोई व्यक्ति बोलने से पहले अपनी याददाश्त को दोबारा चेक करता है।
- यह हल्का है: लेखक को इसे चलाने के लिए केवल बहुत कम अतिरिक्त "बौद्धिक शक्ति" (लगभग 0.1 से 0.2 मिलियन पैरामीटर्स) जोड़ने की आवश्यकता थी। यह एक विशाल पुस्तकालय में एक छोटी नोटबुक जोड़ने जैसा है; इसका वजन बहुत कम है, लेकिन यह लाइब्रेरियन को बहुत स्मार्ट बना देता है।
- यह "सबसे स्मार्ट" मॉडलों पर काम करता है: पेपर में परीक्षण दो बहुत उन्नत एआई मॉडलों (LLaVA और Qwen) पर किया गया। पुराने मॉडल पर, इसने बहुत अच्छा प्रदर्शन किया। लेकिन नए, अधिक जटिल मॉडल पर, यह एक गेम-चेंजर साबित हुआ। जबकि अन्य तरीकों ने नए मॉडल को वास्तव में खराब कर दिया, ICLA ने इसे काफी सटीक बना दिया।
निष्कर्ष (The Takeaway)
ICla को एआई को एक टाइम मशीन देने के रूप में समझें। केवल अंधे होकर आगे बढ़ने के बजाय, यह वास्तविकता से भटकने से बचने के लिए अपने ही शुरुआती विचारों पर एक नज़र डाल सकता है।
यह पेपर हमें सिखाता है कि जैसे-जैसे एआई स्मार्ट होता जा रहा है, हम इसे झूठ बोलने से रोकने के लिए पुराने, कठोर नियमों का उपयोग नहीं कर सकते। इसके बजाय, हमें ऐसे सिस्टम बनाने की आवश्यकता है जो एआई को प्रक्रिया के हर चरण में अपने काम की गतिशील रूप से जाँच करने की अनुमति दें, यह सुनिश्चित करते हुए कि जो वह कह रहा है वह वास्तव में वही है जो वह देख रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।