Mitigating Multimodal Hallucination via Phase-wise Self-reward
यह शोध पत्र PSRD प्रस्तुत करता है, जो एक चरण-वार स्व-पुरस्कार डिकोडिंग ढांचा (phase-wise self-reward decoding framework) है जो एक हल्के, डिस्टिल्ड रिवॉर्ड मॉडल का उपयोग करके सिमेंटिक चरणों के प्रारंभ में त्रुटियों की गतिशील रूप से पहचान और सुधार करके लार्ज विजन-लैंग्वेज मॉडल्स में मल्टीमॉडल मतिभ्रम (multimodal hallucinations) को कम करता है, जिससे बिना किसी बाहरी पर्यवेक्षण या भारी कम्प्यूटेशनल ओवरहेड के मतिभ्रम में महत्वपूर्ण कमी आती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास LVM (लार्ज विजन-लैंग्वेज मॉडल) नाम का एक बहुत ही बुद्धिमान और कलात्मक रोबोट है। आप उसे एक चटाई पर बैठी बिल्ली की तस्वीर दिखाते हैं, और वह उस दृश्य के बारे में एक कहानी लिखना शुरू कर देता है।
समस्या क्या है? कभी-कभी, यह रोबोट ज़रूरत से ज़्यादा कल्पनाशील हो जाता है। यह कह सकता है, "बिल्ली ने लाल टोपी पहनी है और हाथ में कॉफी का कप पकड़ा हुआ है," भले ही तस्वीर में न तो टोपी है और न ही कॉफी। एआई (AI) की दुनिया में, इसे हैलुसिनेशन (hallucination) कहा जाता है। यह ऐसा है जैसे रोबोट तथ्यों को देखने के बजाय दिवास्वप्न देख रहा हो।
इसे ठीक करने के मौजूदा तरीके ऐसे हैं जैसे रोबोट द्वारा लिखी गई हर कहानी को जांचने के लिए मानव संपादकों की एक विशाल सेना को काम पर रखना। यह धीमा, महंगा और बहुत अधिक कंप्यूटिंग पावर की मांग करता है। अन्य तरीके यह कोशिश करते हैं कि रोबोट के कहानी पूरी करने के बाद उसमें "सुधार" किया जाए, लेकिन वे अक्सर उस सटीक क्षण को चूक जाते हैं जब रोबोट ने कल्पना करना शुरू किया था।
यह शोध पत्र एक नया, चतुर समाधान पेश करता है जिसे PSRD (फेज़-वाइज़ सेल्फ-रिवॉर्ड डिकोडिंग) कहा जाता है। यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:
1. "फेज़" (चरण) की खोज: चूक को जल्दी पकड़ना
शोधकर्ताओं ने गौर किया कि रोबोट गलतियाँ कब करता है। उन्होंने पाया कि रोबोट गलतियाँ बेतरतीब ढंग से नहीं करता है। वह अक्सर एक नए विचार (एक "फेज़" या चरण) की शुरुआत में गलती करता है।
- उपमा: कल्पना कीजिए कि रोबोट एक यात्रा के बारे में कहानी सुना रहा है। वह कहता है, "पहले, हम जंगल से चले..." (सुरक्षित)। फिर वह एक नया वाक्य शुरू करता है: "अगले, हमने एक ड्रैगन देखा..." (ओह! वहाँ कोई ड्रैगन नहीं था)।
- शोधकर्ताओं ने महसूस किया कि जिस क्षण रोबोट विषय बदलता है (जंगल से ड्रैगन की ओर), वही सबसे खतरनाक क्षण होता है। उसी समय हैलुसिनेशन (भ्रम) अपने चरम पर होता है।
2. "सेल्फ-रेफरी" (स्वयं का रेफरी): एक छोटे कोच को प्रशिक्षित करना
मानव संपादकों को काम पर रखने के बजाय, शोधकर्ताओं ने रोबोट को खुद को परखना सिखाया।
- उन्होंने एक छोटा, हल्का "कोच" (रिवॉर्ड मॉडल) बनाया।
- उन्होंने रोबोट को हजारों उदाहरण दिखाए जहाँ वह सही था और जहाँ वह गलत था (हैलुसिनेट कर रहा था)।
- रोबोट अपनी "अनिश्चितता" को पहचानना सीख गया। जब वह अनिश्चित महसूस करता था या कोई मनगढ़ंत अनुमान लगाने वाला होता था, तो उसने उसे फ्लैग (चिह्नित) करना सीख लिया।
- उपमा: कोच को एक फुटबॉल मैच के सख्त रेफरी के रूप में सोचें। रेफरी खेल नहीं खेलता; वह बस देखता है। यदि खिलाड़ी (रोबोट) गेंद को गलत गोल की ओर किक करने वाला है (हैलुसिनेट करने वाला है), तो रेफरी तुरंत सीटी बजा देता है।
3. "फेज़-वाइज़" रणनीति: स्काउट-एंड-प्रोजेक्ट विधि
यही PSRD का मुख्य जादू है। पूरी कहानी लिखे जाने का इंतज़ार करने और फिर उसे ठीक करने के बजाय, कोच रियल-टाइम में हस्तक्षेप करता है, ठीक उसी क्षण जब एक नया "फेज़" (वाक्य या विचार) शुरू होता है।
- उपमा: कल्पना कीजिए कि आप एक पत्र लिख रहे हैं, लेकिन आपके पास एक जादुई पेन है जो किसी शब्द पर प्रतिबद्ध होने से पहले कुछ अलग शब्दों को आज़मा सकता है।
- स्काउट (खोजना): जैसे ही आप एक नया वाक्य शुरू करते हैं, पेन तुरंत कुछ अलग शुरुआती शब्दों का परीक्षण करता है (जैसे, "बिल्ली है..." बनाम "कुत्ता है...")।
- प्रोजेक्ट (परिकल्पना): कोच इन विकल्पों की तुरंत जांच करता है। "रुको, 'कुत्ता है' गलत है क्योंकि वहाँ कोई कुत्ता नहीं है!"
- इंटरवीन (हस्तक्षेप करना): कोच पेन को वाक्य पूरा करने से पहले ही सही शब्द ("बिल्ली है...") चुनने के लिए मजबूर करता है।
यह बेहतर क्यों है?
- महंगी ट्रेनिंग की ज़रूरत नहीं: इसके लिए पूरे रोबोट को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यह बस एक छोटा सा कोच जोड़ देता है।
- सटीकता: यह गलती को उसी क्षण पकड़ लेता है जब वह होती है, जिससे रोबोट झूठ पर अड़ा नहीं रह पाता।
- गति: क्योंकि कोच छोटा और स्मार्ट है, यह रोबोट की गति को बहुत कम धीमा करता है।
- परिणाम: उनके परीक्षणों में, इस पद्धति ने रोबोट के हैलुसिनेशन को आधा (50% की कमी) कर दिया और उन पिछले तरीकों से बेहतर प्रदर्शन किया जिनमें भारी मात्रा में डेटा की आवश्यकता थी।
निचोड़ (The Bottom Line)
यह शोध पत्र हमें सिखाता है कि एक रचनात्मक AI को झूठ बोलने से रोकने के लिए, हमें केवल अंतिम उत्पाद की जांच नहीं करनी चाहिए। हमें उन संक्रमण के क्षणों (moments of transition) पर नज़र रखनी चाहिए जब AI अपना रुख बदलता है। AI को एक छोटा, आत्म-जागरूक कोच देकर जो नया विचार वास्तविकता से भटकते ही सीटी बजा दे, हम बिना किसी बड़ी मानव टीम के, AI को ईमानदार, तेज़ और सटीक बनाए रख सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।