OSCAR: Orchestrated Self-verification and Cross-path Refinement
OSCAR डिफ्यूजन लैंग्वेज मॉडल्स के लिए एक ट्रेनिंग-फ्री इन्फरेंस-टाइम फ्रेमवर्क है जो क्रॉस-चेन एंट्रॉपी विश्लेषण के माध्यम से उच्च-अनिश्चितता वाले टोकन स्थानों की पहचान करके और प्राप्त साक्ष्यों के साथ लक्षित रीमास्किंगिंग के माध्यम से उन्हें सुधारकर मतिभ्रम (hallucinations) को कम करता है, जिससे यह ऑटोरिग्रेसिव दृष्टिकोणों की तुलना में बेहतर तथ्यात्मक सटीकता के लिए मॉडल के मूल डीनोइजिंग प्रक्षेपवक्र (denoising trajectory) का लाभ उठाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल पहेली सुलझाने की कोशिश कर रहे हैं, लेकिन आपके पास एक बहुत तेज़, बहुत बुद्धिमान रोबोट सहायक है जो काम खत्म करने के लिए उत्सुक है। समस्या यह है कि यह रोबोट कभी-कभी उत्साहित हो जाता है, अंदाज़ा लगाता है कि एक टुकड़ा फिट बैठता है, उसे अपनी जगह पर फिट कर देता है, और फिर उसी गलत अंदाज़ के इर्द-गिर्द बाकी पहेली बना लेता है। जब तक वह काम पूरा करता है, पूरी तस्वीर एकदम सही दिखती है, लेकिन वास्तव में वह निरर्थक होती है। यही वह चीज़ है जो तब होती है जब AI मॉडल "भ्रमित" (hallucinate) होते हैं—वे आत्मविश्वास के साथ ऐसी बातें बना लेते हैं जो सुनने में तो सही लगती हैं लेकिन वास्तव में गलत होती हैं।
वर्तमान में अधिकांश AI मॉडल (जिन्हें ऑटोरेग्रेसिव (Autoregressive) मॉडल कहा जाता है) डोमिनोज़ की एक कतार की तरह काम करते हैं: एक बार जब एक डोमिनो गिर जाता है, तो उसे वापस खड़ा नहीं किया जा सकता। यदि पहला डोमिनो गलत दिशा में गिर गया, तो पूरी श्रृंखला बर्बाद हो जाती है।
हालाँकि, एक नया प्रकार का AI जिसे डिफ्यूजन लैंग्वेज मॉडल (DLM) कहा जाता है, अलग तरीके से काम करता है। डोमिनोज़ की एक कतार के बजाय, कल्पना कीजिए कि एक मूर्तिकार संगमरमर के एक ब्लॉक के साथ काम कर रहा है। मूर्तिकार एक खुरदरे, बिखरे हुए ब्लॉक से शुरुआत करता है और धीरे-धीरे मूर्ति को प्रकट करने के लिए अतिरिक्त हिस्से को तराशता है। इस प्रक्रिया के दौरान किसी भी समय, मूर्तिकार ब्लॉक को अलग-अलग कोणों से देख सकता है और देख सकता है कि आकार अभी भी सही नहीं है। वे पूरी मूर्ति को नष्ट किए बिना एक विशिष्ट हिस्से को ठीक करने के लिए वापस जा सकते हैं।
OSCAR एक नई विधि है जो रोबोट को यह सिखाती है कि अपनी गलतियों को स्थायी होने से पहले कैसे पकड़ा जाए, ताकि वह इस "मूर्तिकार के लाभ" का उपयोग कर सके।
OSCAR कैसे काम करता है, यहाँ सरल चरणों में दिया गया है:
1. "समूह सोच" रणनीति (समानांतर श्रृंखलाएं - Parallel Chains)
कल्पना कीजिए कि आपने रोबोट को एक कहानी लिखने के लिए कहा है। केवल एक बार कहानी लिखने के लिए कहने के बजाय, OSCAR आठ अलग-अलग संस्करणों वाले रोबोट से एक ही समय में कहानी लिखने के लिए कहता है।
- ट्विस्ट: प्रत्येक रोबोट को कहानी को एक रैंडम क्रम में प्रकट करने के लिए कहा जाता है। एक रोबोट पहले अंत लिख सकता है, फिर मध्य, फिर शुरुआत। दूसरा शुरुआत से मध्य की ओर बढ़ सकता है।
- क्यों? यदि सभी रोबोट एक विशिष्ट शब्द (जैसे "पेरिस") पर सहमत होते हैं (चाहे उन्होंने किस भी क्रम में लिखा हो), तो वह शब्द संभवतः सही है। लेकिन यदि एक रोबोट "पेरिस" लिखता है और दूसरा क्योंकि उन्होंने अलग रास्ते लिए थे "लंदन" लिखता है, तो यह एक चेतावनी का संकेत (red flag) है। इसका मतलब है कि AI उस तथ्य के बारे में अनिश्चित है।
2. "अनिश्चितता मीटर" (क्रॉस-चेन एंट्रॉपी - Cross-Chain Entropy)
OSCAR इन आठ रोबोटों को देखते हुए एक रेफरी की तरह काम करता है। यह हर एक शब्द के लिए एक "कन्फ्यूजन स्कोर" (Confusion Score) की गणना करता है।
- कम स्कोर: सभी रोबोट सहमत हैं। AI आश्वस्त है।
- उच्च स्कोर: रोबोट आपस में बहस कर रहे हैं। AI भ्रमित है।
यही जादू वाला हिस्सा है: OSCAR को झूठ पकड़ने के लिए सिखाने की ज़रूरत नहीं है। यह बस रोबोटों के बीच के असहमति को देखता है। यदि रोबोट सहमत नहीं हो पा रहे हैं, तो यह संकेत है कि तथ्य संदिग्ध है। यह एक "नेटिव" सिग्नल है जो इन मॉडल्स के काम करने के तरीके में ही निहित है, जबकि पुराने तरीकों के विपरीत जिन्हें झूठ क्या है यह सीखने के लिए एक अलग शिक्षक की आवश्यकता होती है।
3. "दोबारा करने" का बटन (लक्षित रीमास्किंग - Targeted Remasking)
एक बार जब OSCAR किसी भ्रमित करने वाले शब्द या वाक्यांश (एक "हैलुसिनेशन") को पहचान लेता है, तो वह पूरी कहानी को नहीं फेंकता। वह ऐसा करना बर्बादी होगी।
- इसके बजाय, वह भ्रमित करने वाले हिस्से पर एक मास्क (मुखौटा) लगा देता है।
- वह बाकी कहानी को (जिस पर सभी सहमत थे) फ्रीज कर देता है।
- वह रोबोट से केवल उस एक मास्क किए गए हिस्से को "पुनः तराशने" (re-sculpt) के लिए कहता है, इस बार सही तथ्यों को खोजने के लिए एक सर्च इंजन (प्राप्त साक्ष्य) का उपयोग करते हुए।
- यह मूर्तिकार को यह बताने जैसा है: "पैर और सिर को मत छुओ। बस हाथ को ठीक करो, और यहाँ एक असली हाथ की तस्वीर है जो तुम्हारी मदद करेगी।"
यह एक बड़ी बात क्यों है?
- अतिरिक्त प्रशिक्षण की आवश्यकता नहीं: आपको AI को ईमानदार होने के लिए महीनों तक सिखाने की ज़रूरत नहीं है। आप बस AI के अपने आंतरिक भ्रम का उपयोग एक मार्गदर्शक के रूप में करते हैं।
- प्रतियोगिता से बेहतर: परीक्षणों में, OSCAR ने उन तरीकों की तुलना में अधिक झूठ खोजे और सुधारे जो जटिल, पूर्व-प्रशिक्षित "झूठ पकड़ने वाले यंत्रों" का उपयोग करते हैं।
- कुशल: इसे सामान्य जनरेशन (generation) चलाने की तुलना में केवल लगभग 30% अधिक समय लगता है, लेकिन इसके परिणाम बहुत अधिक सटीक होते हैं।
"क्रिस्टलीकरण" का रूपक (The Analogy of the "Crystallization")
पेपर ने यह भी खोजा कि ये गलतियाँ कब होती हैं।
- तथ्यात्मक प्रश्नों में (जैसे "पहला राष्ट्रपति कौन था?"), गलती लगभग तुरंत होती है। यह पानी में भारी पत्थर डालने जैसा है; लहरें (त्रुटि) तुरंत फैल जाती हैं।
- रचनात्मक कार्यों में (जैसे लंबी कहानी का सारांश बनाना), गलती समय के साथ धीरे-धीरे बनती है।
OSCAR यह जानता है। यह इन त्रुटियों को जल्दी पहचान सकता है और उन्हें "क्रिस्टलाइज" (कठोर/स्थायी) होने से पहले ठीक कर सकता है।
सारांश
OSCAR AI के लिए एक गुणवत्ता नियंत्रण टीम की तरह है। AI के काम पूरा करने का इंतज़ार करने और फिर यह जाँचने के बजाय कि वह सही है या नहीं, OSCAR वास्तविक समय में AI के काम को देखता है। यदि AI डगमगाता है या खुद से असहमत होने लगता है, तो OSCAR वास्तविक दुनिया के तथ्यों का उपयोग करके उसे धीरे से सही रास्ते पर ले आता है, जिससे यह सुनिश्चित होता है कि अंतिम आउटपुट रचनात्मक और सत्य दोनों है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।