CoRect: Context-Aware Logit Contrast for Hidden State Rectification to Resolve Knowledge Conflicts
CoRect, रिट्रीवल-ऑगमेंटेड जनरेशन (Retrieval-Augmented Generation) में ज्ञान के संघर्षों को संबोधित करता है, जो एक लेबल-मुक्त, लॉजिट-कॉन्ट्रास्ट-आधारित हिडन स्टेट रेक्टिफिकेशन विधि के माध्यम से उन परतों की पहचान और सुधार करता है जहाँ पैरामीट्रिक प्रायोरिटीज़ (parametric priors) रिट्रीव किए गए संदर्भ को दबा देती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक इतिहास की परीक्षा दे रहे एक छात्र हैं। आपके सामने एक पाठ्यपुस्तक खुली है (यह "रिट्रीव्ड एविडेंस" या प्राप्त साक्ष्य है), लेकिन आपको वर्षों पहले ली गई एक अलग कक्षा में सीखी गई बातों की बहुत गहरी याद है (यह "पैरामीट्रिक नॉलेज" या पैरामीट्रिक ज्ञान है)।
अचानक, आपकी पाठ्यपुस्तक कहती है कि युद्ध 1980 में समाप्त हुआ था, लेकिन आपका दिमाग चिल्ला रहा है, "नहीं! यह 1979 था!" भले ही आप सही उत्तर अपने ठीक सामने देख रहे हैं, आपका दिमाग उस सत्य को अपनी पुरानी याद के साथ "ओवरराइट" कर देता है। आप परीक्षा में 1979 लिख देते हैं। यह बिल्कुल वैसा ही है जो लार्ज लैंग्वेज मॉडल्स (जैसे ChatGPT) के साथ RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) नामक प्रक्रिया में होता है। उन्हें सही जानकारी मिलती है, लेकिन उनका "आंतरिक पूर्वाग्रह" बहस जीत जाता है।
शोधकर्ताओं ने इसे ठीक करने के लिए CoRect नामक एक टूल बनाया है। यह तीन सरल उपमाओं का उपयोग करके कैसे काम करता है, यहाँ दिया गया है:
1. "आंतरिक तोड़-फोड़ करने वाला" (समस्या)
शोधकर्ताओं ने पाया कि गलती बिल्कुल अंत में नहीं होती जब मॉडल "बोल" रहा होता है। इसके बजाय, यह मॉडल के "मस्तिष्क" (हिडन लेयर्स या गुप्त परतों) के बहुत भीतर होती है।
मॉडल को एक फैक्ट्री असेंबली लाइन की तरह समझें। शुरुआती चरणों में, कार्यकर्ता सही पुर्जों (सही तथ्यों) को सही ढंग से उठा रहे होते हैं। लेकिन जैसे-जैसे उत्पाद अंतिम चरण की ओर बढ़ता है, लाइन के बीच में एक "तोड़-फोड़ करने वाला" (saboteur) कार्यकर्ता सही पुर्जे को गलत पुर्जे से बदल देता है क्योंकि उसे पुराने तरीके से काम करने की आदत है। इसे ही वे पैरामीट्रिक सप्रेशन (Parametric Suppression) कहते हैं।
2. "स्मार्ट डिटेक्टिव" (चरण 1: टोकन चयन)
समस्या को ठीक करने से पहले, मॉडल को यह जानने की आवश्यकता है कि सही उत्तर क्या होना चाहिए, बिना यह बताए कि वह क्या है।
कल्पना कीजिए कि एक जासूस अपराध स्थल पर प्रवेश करता है। केवल अनुमान लगाने के बजाय, जासूस दो चीजों को देखता है:
- सुराग: साक्ष्य (संदर्भ) क्या संकेत देते हैं?
- गवाह: क्या मॉडल का अपना "अटेंशन" (ध्यान) वास्तव में साक्ष्यों को देख रहा है?
CoRect एक "डिटेक्टिव" चरण का उपयोग करके एक टारगेट टोकन का पता लगाता है। यह साक्ष्य के साथ मॉडल के विचारों और साक्ष्य के बिना उसके विचारों की तुलना करता है। यदि कोई विशिष्ट शब्द (जैसे "1980") साक्ष्य मौजूद होने पर एक बड़ा उछाल प्राप्त करता है, तो जासूस उसे "ट्रू टारगेट" (सत्य लक्ष्य) के रूप में चिह्नित करता है।
3. "वॉल्यूम नॉब" (चरण 2: हिडन स्टेट रेक्टिफिकेशन)
अब जब जासूस ने सत्य को खोज लिया है, तो हम असेंबली लाइन में उस "तोड़-फोड़ करने वाले" को कैसे रोकें?
पुराने तरीके अक्सर असेंबली लाइन के बिल्कुल अंत में सही उत्तर को "चिल्लाकर" बताने की कोशिश करते थे। यह एक मैनेजर द्वारा तैयार उत्पाद के रंग को बदलने के लिए चिल्लाने जैसा है—यह अव्यवस्थित है और अक्सर उत्पाद की गुणवत्ता खराब कर देता है।
CoRect कुछ बहुत अधिक सुरुचिपूर्ण करता है। यह वापस लाइन के बीच में स्थित उस विशिष्ट "तोड़-फोड़ करने वाले" कार्यकर्ता के पास जाता है और बस उसका वॉल्यूम कम कर देता है।
यदि तोड़-फोड़ करने वाला व्यक्ति प्रवाह में "1979" को धकेलने की कोशिश कर रहा है, तो CoRect उस विशिष्ट गलत सिग्नल को रद्द करने के लिए एक गणितीय "काउंटर-फोर्स" (प्रति-बल) लागू करता है। यह मॉडल को "1980" कहने के लिए मजबूर नहीं करता है; यह बस उस "हस्तक्षेप" को हटा देता है जो "1980" को उभरने से रोक रहा था। यह मॉडल के मस्तिष्क के लिए 'नॉइज़-कैंसलिंग हेडफ़ोन' की तरह है—यह उस "आंतरिक शोर" को शांत कर देता है ताकि "सत्य का सिग्नल" स्पष्ट रूप से सुना जा सके।
परिणाम
मॉडल के आंतरिक विचारों को "साफ" करने के कारण, मॉडल बुद्धिमान और प्रवाहपूर्ण बना रहता है। यह रोबोट की तरह बात करना शुरू नहीं करता है; यह बस खुद से झूठ बोलना बंद कर देता है। यह एक ऐसे छात्र की तरह बन जाता है जो अपनी त्रुटिपूर्ण यादों पर भरोसा करने के बजाय वास्तव में पाठ्यपुस्तक को सुनता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।