REFACT: Adaptive Fact Restatement for Compact and Faithful Chain-of-Thought Reasoning
यह शोध पत्र REFACT को प्रस्तुत करता है, जो एक अनुकूलन योग्य तथ्य-पुनर्कथन (fact-restatement) ढांचा है जो बड़े भाषा मॉडलों को एक शिक्षक-छात्र प्रशिक्षण पाइपलाइन के माध्यम से अनुकूलित करता है ताकि केवल आवश्यकता होने पर ही स्रोत तथ्यों को चुनिंदा रूप से पुनर्कथन करके संक्षिप्त, निष्ठावान और सुदृढ़ चेन-ऑफ-थॉट तर्क उत्पन्न किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन आपको एक सुराग के बजाय, किताबों से भरी एक लाइब्रेरी थमा दी गई है, जिनमें से कुछ आपके केस के बारे में हैं और कुछ बिल्लियों या खाना पकाने की रैंडम कहानियाँ हैं। यह लार्ज लैंग्वेज मॉडेल्स (LLMs) की दुनिया है जब वे लॉन्ग-कॉन्टेक्स्ट रीजनिंग (long-context reasoning) का सामना करते हैं। ये सुपर-स्मार्ट कंप्यूटर प्रोग्राम हैं जो भारी मात्रा में टेक्स्ट को पढ़ और समझ सकते हैं। हालाँकि, उनकी एक अजीब आदत है: कभी-कभी, सामने मौजूद सुरागों पर टिके रहने के बजाय, वे उन चीजों पर भरोसा करने लगते हैं जो उन्हें अपने ट्रेनिंग से "याद" हैं या वे लाइब्रेरी की अप्रासंगिक कहानियों से विचलित हो जाते हैं। इससे हैलुसिनेशन (hallucinations) होता है, जहाँ मॉडल तथ्य गढ़ने लगता है या सच्चाई को अनदेखा कर देता है। इसे ठीक करने के लिए, शोधकर्ताओं ने इन मॉडल्स को अपने स्रोतों का "उद्धरण" (cite) करना सिखाने की कोशिश की है, जैसे कोई छात्र अपना पेपर लिखता है। लेकिन पिछले तरीके अक्सर अनाड़ी थे, या तो वे अंत में स्रोतों की एक सूची जोड़ देते थे (जैसे एक चीट शीट जिसे आप टेस्ट के बाद ही देखते हैं) या वे हर बार जब कोई बात करते हैं तो टेक्स्ट के विशाल हिस्सों को कॉपी-पेस्ट करने के लिए मजबूर करते हैं, जिससे सोचने की प्रक्रिया धीमी और अस्त-व्यस्त हो जाती है।
यहाँ ReFact आता है, एक नया तरीका जिसे इन AI जासूसों को स्मार्ट, तेज़ और अधिक ईमानदार बनने के लिए प्रशिक्षित करने के लिए डिज़ाइन किया गया है। ReFact को एक ऐसे प्रशिक्षण कार्यक्रम के रूप में सोचें जो AI को न केवल यह सिखाता है कि क्या पढ़ना है, बल्कि यह भी कि कब अपने नोट्स देखने हैं और कितना लिखना है। पूरे पन्नों को अंधाधुंध कॉपी करने या लाइब्रेरी को पूरी तरह से अनदेखा करने के बजाय, ReFact मॉडल को रुकने, केवल उस विशिष्ट वाक्य या वाक्यांश को पकड़ने के लिए प्रशिक्षित करता है जिसकी उसे अपने अगले कदम को साबित करने के लिए आवश्यकता है, और फिर तुरंत आगे बढ़ने के लिए कहता है। यह एक छात्र के अपने परीक्षा पुस्तिका में पूरा टेक्स्टबेस लिखने और एक प्रो (pro) के बीच का अंतर है, जो जानता है कि पूरे अंक प्राप्त करने के लिए किन तीन पंक्तियों को उद्धृत करना है। पेपर सुझाव देता है कि AI को उद्धरणों के साथ चयनात्मक और अनुकूल (adaptive) होने के लिए प्रशिक्षित करके, यह जटिल प्रश्नों को अधिक सटीकता से हल कर सकता है, मनगढ़ंत बातें बनाने से बच सकता है, और यह सब पहले के मुकाबले बहुत कम शब्दों का उपयोग करके कर सकता है।
समस्या: "बहुत अधिक, बहुत कम" की दुविधा
कल्पना कीजिए कि आप ब्लॉक्स का एक टॉवर बनाने की कोशिश कर रहे हैं, लेकिन हर बार जब आप एक नया ब्लॉक जोड़ते हैं, तो आपको पिछले पूरे टॉवर को नए वाले के साथ चिपकाने के लिए मजबूर किया जाता है। पुराने तरीकों का उपयोग करके जब AI मॉडल लंबे दस्तावेज़ों के माध्यम से तर्क (reasoning) करने की कोशिश करते हैं, तो उनके साथ यही होता है। वे या तो:
- सबूतों को अनदेखा करते हैं: वे उस आधार पर अनुमान लगाते हैं जो वे पहले से "जानते" हैं, भले ही दस्तावेज़ कुछ और कहता हो।
- अति-उद्धरण (Over-cite) करते हैं: वे अपने सोचने की प्रक्रिया में दस्तावेज़ के बड़े हिस्से कॉपी और पेस्ट कर देते हैं, जिससे उनके "विचार" अविश्वसनीय रूप से लंबे, दोहराव वाले और धीमे हो जाते हैं।
लेखकों ने पाया कि मौजूदा तरीके उद्धरणों (citations) के साथ ऐसे व्यवहार करते हैं जैसे वे उत्तर के पीछे चिपकाया गया एक पोस्ट-इट नोट हो, न कि स्वयं सोचने की प्रक्रिया का एक महत्वपूर्ण हिस्सा। इसका मतलब है कि AI सही बात तो कह सकता है लेकिन यह साबित करने में विफल रहता है कि वह दिए गए विशिष्ट टेक्स्ट का उपयोग करके क्यों सही है।
समाधान: ReFact (एडेप्टिव फैक्ट रीस्टेटमेंट - Adaptive Fact Restatement)
ReFact एक स्मार्ट कोच की तरह है जो AI को एक "फैक्ट मिनिमलिस्ट" (तथ्य न्यूनतमवादी) बनना सिखाता है। यह केवल यह नहीं कहता, "अपने स्रोतों का हवाला दें!" बल्कि यह AI को सिखाता है, "क्या मुझे अभी इस चीज़ का हवाला देने की ज़रूरत है? और यदि हाँ, तो क्या मुझे पूरे पैराग्राफ की आवश्यकता है, या केवल इस एक शब्द की?"
यह प्रक्रिया दो मुख्य चरणों में काम करती है, जैसे एक मास्टर-अपेंटिस (गुरु-शिष्य) का रिश्ता:
- टीचर स्टेप (शिक्षक चरण): एक बहुत शक्तिशाली AI ("टीचर") एक प्रश्न और एक लंबा दस्तावेज़ देखता है। वह यह पता लगाता है कि पहेली को सुलझाने के लिए जानकारी के कौन से छोटे टुकड़े आवश्यक हैं। फिर वह एक "रीजनिंग पाथ" (तर्क पथ) लिखता है जहाँ वह स्पष्ट रूप से केवल आवश्यक तथ्यों को पुनर्कथन (restate) करता है, उन्हें स्पष्ट रूप से टैग करता है (जैसे
<evidence 1>) और समझाता है कि वे अगले कदम से कैसे जुड़ते हैं। यह एक मास्टर शेफ द्वारा छात्र को यह दिखाने जैसा है कि मसालों के पूरे डिब्बे को बर्तन में डालने के बजाय नमक का ठीक कितना चुटकी भर डालना है। - स्टूडेंट स्टेप (छात्र चरण): एक छोटा, तेज़ AI ("स्टूडेंट") इन आदर्श उदाहरणों से सीखता है। वह इस कौशल का अभ्यास दो चरणों के माध्यम से करता है: पहले, वह शिक्षक की शैली की नकल करता है (सुपरवाइज्ड फाइन-ट्यूनिंग), और फिर वह एक खेल खेलता है जहाँ उसे सटीक होने, स्रोत के प्रति वफादार रहने और अपनी रीजनिंग को संक्षिप्त और सटीक रखने के लिए "पॉइंट्स" (पुरस्कार) मिलते हैं (रीइन्फोर्समेंट लर्निंग)।
उन्होंने क्या पाया: कम ही अधिक है (Less is More)
शोधकर्ताओं ने ReAct को कई चुनौतीपूर्ण डेटासेट्स पर टेस्ट किया जहाँ AI को टेक्स्ट की विशाल दीवारों (कुछ 128,000 शब्दों तक लंबी) में छिपे उत्तर खोजने थे। परिणाम आश्चर्यजनक रूप से कुशल थे:
- स्मार्ट जवाब: ReFact ने अन्य तरीकों की तुलना में प्रश्नों के सही उत्तर देने की AI की क्षमता में सुधार किया। इसने केवल अनुमान नहीं लगाया; इसने अपने उत्तरों को टेक्स्ट के आधार पर पुख्ता किया।
- "कॉम्पैक्ट" जीत: यह सबसे बड़ा आश्चर्य है। ReFact न केवल बेहतर हुआ; यह तेज़ भी हो गया। केवल आवश्यक तथ्यों को पुनर्कथन करके, AI ने काफी कम "टोकन" (टेक्स्ट के निर्माण खंड) का उपयोग किया। कुछ परीक्षणों में, इसने अन्य तरीकों की तुलना में—जो गहन होने की कोशिश कर रहे थे—रीजनिंग टोकन का आधे से भी कम उपयोग किया। इसने साबित कर दिया कि रहस्य सुलझाने के लिए आपको उपन्यास लिखने की आवश्यकता नहीं है; आपको बस सही सुरागों की आवश्यकता है।
- "नकली" तथ्यों से लड़ना: जब दस्तावेज़ ऐसी किसी बात को कहता है जो AI द्वारा अपनी ट्रेनिंग से "याद" की गई चीज़ों का खंडन करती है (जैसे कि एक काउंटरफैक्टुअल परिदृश्य), तो ReFact दस्तावेज़ पर टिके रहने में बहुत बेहतर था। इसने अपनी पुरानी यादों पर वापस जाने की इच्छा का विरोध किया, जिससे दस्तावेज़ के प्रति उच्च "फेथफुलनेस" (निष्ठा) दिखाई दी।
- मात्रा से अधिक गुणवत्ता: पेपर ने यह भी मापा कि AI कितने तथ्यों को पुनर्कथन करता है। ReFact ने अपने प्रतिस्पर्धियों की तुलना में बहुत कम तथ्य पुनर्कथन किए, फिर भी इसने उच्च "F1 स्कोर" (एक माप कि उद्धृत तथ्य वास्तविक सहायक साक्ष्य से कितनी अच्छी तरह मेल खाते हैं) प्राप्त किया। यह सुझाव देता है कि AI ने मशीन गन बनने के बजाय एक स्नाइपर बनने का हुनर सीखा है।
निष्कर्ष (The Takeaway)
ReFact सुझाव देता है कि विश्वसनीय AI रीजनिंग की कुंजी मॉडल को सब कुछ पढ़ने या सब कुछ उद्धृत करने के लिए मजबूर करने में नहीं है। इसके बजाय, यह मॉडल को अनुकूलनशील (adaptive) बनने के बारे में है। यह पहचानना सीखता है कि कब एक तथ्य महत्वपूर्ण है, उसे सही स्तर के विवरण के साथ पुनर्कथन करना है, और फिर आगे बढ़ना है। उद्धरणों को एक उबाऊ विचार के बजाय एक सक्रिय, रणनीतिक सोच प्रक्रिया में बदलकर, ReFact AI मॉडल्स को अधिक भरोसेमंद, अधिक कुशल और लंबे दस्तावेज़ के शोर में खो जाने से बचने में मदद करता है। यह ऐसे AI की ओर एक कदम है जो केवल बहुत अधिक बोलता नहीं है, बल्कि स्पष्ट रूप से सोचता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।