RASPRef: Retrieval-Augmented Self-Supervised Prompt Refinement for Large Reasoning Models
यह शोध पत्र RASPRef को प्रस्तुत करता है, जो एक रिट्रीवल-ऑगमेंटेड (retrieval-augmented), सेल्फ-सुपरवाइज्ड फ्रेमवर्क है जो मानव एनोटेशन की आवश्यकता के बिना प्रदर्शन को बढ़ाने के लिए कंसिस्टेंसी सिग्नल्स (consistency signals) और वेरीफायर फीडबैक का उपयोग करके बड़े रीजनिंग मॉडल्स के लिए प्रॉम्प्ट्स को पुनरावृत्ति (iteratively) के माध्यम से परिष्कृत करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक शानदार, अत्यंत बुद्धिमान सहायक (एक लार्ज लैंग्वेज मॉडल) है जो जटिल गणितीय समस्याओं को हल करने में अविश्वसनीय रूप से कुशल है। हालाँकि, इस सहायक की एक अजीब आदत है: यह इस बात के प्रति बहुत संवेदनशील है कि आप उससे प्रश्न कैसे पूछते हैं।
यदि आप पूछते हैं, "मैं इसे कैसे हल करूँ?" तो यह एक अव्यवधर उत्तर दे सकता है। लेकिन यदि आप पूछते हैं, "कृपया अपना काम चरण-दर-चरण दिखाएं, जैसे एक शिक्षक छात्र को समझा रहा हो," तो यह इसे पूरी तरह से हल कर सकता है। समस्या यह है कि प्रश्न पूछने का सही तरीका खोजना आमतौर पर एक इंसान द्वारा अनुमान लगाने, प्रयास करने, विफल होने और फिर से अनुमान लगाने की आवश्यकता होती है। यह धीमा है, महंगा है और इसे बड़े पैमाने पर लागू करना कठिन है।
यहाँ RASPRef (रिट्रीवल-ऑग्मेंटेड सेल्फ-सुपरवाइज्ड प्रॉम्प्ट रिफाइनमेंट) आता है। RASPRef को एक स्मार्ट "प्रॉम्प्ट कोच" के रूप में समझें जो आपके AI सहायक को बिना किसी मानव शिक्षक के, खुद से बेहतर प्रश्न पूछना सीखने में मदद करता है।
यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:
1. समस्या: "गोल्डिलॉक्स" प्रॉम्प्ट (The "Goldilocks" Prompt)
कल्पना कीजिए कि आप एक केक बनाने की कोशिश कर रहे हैं। आपके पास एक बेहतरीन शेफ (AI) है, लेकिन आप उसे अस्पष्ट निर्देश दे रहे हैं जैसे "एक केक बनाओ।" कभी-कभी केक सूखा होता है, तो कभी जल जाता है। आप जानते हैं कि शेफ एक बेहतरीन केक बना सकता है, लेकिन आपने अभी तक सही रेसिपी निर्देश नहीं खोजे हैं।
आमतौर पर, इंसानों को निर्देशों को मैन्युअल रूप से ट्यून करना पड़ता है ("थोड़ी चीनी डालें," "10 मिनट कम पकाएं") जब तक कि वह काम न करने लगे। RASPRef इसे स्वचालित करता है। यह केवल निर्देशों को ट्यून नहीं करता; यह अगले केक के लिए सही निर्देश लिखने के लिए शेफ की पिछली सफलताओं से सीखता है।
2. जादुई सामग्रियाँ (The Magic Ingredients)
RASPRef निर्देशों (प्रॉम्प्ट) को बेहतर बनाने के लिए तीन मुख्य उपकरणों का उपयोग करता है:
पुस्तकालय (रिट्रीवल - Retrieval): कल्पना कीजिए कि AI के पास पिछले समस्याओं का एक विशाल पुस्तकालय है जिन्हें उसने हल किया है। जब एक नई गणितीय समस्या आती है, तो RASPRef शून्य से शुरुआत नहीं करता है। यह पुस्तकालय की ओर दौड़ता है और अतीत में AI द्वारा सही ढंग से हल की गई पाँच समान समस्याओं को निकाल लेता है। यह देखने के लिए कि AI ने उन्हें कैसे हल किया, यह देखता है कि कौन से निर्देश सबसे अच्छा काम कर रहे थे।
- उपमा: यह एक छात्र की तरह है जो अपनी अंतिम परीक्षा दे रहा है। घबराने के बजाय, वह अपने पुराने अभ्यास परीक्षणों को देखता है ताकि यह याद रख सके कि अपने उत्तरों को कैसे संरचित करना है।
स्व-आलोचना (सेल्फ-सुपरविज़न - Self-Critique): AI को अपने काम को ग्रेड देने के लिए किसी इंसान की ज़रूरत नहीं है। इसके बजाय, यह अपने स्वयं के शिक्षक के रूप में कार्य करता है। यह नए निर्देशों का उपयोग करके समस्या को हल करने का प्रयास करता है। फिर, यह खुद से पूछता है: "क्या मैंने तीन बार प्रयास करने पर भी वही उत्तर प्राप्त किया?" (निरंतरता/Consistency) और "क्या मेरा तर्क समझ में आता है?" (सत्यापन/Verifying)।
- उपमा: यह एक संगीतकार की तरह है जो एक गाना बजा रहा है, रुककर सुन रहा है, और खुद से पूछ रहा है, "क्या मैंने सही सुर लगाए? क्या मैं लय में था?" बिना किसी कंडक्टर की आवश्यकता के।
संपादक (रिफाइनमेंट - The Editor): पुस्तकालय के उदाहरणों और स्व-आलोचना के आधार पर, AI अपने स्वयं के निर्देशों को फिर से लिखता है। यह कह सकता है, "पिछली बार मैं बहुत अस्पष्ट था। चलिए 'प्रत्येक चरण दिखाएं' और 'गणित की दो बार जांच करें' जैसा एक नियम जोड़ते हैं।"
- उपमा: यह एक संपादक की तरह है जो ड्राफ्ट को सुधार रहा है। "यह वाक्य भ्रमित करने वाला है। चलिए इसे अधिक स्पष्ट बनाने के लिए फिर से लिखते हैं।"
3. प्रक्रिया: सुधार का एक चक्र (A Loop of Improvement)
पेपर एक चक्र का वर्णन करता है जो स्वचालित रूप से होता है:
- पीछे देखें: समान पिछली समस्याओं को खोजें।
- ड्राफ्ट लिखें: उन पिछली सफलताओं के आधार पर निर्देशों का एक नया सेट बनाएं।
- टेस्ट ड्राइव: इन नए निर्देशों के साथ समस्या को हल करने का प्रयास करें।
- स्वयं को ग्रेड दें: जाँचें कि क्या उत्तर सुसंगत और तार्किक है।
- संपादित करें: यदि उत्तर संदिग्ध था, तो AI निर्देशों को अधिक स्पष्ट बनाने के लिए उन्हें फिर से लिखता है और फिर से प्रयास करता है।
यह तब तक इस चक्र को जारी रखता है जब तक कि निर्देश "बिल्कुल सही" न हो जाएं।
4. परिणाम: यह क्यों मायने रखता है
शोधकर्ताओं ने एक मानक गणित परीक्षण (GSM8K) पर इसका परीक्षण किया, जो हाई स्कूल अलजेब्रा परीक्षा की तरह है।
- बिना कोच के (स्थिर प्रॉम्प्ट - Static Prompt): AI ने लगभग 86% उत्तर सही दिए।
- कोच के साथ (RASPRef): AI की सटीकता बढ़कर 95% हो गई।
यह एक बहुत बड़ा अंतर है! यह साबित करता है कि अपने इतिहास से सीखकर और अपने स्वयं के निर्देशों को परिष्कृत करके, AI तर्क करने में काफी स्मार्ट हो जाता है।
बड़ी तस्वीर (The Big Picture)
RASPRef का सबसे रोमांचक हिस्सा यह है कि इसे डेटा को लेबल करने या मॉडल के मस्तिष्क को फाइन-ट्यून करने के लिए मानव की आवश्यकता नहीं है। यह पूरी तरह से मॉडल के "बाहरी" हिस्से पर काम करता है, केवल टेक्स्ट निर्देशों को बदलकर।
संक्षेप में: RASPRef को अपने AI को एक स्व-सुधारने वाली नियमावली (manual) देने जैसा है। इंसानों द्वारा लगातार नियमावली को फिर से लिखने के बजाय, AI अपनी पिछली जीत पढ़ता है, अपनी गलतियों की आलोचना करता है, और अपने लिए एक बेहतर नियमावली लिखता है, जिससे यह एक बहुत अधिक विश्वसनीय समस्या-समाधानकर्ता बन जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।