Procedural Knowledge at Scale Improves Reasoning
यह शोध पत्र 'रीज़निंग मेमोरी' (Reasoning Memory) का परिचय देता है, जो एक रिट्रीवल-ऑगमेंटेड जनरेशन फ्रेमवर्क है जो 32 मिलियन रीज़निंग ट्राजेक्टरीज को पुन: प्रयोज्य प्रक्रियात्मक ज्ञान प्रविष्टियों में विघटित करके तर्क प्रदर्शन को स्केल करता है, जिससे मॉडल को इन्फरेंस के दौरान प्रासंगिक सबरूटीन्स को खोजने और लागू करने में सक्षम बनाया जाता है ताकि वे गणित, विज्ञान और कोडिंग बेंचमार्क में मौजूदा टेस्ट-टाइम स्केलिंग और RAG बेसलाइन्स से बेहतर प्रदर्शन कर सकें।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत कठिन पहेली को हल करने की कोशिश कर रहे हैं, जैसे कि कोई जटिल गणितीय समस्या या कोई पेचीदा कोडिंग चैलेंज। आप बैठते हैं, और आपका मस्तिष्क काम करना शुरू करता है। आप कुछ चीज़ें आज़माते हैं, एक दीवार से टकराते हैं, पीछे हटते हैं, फिर से कोशिश करते हैं, और अंततः, आप इसे हल कर सकते हैं। वर्तमान "रीज़निंग" (तर्क करने वाले) AI मॉडल इसी तरह काम करते हैं: वे गहराई से सोचते हैं, चरण-दर-चरण, वास्तविक समय में।
लेकिन यहाँ एक समस्या है: वे हर बार पहिए का पुन: आविष्कार कर रहे हैं।
यदि आप आज किसी AI से ज्यामिति (geometry) की समस्या हल करने के लिए कहते हैं, तो वह शून्य से चरणों को समझता है। यदि आप कल उसी तरह की ज्यामिति की समस्या पूछते हैं, तो उसे वे समान चरण फिर से समझने होंगे। वह कल इस्तेमाल की गई रणनीति को भूल जाता है। यह उस प्रतिभाशाली छात्र की तरह है जो कभी नोट्स नहीं लेता और हर बार गणित की समस्या देखते ही गुणा करना फिर से सीखना पड़ता है।
यह पेपर Reasoning Memory नामक एक समाधान पेश करता है। इसे एक AI को एक व्यक्तिगत, सुपर-व्यवस्थित नोटबुक देने के रूप में समझें जिसे वह सोचते समय पलट सकता है।
मुख्य विचार: "कैसे" बनाम "क्या"
अधिकांश AI सहायक (जैसे सर्च इंजन) आपको तथ्य देने में माहिर होते हैं।
- आप पूछते हैं: "त्रिभुज के क्षेत्रफल का सूत्र क्या है?"
- AI कहता है: "यह 1/2 आधार गुना ऊँचाई है।"
लेकिन कठिन तर्क वाले कार्यों के लिए, तथ्य पर्याप्त नहीं हैं। आपको प्रक्रियात्मक ज्ञान (procedural knowledge) की आवश्यकता होती है—यानी "कैसे करें" वाली मार्गदर्शिका।
- आप पूछते हैं: "मेरे पास 13, 14 और 15 भुजाओं वाला एक अजीब त्रिभुज है। मैं इसे हल करने की शुरुआत कैसे करूँ?"
- मानक AI: "मुझे सोचने दें..." (और यह अटक सकता है या भटक सकता है)।
- Reasoning Memory AI: "ओह! मुझे एक समान समस्या याद है। इसमें मुख्य बात पहले हेरोन के सूत्र (Heron's formula) का उपयोग करना है। यहाँ वह चरण-दर-चरण योजना है जिसका मैंने पिछली बार उपयोग किया था।"
यह कैसे काम करता है: "रेसिपी बुक" की उपमा
शोधकर्ताओं ने 32 मिलियन "मिनी-रेसिपी" का एक विशाल पुस्तकालय बनाया।
- संग्रह (डेटास्टोर निर्माण):
उन्होंने AI के "सोचने के लॉग्स" (जहाँ AI समस्याओं को हल करता था और अपने विचार लिखता था) के हजारों घंटों को लिया। उन्होंने केवल पूरी कहानी को सहेजा नहीं; बल्कि उन्होंने उन्हें टुकड़ों में बाँट दिया।
- कल्पना कीजिए कि एक शेफ एक जटिल भोजन बनाने की एक लंबी फिल्म रिकॉर्ड कर रहा है।
- पूरी फिल्म को सहेजने के बजाय, उन्होंने केवल विशिष्ट क्लिप्स काट लीं: "प्याज कैसे काटें," "स्टेक को कैसे सीयर करें," "सॉस कैसे बनाएं।"
- उन्होंने इन क्लिप्स को 32 मिलियन विशिष्ट "उप-प्रश्नों" और "उप-रूटीन" (रेसिपी के चरणों) के पुस्तकालय में बदल दिया।
- खोज (In-Thought Retrieval):
जब AI को कोई नई, कठिन समस्या मिलती है, तो वह केवल उसे घूरता नहीं है। वह अपनी सोच को रोकता है और खुद से एक सरल प्रश्न पूछता है: "मैं अभी किस तरह की छोटी समस्या में फँसा हुआ हूँ?"
- उदाहरण: "मुझे इस अजीब नंबर बेस को कैसे बदलना है, यह समझना है।"
- वह तुरंत अपने 32-मिलियन पन्नों की नोटबुक को पलटता है और नंबर बेस बदलने के लिए सटीक "रेसिपी" ढूँढ लेता है।
- बढ़ावा (Scaling):
AI फिर उस रेसिपी को पढ़ता है और उसे एक गाइड के रूप में उपयोग करता है। वह केवल उत्तर की नकल नहीं करता; वह रेसिपी का उपयोग एक मानसिक मचान (mental scaffold) के रूप में करता है ताकि अपना स्वयं का समाधान बना सके।
- यदि उसके पास बहुत अधिक समय (कंप्यूटिंग पावर) है, तो वह एक साथ तीन या चार अलग-अलग रेसिपी आज़मा सकता है, देख सकता है कि कौन सी सबसे अच्छी तरह काम करती है, और विजेता को चुन सकता है। इसे "स्केलिंग" कहा जाता है।
यह एक बड़ी बात क्यों है?
पेपर ने कठिन गणित, विज्ञान और कोडिंग परीक्षणों (जैसे AIME गणित प्रतियोगिता या कोडिंग इंटरव्यू) पर इसका परीक्षण किया।
- पुराना तरीका (केवल लंबे समय तक सोचना): यदि आप किसी AI को बिना मदद के "ज़्यादा गहराई से सोचने" के लिए कहते हैं, तो अक्सर वह केवल गोल-गोल घूमता रहता है, भ्रमित होता है और गलतियाँ करता है। यह एक भूलभुलैया को तेज़ी से दौड़कर हल करने की कोशिश करने जैसा है, जिससे आप बस गोल-गोल घूमते रहते हैं।
- नया तरीका (Reasoning Memory): अपनी नोटबुक से सही "रेसिपी" निकालकर, AI भूलभुलैया को बहुत तेज़ी से और अधिक सटीकता से हल करता है।
- परिणाम: बिना किसी मदद के तुलना में, AI ने समस्याओं को हल करने में 19% तक बेहतर प्रदर्शन किया।
- तुलना: इसने उन अन्य तरीकों को भी मात दी जिन्होंने AI को "तथ्य" (जैसे विकिपीडिया लेख) या "पूरी कहानियाँ" (पिछले पूरे समाधान) देने की कोशिश की थी। वे बहुत अव्यवस्थित थे। "मिनी-रेसिपी" बिल्कुल सटीक थीं।
निष्कर्ष
यह पेपर दिखाता है कि स्मार्ट AI का भविष्य केवल मस्तिष्क को बड़ा बनाने या उसे लंबे समय तक सोचने देने के बारे में नहीं है। यह उसे अपने पिछले अनुभवों से सीखना सिखाने के बारे में है।
अपने पिछले सफलताओं को "कैसे करें" के खोजने योग्य पुस्तकालय में बदलकर, हम AI मॉडल्स को पहिए का पुन: आविष्कार करने से रोक सकते हैं और उन्हें सिद्ध रणनीतियों की नींव पर निर्माण करना सिखा सकते हैं। यह एक ऐसे छात्र के बीच का अंतर है जो अकेले संघर्ष करता है और एक ऐसे छात्र के बीच का अंतर है जिसके कान में एक शानदार ट्यूटर ठीक उसी क्षण सही रणनीति फुसफुसा रहा होता है जब उसे उसकी आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।