R-Stitch: Dynamic Trajectory Stitching for Efficient Reasoning
R-Stitch एक प्रशिक्षण-मुक्त हाइब्रिड डिकोडिंग फ्रेमवर्क है जो टोकन-स्तरीय एंट्रॉपी का उपयोग करके चेन-ऑफ-थॉट रीजनिंग को त्वरित करता है, जिससे कम अनिश्चितता वाले टोकन को एक छोटे लैंग्वेज मॉडल को गतिशील रूप से सौंप दिया जाता है और जटिल, उच्च-एंट्रॉपी वाले टोकन के लिए बड़े लैंग्वेज मॉडल को सुरक्षित रखा जाता है, जिससे न्यूनतम सटीकता हानि के साथ प्रति-टोकन जटिलता और कुल प्रक्षेपवक्र लंबाई दोनों को कम किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल गणित की समस्या को हल करने की कोशिश कर रहे हैं। आपके पास दो सहायक हैं: प्रोफेसर ब्रेन (लार्ज लैंग्वेज मॉडल, या LLM), जो अविश्वसनीय रूप से बुद्धिमान हैं लेकिन उनसे बात करना बहुत धीमा और महंगा है, और क्विक-थिंकिंग किड (स्मॉल लैंग्वेज मॉडल, या SLM), जो बहुत तेज़ और सस्ता है लेकिन कभी-कभी मूर्खतापूर्ण गलतियाँ कर देता है या कठिन हिस्सों पर अटक जाता है।
वर्तमान में, अधिकांश लोग काम करने के लिए दो में से एक विधि का उपयोग करते हैं:
- धीमा तरीका: आप केवल प्रोफेसर से बात करते हैं। यह सटीक है, लेकिन इसमें बहुत समय लगता है।
- "अनुमान और जाँच" का तरीका (स्पेक्युलेटिव डिकोडिंग): बच्चा एक पूरा पैराग्राफ लिखता है, और फिर प्रोफेसर उस पूरे पैराग्राफ को यह देखने के लिए पढ़ता है कि क्या वह सही है। यदि बच्चे से एक भी छोटी सी गलती हो जाती है, तो प्रोफेसर कहता है, "नहीं, फिर से शुरू करो!" और आपको वह पूरा पैराग्राफ फेंकना पड़ता है। इससे बहुत समय बर्बाद होता है।
पेश है R-Stitch: "स्मार्ट रिले रेस"
R-Stitch खेल बदल देता है। "अनुमान और जाँच" प्रणाली के बजाय, यह प्रक्रिया को एक डायनेमिक रिले रेस में बदल देता है।
1. "कॉन्फिडेंस मीटर" (एंट्रॉपी-गाइडेड रूटिंग)
बच्चे को सब कुछ लिखने और उम्मीद करने के बजाय, R-Stitch बच्चे को एक "कॉन्फिडेंस मीटर" (वैज्ञानिक रूप से इसे एंट्रॉपी कहा जाता है) देता है।
- लो एंट्रॉपी (उच्च आत्मविश्वास): यदि बच्चा किसी कदम के बारे में बहुत आश्वस्त महसूस कर रहा है (जैसे, "2 + 2 = 4"), तो वे बस दौड़ते रहते हैं। वे प्रोफेसर को बुलाने की जहमत भी नहीं उठाते।
- हाई एंट्रॉपी (कम आत्मविश्वास): यदि बच्चा किसी कठिन हिस्से पर पहुँचता है और उसे "धुंधलापन" या अनिश्चितता महसूस होने लगती है, तो वह तुरंत प्रोफेसर के कंधे थपथपाता है और कहता है, "हे, मुझे इस हिस्से के बारे में यकीन नहीं है। अब आप इसे संभाल लें।"
2. "स्टिचिंग" (डायनेमिक ट्रजेक्टरी स्टिचिंग)
यही जादू वाला हिस्सा है। पुराने "अनुमान और जाँच" वाले तरीके में, एक गलती का मतलब था पूरी तरह से पीछे हटना। R-Stitch में, हम रास्तों को आपस में स्टिच (सीते) करते हैं।
इसे एक ज़िप की तरह समझें। बच्चा जितना तेज़ हो सके ज़िप लगाता है। जब वह किसी बाधा से टकराता है, तो प्रोफेसर हस्तक्षेप करता है, उस विशिष्ट "दांत" (tooth) को ठीक करता है, और फिर—एक बार जब प्रोफेसर ठोस ज़मीन पर वापस आ जाता है—वे ज़िप को वापस बच्चे को सौंप देते हैं ताकि वह बाकी काम पूरा कर सके। यहाँ "फिर से शुरू करने" जैसा कुछ नहीं है; आप बस अंतराल को भरते हैं और आगे बढ़ते रहते हैं।
3. R-Stitch+: "स्मार्ट कोच" (RL-आधारित रूटिंग)
शोधकर्ताओं ने इसका एक अपग्रेड संस्करण भी बनाया है जिसे R-Stitch+ कहा जाता है। कल्पना कीजिए कि बच्चे के पास दौड़ को देखते हुए एक कोच है। कोच केवल कॉन्फिडेंस मीटर को नहीं देखता; वह घड़ी और सटीकता को भी देखता है।
कोच बिल्कुल सीख जाता है कि प्रोफेसर को बुलाने की "लागत" कब उठाना सार्थक है। यदि प्रोफेसर को 1 सेकंड की गलती ठीक करने में 10 मिनट लगने वाले हैं, तो कोच बच्चे को थोड़ा और कठिन प्रयास करने के लिए कह सकता है। यह "कोच" को अत्यधिक तेज़ और पूरी तरह सटीक होने के बीच सही संतुलन खोजने के लिए रीइन्फोर्समेंट लर्निंग (Reinforcement Learning) का उपयोग करके प्रशिक्षित किया गया है।
यह क्यों मायने रखता है?
वास्तविक दुनिया में, "चेन-ऑफ-थॉट" रीजनिंग (जहाँ AI अपने चरणों को समझाता है) लंबी होती जा रही है। यह एक ऐसे निबंध की तरह है जो कभी खत्म नहीं होता। R-Stitch इस प्रक्रिया को बहुत छोटा और तेज़ बनाता है क्योंकि:
- फालतू बातों को हटाता है: बच्चा स्वाभाविक रूप से अधिक संक्षिप्त होता है।
- ऊर्जा बचाता है: आप "बड़े दिमाग" की शक्ति का उपयोग तभी करते हैं जब वास्तव में आवश्यक हो।
परिणाम: शोधकर्ताओं ने पाया कि वे AI को कम बुद्धिमान बनाए बिना इसे 4 गुना तक (4.10x) तेज़ कर सकते हैं। यह एक सुपर-फास्ट सहायक प्राप्त करने जैसा है जिसे ठीक पता है कि बॉस से मदद कब मांगनी है!
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।