Self-Speculation for Faster Reasoning Models
यह शोध पत्र SSR (Self-Speculation for Reasoning Models) प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free) डिकोडिंग विधि है जो पूर्ण रीजनिंग ट्रेसेस को सत्यापित और विस्तारित करने के लिए आंशिक चेन-ऑफ-थॉट प्रतिक्रियाओं को ड्राफ्ट के रूप में उपयोग करके लार्ज लैंग्वेज मॉडल्स को त्वरित करती है, जिससे जटिल, लंबे प्रारूप वाले जनरेशन कार्यों पर 24.1% तक की लेटेंसी कमी प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, लार्ज लैंग्वेज मॉडल्स साधारण चैटबॉट्स से विकसित होकर परिष्कृत समस्या-समाधानकर्ता बन गए हैं जो योजना बनाने, कोडिंग करने और जटिल निर्णय लेने में सक्षम हैं। इस स्तर की बुद्धिमत्ता प्राप्त करने के लिए, ये मॉडल अक्सर "चेन-ऑफ-थॉट" (chain-of-thought) तर्क प्रक्रिया में संलग्न होते हैं। सीधे उत्तर पर कूदने के बजाय, मॉडल एक लंबी, चरण-दर-चरण आंतरिक मोनोलॉग (monologue) उत्पन्न करता है, जो अंतिम प्रतिक्रिया देने से पहले समस्या पर विचार करता है। हालांकि यह अतिरिक्त सोचने का समय उत्तर की गुणवत्ता में काफी सुधार करता है, लेकिन यह एक बाधा भी पैदा करता है: मॉडल जितना अधिक सोचता है, उपयोगकर्ता को परिणाम देखने के लिए उतना ही लंबा इंतजार करना पड़ता है। वॉयस असिस्टेंट या कोडिंग टूल्स जैसे इंटरैक्टिव अनुप्रयोगों के लिए, यह देरी निराशाजनक हो सकती है, जो बातचीत के प्रवाह को तोड़ सकती है या एक डेवलपर के कार्यप्रवाह को धीमा कर सकती है। शोधकर्ताओं के लिए चुनौती यह थी कि बिना उपयोगकर्ता को अंतिम उत्तर दिखने से पहले हर एक चरण के पूरा होने का इंतजार कराए, उच्च-गुणवत्ता वाले तर्क को कैसे बनाए रखा जाए।
कैलिफोर्निया विश्वविद्यालय, लॉस एंजिल्स के शोधकर्ताओं की एक टीम ने "सेल्फ-स्पेक्टुलेशन फॉर रीजनिंग मॉडल्स" (Self-Speculation for Reasoning Models) नामक एक नई विधि विकसित की है, जिसे SSR कहा जाता है, जिसका लक्ष्य आउटपुट की गुणवत्ता से समझौता किए बिना इस विलंबता (latency) की समस्या को हल करना है। उनका दृष्टिकोण एक सरल लेकिन शक्तिशाली अवलोकन पर आधारित है: जैसे-जैसे एक मॉडल किसी समस्या पर विचार करता है, अंतिम उत्तर के बारे में उसके शुरुआती अनुमानों में अक्सर महत्वपूर्ण संकेत होते हैं कि वास्तविक अंतिम उत्तर क्या होगा। मॉडल के अपने आंतरिक तर्क को पूरा करने से पहले ही, वह आमतौर पर समाधान की सामान्य संरचना और प्रमुख विवरणों पर स्थिर हो चुका होता है। शोधकर्ताओं ने महसूस किया कि वे इन शुरुआती, अधूरे विचारों का उपयोग अंतिम उत्तर की भविष्यवाणी करने के लिए एक "ड्राफ्ट" के रूप में कर सकते हैं, जबकि मॉडल बैकग्राउंड में अपनी पूर्ण तर्क प्रक्रिया जारी रखता है।
यह विधि एक ही मॉडल के दो संस्करणों को एक साथ चलाने के माध्यम से काम करती है। एक संस्करण, जो ड्राफ्टर (drafter) के रूप में कार्य करता है, तर्क प्रक्रिया को जल्दी रोक देता है और अपने पास मौजूद आंशिक विचारों के आधार पर तुरंत अंतिम उत्तर उत्पन्न करने का प्रयास करता है। साथ ही, मॉडल का मुख्य संस्करण अपनी पूर्ण, गहरी तर्क प्रक्रिया जारी रखता है। जब मुख्य मॉडल अपना लंबा 'चेन ऑफ थॉट' पूरा कर लेता है, तो वह एक सत्यापनकर्ता (verifier) के रूप में कार्य करता है, जो शुरुआती संस्करण द्वारा बनाए गए ड्राफ्ट की जांच करता है। यदि ड्राफ्ट मुख्य, पूरी तरह से तर्कपूर्ण उत्तर से मेल खाता है, तो सिस्टम ड्राफ्ट टोकन्स को स्वीकार कर लेता है, जिससे उन्हें एक-एक करके उत्पन्न करने में लगने वाले समय की बचत होती है। चूंकि ड्राफ्टिंग मुख्य तर्क प्रक्रिया के समानांतर होती है, इसलिए ड्राफ्ट बनाने में लगने वाला समय छिप जाता है; उपयोगकर्ता को इसके लिए प्रतीक्षा नहीं करनी पड़ती। यह सिस्टम को अंतिम प्रतिक्रिया बहुत तेजी से देने की अनुमति देता है, विशेष रूप से उन कार्यों के लिए जिनमें कोड लिखना या जटिल अनुक्रमों की योजना बनाना जैसे लंबे, संरचित आउटपुट की आवश्यकता होती है।
इसे और भी प्रभावी बनाने के लिए, शोधकर्ताओं ने प्रक्रिया में एक दूसरा स्तर जोड़ा है। कई मामलों में, शुरुआती ड्राफ्ट शुरुआत में कुछ विवरण गलत कर सकता है—जैसे कि गलत वेरिएबल नाम का उपयोग करना या थोड़ा अलग वाक्यांश उपयोग करना—लेकिन फिर वह अंतिम उत्तर के साथ एक लंबे हिस्से के लिए पूरी तरह से मेल खा सकता है। मानक तरीके पहली गलती पर ही पूरे ड्राफ्ट को खारिज कर देते हैं, लेकिन नई प्रणाली में "सफिक्स डिकोडिंग" (suffix decoding) की सुविधा शामिल है। यह सिस्टम को शुरुआती त्रुटियों से परे देखने और ड्राफ्ट में बाद में मौजूद ऐसे मिलान वाले टेक्स्ट खंडों को खोजने की अनुमति देता है जिन्हें अंतिम उत्तर भी उपयोग करता है। इन उपयोगी टुकड़ों को पुनः प्राप्त करके, सिस्टम और भी अधिक ड्राफ्ट को स्वीकार कर सकता है, जिससे प्रतिक्रिया उत्पन्न करने के लिए आवश्यक समय और कम हो जाता है।
शोधकर्ताओं ने इस विधि का परीक्षण कई कठिन कार्यों पर किया, जिसमें जटिल सॉफ्टवेयर क्लासेस के लिए कोड उत्पन्न करना और लंबे, संरचित दस्तावेज़ बनाना शामिल है। उन्होंने पाया कि इस प्रकार के समस्याओं पर काम करने वाले मॉडल्स के लिए, नई विधि ने प्रतिक्रिया उत्पन्न करने में लगने वाले कुल समय को 24.1 प्रतिशत तक कम कर दिया। यह गति वृद्धि बिना मॉडल के वेट्स (weights) बदले या किसी अतिरिक्त प्रशिक्षण की आवश्यकता के प्राप्त की गई, जिसका अर्थ है कि इसे मौजूदा सिस्टम पर तुरंत लागू किया जा सकता है। यह परिणाम उन कार्यों में सबसे अधिक स्पष्ट थे जहाँ अंतिम उत्तर लंबा और संरचित था, जैसे कि कोडिंग, जहाँ मॉडल अपने सोचने की प्रक्रिया के दौरान समग्र संरचना के प्रति जल्दी प्रतिबद्ध हो जाता है। इसके विपरीत, छोटे कार्यों के लिए जहाँ सोचने का समय ही मुख्य कारक होता है, गति में सुधार कम था, क्योंकि यह विधि मुख्य रूप से उत्तर जनरेशन चरण को तेज करती है न कि तर्क चरण को।
अध्ययन ने यह भी पता लगाया कि जब मॉडल को अलग-अलग समय के लिए सोचने के लिए कहा जाता है तो यह विधि कैसे व्यवहार करती है। उन्होंने पाया कि सर्वोत्तम परिणाम तब मिलते हैं जब मॉडल ने अपने तर्क का एक बड़ा हिस्सा पूरा कर लिया हो, जिससे यह सुनिश्चित होता है कि ड्राफ्ट पर्याप्त संदर्भ पर आधारित है ताकि वह सटीक हो सके। उन्होंने इस विधि का एक पुनरावृत्ति (iterative) संस्करण भी विकसित किया जो तर्क प्रक्रिया के दौरान कई बिंदुओं पर ड्राफ्ट को अपडेट करता है, जिससे सिस्टम को मॉडल के गहरा सोचने के साथ अपनी भविष्यवाणियों को परिष्कृत करने की अनुमति मिलती है। यह दृष्टिकोण सुनिश्चित करता है कि भले ही प्रारंभिक ड्राफ्ट पूर्ण न हो, बाद के ड्राफ्ट उस पर निर्माण कर सकें, जिससे सफलता की उच्च दर बनी रहे।
अंततः, यह कार्य प्रदर्शित करता है कि तर्क प्रक्रिया की संरचना का उपयोग स्वयं आर्टिफिशियल इंटेलिजेंस की गति बढ़ाने के लिए एक संसाधन के रूप में किया जा सकता है। मॉडल के अपने मध्यवर्ती विचारों को भविष्यवाणी के स्रोत के रूप में उपयोग करके, शोधकर्ताओं ने उच्च-गुणवत्ता वाले, तर्कपूर्ण उत्तरों को काफी कम प्रतीक्षा समय के साथ वितरित करने का एक तरीका बनाया है। यह विधि उन इंटरैक्टिव अनुप्रयोगों के लिए विशेष रूप से मूल्यवान है जहाँ गति आवश्यक है, जो यह सिद्ध करती है कि समाधान की गुणवत्ता से समझौता किए बिना गहन सोच और तेज़ प्रतिक्रिया दोनों प्राप्त करना संभव है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।