CoLT: Reasoning with Chain of Latent Tool Calls
यह शोध पत्र CoLT का प्रस्ताव करता है, जो एक नवीन ढांचा (framework) है जो सीड टोकन (seed tokens) उत्पन्न करके लार्ज लैंग्वेज मॉडल की तर्क क्षमता (reasoning efficiency) को बढ़ाता है, जो बाहरी मॉडलों को उन्हें पूर्ण तर्क चरणों में अनपैक करने के लिए ट्रिगर करते हैं, जिससे मॉडल संरचना संवर्धन या व्यापक प्रशिक्षण की आवश्यकता के बिना उच्च सटीकता और कम तर्क लंबाई प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक प्रतिभाशाली लेकिन बहुत व्यस्त शेफ (Large Language Model) है जो एक जटिल गणित की समस्या को हल करने की कोशिश कर रहा है। आमतौर पर, समस्या को हल करने के लिए, शेफ को अपने सोचने के हर एक कदम को कागज पर शब्द दर शब्द लिखना पड़ता है। इसे "चेन-ऑफ-थॉट" (Chain-of-Thought) कहा जाता है। यह अच्छी तरह काम करता है, लेकिन इसमें बहुत सारे शब्द लिखने और पढ़ने में बहुत समय लगता है, जिससे प्रक्रिया धीमी और महंगी हो जाती है।
कुछ शोधकर्ताओं ने शेफ को बिना कुछ लिखे, अपने दिमाग में "चुपचाप सोचने" के लिए कहकर इस प्रक्रिया को तेज करने की कोशिश की। लेकिन यह एक शेफ को बिना किसी नोट्स के अपनी पूरी रेसिपी याद रखने के लिए कहने जैसा है; यह करना कठिन है, इसके लिए अक्सर शेफ के मस्तिष्क (मॉडल की संरचना) को बदलना पड़ता है, और कभी-कभी शेफ कदम भूल जाता है या भ्रमित हो जाता है।
CoLT (Chain-of-Latent-Tools) से मिलिए।
CoLT एक चतुर तरीका है जो शेफ को अपनी काम समझाने की क्षमता खोए बिना तेजी से सोचने में मदद करता है। यहाँ बताया गया है कि यह कैसे काम करता है, एक सरल उपमा का उपयोग करते हुए:
"गुप्त नोट" प्रणाली (The "Secret Note" System)
तर्क का पूरा पैराग्राफ लिखने के बजाय, शेफ एक छोटा, गुप्त नोट (जिसे "सीड टोकन" कहा जाता है) लिखता है।
- नोट: यह नोट केवल कुछ विशेष प्रतीक है। यह एक वाक्य जैसा नहीं दिखता, लेकिन इसमें पूरे तर्क चरण का सारा "स्वाद" और जानकारी, एक छोटे से पैकेज में संकुचित (compressed) रूप में समाहित है।
- डिकोडर (अनुवादक): जब शेफ यह गुप्त नोट लिखता है, तो वह एक घंटी बजाता है। एक छोटा, तेज़ सहायक ("डिकोडर") घंटी की आवाज़ सुनता है, गुप्त नोट को लेता है, और तुरंत उसे वापस पूर्ण, पठनीय वाक्यों में अनुवादित कर देता है।
- लूप: शेफ अनुवादित वाक्यों को पढ़ता है, उन्हें अपने काम में जोड़ता है, और फिर अगले चरण के लिए अगला गुप्त नोट लिखता है।
यह बेहतर क्यों है?
- गति: पूरा पैराग्राफ लिखने की तुलना में गुप्त नोट लिखना बहुत तेज़ है। शेफ "टाइपिंग" में कम और समाधान खोजने में अधिक समय बिताता है।
- स्पष्टता: "मौन विचार" (silent thinking) विधियों के विपरीत जहाँ तर्क हमेशा के लिए छिपा रहता है, CoLT इन नोट्स को वापस साधारण टेक्स्ट में अनुवादित करता है। इसलिए, दिन के अंत में, आपके पास यह समझने के लिए एक स्पष्ट, पठनीय कहानी होती है कि समस्या को कैसे हल किया गया। शेफ ने बोलने की अपनी क्षमता नहीं खोई; उसने बस एक संक्षिप्त भाषा (shorthand) सीखी है।
- पुनर्निर्माण की आवश्यकता नहीं: आपको शेफ के मस्तिष्क को फिर से बनाने की आवश्यकता नहीं है। आप बस एक छोटा सहायक (डिकोडर) जोड़ते हैं जो नोट्स का अनुवाद करना जानता है। मुख्य शेफ बिल्कुल वैसा ही रहता है।
"टूल कॉल" का जादू (The "Tool Call" Magic)
इसे "टूल कॉल" कहा जाता है। इसे एक शेफ द्वारा यह कहने जैसा समझें, "मुझे इस चरण के लिए एक अनुवादक चाहिए!"
- शेफ एक विशेष ट्रिगर टोकन (जैसे बटन दबाना) उत्पन्न करता है।
- सिस्टम उस बटन के आधार पर सही अनुवादक (डिकोडर) चुनता है।
- अनुवादक उस बटन के भीतर छिपे "विचार" को लेता है और उसे शब्दों में अनपैक (unpack) कर देता है।
उन्होंने क्या पाया?
शोधकर्ताओं ने गणित की समस्याओं (जैसे प्राथमिक विद्यालय की शब्द समस्याओं) पर इसका परीक्षण किया।
- तेज़: "गुप्त नोट" विधि ने सब कुछ लिखने की तुलना में बहुत छोटी रीजनिंग चेन बनाई और यह अन्य "मौन विचार" विधियों की तुलना में तेज़ थी।
- स्मार्ट: इसने अन्य शॉर्टकट विधियों की तुलना में वास्तव में बेहतर स्कोर (उच्च सटीकता) प्राप्त किया।
- लचीला: उन्होंने विभिन्न प्रकार के "अनुवादक" (कुछ सरल थे, कुछ जटिल) का परीक्षण किया। सबसे अच्छे, मुख्य शेफ के मस्तिष्क के छोटे, तेज़ संस्करण (Transformers) थे, लेकिन यहाँ तक कि सरल अनुवादक भी ठीक काम करते थे।
- सीखना: उन्होंने 'रीइन्फोर्समेंट लर्निंग' (Reinforcement Learning) नामक तकनीक का उपयोग करके सिस्टम को उसकी गलतियों से सीखने के लिए भी सिखाया। सिस्टम अलग-अलग रास्ते अपना सकता था, फीडबैक प्राप्त कर सकता था, और कठिन समस्याओं को हल करने में और भी बेहतर हो सकता था।
संक्षेप में
CoLT एक सुपर-स्मार्ट AI को एक संक्षिप्त भाषा (shorthand language) देने जैसा है। यह AI को अपने विचारों को छोटे, कुशल पैकेटों में संकुचित करने, एक सहायक द्वारा उन्हें तुरंत अनपैक करवाने और फिर काम जारी रखने की अनुमति देता है। यह "मौन विचार" की गति और "सब कुछ लिखने" की स्पष्टता दोनों को बनाए रखता है, और यह सब बिना AI के मस्तिष्क को शुरू से फिर से बनाए बिना किया जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।