CoT-X: An Adaptive Framework for Cross-Model Chain-of-Thought Transfer and Optimization
यह शोध पत्र CoT-X को प्रस्तुत करता है, जो एक अनुकूलन योग्य ढांचा (adaptive framework) है जो विविध लार्ज लैंग्वेज मॉडल्स में चेन-ऑफ-थॉट रीजनिंग ट्रेसेस को संकुचित और पुनर्गठित करता है ताकि चिकित्सा संबंधी प्रश्नों और कई मॉडल आर्किटेक्चर पर व्यापक प्रयोगों द्वारा प्रमाणित सटीकता को बनाए रखते हुए या उसमें सुधार करते हुए इन्फरेंस ओवरहेड को महत्वपूर्ण रूप से कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके CoT-X पेपर की व्याख्या दी गई है।
बड़ी समस्या: "ज़्यादा समझाने वाला" बनाम "तेज़ सोचने वाला"
कल्पना कीजिए कि आपके पास एक कठिन मेडिकल पहेली को सुलझाने की कोशिश कर रहे दो लोग हैं:
- प्रोफेसर: एक प्रतिभाशाली विशेषज्ञ जो पहेली को पूरी तरह से हल कर सकता है। लेकिन, वे बहुत बातूनी हैं। यह समझाने के लिए कि उन्होंने इसे कैसे हल किया, वे 5,000 शब्दों का एक निबंध लिखते हैं। इसे पढ़ने में बहुत समय लगता है और इसे प्रिंट करने में बहुत पैसा खर्च होता है।
- इंटर्न: एक स्मार्ट लेकिन छोटा कर्मचारी जिसे उत्तर जल्दी और सस्ते में देना है। यदि आप उन्हें प्रोफेसर का 5,000 शब्दों का निबंध थमा देते हैं, तो इंटर्न घबरा जाता है, या उसका कागज़ (मेमोरी) खत्म हो जाता है, या उसे पढ़ने में बहुत समय लगता है। यदि आप निबंध को पहले कुछ वाक्यों के बाद ही काट देते हैं (एक "ट्रंकेशन"), तो इंटर्न महत्वपूर्ण सुरागों को मिस कर देता है और गलत उत्तर दे देता है।
दुविधा: आप इंटर्न को प्रोफेसर के शानदार तर्क का उपयोग करने के लिए कैसे प्रेरित करें बिना यह किए कि इंटर्न को पूरा 5,000 शब्दों का निबंध पढ़ना पड़े?
समाधान: CoT-X (स्मार्ट संकलक/एडिटर)
यह पेपर CoT-X पेश करता है, जो एक सुपर-एफिशिएंट एडिटर की तरह काम करता है। पूरे निबंध को पढ़ने के लिए मजबूर करने या केवल शुरुआती कुछ पंक्तियाँ पढ़ने के बजाय, CoT-X तीन चीजें करता है:
- प्रोफेसर लिखता है: "थिंकिंग मॉडल" (प्रोफेसर) पूरा, विस्तृत तर्क (reasoning trace) तैयार करता है।
- एडिटर सारांश बनाता है: CoT-X उस लंबे निबंध को पढ़ता है, सबसे महत्वपूर्ण सुरागों (जैसे एक विशिष्ट लक्षण या मुख्य निदान) की पहचान करता है, और फालतू बातों को हटा देता है। यह केवल अंत को नहीं काटता; बल्कि यह एक छोटा, सुसंगत विवरण फिर से बनाता है जो तार्किक श्रृंखला को बरकरार रखता है।
- इंटर्न उत्तर देता है: "आंसरिंग मॉडल" (इंटर्न) इस छोटे, सटीक सारांश को पढ़ता है और जल्दी और सस्ते में सही उत्तर देता है।
यह कैसे काम करता है: "हाइलाइटर" विधि
पेपर बताता है कि CoT-X केवल अंदाज़ा नहीं लगाता कि क्या रखना है। यह एक स्मार्ट स्कोरिंग सिस्टम का उपयोग करता है:
- गहराई (Depth): यहाँ तर्क के कितने चरण हैं?
- ज्ञान (Knowledge): क्या इस वाक्य में महत्वपूर्ण चिकित्सा तथ्य हैं?
- संबंध (Connection): क्या यह वाक्य अगले वाक्य से जुड़ता है?
- प्रासंगिकता (Relevance): क्या यह वाक्य अंतिम निष्कर्ष तक पहुँचने में मदद करता है?
यह तर्क को एक डिपेंडेंसी ग्राफ (विचार कैसे जुड़ते हैं इसका एक नक्शा) की तरह मानता है। यह यह पता लगाने के लिए कि कौन से वाक्य "सूचना के सबसे महत्वपूर्ण केंद्र" हैं, एक विधि का उपयोग करता है जो गूगल द्वारा वेबसाइटों को रैंक करने के तरीके (PageRank) के समान है। यह उन्हें रखता है और बाकी को हटा देता है, फिर कुछ जोड़ने वाले शब्द लिखता है ताकि कहानी अभी भी समझ में आए।
सेटिंग्स के लिए "स्मार्ट शॉपिंग"
पेपर का एक अन्य बड़ा विचार यह है कि आपको सबसे अच्छा जोड़ा खोजने के लिए प्रोफेसर और इंटर्न के हर संभव संयोजन को आज़माने की ज़रूरत नहीं है। इसमें बहुत समय लगेगा।
इसके बजाय, CoT-X एक बेयसियन ऑप्टिमाइज़ेशन (Bayesian Optimization) टूल का उपयोग करता है। इसे एक स्मार्ट शॉपिंग असिस्टेंट की तरह समझें।
- पुराना तरीका: आप विजेता खोजने के लिए 64 अलग-अलग मॉडल जोड़े और 5 अलग-अलग बजट आकार आज़माते हैं (64 × 5 = 320 टेस्ट)।
- CoT-X का तरीका: "स्मार्ट असिस्टेंट" कुछ परिणामों को देखता है, पैटर्न सीखता है, और भविष्यवाणी करता है कि सबसे अच्छा संयोजन कहाँ छिपा है। यह केवल 15 टेस्ट के बाद एक लगभग-परफेक्ट सेटअप खोज लेता है।
- परिणाम: यह परीक्षण में लगने वाले समय और पैसे के 84% की बचत करता है।
उन्होंने क्या पाया (परिणाम)
शोधकर्ताओं ने 7,501 जापानी मेडिकल लाइसेंसिंग प्रश्नों (चिकित्सा, फार्मेसी और नर्सिंग जैसे 10 विभिन्न विशेषज्ञताओं को कवर करते हुए) पर इसका परीक्षण किया। यहाँ उनकी खोजें हैं:
- सारांश जीतता है: जब बजट कम होता है (64 से 256 शब्दों के छोटे सारांश), तो CoT-X का स्मार्ट सारांश टेक्स्ट को बीच में से काटने (truncation) की तुलना में 40.5% अधिक सटीक होता है।
- "स्वीट स्पॉट" (सही संतुलन): सबसे बड़े सुधार तब होते हैं जब आपके पास छोटा बजट होता है। यदि आपके पास बड़ा बजट है, तो केवल टेक्स्ट को काटना ठीक काम करता है, लेकिन जब जगह कम होती है, तो स्मार्ट सारांश अनिवार्य हो जाता है।
- परिवार मायने रखता है (लेकिन बहुत ज़्यादा नहीं): यह तब सबसे अच्छा काम करता है जब प्रोफेसर और इंटर्न एक ही "परिवार" के मॉडल हों (जैसे दोनों DeepSeek या दोनों Qwen)। हालाँकि, भले ही वे अलग-अलग परिवारों के हों, स्मार्ट सारांश उन्हें एक-दूसरे को समझने में मदद करता है।
- "एसिमेट्रिक" (असममित) जीत: आपको अक्सर सबसे बड़े प्रोफेसर और सबसे बड़े इंटर्न की आवश्यकता नहीं होती है। एक विशाल प्रोफेसर को मध्यम आकार के इंटर्न के साथ जोड़ने से अक्सर उच्च सटीकता और कम लागत का सबसे अच्छा संतुलन मिलता है।
- भाषा का आश्चर्य: उन्होंने जापानी, चीनी और अंग्रेजी में इसका परीक्षण किया। दिलचस्प रूप से, सिस्टम छोटे मॉडलों के लिए चीनी में थोड़ा बेहतर काम करता है, संभवतः इसलिए क्योंकि चीनी अक्षर कम "टोकन" (शब्दों) में अधिक अर्थ समेट लेते हैं, जिससे सारांश और भी कुशल हो जाता है।
निचोड़ (Bottom Line)
CoT-X यह साबित करता है कि आपको हर बार सवाल पूछने पर लंबे, महंगे रीजनिंग ट्रेस को फिर से जेनरेट करने की आवश्यकता नहीं है। आप एक शक्तिशाली मॉडल के साथ "सोच" को एक बार जेनरेट कर सकते हैं, उसे एक "चीट शीट" में कंप्रेस कर सकते है जो सभी महत्वपूर्ण तर्क को बनाए रखता है, और एक छोटे, सस्ते मॉडल को उस चीट शीट का उपयोग करके तेज़ी से उत्तर देने दें।
यह एक जीनियस को स्टडी गाइड लिखने के लिए काम पर रखने जैसा है, और फिर वह गाइड उस छात्र को सौंपना है जो परीक्षा दे रहा है। छात्र को 'A' ग्रेड पाने के लिए जीनियस होने की ज़रूरत नहीं है, जब तक कि स्टडी गाइड अच्छी हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।