← नवीनतम पेपर
🤖 AI

RankGuide: Tensor-Rank-Guided Routing and Steering for Efficient Reasoning

RankGuide एक ऐसा फ्रेमवर्क है जो हिडन स्टेट्स से प्राप्त टेंसर-रैंक सिग्नल्स का उपयोग करके एडैप्टिव रूटिंग के लिए SRM विफलताओं का पता लगाने और रीजनिंग ट्राजेक्टरीज को निर्देशित करने के माध्यम से स्मॉल रीजनिंग मॉडल (SRM) और लार्ज रीजनिंग मॉडल (LRM) के सहयोग की दक्षता और सटीकता को बढ़ाता है, जिससे प्रतिस्पर्धी प्रदर्शन बनाए रखते हुए इन्फरेंस लेटेंसी को काफी कम किया जाता है।

मूल लेखक: Jiayi Tian, Yupeng Su, Ryan Solgi, Souvik Kundu, Zheng Zhang

प्रकाशित 2026-08-11
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Jiayi Tian, Yupeng Su, Ryan Solgi, Souvik Kundu, Zheng Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, असंभव पहेली को हल करने की कोशिश कर रहे हैं। आपके पास दो सहायक हैं: एक सुपर-जीनियस जो सब कुछ हल कर सकता है लेकिन सोचने में घंटों लेता है, और एक चतुर प्रशिक्षु (apprentice) जो तेज़ है लेकिन कभी-कभी गलतियाँ कर देता है। लंबे समय तक, काम पूरा करने का एकमात्र तरीका जीनियस को सारा काम करने देना था, जो धीमा और महंगा था। हाल ही में, वैज्ञानिकों ने एक नई तरकीब आजमाई: प्रशिक्षु को सोचने दें, और केवल तभी जीनियस को बुलाएं जब प्रशिक्षु भ्रमित दिखाई दे। इसे "मॉडल कोलैबोरेशन" (model collaboration) कहा जाता है। यह सुनने में एकदम सही लगता है, लेकिन इसमें एक पेंच है। कभी-कभी प्रशिक्षु वास्तव में गलत होता है, लेकिन वे अपनी गलती को लेकर इतने आश्वस्त होते हैं कि वे मदद नहीं मांगते। वे बस आत्मविश्वास के साथ गलत उत्तरों का एक मीनार बनाते रहते हैं जब तक कि पूरी संरचना ढह न जाए। यह शोध पत्र, जो COLM 2026 सम्मेलन में प्रकाशित हुआ है, इस "आत्मविश्वास से भरे गलत" प्रशिक्षु की विशिष्ट समस्या पर काम करता है।

शोधकर्ता, जियायी तियान (Jiayi Tian) और उनकी टीम ने पाया कि जब एक AI मॉडल विफल होने लगता है, तो वह केवल "भ्रमित" (जो पहचानना आसान है) नहीं होता; बल्कि वह अक्सर सोचने के एक बहुत ही सरल, दोहराव वाले लूप में फंस जाता है जो बहुत आत्मविश्वासी दिखता है लेकिन वास्तव में टूटा हुआ होता है। उन्होंने पाया कि इन छोटे मॉडलों के विफल होने के तीन मुख्य तरीके हैं: वे गलत उत्तरों में अत्यधिक आत्मविश्वासी हो जाते हैं, वे अनिश्चितता में फंस जाते हैं, या वे अपने स्वयं के काम की जांच करने में अंतहीन समय बर्बाद करते हैं। इसे ठीक करने के लिए, उन्होंने RankGuide नामक एक नई प्रणाली बनाई। RankGuide को एक विशेष चश्मे की तरह समझें जो आपको प्रशिक्षु द्वारा कहे गए शब्दों को ही नहीं, बल्कि उनके विचारों के "आकार" को देखने की अनुमति देता है। उनके सोचने की प्रक्रिया की छिपी हुई संरचना को देखकर, RankGuide बता सकता है कि प्रशिक्षु कब पटरी से उतरने वाला है। यह दो काम करता है: पहला, यह प्रशिक्षु के सोचने के तरीके को सही रास्ते पर रहने के लिए धीरे से प्रेरित करता है (steering), और दूसरा, यह जानता है कि बहुत अधिक समय बर्बाद होने से पहले प्रशिक्षु को कब रोकना है और जीनियस को बुलाना है (routing)। परिणाम स्वरूप, यह प्रणाली गणित, कोडिंग और विज्ञान की समस्याओं को अकेले जीनियस की तुलना में बहुत तेज़ी से हल करती है, बिना सटीकता खोए।

समस्या: आत्मविश्वास से भरा गलत प्रशिक्षु

लार्ज रीजनिंग मॉडल्स (LRMs) की दुनिया में, हमारे पास ये विशाल AI मस्तिष्क हैं जो जटिल समस्याओं को चरण-दर-चरण विचारों में तोड़कर हल कर सकते हैं, जैसे कि तर्क की एक श्रृंखला (chain of reasoning)। लेकिन वे धीमे हैं और बहुत अधिक कंप्यूटर शक्ति का उपयोग करते हैं। काम को तेज़ करने के लिए, शोधकर्ताओं ने भारी काम करने के लिए छोटे, तेज़ मॉडलों (SRMs) का उपयोग करना शुरू किया, और केवल तभी बड़े मॉडल को बुलाया जब चीजें कठिन हो जाती हैं।

विचार तो बेहतरीन था, लेकिन इसमें एक दोष था। पिछले तरीकों ने यह पता लगाने की कोशिश की कि छोटा मॉडल कब संघर्ष कर रहा है, यह सुनकर कि वह कितना "अनिश्चित" लग रहा है। यदि मॉडल अनिश्चित लग रहा था, तो सिस्टम बड़े मॉडल को बुला लेता था। हालाँकि, लेखकों ने पाया कि यह पर्याप्त नहीं था। उन्होंने पाया कि छोटे मॉडल अक्सर अत्यधिक आत्मविश्वासी त्रुटियां (overconfident errors) पैदा करते हैं। मॉडल पूरी तरह से गलत हो सकता है, लेकिन वह पूर्ण निश्चितता के साथ बोलता है। यदि आप केवल अनिश्चितता को सुनते हैं, तो आप इन आत्मविश्वासी गलतियों को चूक जाते हैं, और सिस्टम गलत मॉडल को चलते रहने देता है, जिससे समय बर्बाद होता है और गलत उत्तर मिलता है।

खोज: विचारों का "आकार" देखना

यह समझने के लिए कि ऐसा क्यों होता है, टीम ने केवल इसके आउटपुट को पढ़ने के बजाय मॉडल के "मस्तिष्क" (इसके हिडन स्टेट्स) के अंदर झाँका। उन्होंने मॉडल के विचारों की संरचना को देखने के लिए टेंसर डिकंपोजिशन (tensor decomposition) नामक एक गणितीय उपकरण का उपयोग किया। कल्पना कीजिए कि मॉडल की सोचने की प्रक्रिया डेटा का एक 3D ब्लॉक है। जब मॉडल सही ढंग से सोच रहा होता है, तो यह ब्लॉक जटिल और समृद्ध होता है। लेकिन जब मॉडल विफल होने लगता है, तो यह ब्लॉक एक बहुत ही सपाट, सरल आकार में सिमट जाता है।

उन्होंने विफलता के तीन विशिष्ट मोड की पहचान की:

  1. अत्यधिक आत्मविश्वास (Overconfidence): मॉडल गलत है लेकिन उसे लगता है कि वह सही है।
  2. अनिश्चितता (Uncertainty): मॉडल वास्तव में फंस गया है।
  3. भारी पुन: सत्यापन (Heavy Re-validation): मॉडल अपने काम की बार-बार जांच करता रहता है बिना किसी प्रगति के, जैसे कोई छात्र समस्या हल करने के बजाय एक ही वाक्य को बार-बार पढ़ता रहता है।

महत्वपूर्ण रूप से, उन्होंने पाया कि ये "सिकुड़े हुए" विचार कम "रैंक" (जटिलता का एक माप) रखते हैं। भले ही मॉडल आत्मविश्वासी सुनाई दे, इसकी आंतरिक संरचना सरल और टूटी हुई होती है। यही मुख्य अंतर्दर्दृष्टि है: छिपे हुए विचारों में कम जटिलता का अर्थ अक्सर गलत उत्तर होता है, भले ही मॉडल सुनिश्चित दिखाई दे।

समाधान: RankGuide

टीम ने RankGuide बनाया, जो मॉडलों की टीम को प्रबंधित करने के लिए इन "रैंक" संकेतों का उपयोग करता है। यह दो चतुर तरीकों से काम करता है:

1. स्टीयरिंग (Steering): कोमल धक्का
मॉडल के समस्या हल करने से पहले ही, RankGuide एक "स्टीयरिंग वेक्टर" तैयार करता है। इसे एक दिशा-सूचक (compass) की तरह समझें। टीम ने हजारों उदाहरणों का विश्लेषण किया और उन उदाहरणों को हटा दिया जहाँ मॉडल के विचार "सिकुड़े हुए" (low rank) थे। उन्होंने केवल उच्च-गुणवत्ता वाले, जटिल उदाहरणों का उपयोग एक ऐसा वेक्टर बनाने के लिए किया जो अच्छे तर्क की ओर इशारा करता है। वास्तविक समाधान के दौरान, वे इस वेक्टर को मॉडल के मस्तिष्क में इंजेक्ट करते हैं। यह प्रशिक्षु को अपने विचारों को जटिल और सही दिशा में रखने के लिए एक सूक्ष्म धक्का देने जैसा है, जो उन्हें अपने काम को बार-बार जाँचने के दोहराव वाले, लो-रैंक लूप में गिरने से रोकता है।

2. रूटिंग (Routing): स्मार्ट स्विच
मॉडल काम करते समय, RankGuide लगातार उसके विचारों के "रैंक" की जांच करता रहता है।

  • यदि विचार हाई-रैंक (जटिल और समृद्ध) हैं, तो छोटा मॉडल काम जारी रखता है।
  • यदि विचार लो-रैंक (सिकुड़े हुए) हैं या मॉडल बहुत अनिश्चित लग रहा है, तो RankGuide तुरंत छोटे मॉडल को रोकता है और बड़े मॉडल (LRM) को कार्यभार संभालने के लिए बुलाता है।
  • एक सुरक्षा जाल भी है: यदि मॉडल बहुत लंबे समय तक लो-रैंक "सिकुड़े हुए" अवस्था में रहता है, तो RankGuide समय बचाने के लिए प्रक्रिया को पूरी तरह से काट देता है, बजाय इसके कि उसे व्यर्थ घूमने दिया जाए।

परिणाम: तेज़ और स्मार्ट

टीम ने गणित, कोडिंग और विज्ञान के कठिन क्षेत्रों में RankGuide का परीक्षण किया। परिणाम प्रभावशाली थे।

  • गति: RankGuide अकेले बड़े मॉडल का उपयोग करने की तुलना में 1.75 गुना तेज़ था। अन्य स्मार्ट रूटिंग विधियों की तुलना में यह 1.36 गुना तेज़ था।
  • सटीकता: तेज़ होने के बावजूद, इसने बड़े मॉडल के समान उच्च सटीकता बनाए रखी। कुछ मामलों में, इसने उन आत्मविश्वासी गलतियों को पकड़कर सटीकता में सुधार भी किया जिन्हें अन्य तरीके चूक गए थे।
  • दक्षता: छोटे मॉडलों ने कुल मिलाकर कम चरण उत्पन्न किए। उदाहरण के लिए, गणित की समस्याओं पर, RankGuide ने चरणों की संख्या लगभग 19% कम कर दी और "पुनः जाँच" करने में लगने वाले समय को 40% से अधिक कम कर दिया।

लेखक सुझाव देते हैं कि विचारों की सतही बातों के बजाय उनके छिपे हुए ढांचे (टेन्सर रैंक) को देखकर, हम ऐसे AI सिस्टम बना सकते हैं जो अविश्वसनीय रूप से तेज़ और विश्वसनीय रूप से स्मार्ट दोनों हों। यह एक ऐसे AI की ओर एक कदम है जो न केवल तेज़ी से सोचता है, बल्कि बेहतर सोचता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.AI →