Funnel of Thoughts: Efficient Test-Time Scaling via Early Voting and Rollout Pruning

आधुनिक आर्टिफिशियल इंटेलिजेंस एक ऐसे बिंदु पर पहुँच गया है जहाँ इसके सबसे शक्तिशाली रीजनिंग मॉडल केवल एक कठिन प्रश्न का एकल उत्तर नहीं देते हैं। इसके बजाय, वे विचार के लंबे, घुमावदार शृंखलाओं (chains of thought) को उत्पन्न करते हैं, जो अंतिम निष्कर्ष पर पहुँचने से पहले समाधान के कई रास्तों की खोज करते हैं। यह प्रक्रिया मानवीय विचार-विमर्श की नकल करती है, लेकिन यह एक अनूठी चुनौती भी पेश करती है: जब एक ही समस्या को बार-बार पूछा जाता है, तो ये मॉडल अक्सर अलग-अलग, और कभी-कभी विरोधाभासी उत्तर देते हैं। विश्वसनीयता सुनिश्चित करने के लिए, इंजीनियरों ने मॉडल को कई अलग-अलग प्रयास, या "रोलआउट्स" (rollouts) उत्पन्न करने के लिए कहने की रणनीति अपनाई है, और फिर उनमें से सबसे सामान्य उत्तर का चयन किया है। यह विधि, जिसे 'मेजॉरिटी वोटिंग' (majority voting) कहा जाता है, उन्नत गणित जैसे जटिल कार्यों पर सटीकता में काफी सुधार करती है। हालाँकि, यह एक भारी कीमत के साथ आता है। क्योंकि ये रीजनिंग शृंखलाएं हजारों शब्दों तक लंबी हो सकती हैं, दर्जनों को एक साथ चलाने से भारी मात्रा में कंप्यूटिंग शक्ति की खपत होती है। जैसे-जैसे शृंखलाएं लंबी होती जाती हैं, लागत तेजी से बढ़ती है, जिसका अर्थ है कि इस प्रक्रिया का सबसे महंगा हिस्सा अक्सर बिल्कुल अंत होता है, जहाँ मॉडल अनावश्यक आत्म-सुधार या हिचकिचाहट के लूप में फंस सकता है।

कोरिया यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस अक्षमता को बिना सटीकता से समझौता किए हल करने के लिए "फनल ऑफ थॉट्स" (Funnel of Thoughts) नामक एक नई विधि विकसित की है। उनका कार्य एक विशिष्ट समस्या को संबोधित करता है: बत्तीस अलग-अलग रीजनिंग प्रयासों के एक समूह में, उनमें से कुछ अक्सर अनुत्पादक होते हैं। ये विशिष्ट प्रयास तर्कहीन चक्रों में घूमते रहते हैं, अपने स्वयं के तर्क पर अंतहीन सवाल उठाते रहते हैं या "कोई-उत्तर-नहीं" (no-answer) की अवस्थाओं में फंस जाते हैं, जबकि वे कंप्यूटिंग संसाधनों का अधिकांश हिस्सा उपभोग करते हैं। शोधकर्ताओं ने पाया कि ये विफल प्रयास उनके द्वारा उत्पन्न टेक्स्ट में एक सरल, अवलोकन योग्य पैटर्न के माध्यम से खुद को प्रकट करते हैं। वे अक्सर विशिष्ट हिचकिचाहट मार्कर—शब्द और वाक्यांश जैसे कि "Wait" (रुको), "Actually" (वास्तव में), "perhaps" (शायद), या "Let me reconsider" (मुझे पुनर्विचार करने दें) का उपयोग करते हैं। इन मार्करों की आवृत्ति गिनकर, सिस्टम यह पहचान सकता है कि कौन से रीजनिंग पथ समाप्त होने से बहुत पहले विफल होने की संभावना रखते हैं।

यह नई विधि सभी बत्तीस प्रयासों को समानांतर में चलाती है, ठीक पहले की तरह, लेकिन यह एक "फनल" (कीप) पेश करती है जो क्षेत्र को क्रमिक रूप से संकुचित करता है। रास्ते में विशिष्ट चेकपॉइंट्स पर, सिस्टम दो चीजें जाँचता है। पहला, यदि किसी प्रयास ने पहले ही एक स्पष्ट, अंतिम उत्तर दे दिया है, तो उसे तुरंत एक सुरक्षित बैंक में सहेज लिया जाता है, और सिस्टम उस विशिष्ट प्रयास के लिए टेक्स्ट उत्पन्न करना बंद कर देता है। यह आगे की ऊर्जा बर्बाद किए बिना सफल पथ के वोट को सुरक्षित रखता है। दूसरा, अभी भी चल रहे प्रयासों के लिए, सिस्टम उन हिचकिचाहट मार्करों के घनत्व की गणना करता है। यदि कोई प्रयास अनिश्चितता के बहुत अधिक संकेतों से भरा है, तो उसे जल्दी ही काट दिया जाता है, या 'प्रून' (prune) कर दिया जाता है। यह सिस्टम को उन उत्पादक पथों को बनाए रखते हुए, व्यर्थ और भटकाने वाले पथों को त्यागने की अनुमति देता है जो सही समाधान की ओर ले जाने की संभावना रखते हैं।

इसके परिणाम पर्याप्त हैं। इस विधि का उपयोग करके, शोधकर्ता कुल कंप्यूटिंग लागत, जिसे मॉडल द्वारा आवश्यक 'अटेंशन ऑपरेशंस' (attention operations) के रूप में मापा जाता है, को लगभग आधा करने में सक्षम रहे। एक उच्च-प्रदर्शन ग्राफिक्स कार्ड पर वास्तविक दुनिया के परीक्षणों में, इसने प्रसंस्करण समय में तैंतीस प्रतिशत से अधिक की कमी के रूप में अनुवाद किया। महत्वपूर्ण रूप से, यह दक्षता पारंपरिक दृष्टिकोण की तरह उच्च स्तर की शुद्धता की कीमत पर नहीं आई। इस विधि ने सभी बत्तीस प्रयासों को पूरा करने तक चलाने वाले पारंपरिक दृष्टिकोण के समान ही उच्च स्तर की सटीकता बनाए रखी। वास्तव में, कुछ कठिन समस्याओं पर, नई विधि ने अंतिम परिणाम में वास्तव में सुधार किया। ऐसा इसलिए हुआ क्योंकि पारंपरिक विधि कभी-कभी कुछ अनुत्पादक, दोहराव वाले प्रयासों को केवल इसलिए हावी होने देती थी क्योंकि वे ही समाप्त होने वाले एकमात्र प्रयास थे, जबकि नई विधि उन विकर्षणों को जल्दी हटा देती है, जिससे सही उत्तर अधिक स्पष्ट रूप से उभर कर आता है।

शोधकर्ताओं ने छह अलग-अलग बड़े रीजनिंग मॉडलों पर और विभिन्न चुनौतीपूर्ण गणितीय बेंचमार्क पर इस तकनीक का परीक्षण किया। उन्होंने पाया कि हिचकिचाहट मार्कर का संकेत सभी मॉडलों में सुसंगत था, चाहे उनकी आंतरिक संरचना या आकार कुछ भी हो। यह विधि विज्ञान के जटिल प्रश्नों का उत्तर देने या कोड उत्पन्न करने जैसे गणित से बाहर के कार्यों पर भी लागू होने के लिए मजबूत साबित हुई, बशर्ते कि सिस्टम यह पहचान सके कि अंतिम उत्तर कब प्राप्त किया गया है। मुख्य अंतर्दृष्टि यह है कि सिस्टम को यह जानने के लिए तर्क की सामग्री को समझने की आवश्यकता नहीं है कि कब रुकना है; इसे केवल अनिश्चय के पैटर्न को पहचानने की आवश्यकता है। यह विधि को बिना किसी अतिरिक्त प्रशिक्षण या जटिल बाहरी उपकरणों के काम करने की अनुमति देता है, जो पूरी तरह से मॉडल द्वारा पहले से ही उत्पन्न किए जा रहे टेक्स्ट पर निर्भर करता है।

यह कार्य सुझाव देता है कि आर्टिफिशियल इंटेलिजेंस रीजनिंग का सबसे महंगा हिस्सा अक्सर सबसे कम उत्पादक होता है। यह सीखकर कि मॉडल के फंसने के शुरुआती संकेतों को कैसे पहचाना जाए, हम इसे उन पथों पर संसाधन बर्बाद करने से रोक सकते हैं जो कहीं नहीं ले जाएंगे। "फनल ऑफ थॉट्स" यह प्रदर्शित करता है कि यह संभव है कि इन शक्तिशाली प्रणालियों को उतना ही स्मार्ट रखते हुए उन्हें काफी तेज और सस्ता बनाया जाए। यह उन्नत रीजनिंग मॉडलों के उपयोग को बढ़ाने का एक व्यावहारिक तरीका प्रदान करता है, जिससे वे वास्तविक दुनिया के अनुप्रयोगों के लिए अधिक व्यवहार्य बनते हैं जहाँ गति और लागत महत्वपूर्ण कारक हैं। निष्कर्ष संकेत देते हैं कि कुशल AI का भविष्य बड़े मॉडल बनाने में नहीं, बल्कि हमारे पास मौजूद मॉडलों को प्रबंधित करने के स्मार्ट तरीकों में निहित है।