Novelty-based Tree-of-Thought Search for LLM Reasoning and Planning
यह शोध पत्र एक नवीनता-आधारित 'ट्री-ऑफ-थॉट' (Tree-of-Thought) खोज पद्धति प्रस्तुत करता है जो भाषा-आधारित नियोजन और तर्क कार्यों में दक्षता में सुधार करने और टोकन लागत को कम करने के लिए अनावश्यक तर्क पथों को मापने और उन्हें छाँटने हेतु एक एलएलएम (LLM) के पूर्व-प्रशिक्षित ज्ञान का लाभ उठाती है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही जटिल पहेली को हल करने की कोशिश कर रहे हैं, जैसे कि एक विशाल भूलभुलैया (maze) से रास्ता निकालना या ब्लॉकों को बिल्कुल सही तरीके से एक के ऊपर एक रखना। आपके पास एक सुपर-स्मार्ट सहायक (एक AI) है जो सोच तो सकता है, लेकिन उसकी एक बुरी आदत है: वह आसानी से घबरा जाता है और हर एक संभावित रास्ते को आज़माने में बहुत सारा पैसा (जिसे "टोकन" कहा जाता है, जो AI द्वारा सोचने के लिए इस्तेमाल होने वाली मुद्रा है) खर्च कर देता है, भले ही वे रास्ते स्पष्ट रूप से बंद गलियों (dead ends) की ओर ले जाते हों।
यह शोध पत्र आपको स्मार्ट तरीके से सोचने में मदद करने का एक नया तरीका पेश करता है, न कि सिर्फ कड़ी मेहनत करने में। लेखक इसे "Novelty-based Tree-of-Thought Search" कहते हैं।
यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:
1. समस्या: "अनंत गलियारा" (The Endless Hallway)
वर्तमान AI तरीके (जिन्हें "Tree of Thoughts" कहा जाता है) एक भूलभुलैया को खोजने वाले व्यक्ति की तरह काम करते हैं। वे एक रास्ता आज़माते हैं, दीवार से टकराते हैं, वापस जाते हैं, और फिर दूसरा रास्ता आज़माते हैं।
- समस्या: AI अक्सर उन रास्तों को आज़माता है जो पहले से आजमाए गए रास्तों के थोड़े से ही बदलाव होते हैं। यह एक गलियारे में चलने जैसा है, बाएं मुड़ना, दीवार से टकराना, दाएं मुड़ना और फिर एहसास होना कि आप ठीक उसी कमरे में हैं जहाँ आप पाँच मिनट पहले थे।
- लागत: क्योंकि AI इन बंद रास्तों को भी खोजता रहता है, इसलिए यह बहुत अधिक समय और पैसा (कंप्यूटिंग पावर) खर्च करता है।
2. समाधान: "नॉवेलटी फ़िल्टर" (The Novelty Filter)
लेखकों ने पुराने ज़माने के कंप्यूटर प्लानिंग (जिसका उपयोग रोबोट नेविगेशन के लिए किया जाता था) के एक विचार को लिया और AI को इसे इस्तेमाल करना सिखाया। वे इसे "Novelty" (नवीनता) कहते हैं।
"Novelty" को एक "ताजगी डिटेक्टर" (freshness detector) के रूप में सोचें।
- पुराना तरीका: AI पूछता है, "मैं आगे क्या कर सकता हूँ?" और सब कुछ आज़माता है।
- नया तरीका: एक नया रास्ता आज़माने से पहले, AI खुद से पूछता है: "क्या मैंने पहले भी ऐसी स्थिति देखी है?"
- यदि उत्तर "हाँ, यह लगभग वैसा ही है जैसा पहले देखा गया था," तो AI कहता है, "इसे छोड़ दो!" और उस शाखा (branch) को तुरंत काट देता है।
- यदि उत्तर "नहीं, यह कुछ नया है," तो AI उसे आगे खोजना जारी रखता है।
3. उन्होंने AI को यह कैसे सिखाया
कठिन हिस्सा यह है कि AI स्वाभाविक रूप से पुराने कंप्यूटरों की तरह "एटम्स" या "वेरिएबल्स" को नहीं समझता। वह भाषा समझता है।
- शोधकर्ताओं ने AI को कोई जटिल गणितीय सूत्र नहीं दिया। इसके बजाय, उन्होंने उसे एक सरल प्रश्न दिया: "क्या यह नई स्थिति, पहले देखी गई स्थितियों की सूची से अलग है?"
- AI इस "हाँ" या "ना" का उत्तर देने के लिए अपने सामान्य ज्ञान का उपयोग करता है। यदि वह कहता है "नहीं" (यह नया नहीं है), तो उस रास्ते को काट (pruned) दिया जाता है।
4. परिणाम: केवल तेज़ नहीं, बल्कि स्मार्ट
टीम ने तीन अलग-अलग प्रकार की चुनौतियों पर इसका परीक्षण किया:
- Blocksworld: ब्लॉकों को स्टैक करना और हिलाना (जैसे कि एक क्लासिक वीडियो गेम)।
- Logistics: ट्रकों और विमानों के माध्यम से शहरों में पैकेज भेजना।
- Math: कठिन हाई-स्कूल गणित की समस्याओं को हल करना।
क्या हुआ?
- सर्वश्रेष्ठ मामलों में: AI दक्षता का उस्ताद बन गया। उसने पहले की तरह ही अक्सर सही समाधान खोजा, लेकिन उसने 20 गुना तक कम पैसा (टोकन) खर्च किया क्योंकि उसने बंद रास्तों पर समय बर्बाद करना बंद कर दिया।
- कमी (The Catch): यह सिस्टम थोड़ा नाजुक है। यह एक ऐसी कार की तरह है जिसका इंजन बहुत संवेदनशील है। यदि आप निर्देशों (prompts) को पूरी तरह से ट्यून करते हैं, तो यह शानदार काम करता है। यदि निर्देश थोड़े भी गलत हैं, तो AI भ्रमित हो जाता है, काम करना बंद कर देता है, या वास्तव में अधिक पैसा खर्च करता है क्योंकि वह बहुत सारे "क्या यह नया है?" वाले सवाल पूछ रहा होता है।
5. मुख्य निष्कर्ष (The Big Takeaway)
यह शोध पत्र यह सिद्ध करता है कि हम AI को यह पहचानना सिखाकर कि वह "कब वही चीज़ दोबारा कर रहा है," तर्क करने की प्रक्रिया को बहुत सस्ता और तेज़ बना सकते हैं।
हालाँकि, लेखक अपनी सीमाओं के बारे में ईमानदार हैं:
- यह तब सबसे अच्छा काम करता है जब AI पहले से ही उस विशिष्ट कार्य में अच्छा हो।
- यह इस बात पर निर्भर करता है कि आप सवाल कैसे पूछते हैं (प्रॉम्प्टिंग)।
- यह हर बार पूर्ण समाधान की गारंटी नहीं देता है, लेकिन जब यह काम करता है, तो यह दक्षता के मामले में एक बड़ी जीत है।
संक्षेप में: उन्होंने AI को गोल-गोल घूमने से रोकने के लिए सिखाया कि "क्या मैंने यह पहले देखा है?" पूछना है। यदि उत्तर 'हाँ' है, तो वह मुड़ जाता है और एक बड़ी धनराशि बचा लेता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।