Parason: Revealing Subtask and Trial Parallelism in LLM Reasoning
यह शोध पत्र Parason को प्रस्तुत करता है, जो एक संरचित व्याकरण और एक विशेष प्रशिक्षण एल्गोरिदम के माध्यम से सबटास्क (subtask) और ट्रायल पैरेललिज्म (trial parallelism) दोनों की पहचान करके और उनका लाभ उठाकर LLM तर्क क्षमता में महत्वपूर्ण तेजी लाता है, जिससे सटीकता बनाए रखते हुए जटिल गणितीय बेंचमार्क पर लगभग 1.7x की गति वृद्धि प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) जटिल समस्याओं को हल करने में उल्लेखनीय रूप से कुशल हो गए हैं, चाहे वह कठिन गणितीय पहेलियों को सुलझाना हो या परिष्कृत कोड लिखना। यह क्षमता अक्सर एक सरल रणनीति से आती है: मॉडल को अधिक समय तक सोचने देने से। एक उत्तर देने से पहले एक लंबी, चरण-दर-चरण विचार श्रृंखला (chain of thoughts) उत्पन्न करके, ये सिस्टम जटिल तर्क को नेविगेट कर सकते हैं और सरल गलतियों से बच सकते हैं। हालाँकि, इस दृष्टिकोण की एक महत्वपूर्ण भौतिक सीमा है। इन मॉडल्स के काम करने का मानक तरीका एक व्यक्ति द्वारा एक किताब को एक बार में एक शब्द करके, क्रमवार पढ़ने जैसा है। हर विचार को पिछले विचार के समाप्त होने की प्रतीक्षा करनी पड़ती है। जब कोई समस्या अत्यंत कठिन होती है, तो विचारों की श्रृंखला लाखों शब्दों तक खिंच सकती है, जिसका अर्थ है कि उपयोगकर्ता एक एकल उत्तर के लिए मिनटों, घंटों या यहाँ तक कि दिनों तक प्रतीक्षा कर सकता है। यह देरी इसे कोडिंग असिस्टेंट या इंटरैक्टिव ट्यूटर जैसे वास्तविक समय (real-time) के उपकरणों के लिए अव्यावहारिक बना देती है, जहाँ सटीकता के साथ-साथ गति भी उतनी ही महत्वपूर्ण होती है।
शोधकर्ताओं ने लंबे समय से संदेह जताया है कि इसका उत्तर 'समानांतर सोच' (parallel thinking) में निहित है। एक लंबी विचार प्रक्रिया के बजाय, कल्पना कीजिए कि विशेषज्ञों की एक टीम एक ही समय में समस्या के विभिन्न हिस्सों पर काम कर रही है। कुछ मौजूदा प्रणालियों ने एक बड़े कार्य को छोटे, स्वतंत्र टुकड़ों में तोड़कर, प्रत्येक टुकड़े को अलग से हल करके और फिर परिणामों को जोड़कर ऐसा करने की कोशिश की है। हालांकि यह सहायक है, लेकिन यह विधि बुद्धिमान तर्क (intelligent reasoning) के काम करने के एक महत्वपूर्ण हिस्से को छोड़ देती है। एक वास्तव में कठिन समस्या का सामना करते समय, एक बुद्धिमान विचारक केवल समस्या को विभाजित नहीं करता है; वह विभिन्न विचारों को भी आजमाता है, देखता है कि कौन से विफल होते हैं, और जो काम करते हैं उन्हें बनाए रखता है। वे कई रास्तों को एक साथ तलाशते हैं, मृत अंतों (dead ends) को त्याग देते हैं और आशाजनक रास्तों का अनुसरण करते हैं। यह शोध पत्र 'पारासोन' (Parason) नामक एक नई प्रणाली पेश करता है जो भाषा मॉडल्स को ठीक यही करना सिखाती है, जिससे सोचने की धीमी, एकल-फाइल प्रक्रिया एक तेज़, बहु-लेन हाईवे में बदल जाती है।
शोधकर्ताओं ने उन्नत मॉडल्स के हजारों रीजनिंग ट्रेसेस (reasoning traces) का विश्लेषण करके शुरुआत की ताकि यह देखा जा सके कि वे वास्तव में कैसे सोचते हैं। उन्होंने पाया कि सोचने की प्रक्रिया केवल चरणों की एक एकल रेखा नहीं है, बल्कि दो बहुत ही अलग प्रकार की गतिविधियों का मिश्रण है। पहला प्रकार एक निर्माण दल (construction crew) की तरह है जो एक भवन परियोजना को विभाजित करता है: एक टीम नींव रखती है, दूसरी दीवारें बनाती है, और तीसरी छत स्थापित करती है। ये सभी कार्य आवश्यक हैं, और इन्हें एक साथ किया जा सकता है। शोधकर्ता इसे 'सबटास्क पैरेललिज्म' (subtask parallelism) कहते हैं। दूसरा प्रकार एक जासूस की तरह है जो एक साथ कई सिद्धांतों का परीक्षण करता है। जासूस एक संदिग्ध को आज़माता है, महसूस करता है कि वह फिट नहीं बैठता, और तुरंत दूसरा प्रयास करता है, जबकि एक सहकर्मी तीसरी संभावना की जांच करता है। मामले को सुलझाने के लिए इनमें से केवल एक पथ का सही होना आवश्यक है, लेकिन जासूस को सही रास्ता खोजने के लिए उन सभी को तलाशना पड़ता है। शोधकर्ता इसे 'ट्रायल पैरेललिज्म' (trial parallelism) कहते हैं।
उन्होंने जो पाया वह आश्चर्यजनक था। सबसे कठिन समस्याओं में, "जासूसी" शैली की सोच—कई अलग-अलग विचारों को आज़माना और विफलताओं को त्यागना—कार्य का अधिकांश हिस्सा बनाती है। वास्तव में, कुछ सबसे उन्नत मॉडल्स के लिए, यह ट्रायल-आधारित अन्वेषण (exploration) तर्क के दो-तिहाई से अधिक चरणों के बराबर है। पिछली प्रणालियाँ जो केवल कार्यों को छोटे टुकड़ों में तोड़ने पर केंद्रित थीं, वे अनिवार्य रूप से इन मॉडल्स के कठिन समस्याओं को हल करने के सबसे सामान्य तरीके को अनदेखा कर रही थीं। वे निर्माण दल के लिए अनुकूलन (optimize) कर रही थीं जबकि वास्तविक कार्य जासूसों द्वारा किया जा रहा था।
इसे ठीक करने के लिए, टीम ने एक ऐसा ढांचा बनाया जो मॉडल्स को यह पहचानना सिखाता है कि कब किसी कार्य को विभाजित करना है और कब एक साथ कई विचारों को आज़माना है। उन्होंने नियमों का एक विशेष सेट बनाया, जो एक संरचित भाषा की तरह है, जो मॉडल को यह कहने की अनुमति देता है, "यहाँ इस समस्या को हल करने के तीन अलग-अलग तरीके हैं, और मैं उन सभी को एक ही समय में आज़माऊँगा।" सिस्टम फिर इन विभिन्न प्रयासों को समानांतर (parallel) रूप से चलाता है, और परिणामों को एकत्र करता है। यदि एक प्रयास विफल हो जाता है, तो मॉडल बिना विफल प्रयास के समाप्त होने की प्रतीक्षा किए, अगले प्रयास को शुरू कर सकता है। यह पुराने तरीके से एक महत्वपूर्ण बदलाव है, जहाँ मॉडल को एक विचार को पूरा करना होता, यह महसूस करना होता कि वह गलत था, और फिर एक के बाद एक अगला विचार शुरू करना होता।
प्रशिक्षण प्रक्रिया ने एक ऐसे पुरस्कार (reward) सिस्टम का उपयोग किया जिसने मॉडल को सटीक और तेज़ दोनों होने के लिए प्रोत्साहित किया। मॉडल को न केवल सही उत्तर देने के लिए, बल्कि अपने विचारों को इस तरह से व्यवस्थित करने के लिए भी सराहा गया जिससे कंप्यूटर काम को तेज़ी से कर सके। इन समानांतर शाखाओं को एक साथ चलाकर, सिस्टम ने निष्कर्ष तक पहुँचने में लगने वाले समय को प्रभावी रूप से कम कर दिया। कठिन गणित प्रतियोगिताओं पर परीक्षणों में, नए सिस्टम ने मानक अनुक्रमिक (sequential) दृष्टिकोण की तुलना में लगभग 1.7 गुना औसत गति प्राप्त की, जबकि सटीकता के उसी उच्च स्तर को बनाए रखा। इसका अर्थ है कि एक समस्या जिसे हल करने में दस मिनट लग सकते थे, अब लगभग छह मिनट लेती है, बिना समाधान की गुणवत्ता से समझौता किए।
शोधकर्ताओं ने यह भी देखा कि समस्या जितनी कठिन होती है, यह समानांतर दृष्टिकोण उतना ही अधिक मदद करता है। सबसे कठिन प्रश्नों पर, बचाए गए कार्य की मात्रा सबसे अधिक थी। ऐसा इसलिए है क्योंकि कठिन समस्याएँ स्वाभाविक रूप से अधिक मृत अंत (dead ends) उत्पन्न करती हैं और विभिन्न संभावनाओं के अधिक अन्वेषण की आवश्यकता होती है। इन संभावनाओं को एक के बाद एक के बजाय अगल-बगल (side-by-side) तलाशने की अनुमति देकर, सिस्टम उस प्रक्रिया को अधिक कुशल बना देता है जो कभी एक लंबी, धीमी प्रतीक्षा हुआ करती थी। अध्ययन सुझाव देता है कि कृत्रिम बुद्धिमत्ता (AI) तर्क का भविष्य केवल लंबे समय तक सोचने के बारे में नहीं है, बल्कि एक साथ कई दिशाओं में सोचने के बारे में है, जो मानव विशेषज्ञों के दुनिया की सबसे जटिल चुनौतियों का सामना करने के तरीके की नकल करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।