How does Chain of Thought decompose complex tasks?

यहाँ अमृत् नडिगिर, विजय बालासुब्रमण्यन और प्रतीक चौधरी के शोध पत्र "How does Chain of Thought decompose complex tasks?" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) ने चेन ऑफ थॉट (CoT) प्रॉम्पटिंग के माध्यम से प्रभावशाली तर्क क्षमताएं प्रदर्शित की हैं, जहाँ मॉडल उत्तर देने से पहले मध्यवर्ती तर्क चरणों (intermediate reasoning steps) को उत्पन्न करते हैं। हालाँकि, अनुभवजन्य अवलोकन विरोधाभासी हैं:

• कुछ अध्ययन बताते हैं कि "सोचना" (लंबे तर्क पथ उत्पन्न करना) गणित और कोडिंग जैसे जटिल कार्यों पर प्रदर्शन में सुधार करता है।
• अन्य अध्ययन संकेत देते हैं कि अत्यधिक तर्क ("overthinking") प्रदर्शन को खराब कर सकता है, विशेष रूप से सरल कार्यों पर।
• यह समझाने के लिए कैरिकीय मानदंड (theoretical criteria) की कमी है कि CoT कब फायदेमंद होता है, यह क्यों काम करता है, और तर्क की कितनी मात्रा (गहराई और संरचना) इष्टतम (optimal) है।

इस शोध पत्र का उद्देश्य तर्क को एक बड़े वर्गीकरण कार्य (classification task) को छोटे उप-कार्यों में विघटन (decomposition) के रूप में औपचारिक रूप देना और CoT की इष्टतम संरचना और गहराई की भविष्यवाणी करने के लिए स्केलिंग लॉ (scaling laws) प्राप्त करना है।

2. कार्यप्रणाली (Methodology)

लेखक समस्या को सांख्यिकीय शिक्षण सिद्धांत (statistical learning theory) और स्केलिंग लॉ का उपयोग करके हल करते हैं, जहाँ LLM इन्फरेंस को वर्गीकरण समस्याओं के एक अनुक्रम के रूप में मॉडल किया जाता है।

A. सैद्धांतिक ढांचा: वर्गीकरण त्रुटि स्केलिंग (Classification Error Scaling)

लेखक पहले सुपरवाइज्ड लर्निंग में गलत वर्गीकरण की संभावना ($E$) के लिए एक मौलिक स्केलिंग लॉ स्थापित करते हैं:

• परिकल्पना (Hypothesis): त्रुटि, वर्गों की संख्या ($m$), डेटा बिंदुओं की संख्या ($D$), और इनपुट स्पेस के आंतरिक आयाम ($d$) के सापेक्ष एक पावर लॉ (power law) के रूप में स्केल करती है।
• व्युत्पत्ति (Derivation): सीखी गई संभाव्यता वितरण के लिप्सचिट्ज़ स्थिरांक (Lipschitz constant) और $d$-आयामी स्थान में डेटा बिंदुओं के बीच औसत दूरी का विश्लेषण करके, वे व्युत्पन्न करते हैं:
  $$\bar{E} \propto m^{2/d} D^{-1/d}$$
  इसका तात्पर्य यह है कि जैसे-जैसे वर्गों की संख्या ($m$) बढ़ती है, त्रुटि काफी बढ़ जाती है (पावर लॉ), जिससे बड़े आउटपुट स्पेस का सीधा वर्गीकरण कठिन हो जाता है।

B. चेन ऑफ थॉट (CoT) का मॉडलिंग

लेखक CoT को मूल वर्गीकरण समस्या के वृक्ष-संरचित विघटन (tree-structured decomposition) के रूप में मॉडल करते हैं:

• प्रत्यक्ष भविष्यवाणी (Direct Prediction): मॉडल एक चरण में $N$ वर्गों से अंतिम उत्तर की भविष्यवाणी करता है। त्रुटि $\propto N^{2/d}$।
• CoT भविष्यवाणी (CoT Prediction): मॉडल कार्य को $n$ चरणों के अनुक्रम में तोड़ता है। प्रत्येक चरण $k$ पर, वह $m_k$ वर्गों में से चुनता है (वृक्ष की "डिग्री")। कुल पत्तियों (final answers) की संख्या $N = \prod m_k$ है।
• त्रुटि सीमा (Error Bound): कुल त्रुटि प्रत्येक चरण के त्रुटियों के योग द्वारा सीमित है:
  $$\bar{E}_{reason} \leq c D^{-1/d} \sum_{k=1}^{n} m_k^{2/d}$$
• अनुकूलन (Optimization): त्रुटि को कम करने के लिए, लेखक लाग्रेंज मल्टीप्लायर्स (Lagrange multipliers) का उपयोग करके यह दिखाते हैं कि एक निश्चित $N$ के लिए, त्रुटि तब न्यूनतम होती है जब वृक्ष संतुलित (balanced) होता है (सभी $m_k$ समान होते हैं)।

C. "सोचना" और अतिरेक (Thinking and Redundancy)

यह शोध पत्र "सोचना" (Thinking) को न्यूनतम आवश्यक गहराई ($r > 1$) से आगे तर्क वृक्ष की गहराई बढ़ाने के रूप में परिभाषित करता है, जो एक ही उत्तर के लिए रेडंडेंट (redundant) पथ बनाता है। यह एक "प्रभावी डिग्री" ($m_{eff}$) पेश करता है, जो वास्तविक डिग्री $m$ से कम है।

• लेखक इस ट्रेड-ऑफ का विश्लेषण करते हैं: क्या गहराई (रेडंडेंसी) बढ़ाना प्रभावी डिग्री को इतना कम कर देता है कि त्रुटि कम हो जाए, या अधिक चरणों में त्रुटियों का संचय (accumulation) हावी हो जाता है?

3. मुख्य योगदान (Key Contributions)

1. वर्गीकरण त्रुटि का पावर लॉ स्केलिंग:
   यह शोध पत्र सिद्ध करता है कि वर्गीकरण त्रुटि $m^{2/d}$ के रूप में स्केल करती है। यह एक सैद्धांतिक आधार प्रदान करता है कि क्यों एक बड़े कार्य ($N$ classes) को छोटे उप-समस्याओं ($m$ classes) में विभाजित करने से त्रुटि कम हो जाती है, बशर्ते कि उप-समस्याएं पर्याप्त रूप से छोटी हों।

2. इष्टतम डिग्री ($m^*$) और संतुलित वृक्ष:
   लेखक तर्क वृक्ष के लिए एक इष्टतम डिग्री व्युत्पन्न करते हैं:
   $$m^* = e^{d/2}$$
   जहाँ $d$ कार्य का आंतरिक आयाम (intrinsic dimension) है।

   • निष्कर्ष: CoT सबसे प्रभावी तब होता है जब तर्क वृक्ष $m^*$ के करीब की डिग्री के साथ संतुलित होता है। यदि डिग्री बहुत कम है (जटिलता के लिए बहुत अधिक चरण), तो त्रुटि बढ़ जाती है। यदि डिग्री बहुत अधिक है, तो विघटन का लाभ समाप्त हो जाता है।

3. "सोचने" की दहलीज (The Threshold for "Thinking"):
   यह शोध पत्र डिग्री $m$ के लिए एक महत्वपूर्ण दहलीज की पहचान करता है:

   • यदि $m < m^*$: गहराई बढ़ाना (सोचना) हानिकारक है। मॉडल एक सरल समस्या का अत्यधिक विघटन कर रहा है, जिससे बिना पर्याप्त प्रति-चरण कठिनाई कम किए, क्रमिक त्रुटियां जमा हो रही हैं।
   • यदि $m > m^*$: गहराई बढ़ाना एक इष्टतम बिंदु तक लाभदायक है। यह प्रभावी डिग्री को $m^*$ तक कम कर देता है, जिससे त्रुटि न्यूनतम होती है।
   • इष्टतम गहराई (Optimal Depth): एक दिए गए कार्य आकार $N$ के लिए एक विशिष्ट गहराई $n^*$ मौजूद है जो त्रुटि को न्यूनतम करती है:
     $$n^* = \frac{2}{d} \ln N$$
   • निहितार्थ: तर्क की लंबाई और सटीकता के बीच एक गैर-एकदिष्ट (non-monotonic) संबंध होता है। बहुत लंबा तर्क करना ("overthinking") प्रदर्शन को कम कर देता है।

4. आंतरिक आयाम स्थिरता (Intrinsic Dimension Stability):
   LLM के लेटेंट स्टेट्स (Qwen3-32B का उपयोग करके) के अनुभवजन्य विश्लेषण से पता चलता है कि संदर्भ लंबाई (context length) के बावजूद आंतरिक आयाम $d$ अपेक्षाकृत स्थिर रहता है, जो इस धारणा की पुष्टि करता है कि $d$ कार्य का एक स्थिर गुण है।

4. परिणाम (Results)

• सिंथेटिक प्रयोग (Synthetic Experiments):

  • ट्रांसफॉर्मर्स को नियंत्रित वृक्ष संरचनाओं वाले सिंथेटिक तार्किक कटौती (logical deduction) कार्यों पर प्रशिक्षित किया गया।
  • निष्कर्ष: मॉडल्स ने सबसे कम त्रुटि तब प्राप्त की जब तर्क वृक्ष में सभी परतों में एक स्थिर डिग्री (संतुलित वृक्ष) थी।
  • निष्कर्ष: "सोचना" (रेडंडेंसी के साथ गहराई बढ़ाना) केवल तभी सटीकता में सुधार करता है जब प्रारंभिक डिग्री $m$ बड़ी ( $m^*$ से ऊपर) हो। छोटे $m$ के लिए, सोचने से प्रदर्शन गिर गया।

• वास्तविक बेंचमार्क (GSM8k, MATH-500, AIME):

  • Qwen2.5-7B-Instruct और Deepseek-V3 को गणितीय डेटासेट पर आंका गया।
  • निष्कर्ष: टेस्ट एरर, तर्क की लंबाई (टोकन काउंट) के संबंध में एक उत्तल, गैर-एकदिष्ट वक्र (convex, non-monotonic curve) प्रदर्शित करता है।
  • अवलोकन: तर्क की लंबाई बढ़ने के साथ सटीकता एक मध्यवर्ती बिंदु तक सुधरती है, जिसके बाद श्रृंखला को और लंबा करने ("overthinking") से प्रदर्शन गिर जाता है। यह सैद्धांतिक भविष्यवाणी की पुष्टि करता है कि एक इष्टतम तर्क गहराई होती है।

• एन्ट्रॉपी विश्लेषण (Entropy Analysis):

  • जब मॉडल एक "सही" तर्क पथ का पालन करता है, तो अगले टोकन की भविष्यवाणी की एन्ट्रॉपी प्रत्यक्ष भविष्यवाणी की तुलना में काफी कम होती है। यह पुष्टि करता है कि CoT प्रत्येक चरण में खोज स्थान (search space) को सीमित करके अनिश्चितता को कम करता है।

5. महत्व और निहितार्थ (Significance and Implications)

• "Overthinking" की व्याख्या: यह शोध पत्र एक कठोर सैद्धांतिक स्पष्टीकरण प्रदान करता है कि क्यों अत्यधिक लंबे तर्क पथ उत्पन्न करना प्रदर्शन को नुकसान पहुँचा सकता है। यह केवल "भ्रम" (hallucination) के बारे में नहीं है, बल्कि कार्य को विघटित करने और क्रमिक त्रुटियों को संचित करने के बीच एक मौलिक सांख्यिकीय ट्रेड-ऑफ है।
• CoT डिज़ाइन के लिए दिशानिर्देश:
  • संरचना मायने रखती है: तर्क पथ आदर्श रूप से $e^{d/2}$ की डिग्री के करीब एक संतुलित वृक्ष बनाने चाहिए।
  • कार्य-निर्भर गहराई: इष्टतम तर्क लंबाई सार्वभौमिक नहीं है; यह कार्य के आकार ($N$) और आंतरिक आयाम ($d$) पर निर्भर करती है।
  • दक्षता: सरल कार्यों (छोटा $N$ या छोटा $m$) के लिए, CoT अनावश्यक या हानिकारक हो सकता है। जटिल कार्यों के लिए, एक विशिष्ट, परिमित गहराई इष्टतम है; तर्क की लंबाई का अनंत स्केलिंग अनंत सटीकता लाभ नहीं देता है।
• भविष्य की दिशाएं:
  • यह सुझाव देता है कि प्रशिक्षण डेटा क्यूरेशन को केवल मानव पठनीयता के बजाय तर्क पथों की संरचना (डिग्री और गहराई) पर ध्यान केंद्रित करना चाहिए।
  • यह प्रस्तावित करता है कि रीइन्फोर्समेंट लर्निंग (RL) स्पष्ट रूप से इस गहराई को अनुकूलित करना सीख सकता है, लेकिन वर्तमान विधियाँ सैंपल कॉम्प्लेक्सिटी से प्रभावित हो सकती हैं।
  • यह रोबोटिक्स और प्रोटीन फोल्डिंग जैसे अन्य डोमेन में भी लागू करने के द्वार खोलता है जहाँ "तर्क" को वृक्ष-संरचित निर्णय लेने के रूप में मॉडल किया जा सकता है।

संक्षेप में, यह शोध पत्र चेन ऑफ थॉट को एक वर्गीकरण समस्या के संतुलित वृक्ष विघटन (balanced tree decomposition) के रूप में गणितीय रूप से औपचारिक बनाता है। यह स्थापित करता है कि जबकि CoT जटिल कार्यों को तोड़कर त्रुटि को कम करता है, तर्क की गहराई के लिए एक महत्वपूर्ण दहलीज और एक इष्टतम गहराई होती है, जिसके बाद अतिरिक्त "सोचना" प्रतिकूल हो जाता है।