What Makes Good Multilingual Reasoning? Disentangling Reasoning Traces with Measurable Features

यहाँ शोध पत्र "What Makes Good Multilingual Reasoning? Disentangling Reasoning Traces with Measurable Features" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज रीजनिंग मॉडल्स (LRMs) अंग्रेजी और गैर-अंग्रेजी भाषाओं के बीच प्रदर्शन में महत्वपूर्ण अंतर प्रदर्शित करते हैं। इस अंतर को पाटने के मौजूदा दृष्टिकोण अक्सर अंग्रेजी-केंद्रित धारणाओं पर निर्भर करते हैं, जैसे कि रीजनिंग से पहले प्रश्नों का अंग्रेजी में अनुवाद करना या उन रीजनिंग ट्रेसेस (reasoning traces) को पुरस्कृत करना जो संरचनात्मक या अर्थपूर्ण रूप से अंग्रेजी संदर्भों के समान होते हैं।

लेखक इस धारणा को चुनौती देते हैं कि अंग्रेजी में "अच्छा" तर्क अन्य भाषाओं में बिना किसी बदलाव के स्थानांतरित होता है। उनका तर्क है कि:

• मॉडल अपनी मूल भाषा में अधिक प्रभावी ढंग से तर्क कर सकते हैं।
• टाइपोलॉजिकल रूप से भिन्न भाषाएँ समान लेकिन वैध तर्क पथों (reasoning trajectories) का पालन कर सकती हैं।
• अंधाधुंध अंग्रेजी जैसे पैटर्न को पुरस्कृत करने से उन भाषा-विशिष्ट व्यवहारों को दंडित करने का जोखिम रहता है जो सही उत्तरों की ओर ले जाते हैं।

मुख्य शोध प्रश्न है: बहुभाषी परिवेश में प्रभावी तर्क की वास्तविक विशेषता क्या है, और अंग्रेजी-व्युत्पन्न तर्क संबंधी विशेषताएं किस हद तक सामान्यीकृत (generalize) होती हैं?

2. कार्यप्रणाली (Methodology)

यह अध्ययन 10 भाषाओं, 4 LRMs और 2 गणितीय बेंचमार्क (MGSM-Rev2 और AIME 2024–25) में रीजनिंग ट्रेसेस का विश्लेषण करने के लिए तीन-आयामी दृष्टिकोण का उपयोग करता है।

A. मापने योग्य तर्क संबंधी विशेषताओं को परिभाषित करना (Defining Measurable Reasoning Features)

लेखकों ने तीन आयामों (तालिका 1) में वर्गीकृत 16 मानव-व्याख्या योग्य विशेषताओं का एक समूह तैयार किया:

1. बहुभाषी संरेखण (Multilingual Alignment) (3 विशेषताएँ): यह मापता है कि गैर-अंग्रेजी ट्रेसेस अंग्रेजी समकक्षों के साथ कितनी अच्छी तरह संरेखित होते हैं।
   • COMET-QE: क्वेरी की अनुवाद गुणवत्ता।
   • संरचनात्मक समानता (Structural Similarity): रीजनिंग फ्लो टैग्स का अनुक्रम संरेखण (Smith-Waterman एल्गोरिदम)।
   • अर्थगत समानता (Semantic Similarity): अंग्रेजी और गैर-अंग्रेजी ट्रेसेस के बीच एम्बेडिंग्स (LABSE) की कोसाइन समानता।
2. तर्क चरण (Reasoning Step) (5 विशेषताएँ): चरण-स्तर के गुणवत्ता मेट्रिक्स।
   • चरणों की संख्या (Num. Steps): ट्रेस की लंबाई।
   • वैधता (Validity): तार्किक निरंतरता (NLI-आधारित एंटेलमेंट)।
   • प्रत्यक्ष/अप्रत्यक्ष उपयोगिता (Direct/Indirect Utility): अंतिम उत्तर में योगदान देने वाले चरणों का अनुपात।
   • V-Information: ट्रेस अंतिम 'गोल्ड' उत्तर में मॉडल के आत्मविश्वास को कितना बढ़ाता है।
3. तर्क प्रवाह (Reasoning Flow) (8 विशेषताएँ): उच्च-स्तरीय संज्ञानात्मक पैटर्न (Bogdan et al., 2025 से अनुकूलित)।
   • इसमें Self-Checking, Active Computation, Plan Generation, Uncertainty Management, Final Answer Emission आदि शामिल हैं।
   • चरणों को टैग करने और डिपेंडेंसी ग्राफ बनाने के लिए GPT-4O का उपयोग करके इन्हें एनोटेट किया गया है।

B. फीचर विश्लेषण (रैग्रेशन) (Feature Analysis - Regression)

लेखक प्रत्येक भाषा के लिए प्रत्येक विशेषता और अंतिम उत्तर की सटीकता के बीच जुड़ाव ($\Delta Acc$) को मापने के लिए यूनिवेरिएट लॉजिस्टिक रिग्रेशन का उपयोग करते हैं।

• वे गणना करते हैं कि जब कोई विशेषता -1 से +1 मानक विचलन (standard deviation) तक जाती है, तो अनुमानित सटीकता में क्या परिवर्तन होता है।
• वे इंटरेक्शन टर्म्स का उपयोग करके अंग्रेजी और गैर-अंग्रेजी जुड़ावों के बीच महत्वपूर्ण अंतरों का परीक्षण करते हैं।

C. स्पार्स ऑटोएन्कोडर (SAE) विश्लेषण (Sparse Autoencoder Analysis)

हस्त-निर्मित (hand-designed) विशेषताओं से आगे बढ़ने के लिए, वे बहुभाषी रीजनिंग ट्रेसेस पर स्पार्स ऑटोएन्कोडर्स (SAEs) को प्रशिक्षित करते हैं।

• ट्रेसेस को चंक्स में विभाजित किया जाता है, एम्बेड (LABSE) किया जाता है, और एक 'Batch TopK SAE' में फीड किया जाता है।
• भविष्य कहने वाले न्यूरॉन्स (जो सटीकता के साथ सह-संबंधित हैं) की पहचान की जाती है और लेटेंट कॉन्सेप्ट (जैसे, "शब्दों को दोहराना," "लॉगैरिद्मिक आइडेंटिटीज़ का उपयोग करना") का वर्णन करने के लिए GPT-4O को प्रॉम्प्ट किया जाता है।
• यह हस्त-निर्मित विशेषताओं को मान्य करने और नए, लेटेंट रीजनिंग पैटर्न खोजने के रूप में कार्य करता है।

D. टेस्ट-टाइम चयन (Test-Time Selection)

लेखक फीचर वैल्यूज को "बेस्ट-ऑफ-एन" (best-of-n) सेटिंग में चयन नीतियों (selection policies) के रूप में देखते हैं।

• प्रत्येक क्वेरी के लिए, 32 संभावित ट्रेसेस जेनरेट किए जाते हैं।
• विशिष्ट फीचर वैल्यूज (जैसे, उच्चतम Direct Utility) के आधार पर ट्रेसेस को पुन: रैंक किया जाता है।
• शीर्ष-रैंक वाले ट्रेस का चयन किया जाता है, और परिणामी pass@1 सटीकता को यह देखने के लिए मापा जाता है कि क्या वह फीचर मॉडल को बेहतर प्रदर्शन की ओर निर्देशित कर सकता है।

3. मुख्य परिणाम (Key Results)

RQ1: प्रभावी बहुभाषी तर्क की विशेषता क्या है?

• सामान्य रुझान: अधिकांश विशेषताएँ (जैसे, Validity, Utility, Active Computation) अंग्रेजी और गैर-अंग्रेजी दोनों भाषाओं में सटीकता के साथ सकारात्मक जुड़ाव दिखाती हैं।
• भाषा-विशिष्ट भिन्नता: इन जुड़ावों की शक्ति महत्वपूर्ण रूप से भिन्न होती है।
  • संघर्ष (Conflict): कुछ विशेषताएँ जो अंग्रेजी में फायदेमंद हैं, वे विशिष्ट भाषाओं में हानिकारक होती हैं। उदाहरण के लिए, Self-Checking अंग्रेजी सटीकता में सुधार करता है लेकिन स्वाहिली और तेलुगु में सटीकता के साथ नकारात्मक रूप से सह-संबंधित है।
  • उलटफेर (Reversal): कठिन AIME बेंचमार्क पर, Validity अंग्रेजी के लिए दृढ़ता से सकारात्मक है लेकिन अन्य भाषाओं के लिए नकारात्मक हो सकती है।
• बेंचमार्क अंतर: आसान बेंचमार्क (MGSM-Rev2) पर, फीचर अक्सर शून्य के करीब प्रभाव दिखाते हैं (मॉडल लेटेंट रीजनिंग के माध्यम से हल करते हैं)। कठिन बेंचमार्क (AIME) पर, फीचर प्रभाव अधिक स्पष्ट होते हैं।
• संरेखण (Alignment): अंग्रेजी ट्रेसेस के साथ संरचनात्मक समानता, विशेष रूप से लंबे ट्रेसेस के लिए, अर्थगत समानता की तुलना में सटीकता का एक मजबूत भविष्यवक्ता है।

RQ2: क्या हम स्वचालित रूप से विशेषताओं की खोज कर सकते हैं?

• SAE सत्यापन: SAEs ने काफी हद तक हस्त-निर्मित विशेषताओं में पाए गए पैटर्न को पुनः प्राप्त किया (जैसे, "अनिश्चितता प्रबंधन" अवधारणाएं कम सटीकता के साथ सह-संबंधित थीं)।
• नई खोजें: SAEs ने उन सूक्ष्म व्यवहारों को उजागर किया जिन्हें प्रारंभिक सेट द्वारा कैप्चर नहीं किया गया था, जैसे कि:
  • नकारात्मक: "एक ही ट्रेस के भीतर कई भाषाओं का मिश्रण" (-36% सेपरेशन स्कोर)।
  • सकारात्मक: "ऑर्डिनल एडवर्ब्स (ordinal adverbs) के साथ मल्टी-स्टेप रीजनिंग को तोड़ना" (+31%) या "गणनाओं को सत्यापित करने के लिए तार्किक कटौती का उपयोग करना" (+38%)।

RQ3: क्या विशेषताएँ मॉडल्स को निर्देशित कर सकती हैं?

• चयन प्रभावकारिता: कठिन बेंचमार्क (AIME) पर सटीकता में सुधार करने के लिए चयन नीतियों के रूप में विशेषताओं का उपयोग करना प्रभावी है।
• Direct Utility या Result Consolidation द्वारा चयन करने से रैंडम चयन की तुलना में 10% तक अधिक सटीकता प्राप्त हुई।
• अंग्रेजी-केंद्रित पुरस्कारों की सीमाएँ: अंग्रेजी ट्रेसेस के साथ Semantic Similarity प्रतिस्पर्धी थी लेकिन सार्वभौमिक रूप से सर्वश्रेष्ठ नहीं थी। कुछ मॉडल्स के लिए, वैकल्पिक विशेषताएँ (जैसे, Utility) सिमेंटिक एलाइनमेंट से बेहतर प्रदर्शन करती हैं।
• नकारात्मक संकेत: Uncertainty Management जैसी विशेषताओं ने चयन मानदंड के रूप में उपयोग किए जाने पर लगातार सटीकता को कम किया।

4. मुख्य योगदान (Key Contributions)

1. व्यवस्थित फीचर डिसेंटेंग्लमेंट: बहुभाषी रीजनिंग ट्रेसेस के विश्लेषण के लिए एक व्यापक, मापने योग्य ढांचा पेश किया, जो केवल अंतिम उत्तर की सटीकता से आगे बढ़कर मध्यवर्ती चरण व्यवहारों तक जाता है।
2. भाषा-विशिष्ट तर्क का प्रमाण: यह सिद्ध किया कि "अच्छा" तर्क एकरूप (monolithic) नहीं है; जो विशेषताएँ अंग्रेजी में सफलता की भविष्यवाणी करती हैं, वे हमेशा अन्य भाषाओं में सफलता की भविष्यवाणी नहीं करती हैं, और कुछ अंग्रेजी-केंद्रित व्यवहार (जैसे अत्यधिक सेल्फ-चेकिंग) विशिष्ट भाषाई संदर्भों में हानिकारक हो सकते हैं।
3. तर्क विश्लेषण के लिए SAE: लेटेंट कॉन्सेप्ट्स को खोजने के लिए बहुभाषी रीजनिंग ट्रेसेस पर स्पार्स ऑटोएन्कोडर्स (SAEs) का सफलतापूर्वक अनुप्रयोग किया, जो हस्त-निर्मित मेट्रिक्स और रिप्रेजेंटेशन लर्निंग के बीच के अंतर को पाटता है।
4. व्यावहारिक स्टीयरिंग मैकेनिज्म: यह प्रमाणित किया कि रीजनिंग फीचर्स को बिना रिट्रेनिंग के बहुभाषी प्रदर्शन में सुधार के लिए प्रभावी टेस्ट-टाइम सिलेक्शन पॉलिसी के रूप में उपयोग किया जा सकता है।

5. महत्व और निहितार्थ (Significance and Implications)

• अंग्रेजी-केंद्रितता को चुनौती: ये निष्कर्ष "अनुवाद-से-अंग्रेजी" या "अंग्रेजी-रीजनिंग-की-मिमिक्री" प्रतिमान के विरुद्ध तर्क देते हैं। रिवॉर्ड मॉडल और ट्रेनिंग ऑब्जेक्टिव्स को अंधाधुंध रूप से अंग्रेजी जैसे ट्रेसेस का पक्ष नहीं लेना चाहिए।
• अनुकूली उद्देश्य (Adaptive Objectives): यह शोध पत्र अनुकूली रिवॉर्ड डिज़ाइन्स की वकालत करता है जो लचीले ढंग से यह तय कर सकें कि कब मूल भाषा में रहना है, कब अनुवाद करना है, और लक्ष्य भाषा के आधार पर किन फीचर संकेतों (जैसे, यूटिलिटी बनाम सिमेंटिक सिमिलैरिटी) को प्राथमिकता देनी है।
• बेंचमार्क डिज़ाइन: बहुभाषी बेंचमार्क के लिए उच्च-गुणवत्ता वाले, मानव-सत्यापित अनुवादों की आवश्यकता पर बल देता है (क्योंकि COMET-QE स्कोर सटीकता के साथ सह-संबंधित थे) और सुझाव देता है कि चरण-स्तर के मूल्यांकन मेट्रिक्स (जैसे, Utility) भाषाओं के बीच हस्तांतरणीय (transferable) हैं।
• भविष्य की दिशाएँ: भाषा-विशिष्ट तर्क पैटर्न और अडैप्टिव रीजनिंग मॉडल्स (ARMs) विकसित करने की ओर संकेत करता है जो इनपुट भाषा के आधार पर अपनी रीजनिंग रणनीतियों को गतिशील रूप से समायोजित करते हैं।

6. सीमाएँ (Limitations)

• दायरा: गणितीय तर्क तक सीमित है; निष्कर्ष कानूनी या कॉमन सेंस रीजनिंग जैसे डोमेन में स्थानांतरित हो सकते हैं या नहीं, यह स्पष्ट नहीं है।
• एनोटेशन: फीचर एनोटेशन के लिए GPT-4O पर निर्भरता, हालांकि मानव सत्यापन ने उच्च सहमति दिखाई।
• मॉडल्स: चार विशिष्ट LRMs पर मूल्यांकन किया गया; अलग-अलग आर्किटेक्चर या ट्रेनिंग व्यवस्था के साथ पैटर्न भिन्न हो सकते हैं।