तकनीकी सारांश: गलत लेकिन उपयोगी: मल्टी-एजेंट संदेशों में उत्तर की शुद्धता से परे प्रक्षेपवक्र मूल्य (Trajectory Value)

समस्या विवरण

मल्टी-एजेंट तर्क प्रणालियाँ (multi-agent reasoning systems) अंतिम उत्तर को संश्लेषित करने से पहले उम्मीदवार संदेशों को फ़िल्टर करने के लिए सहमति (agreement), आत्मविश्वास स्कोर (confidence scores), या सीखे गए रैंकिंग जैसे तंत्रों पर तेजी से निर्भर करती हैं। ये विधियाँ इस धारणा पर काम करती हैं कि एक संदेश जो सही होने की संभावना रखता है, वह एक ऐसा संदेश भी है जिसे बनाए रखना सार्थक है। हालाँकि, यह शोध पत्र प्रस्ताव की शुद्धता (proposal correctness - क्या किसी संदेश का प्रस्तावित उत्तर सही है) और प्रक्षेपवक्र मूल्य (trajectory value - क्या पूरे संदेश—तर्क और उत्तर दोनों—को डाउनस्ट्रीम इंटीग्रेटर के लिए उपलब्ध कराना अंतिम परिणाम में मदद करता है या नुकसान पहुँचाता है) के बीच के घालमेल को चुनौती देता है।

मूल समस्या यह है कि एक संदेश जिसमें गलत अंतिम उत्तर हो सकता है, फिर भी वह एक उपयोगी अपघटन (decomposition), बाधा (constraint), या वैज्ञानिक सिद्धांत प्रदान कर सकता है जो अगले एजेंट को समस्या हल करने में सक्षम बनाता है। इसके विपरीत, एक संदेश जिसमें सही उत्तर हो सकता है, उसमें भ्रामक तर्क हो सकते हैं जो एकीकरण प्रक्रिया को बाधित करते हैं। वर्तमान सटीकता-अधिकतम प्रोटोकॉल अक्सर "गलत" संदेशों को हटा देते हैं, जिससे महत्वपूर्ण तर्क चरणों को खोने का जोखिम होता है, या "सही" संदेशों को बनाए रखते हैं जो शोर (noise) पेश करते हैं। शोध पत्र यह प्रश्न पूछता है: क्या प्रस्ताव की शुद्धता यह निर्धारित करती है कि पूरे संदेश को उपलब्ध कराना डाउनस्ट्रीम एकीकरण में मदद करता है या नहीं?

कार्यप्रणाली: विविध परिकल्पना विचार-विमर्श (Diverse Hypothesis Deliberation - DHD)

प्रक्षेपवक्र मूल्य को अंतिम सटीकता से स्वतंत्र रूप से मापने के लिए, लेखक एक नियंत्रित माप प्रोटोकॉल, विविध परिकल्पना विचार-विमर्श (DHD) पेश करते हैं। DHD को संदेशों की उपलब्धता को बदलते हुए उम्मीदवार पूल को स्थिर रखकर व्यक्तिगत संदेशों के योगदान को अलग करने के लिए डिज़ाइन किया गया है।

प्रोटोकॉल प्रवाह

1. भर्ती (Recruitment): एक गतिशील रिक्रूटर पाँच पूरक, समस्या-विशिष्ट भूमिकाएँ (जैसे, रसायनशास्त्री, भौतिक विज्ञानी) पाँच परिकल्पनाकारों (hypothesizers) को सौंपता है। महत्वपूर्ण रूप से, रिक्रूटर को वास्तविक उत्तर (ground-truth answer) का पता नहीं होता है।
2. स्वतंत्र पीढ़ी (Independent Generation): पाँच परिकल्पनाकार स्वतंत्र रूप से संरचित संदेश उत्पन्न करते हैं जिनमें तर्क और एक प्रस्तावित उत्तर शामिल होता है। उनके पास सहकर्मी संदेशों, स्कोर या वास्तविक उत्तर तक कोई पहुँच नहीं होती है।
3. कैशिंग (Caching): परिणामी पाँच संदेशों ($H_5$) का कैश बनाया जाता है। कोई भी संदेश उनकी सामग्री या शुद्धता के आधार पर फ़िल्टर, संपादित या पुन: उत्पन्न नहीं किया जाता है।
4. एकीकरण और रीप्ले (Integration & Replay): एक अलग इंटीग्रेटर चयनित उपसमुच्चय के संदेशों से एक अंतिम उत्तर संश्लेषित करता है। प्रोटोकॉल दो रीप्ले तंत्रों का उपयोग करता है:
   • एकल-संदेश रीप्ले (Single-Message Replay): इंटीग्रर केवल एक संदेश ($h_i$) देखता है और इसकी तुलना एक स्वतंत्र सॉल्वर (बिना किसी संदेश के) से की जाती है।
   • इन-पूल लीव-वन-आउट (In-Pool Leave-One-Out - LOO): इंटीग्रर पूर्ण पूल ($H_K$) देखता है और इसकी तुलना एक कम किए गए पूल ($H_K \setminus \{h_i\}$) से की जाती है।
5. मूल्यांकन (Evaluation): एक मूल्यांकनकर्ता, जो एजेंट के तर्क से अनभिज्ञ है, इंटीग्रर के अंतिम उत्तर की वास्तविक उत्तर (ground truth) के विरुद्ध तुलना करता है।

प्रक्षेपवक्र मूल्य को परिभाषित करना

अध्ययन रीप्ले प्रभाव ($\Delta_{i,K}$) को संदेश को छिपाने पर शुद्धता में परिवर्तन के आधार पर परिभाषित करता है:

• सहायक (Helpful): पूर्ण पूल सही है, लेकिन कम किया गया पूल (बिंतु $h_i$ के बिना) गलत है।
• हानिकारक (Harmful): कम किया गया पूल सही है, लेकिन पूर्ण पूल गलत है।
• तटस्थ (Neutral): शुद्धता अपरिवर्तित रहती है।

शोध पत्र प्रस्ताव की शुद्धता (गलत/सही) को रीप्ले प्रभाव (सहायक/हानिकारक/तटस्थ) के साथ क्रॉस करके संदेशों को छह सेल में वर्गीकृत करता है। मुख्य ध्यान गलत-सहायक (Wrong-Helpful) (गलत उत्तर, लेकिन सहायक तर्क) और सही-हानिकारक (Correct-Harmful) (सही उत्तर, लेकिन हानिकारक तर्क) पर है।

प्रयोगात्मक सेटअप

• बेंचमार्क: गणित और विज्ञान को कवर करने वाले पाँच विविध बेंचमार्क: Omni-MATH-2, JEEBench, SciBench, LAB-Bench, और MaScQA।
• मॉडल: दो खुले रूप से उपलब्ध मॉडल परिवार: gpt-oss-120b (OSS) और gemma-4-31B-it (Gemma)।
• मजबूती (Robustness): साधारण रीप्ले भिन्नता से वास्तविक प्रभावों को अलग करने के लिए, लेखकों ने प्रति मॉडल 1,000 स्तरीकृत समस्याओं पर नियंत्रित बार-बार रीप्ले किए, जिसमें परम्यूटेशन टेस्ट और बूटस्ट्रैप विश्लेषण किए गए।

मुख्य परिणाम

1. गलत-सहायक संदेशों की व्यापकता

सभी पाँच बेंचमार्क और दोनों मॉडल परिवारों में, गलत-सहायक संदेश प्रत्येक बेंचमार्क-मॉडल संयोजन में मौजूद हैं।

• उन संदेशों में जिनके गलत प्रस्तावित उत्तरों के कारण अंतिम शुद्धता में बदलाव आता है, दस में से चार से अधिक (OSS के लिए 41.9%, Gemma के लिए 45.3%) सहायक हैं।
• यह इंगित करता है कि एक गलत उत्तर नुकसान पहुँचाने की संभावना को बढ़ाता है, लेकिन यह प्रभाव की दिशा निर्धारित नहीं करता है; गलत संदेशों का एक महत्वपूर्ण हिस्सा मूल्यवान तर्क प्रदान करता है।

2. शुद्धता प्रक्षेपवक्र मूल्य निर्धारित नहीं करती है

अध्ययन प्रदर्शित करता है कि प्रस्ताव की शुद्धता प्रक्षेपवक्र मूल्य का एक खराब भविष्यवक्ता है:

• गलत-सहायक (Wrong-Helpful): गलत उत्तरों में अक्सर पुन: प्रयोज्य तर्क (जैसे, संख्या सिद्धांत में सम-विषम अपघटन) होते हैं जो इंटीग्रर को सही उत्तर प्राप्त करने में सक्षम बनाते हैं।
• सही-हानिकारक (Correct-Harmful): सही उत्तर वाले संदेश हानिकारक हो सकते हैं। उदाहरण के लिए, एक सही उत्तर जो "डबलिंग कैवेट" (doubling caveat) के साथ आता है, वह दूसरे एजेंट की गलत गणना को सुदृढ़ कर सकता है, जिससे इंटीग्रर गलत अंतिम परिणाम (जैसे, 43 के बजाय 85) पर पहुँच जाता है।
• सांख्यिकीय महत्व (Statistical Significance): नियंत्रित बार-बार रीप्ले पुष्टि करते हैं कि ये प्रभाव साधारण रीप्ले भिन्नता ($p = 0.0002$) से अधिक हैं। मल्टीप्लिसिटी-नियंत्रित विश्लेषण ने सभी पाँच बेंचमार्क में Gemma के लिए दोहराने योग्य गलत-सहायक मामलों को पुनः प्राप्त किया।

3. लाभ का स्रोत: तर्क बनाम उत्तर

घटक मास्किंग (तर्क या उत्तर क्षेत्र में से किसी एक को छिपाते हुए, जबकि दूसरे को रखते हुए) के माध्यम से, लेखकों ने जांचा कि क्यों गलत-सहायक संदेश काम करते हैं।

• 10 दोहराने योग्य गलत-सहायक संदेशों के नैदानिक नमूने में, तर्क (reasoning) को छिपाने से इंटीग्रर की सफलता घटकर 44% हो गई (पूर्ण संदेश सफलता दर 82% से 38 अंक की गिरावट)।
• गलत उत्तर को छिपाने से सफलता घटकर 64% हो गई (82% से 18 अंक की गिरावट)।
• यह सुझाव देता है कि एक गलत-सहायक संदेश का लाभ मुख्य रूप से इसके तर्क की सामग्री से आता है, न कि संलग्न गलत उत्तर से।

4. चयन अवसर (Selection Opportunity)

शोध पत्र ने परीक्षण किया कि क्या बार-बार मिलने वाले प्रक्षेपवक्र-मूल्य साक्ष्य केवल शुद्धता के आधार पर चयन करने वाले मॉडल की तुलना में बेहतर एकीकरण विकल्प की पहचान कर सकते हैं।

• बार-बार मिलने वाले साक्ष्य पर क्रॉस-फिटेड चयन का उपयोग करते हुए, लेखकों ने केवल प्रस्ताव की शुद्धता के आधार पर चयन करने वाले बेसलाइन की तुलना में +1.68 अंक (OSS) और +2.61 अंक (Gemma) की सटीकता वृद्धि प्राप्त की।
• यह पुष्टि करता है कि बार-बार मिलने वाला मूल्य साक्ष्य उस निर्णय-प्रासंगिक जानकारी को समाहित करता है जिसे केवल प्रस्ताव की शुद्धता नहीं पकड़ पाती।

महत्व और दावे

शोध पत्र का केंद्रीय दावा यह है कि उत्तर की शुद्धता सूचनात्मक है लेकिन वह प्रक्षेपवक्र मूल्य निर्धारित नहीं करती है।

• वैचारिक बदलाव (Conceptual Shift): लेखक एक प्रस्ताव की स्थानीय शुद्धता और एक विशिष्ट एकीकरण पूल में एक संदेश के प्रासंगिक मूल्य के बीच अंतर करते हैं। एक संदेश मूल्यवान उसके द्वारा दिए गए कथनों की सत्यता के आधार पर नहीं, बल्कि इस आधार पर होता है कि एक निर्णय लेने वाला उसके साथ क्या कर सकता है।
• कार्यप्रणाली संबंधी योगदान: DHD एक ऐसा माप प्रोटोकॉल प्रदान करता है जो पीढ़ी (generation), चयन (selection) और एकीकरण (integration) को अलग करता है। उन प्रणालियों के विपरीत जो अंतिम सटीकता के लिए अनुकूलित होती हैं (जो संदेशों को फिर से लिख सकती हैं या हटा सकती हैं), DHD उनके विशिष्ट योगदान को मापने के लिए संदेशों को स्थिर रखता है।
• व्यावहारिक निहितार्थ: परिणाम बताते हैं कि एजेंटों को केवल उत्तर की शुद्धता द्वारा फ़िल्टर करना उपयोगी बाधाओं और अपघटन को खोने का जोखिम उठाता है। भविष्य की प्रणालियों को केवल उनके प्रस्तावित उत्तरों के बजाय उनके प्रक्षेपवक्र मूल्य (पुन: प्रयोज्य तर्क) के आधार पर संदेशों को "सुनने" को सीखने से लाभ हो सकता है।
• सीमाएँ: लेखक नोट करते हैं कि प्रक्षेपवक्र मूल्य संदर्भ-विशिष्ट है (पूल और इंटीग्रर पर निर्भर) और यह पाठ का अंतर्निहित गुण नहीं है। अध्ययन बार-बार मिलने वाले साक्ष्य के तहत समान-समस्या अवसरों को मापता है, लेकिन यह अनदेखी समस्याओं के लिए सामान्यीकरण की समस्या को हल करने का दावा नहीं करता है।

संक्षेप में, यह शोध पत्र स्थापित करता है कि मल्टी-एजेंट तर्क में, "गलत" संदेश "उपयोगी" हो सकते हैं, और "सही" संदेश "हानिकारक" हो सकते हैं। एक संदेश का प्रक्षेपवत्र मूल्य एक विशिष्ट गुण है जिसे एजेंट सहयोग को अनुकूलित करने के लिए उत्तर की शुद्धता से अलग मापा और सीखा जाना चाहिए।