💬 NLP

AMATA: Adaptive Multi-Agent Trajectory Alignment for Knowledge-Intensive Question Answering

यह शोध पत्र AMATA को प्रस्तुत करता है, जो एक अनुकूलन योग्य मल्टी-एजेंट फ्रेमवर्क है जो एजेंट सहयोग को एक नवीन इंट्रा-ट्रैजेक्टरी और इंटर-एजेंट डिपेंडेंसी लर्निंग तकनीकों के साथ ट्रैजेक्टरी प्रेफरेंस अलाइनमेंट समस्या के रूप में औपचारिक रूप देकर ज्ञान-गहन प्रश्न उत्तर (knowledge-intensive question answering) में तथ्यात्मक निरंतरता और व्याख्यात्मकता को बढ़ाता है।

मूल लेखक: Taolin Zhang, Dongyang Li, Chen Chen, Qizhou Chen, Jiuheng Wan, Xiaofeng He, Chengyu Wang, Richang Hong

प्रकाशित 2026-05-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Taolin Zhang, Dongyang Li, Chen Chen, Qizhou Chen, Jiuheng Wan, Xiaofeng He, Chengyu Wang, Richang Hong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही कठिन ट्रिविया प्रश्न हल करने की कोशिश कर रहे हैं, जैसे कि "लिट (Lit) बैंड का सबसे प्रसिद्ध गाना कौन सा है?" यदि आप एक मानक AI (एक लार्ज लैंग्वेज मॉडल) से पूछते हैं, तो वह जो कुछ भी उसने याद किया है उसके आधार पर अनुमान लगाने की कोशिश करते हुए आत्मविश्वास के साथ गलत उत्तर दे सकता है। यह "हलुसिनेशन" (hallucination) कहलाता है।

इसे ठीक करने के लिए, शोधकर्ताओं ने AMATA नामक एक नया सिस्टम बनाया है। AMATA को एक अकेले जीनियस के रूप में नहीं, बल्कि एक कारखाने में छह विशिष्ट कामगारों की एक विशेषज्ञ टीम के रूप में समझें, जिनमें से प्रत्येक का एक विशिष्ट कार्य है।

AMATA कैसे काम करता है, इसे एक सरल उपमा के माध्यम से समझाया गया है:

छह कामगरों की टीम

एक व्यक्ति द्वारा सब कुछ करने के बजाय, AMATA एक "मल्टी-एजेंट" सिस्टम का उपयोग करता है। एक जटिल मामले को सुलझाने वाली जासूसी एजेंसी की कल्पना करें:

अनुवादक (इन्टेंट रिकंस्ट्रक्टर - Intent Reconstructor): आपके उलझे हुए प्रश्न को पढ़ता है और स्पष्ट करता है कि आप वास्तव में क्या पूछ रहे हैं।
लाइब्रेरियन (नॉलेज रिट्रीवर - Knowledge Retriever): विषय के बारे में किताबें या लेख खोजने के लिए पुस्तकालय (बाहरी ज्ञान) जाता है।
संपादक (नॉलेज फिल्टर - Knowledge Filter): लाइब्रेरियन द्वारा खोजी गई किताबों को देखता है और उन पन्नों को हटा देता है जो अप्रासंगिक या भ्रमित करने वाले हैं।
हाइलाइटर (नॉलेज लोकेटर - Knowledge Locator): शेष पन्नों में उस सटीक वाक्य या पैराग्राफ को खोजता है जिसमें उत्तर छिपा है।
लेखक (रिस्पॉन्स जनरेटर - Response Generator):at हाइलाइट किए गए तथ्यों का उपयोग करके अंतिम उत्तर लिखता है।
निरीक्षक (आंसर वेरीफायर - Answer Verifier): लेखक के उत्तर की दोबारा जांच करता है ताकि यह सुनिश्चित हो सके कि वह वास्तव में सत्य है और कोई मनगढ़ंत कहानी नहीं है।

पुराने टीमों के साथ समस्या

पिछली विधियों में दो मुख्य कमियां थीं:

"असेंबली लाइन" की समस्या: पुराने सिस्टम में, प्रत्येक कार्यकर्ता को एक निश्चित क्रम में अपना काम करना पड़ता था, भले ही उसकी आवश्यकता न हो। "2+2 क्या है?" जैसे सरल प्रश्न के लिए, आपको लाइब्रेरियन या इंस्पेक्टर की आवश्यकता नहीं है। लेकिन पुराने सिस्टम अभी भी प्रश्न को उनके पास भेज देंगे, जिससे समय और ऊर्जा बर्बाद होगी।
"साइलो" (Silos) की समस्या: अन्य सिस्टम में, कार्यकर्ताओं को अलग-अलग प्रशिक्षित किया गया था। लाइब्रेरियन को यह नहीं पता था कि संपादक कैसे काम करता है, इसलिए वे ऐसी जानकारी आगे बढ़ा सकते थे जिसे संपादक ठीक न कर सके।

AMATA कैसे अलग है: "स्मार्ट मैनेजर"

AMATA इन दो चतुर नवाचारों के माध्यम से इस टीम को बेहतर ढंग से काम करने के लिए पेश करता है:

1. "डायनेमिक स्कोरकार्ड" (इंट्रा-ट्रैजेक्टरी प्रेफरेंस लर्निंग - Intra-Trajectory Preference Learning)
कल्पना कीजिए कि एक मैनेजर जो आपके विशिष्ट प्रश्न को देखता है और यह तय करने के लिए कि इस विशिष्ट कार्य के लिए प्रत्येक कार्यकर्ता कितना महत्वपूर्ण है, प्रत्येक को एक "स्कोर" देता है।

यदि आप किसी दुर्लभ रॉक बैंड के बारे में कठिन प्रश्न पूछते हैं, तो मैनेजर लाइब्रेरियन और संपादक को उच्च स्कोर (5 में से 5) देता है क्योंकि वे अत्यंत महत्वपूर्ण हैं।
यदि लाइब्रेरियन एक बहुत ही स्पष्ट उत्तर पाता है, तो मैनेजर निरीक्षक को कम स्कोर (5 में से 1) देता है क्योंकि उत्तर पहले से ही स्पष्ट है और उसे दोबारा देखने की आवश्यकता नहीं है।
परिणाम: सिस्टम केवल उन्हीं कामगरों का उपयोग करता है जिनकी उसे वास्तव में आवश्यकता होती है, जिससे कंप्यूटर की शक्ति (टोकन) की भारी बचत होती है।

2. "टीम केमिस्ट्री" का सबक (इंटर-एजेंट डिपेंडेंसी लर्निंग - Inter-Agent Dependency Learning)
AMATA कार्यकर्ताओं को एक साथ काम करना सिखाता है। यह सीखता है कि यदि लाइब्रेरियन को बुलाया जाता है, तो संपादक और हाइलेटर को तुरंत बाद भी बुलाया जाना अनिवार्य है। यह सीखता है कि ये कार्यकर्ता एक "पैकेज डील" हैं।

सिस्टम एक विशेष प्रशिक्षण पद्धति (जिसे DA-DPO कहा जाता है) का उपयोग यह सीखने के लिए करता है कि कौन से कार्यकर्ताओं के संयोजन सबसे अच्छे उत्तरों की ओर ले जाते हैं। यह उन खराब संयोजनों को अनदेखा करना सीख जाता है जहाँ कार्यकर्ता तालमेल में नहीं होते हैं।

परिणाम

शोधकर्ताओं ने इस सिस्टम का परीक्षण पांच अलग-अलग कठिन ट्रिविया और तथ्य-जांच चुनौतियों पर किया।

बेहतर सटीकता: AMATA ने अन्य उन्नत AI सिस्टमों, जिनमें भारी मात्रा में डेटा या जटिल सुदृढीकरण शिक्षण (reinforcement learning) का उपयोग करने वाले सिस्टम शामिल हैं, की तुलना में अधिक प्रश्नों के सही उत्तर दिए।
बहुत तेज़/सस्ता: क्योंकि AMATA जानता है कि कुछ कामगरों का उपयोग कब नहीं करना है, यह अन्य मजबूत सिस्टमों की तुलना में लगभग 70% कम कंप्यूटर शक्ति (टोकन) का उपयोग करता है। यह पूरे बॉक्स को मेज पर खाली करने के बजाय केवल उन्हीं टुकड़ों का उपयोग करके पहेली सुलझाने जैसा है जिनकी आपको आवश्यकता है।

सारांश में

AMATA एक स्मार्ट फ्रेमवर्क है जो AI एजेंटों को एक लचीली, सहकारी टीम के रूप में मानता है। प्रत्येक एजेंट को हर समस्या पर काम करने के लिए मजबूर करने के बजाय, यह गतिशील रूप से तय करता है कि किसकी आवश्यकता है और उन्हें एक-दूसरे पर निर्भर होना सिखाता है। इससे प्राप्त उत्तर न केवल अधिक सटीक (कम झूठ/हलुसिनेशन) होते हैं, बल्कि उन्हें तैयार करना बहुत अधिक कुशल भी होता है।

तकनीकी सारांश: AMATA – ज्ञान-गहन प्रश्नोत्तर (Knowledge-Intensive Question Answering) के लिए अनुकूलन योग्य बहु-एजेंट प्रक्षेपवक्र संरेखण (Adaptive Multi-Agent Trajectory Alignment)

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) में महत्वपूर्ण प्रगति के बावजूद, ज्ञान-गहन प्रश्नोत्तर (QA) के लिए तथ्यात्मक रूप से सुसंगत प्रतिक्रियाएं उत्पन्न करना एक चुनौती बनी हुई है। वर्तमान मॉडल मतिभ्रम (hallucinations) और लॉन्ग-टेल ज्ञान अंतराल (long-tail knowledge gaps) को पाटने की सीमाओं से जूझते हैं। हालांकि रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) बाहरी ज्ञान तक पहुँच प्रदान करके एक शमन रणनीति (mitigation strategy) के रूप में कार्य करता है, लेकिन यह रिट्रीवल की अशुद्धियों और लंबे संदर्भों के कारण बढ़ते अनुमान विलंबता (inference latency) से ग्रस्त है।

ज्ञान-गहन QA के लिए मौजूदा बहु-एजेंट दृष्टिकोण आम तौर पर तीन प्रतिमानों (paradigms) में आते हैं, जिनमें से प्रत्येक की विशिष्ट सीमाएँ हैं:

मॉड्यूलर प्रशिक्षण (Modular Training): एजेंटों को उप-कार्यों पर स्वतंत्र रूप से फाइन-ट्यून करता है। इसमें वैश्विक अनुकूलन का अभाव है, जिससे त्रुटि प्रसार (error propagation) होता है और एजेंटों के बीच अंतर-निर्भरता की भरपाई करने में असमर्थता होती है।
एंड-टू-एंड प्रशिक्षण (End-to-End Training): एक एकल ढांचे के भीतर सभी एजेंटों को संयुक्त रूप से अनुकूलित करता है। हालांकि यह सह-अनुकूलन (co-adaptation) को सक्षम करता है, लेकिन समान ग्रेडिएंट अपडेट अक्सर विषम एजेंटों (heterogeneous agents) की विशिष्ट विशेषज्ञता संबंधी मांगों को अस्पष्ट कर देते हैं, जिससे अति-समरूपीकरण (over-homogenization) होता है।
ग्लोबल-लोकल प्रशिक्षण (Global-Local Training): स्वतंत्र उप-कार्य अनुकूलन को संयुक्त फाइन-ट्यूनिंग के साथ जोड़ता है। हालांकि, ये विधियाँ अक्सर गतिशील अंतर-एजेंट निर्भरताओं (dynamic inter-agent dependencies) को पकड़ने में विफल रहती हैं, जो विविध कार्यों के लिए महत्वपूर्ण हैं (जैसे, उच्च-विश्वास वाले प्रश्नों के लिए अनावश्यक सत्यापन चरण, या संदर्भ की अनदेखी करने वाले कठोर निष्पादन अनुक्रम)।

मूल समस्या जो संबोधित की जा रही है वह एक ऐसे ढांचे का अभाव है जो विशिष्ट प्रश्न आवश्यकताओं के आधार पर एजेंट भागीदारी को गतिशील रूप से संरेखित कर सके और बेहतर तर्क प्रदर्शन और टोकन दक्षता दोनों में सुधार करने के लिए जटिल, संदर्भ-निर्भर निर्भरताओं को मॉडल कर सके।

2. कार्यप्रणाली: AMATA ढांचा (Methodology: AMATA Framework)

लेखक AMATA (Adaptive Multi-Agent Trajectory Alignment) का प्रस्ताव करते हैं, जो एजेंट-स्तरीय संरेखण में सुधार करने और गतिशील अंतर-एजेंट निर्भरताओं को पकड़ने के लिए डिज़ाइन किया गया एक ढांचा है। यह प्रणाली छह विशिष्ट एजेंटों का उपयोग करती है: इंटेंट रिकंस्ट्रक्टर (Intent Reconstructor), नॉलेज रिट्रीवर (Knowledge Retriever), नॉलेज फिल्टर (Knowledge Filter), नॉलेज लोकेटर (Knowledge Locator), रिस्पॉन्स जनरेटर (Response Generator), और आंसर वेरीफायर (Answer Verifier)।

कार्यप्रणाली दो प्राथमिक नवाचारों पर आधारित है:

A. इंट्रा-ट्रैजेक्टरी प्रेफरेंस लर्निंग (Intra-Trajectory Preference Learning)

मौजूदा दृष्टिकोण अक्सर सभी एजेंटों को समान रूप से प्रासंगिक मानते हैं। AMATA प्रत्येक विशिष्ट प्रश्न के लिए एजेंट भागीदारी को गतिशील रूप से अनुकूलित करने के लिए एक तंत्र पेश करता है।

तंत्र: सिस्टम प्रश्न-विशिष्ट एजेंट प्राथमिकता वितरण (agent preference distributions) सीखता है। प्रत्येक एजेंट-प्रश्न युग्म के लिए, वर्तमान इनपुट के लिए एजेंट की उपयोगिता के आधार पर एक प्राथमिकता स्कोर (जैसे, <Retriever: 5> बनाम <Verifier: 1>) सौंपा जाता है।
कार्यान्वयन: इन स्कोर्स को एजेंट विवरण के साथ एक प्रीफिक्स के रूप में जोड़ा जाता है और फाइन-ट्यूनिंग के लिए प्रश्न के साथ युग्मित किया जाता है। यह एक मोनोलिथिक मॉडल को प्रत्येक एजेंट के लिए अलग डेटासेट की आवश्यकता के बिना, एडैप्टिव प्रीफिक्स स्कोरिंग के साथ सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) के माध्यम से विषम एजेंट क्षमताओं को कैप्चर करने की अनुमति देता है।
लक्ष्य: महत्वपूर्ण एजेंटों को प्राथमिकता देना (जैसे, जटिल प्रश्नों के लिए ज्ञान उपकरण) और अनावश्यक एजेंटों को दबाना (जैसे, उच्च-विश्वास वाले उत्तरों के लिए सत्यापनकर्ता), जिससे टोकन खपत कम हो सके।

B. इंटर-एजेंट डिपेंडेंसी लर्निंग (Inter-Agent Dependency Learning)

बहु-एजेंट प्रणालियाँ संदर्भ-निर्भर निर्भरता प्रदर्शित करती हैं जहाँ एक महत्वपूर्ण एजेंट को ट्रिगर करने के लिए जुड़े हुए एजेंटों के समन्वित निष्पादन की आवश्यकता होती है।

तंत्र: लेखक एक डिपेंडेंसी-अवेयर डायरेक्ट प्रेफरेंस ऑप्टिमाइजेशन (DA-DPO) मॉड्यूल पेश करते हैं। मानक DPO के विपरीत, जो एकल विजेता/हारने वाले युग्मों की तुलना करता है, DA-DPO संदर्भ-संवेदनशील निष्पादन रैंकिंग सीखता है।
कार्यान्वयन:
- प्रेफरेंस सैंपल को स्पष्ट रूप से अंतर-एजेंट निर्भरताओं को एनकोड करने के लिए निर्मित किया गया है।
  क बहु-एजेंट अनुक्रम की वैश्विक इष्टतमता को दर्शाने वाले एक संयुक्त प्राथमिकता स्कोर के साथ प्रक्षेपवक्रों (trajectories) को एनोटेट किया गया है।
- एल्गोरिदम "डिपेंडेंसी गुडनेस" (एजेंट स्कोर सफल परिणामों के साथ कितनी अच्छी तरह सह-संबंध रखते हैं) के आधार पर शीर्ष- $K$ विजेता नमूनों का चयन करता है और शेष नमूनों को हारने वाले उदाहरणों के रूप में मानता है।
- एक लिस्टवाइज प्लैकेट-लूस (Plackett-Luce) प्रेफरेंस मॉडल का उपयोग नीति को अनुकूलित करने के लिए किया जाता है, जो मजबूत अंतर-एजेंट समन्वय वाले प्रक्षेपवक्रों को प्राथमिकता देता है।
लक्ष्य: LLM को उच्च विश्वसनीयता के साथ इष्टतम बहु-एजेंट निष्पादन अनुक्रमों को अनुमान लगाने में सक्षम बनाना, यह सुनिश्चित करना कि आश्रित एजेंट (जैसे, Retriever $\rightarrow$ Filter $\rightarrow$ Locator) एक सुसंगत, निर्भरता-जागरूक तरीके से निष्पादित हों।

प्रशिक्षण पाइपलाइन (Training Pipeline)

ढांचा दो-चरणीय प्रशिक्षण प्रक्रिया से गुजरता है:

इंट्रा-ट्रैजेक्टरी लर्निंग: मॉडल को प्रेफरेंस प्रीफिक्स तंत्र के माध्यम से एजेंट उपयोगिता को समझने के लिए अनुकूलित करना ( $L_{Intra}$ )।
इंटर-एजेंट डिपेंडेंसी लर्निंग: बहु-एजेंट सहयोग को बढ़ाने के लिए बुनियादी एजेंट भविष्यवाणी हानि के साथ DA-DPO हानि को जोड़ना ( $L_{total} = \alpha_1 L(T) + \alpha_2 L_{Inter}$ )।

3. प्रमुख योगदान (Key Contributions)

अनुकूली एजेंट अनुकूलन (Adaptive Agent Customization): प्रश्न की जटिलता के आधार पर एजेंट प्रभाव को गतिशील रूप से नियंत्रित करने का एक अभिनव दृष्टिकोण, जो स्थिर वर्कफ़्लो या समान एजेंट प्रासंगिकता से दूर जाता है।
डिपेंडेंसी-अवेयर ऑप्टिमाइजेशन (Dependency-Aware Optimization): DA-DPO का परिचय, जो क्रॉस-एजेंट टूल निर्भरताओं को कैप्चर करता है और सापेक्ष निष्पादन रैंकिंग सीखता है, जो पूर्व बहु-एजेंट प्रणालियों में "त्रुटि प्रसार" और "कठोर अनुक्रमण" की समस्याओं को संबोधित करता है।
दक्षता और प्रदर्शन (Efficiency and Performance): एक ऐसा ढांचा जो उच्च तर्क प्रदर्शन प्राप्त करता है जबकि अनावश्यक एजेंटों (जैसे, सत्यापनकर्ताओं) को गतिशील रूप से छोड़कर और निष्पादन पथ को अनुकूलित करके टोकन ओवरहेड को काफी कम कर देता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

AMATA का मूल्यांकन पांच स्थापित ज्ञान-गहन QA बेंचमार्क पर किया गया: HealthQA, ARC-Choice, PopQA, SQuAD 1.1, और ASQA।

प्रदर्शन: AMATA ने वैनिला QA विधियों, ज्ञान-संवर्धित ढांचों (जैसे, Self-RAG, RADIT), और LLM-आधारित प्रक्षेपवक्र प्रणालियों (जैसे, SMART, GiGPO, SPA-RL) सहित बेसलाइन दृष्टिकोणों को लगातार पछाड़ दिया। इसने सभी कार्यों में औसतन +4.02% प्रदर्शन सुधार हासिल किया।
दक्षता: इस विधि ने मजबूत बेसलाइनों की तुलना में टोकन खपत ओवरहेड को लगभग 70% कम कर दिया। यह एडैप्टिव प्रेफरेंस लर्निंग के कारण है जो अनावश्यक एजेंटों को बुलाने से बचता है।
एब्लेशन स्टडीज (Ablation Studies): इंटर-एजेंट डिपेंडेंसी लॉस ( $L_{Inter}$ ) को हटाने से सबसे तीव्र प्रदर्शन गिरावट आई, जो एजेंट जुड़ाव को मॉडल करने के महत्व की पुष्टि करती है। इसी तरह, विशिष्ट एजेंटों (जैसे, फिल्टर या सत्यापनकर्ता) को हटाने से प्रदर्शन गिर गया, जो पूर्ण एजेंट सेट और उनकी विशिष्ट भूमिकाओं की आवश्यकता को प्रमाणित करता है।
टोकन विश्लेषण: ग्लोबल-लोकल बेसलाइनों जैसे SMART की तुलना में, AMATA ने तुलनीय टोकन ओवरहेड बनाए रखा लेकिन सटीकता में इसे काफी पीछे छोड़ दिया। RL-आधारित विधियों (जैसे, GiGPO) ने कई रोलआउट सत्रों के कारण उच्च टोकन खपत (+70%) दिखाई।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि AM-ATA स्थिर या समान रूप से अनुकूलित एजेंट इंटरैक्शन से अनुकूली, निर्भरता-जागरूक प्रक्षेपवक्र संरेखण (adaptive, dependency-aware trajectory alignment) की ओर बढ़ते हुए बहु-एजेंट QA में एक महत्वपूर्ण कदम है।

गतिशील अनुकूलन: ढांचा सफलतापूर्वक प्रदर्शित करता है कि उच्च विश्वास वाले प्रश्नों को सत्यापन चरणों की आवश्यकता नहीं होती है, और जटिल ज्ञान प्रश्नों के लिए विशिष्ट ज्ञान एजेंटों की श्रृंखला की आवश्यकता होती है। AMATA इन गतिकी को स्वचालित रूप से सीखता है।
स्केलेबिलिटी और दक्षता: सटीकता से समझौता किए बिना टोकन खपत को ~70% कम करके, यह विधि जटिल बहु-एजेंट प्रणालियों को तैनात करने के व्यावहारिक लागत बाधाओं को संबोधित करती है।
सामान्यीकरण (Generalization): लेखक नोट करते हैं कि ढांचा अनुमान (inference) के समय एक ज़ीरो-शॉट, स्व-अनुकूली प्रणाली के रूप में कार्य करता है, जिसके लिए नए डोमेन के लिए पूर्व-मौजूदा प्रशिक्षण ट्रेसेस की आवश्यकता नहीं होती है जब तक कि "सहयोग नीति" (collaboration policy) सीख ली गई हो।

लेखक अपनी सीमाओं के संबंध में विनम्रता बनाए रखते हैं, यह स्वीकार करते हुए कि प्रयोग मुख्य रूप से 7B-पैरामीटर मॉडल पर किए गए थे और DPO के लिए विजेता/हारने वाले नमूनों की संख्या सीमित थी। वे सुझाव देते हैं कि बड़े मॉडलों (जैसे, 70B) तक स्केल करना और नमूना विविधता को बढ़ाना जटिल कार्यों पर प्रदर्शन को और बढ़ा सकता है।