MAR:Multi-Agent Reflexion Improves Reasoning Abilities in LLMs
यह शोध पत्र MAR (मल्टी-एजेंट रिफ्लेक्शन) का प्रस्ताव करता है, जो विविध प्रतिबिंब (reflections) उत्पन्न करने और सिंगल-एजेंट सेल्फ-रिफ्लेक्शन में देखी जाने वाली थॉट डिजनरेशन (thought degeneration) को दूर करने के लिए मल्टी-पर्सोना डिबेटर का उपयोग करता है, जिससे HotPot QA और HumanEval जैसे कार्यों पर रीजनिंग प्रदर्शन में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बड़ी समस्या: AI का "इको चैंबर" (Echo Chamber)
कल्पना कीजिए कि आप एक बहुत कठिन पहेली सुलझाने की कोशिश कर रहे हैं। आप एक गलती करते हैं, लेकिन मदद के लिए किसी दोस्त से पूछने के बजाय, आपको अपनी ही गलती को देखने, खुद को एक नोट लिखने और फिर से प्रयास करने के लिए मजबूर किया जाता है।
मूल Reflexion सिस्टम इसी तरह काम करता है। यह एक ऐसे छात्र की तरह है जो एक कमरे में अकेले परीक्षा दे रहा है। यदि वह कोई प्रश्न गलत करता है, तो वह एक नोट लिखता है, "मैंने यह इसलिए गलत किया क्योंकि मैंने एक विवरण मिस कर दिया," और फिर वह दोबारा प्रयास करता है।
शोधकर्ताओं ने इस दृष्टिकोण में एक बड़ी खामी पाई: छात्र अपने ही सोचने के तरीके में बहुत अधिक फंसा हुआ है।
- यदि छात्र ने नियमों को समझने में गलती के कारण गलती की, तो उसका स्व-नोट (self-note) अक्सर उसी गलतफहमी को दोहराता है।
- वे एक "इको चैंबर" में फंस जाते हैं, जहाँ वे बार-बार वही गलती करते रहते हैं और उसे थोड़े अलग शब्दों में सही ठहराते रहते हैं।
- तकनीकी शब्दों में, इसे "degeneration of thought" कहा जाता है। AI खराब तर्क के एक लूप में फंस जाता है।
समाधान: "विशेषज्ञों का पैनल" (Panel of Experts)
इसे ठीक करने के लिए, लेखकों ने Multi-Agent Reflexion (MAR) बनाया।
एक अकेले छात्र के खुद से बात करने के बजाय, कल्पना करें कि अब AI एक विशेषज्ञों की टीम है जो समस्या को सुलझाने के लिए मेज के चारों ओर बैठी है। जब टीम कोई गलती करती है, तो वे केवल एक नोट नहीं लिखते; वे एक संरचित बहस (structured debate) करते हैं।
यहाँ यह नया सिस्टम चरण-दर-चरण कैसे काम करता है:
- The Actor (करने वाला): एक AI पहले समस्या को हल करने की कोशिश करता है।
- The Failure (विफलता): यदि उत्तर गलत है, तो सिस्टम केवल "Doer" को इसे ठीक करने के लिए नहीं कहता।
- The Debate (बहस - आलोचक): सिस्टम अलग-अलग "पर्सोना" (विशेषीकृत AI पात्रों) की एक टीम को बुलाता है। इन्हें आप इस तरह समझ सकते हैं:
- The Skeptic (शंकालु): कोई ऐसा व्यक्ति जो हर चीज़ पर संदेह करता है और छिपे हुए खतरों की तलाश करता है।
- The Logician (तर्कशास्त्री): कोई ऐसा व्यक्ति जो यह जाँचता है कि क्या चरण वास्तव में गणितीय रूप से सही हैं।
- The Creative (रचनात्मक): कोई ऐसा व्यक्ति जो जंगली और वैकल्पिक विचार सुझाता है।
- The Verifier (सत्यापनकर्ता): कोई ऐसा व्यक्ति जो जाँचता है कि क्या उत्तर सटीक नियमों से मेल खाता है।
- The Judge (न्यायाधीश): एक "Judge" AI इन सभी अलग-अलग विशेषज्ञों को बहस करते हुए सुनता है। यह केवल विजेता का चयन नहीं करता; यह उनके तर्कों को एक स्पष्ट, उच्च-गुणवत्ता वाले सबक में समाहित (synthesize) करता है।
- The Retry (पुनः प्रयास): "Doer" AI को यह नया, समृद्ध सबक मिलता है और वह फिर से प्रयास करता है। क्योंकि यह सबक एक विविध समूह से आया है, इसलिए इसकी संभावना बहुत अधिक है कि वह पुरानी गलती को दोहराने के बजाय वास्तविक गलती को पहचान ले।
परिणाम: क्या यह काम करता है?
शोधकर्ताओं ने दो बहुत अलग प्रकार की चुनौतियों पर इसका परीक्षण किया:
"डिटेक्टिव" टेस्ट (HotPotQA): इसमें ऐसे प्रश्नों के उत्तर देना शामिल है जिनके लिए कई अलग-अलग दस्तावेजों से सुराग जोड़ने की आवश्यकता होती है।
- परिणाम: सिंगल-AI सिस्टम (Reflexion) लगभग 44% उत्तर सही देता है। नया "पैनल ऑफ एक्सपर्ट्स" सिस्टम (MAR) 47% सही देता है।
- नोट: लेखक स्वीकार करते हैं कि यह सुधार उम्मीद से कम था, जिसका कारण आंशिक रूप रूप से ग्रेडिंग सिस्टम है जो बहुत सख्त है (जैसे एक बिंदु या फुल स्टॉप की कमी), जो कभी-कभी सही तर्क को भी दंडित कर देता है।
"कोडर" टेस्ट (HumanEval): इसमें कंप्यूटर कोड लिखना शामिल है जिसे छिपे हुए परीक्षणों को पास करना होता है।
- परिणाम: सिंगल-AI सिस्टम ने 76.4% कोड को सफलतापूर्वक काम कराया। नया "पैनल ऑफ एक्सपर्ट्स" सिस्टम 82.6% कोड को सफलतापूर्वक काम कराता है।
- यह यहाँ बेहतर क्यों रहा: कोडिंग त्रुटियाँ अक्सर लॉजिकल लूप या 'ऑफ-बाय-वन' गलतियाँ होती हैं। "Skeptic" और "Logician" पर्सोना उन विशिष्ट प्रकार की गलतियों को पकड़ने में बहुत अच्छे थे जिन्हें एक अकेला AI मिस कर देता था।
एक कमी: इसकी लागत अधिक है
पेपर इसकी कमी के बारे में ईमानदार है।
- बहस की कीमत: एक पूरी टीम द्वारा बहस करने में एक अकेले व्यक्ति के सोचने की तुलना में बहुत अधिक ऊर्जा और समय लगता है।
- लागत: नया सिस्टम मूल सिस्टम की तुलना में लगभग 3 गुना अधिक कंप्यूटिंग पावर (और API फीस में 3 गुना अधिक पैसा) का उपयोग करता है क्योंकि इसे बहस आयोजित करने के लिए कई AI मॉडल चलाने पड़ते हैं।
निष्कर्ष
यह पेपर तर्क देता है कि जबकि AI स्मार्ट हो रहा है, फिर भी इसे अपनी गलतियों से सीखने में संघर्ष करना पड़ता है क्योंकि यह अपनी ही आदतों में फंस जाता है। AI को अपने ही विभिन्न संस्करणों के साथ बहस करने के लिए मजबूर करके, यह उन बुरी आदतों को तोड़ता है, बेहतर समाधान खोजता है, और अधिक विश्वसनीय बनता है—हालांकि यह अधिक लागत पर होता है।
यह एक अकेले कलाकार द्वारा अकेले पेंटिंग को ठीक करने के प्रयास बनाम एक पूरी आर्ट क्रिटिक टीम द्वारा यह बताने के बीच का अंतर है कि वास्तव में क्या गलत है और इसे कैसे ठीक किया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।