🤖 AI

Power and Limitations of Aggregation in Compound AI Systems

यह शोधपत्र कंपाउंड एआई सिस्टम में कई समान मॉडलों से प्राप्त प्रतिक्रियाओं को एकत्रित करने की शक्ति और सीमाओं की जांच करता है, यह सिद्ध करते हुए कि ऐसा एकत्रीकरण केवल तीन विशिष्ट तंत्रों—व्यवहार्यता विस्तार (feasibility expansion), समर्थन विस्तार (support expansion), और बाध्यकारी सेट संकुचन (binding set contraction)—के माध्यम से ही उत्तिल्य योग्य (elicitable) आउटपुट के सेट का विस्तार करता है, और बड़े भाषा मॉडल कार्यों में इन निष्कर्षों के लिए अनुभवजन्य सत्यापन प्रदान करता है।

मूल लेखक: Nivasini Ananthakrishnan, Meena Jagadeesan

प्रकाशित 2026-07-09

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nivasini Ananthakrishnan, Meena Jagadeesan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट दोस्त है जो कहानियाँ लिख सकता है, गणित की समस्याएँ हल कर सकता है, या रिसर्च पेपर्स की सूची बना सकता है। आप उससे एक सवाल पूछते हैं, और वह एक उत्तर देता है। लेकिन क्या होगा अगर आप उसी एक ही सवाल के लिए उसी रोबोट की तीन कॉपियाँ (प्रतिलिपियाँ) मांगें, उन्हें थोड़े अलग निर्देश दें, और फिर उनके उत्तरों को आपस में मिला दें? क्या अंतिम मिश्रण (mash-up) किसी भी अकेले रोबोट की तुलना में अधिक स्मार्ट होगा?

यह वह बड़ा सवाल है जिसे शोधकर्ताओं निवासिनी अनंतकृष्णन और मीना जगदीशन ने अपने नए शोध पत्र में उठाया है। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने एक गणितीय "प्रिंसिपल-एजेंट" फ्रेमवर्क (इसे एक सख्त नियम पुस्तिका के रूप में सोचें कि कैसे एक बॉस श्रमिकों को कार्य देता है) बनाया ताकि यह पता लगाया जा सके कि वास्तव में कब और क्यों संयोजन (combining) काम करता है, और कब यह केवल समय की बर्बादी है।

एकत्रीकरण (Aggregation) के तीन जादुई करतब

लेखकों ने पाया कि केवल एक ही रोबोट से तीन बार पूछने से वह अपने आप स्मार्ट नहीं हो जाता। वास्तव में, उन्होंने सिद्ध किया कि रोबोटों के एक समूह के लिए ऐसा उत्तर देना जो कोई भी अकेला रोबोट कभी नहीं दे सकता था, के लिए समूह को तीन विशिष्ट "जादुई करतब" करने चाहिए। यदि समूह इन तीन में से कम से कम एक करतब नहीं करता है, तो एकत्रीकरण बेकार है, चाहे आपके निर्देश (प्रॉम्प्ट्स) कितने भी चतुर क्यों न हों।

यहाँ वे तीन करतब दिए गए हैं, जिन्हें एक पेपर रेफरेंस जनरेटर की कहानी के माध्यम से समझाया गया है:

1. "असंभव मिश्रण" का करतब (Feasibility Expansion - व्यवहार्यता विस्तार)
कल्पना कीजिए कि एक रोबोट में एक गड़बड़ी (glitch) है: वह "ब्लॉकचेन" के बारे में बात किए बिना गलती से "क्रिप्टोग्राफी" के बारे में बात नहीं कर सकता। यह वैसा ही है जैसे कोई रोबोट "सेब" कहे बिना "पाई" नहीं कह सकता।

एकल रोबोट: यदि आप उससे ब्लॉकचेन के बारे में सूची मांगते हैं, तो उसे क्रिप्टोग्राफी को शामिल करना ही होगा। वह चाहकर भी नहीं रोक सकता।
समूह: आप रोबोट A से "ब्लॉकचेन लेकिन डिस्ट्रिब्यूटेड सिस्टम के बिना" की सूची मांगते हैं, और रोबोट B से "क्रिप्टोग्राफी लेकिन ब्लॉकचेन के बिना" की सूची मांगते हैं। रोबोट A आपको ब्लॉकचेन से भरपूर सूची देता है; रोबोट B आपको क्रिप्टोग्राफी से भरपूर सूची देता है। जब आप उनकी सूचियों को मिलाते हैं, तो आप एक आदर्श सूची प्राप्त कर सकते हैं जिसमें केवल ब्लॉकचेन है और कोई क्रिप्टोग्राफी नहीं है।
जादू: समूह ने एक ऐसा आउटपुट बनाया जो असंभव था जिसे कोई भी एकल रोबोट अकेले पैदा कर सकता था क्योंकि उनके आंतरिक "ग्लिच" (बाधाएं) थे। शोध पत्र इसे Feasibility Expansion कहता है।

2. "बहुत सारे शौक" का करतब (Support Expansion - समर्थन विस्तार)
कल्पना कीजिए कि आप चाहते हैं कि एक रोबलेट एक ऐसी कहानी लिखे जो "स्पेस" और "मेडिसिन" दोनों के बारे में समान रूप से हो।

एकल रोबोट: रोबोट मल्टीटास्किंग में खराब है। यदि आप उसे स्पेस पर ध्यान केंद्रित करने के लिए कहते हैं, तो वह मेडिसिन को अनदेखा कर देता है। यदि आप उसे मेडिसिन पर ध्यान केंद्रित करने के लिए कहते हैं, तो वह स्पेस को अनदेखा कर देता है। वह एक साथ दोनों लक्ष्यों को पूरी तरह से प्राप्त नहीं कर सकता।
समूह: आप रोबोट A को केवल स्पेस पर ध्यान केंद्रित करने के लिए कहते हैं, और रोबोट B को केवल मेडिसिन पर ध्यान केंद्रित करने के लिए कहते हैं। रोबोट A एक बेहतरीन स्पेस कहानी देता है; रोबोट B एक बेहतरीन मेडिसिन कहानी देता है। जब आप उन्हें मिलाते हैं, तो आपको एक ऐसी कहानी मिलती है जो दोनों के बीच पूरी तरह से संतुलित है।
जादू: समूह ने एक ऐसा आउटपुट बनाया जो किसी भी अकेले रोबोट की तुलना में विषयों की एक विस्तृत श्रृंखला (एक समृद्ध "सपोर्ट") को कवर करता है। शोध पत्र इसे Support Expansion कहता है।

3. "ढीली बाधा" का करतब (Binding Set Contraction - बाइंडिंग सेट संकुचन)
कल्पना कीजिए कि एक रोबोट को एक नियम का पालन करने के लिए मजबूर किया जाता है: "यदि आप 'डीप लर्निंग' का उल्लेख करते हैं, तो आपको 'न्यूरल नेटवर्क' का भी उल्लेख करना ही होगा।"

एकल रोबोट: यदि आप उससे डीप लर्निंग के बारे में सूची मांगते हैं, तो रोबोट उस नियम से "बंधा" (bound) हुआ है। वह न्यूरल नेटवर्क के बिना डीप लर्निंग नहीं दे सकता।
समूह: आप रोबोट A से 90% डीप लर्निंग और 10% न्यूरल नेटवर्क वाली सूची मांगते हैं। आप रोबोट B से 90% न्यूरल नेटवर्क और 10% डीप लर्निंग वाली सूची मांगते हैं। जब आप उन्हें मिलाते हैं, तो "अनिवार्य रूप से शामिल करें" वाला नियम इस तरह रद्द हो सकता है जिससे आप पूरी तरह से डीप लर्निंग वाली सूची प्राप्त कर सकते हैं, या कम से कम इसमें न्यूरल नेटवर्क का बहुत कम अतिरिक्त हिस्सा होगा जो एकल रोबोट द्वारा उत्पन्न किया जा सकता था।
जादू: समूह ने उन "कठोर" बाधाओं से बाहर निकलने का रास्ता खोज लिया जो एकल रोबोटों को रोक रही थीं। शोध पत्र इसे Binding Set Contraction कहता है।

बड़ी "ना" (एकत्रीकरण क्या नहीं कर सकता)

यहाँ सबसे महत्वपूर्ण हिस्सा है: यह लेख स्पष्ट रूप से इस विचार को खारिज करता है कि केवल अधिक रोबोटों या अधिक जटिल निर्देशों से बेहतर परिणाम की गारंटी मिलती है।

लेखकों ने गणितीय रूप से सिद्ध किया कि यदि आपका एकत्रीकरण तरीका (कैसे आप उत्तरों को मिलाते हैं) ऊपर दिए गए तीन में से कम से कम एक ट्रिक का प्रदर्शन नहीं करता है, तो यह शून्य शक्ति (zero power) प्रदान करता है। इससे कोई फर्क नहीं पड़ता कि आप प्रॉम्प्ट लिखने में कितने प्रतिभाशाली हैं या रोबोट कितना उन्नत है। यदि मिश्रण प्रक्रिया "व्यवहार्य" क्षेत्र का विस्तार नहीं करती है, "सपोर्ट" (विषयों) का विस्तार नहीं करती है, या "बाइंडिंग" बाधाओं को कम नहीं करती है, तो समूह भी एक एकल रोबोट जितना ही सीमित है।

वास्तव में, उन्होंने दिखाया कि यदि आप उत्तरों को मिलाने का ऐसा प्रयास करते हैं जो इन ट्रिक्स का उपयोग नहीं करता है, तो आप फंस जाते हैं। आप एक ऐसा उत्तर प्राप्त नहीं कर सकते जो एकल रोबोट द्वारा दिया नहीं जा सकता था, चाहे आप कितनी भी कोशिश क्यों न करें।

वे कितने निश्चित हैं?

लेखकों ने केवल इन्हें मनगढ़ंत नहीं बनाया; उन्होंने इन्हें सिद्ध किया।

सिद्धांत (Theory): उन्होंने कठोर गणित का उपयोग करके यह सिद्ध किया कि ये तीन तंत्र आवश्यक (necessary) हैं। इसका अर्थ है कि यदि आप देखते हैं कि एजेंटों का एक समूह कुछ ऐसा अद्भुत कर रहा है जो एक एकल एजेंट नहीं कर सकता था, तो यह अनिवार्य रूप से इसलिए है क्योंकि वे इनमें से कोई एक चीज़ कर रहे हैं। उन्होंने यह भी सिद्ध किया कि इन नियमों का एक "मजबूत" संस्करण पर्याप्त (sufficient) है, जिसका अर्थ है कि यदि आप दिखा सकते हैं कि ये नियम काम कर रहे हैं, तो आपको बेहतर परिणाम मिलने की गारंटी है।
सिमुलेशन (Simulation): यह सुनिश्चित करने के लिए कि उनका गणित केवल एक सुंदर सिद्धांत नहीं था, उन्होंने वास्तविक लार्ज लैंग्वेज मॉडल्स (विशेष रूप से GPT-4o-mini) का उपयोग करके एक सिमुलेशन (कंप्यूटर प्रयोग) चलाया।
- उन्होंने एक "टॉय" टास्क सेट किया जहाँ AI को रिसर्च पेपर के शीर्षकों की सूची बनानी थी।
- उन्होंने तीनों ट्रिक्स का परीक्षण किया। Support Expansion के लिए, उन्होंने पाया कि एक एकल मॉडल "कॉम्प्लेक्सिटी थ्योरी" और "मैक्रोइकॉनॉमिक्स" को पूरी तरह से संतुलित नहीं कर सका, लेकिन समूह कर सका।
- Feasibility Expansion के लिए, उन्होंने दिखाया कि समूह "ब्लॉकचेन" के बारे में एक सूची बना सकता है जो "डिस्ट्रिब्यूटेड सिस्टम" से बचती है, जिसे एक एकल मॉडल करने में विफल रहा।
- Binding Set Contraction के लिए, उन्होंने दिखाया कि समूह एक एकल मॉडल की तुलना में "डीप लर्निंग" को बेहतर तरीके से अलग कर सकता है।

इन सिमुलेशन में, जो समूह ने उत्पादित किया और जो एक एकल मॉडल कर सकता था, उनके बीच की दूरी स्पष्ट थी। उदाहरण के लिए, Support Expansion टेस्ट में, अंतर ( $\ell_1$ दूरी द्वारा मापा गया) 0.63 और 1.02 के बीच था। Feasibility Expansion टेस्ट में, अंतर 0.07 और 0.39 के बीच था। ये संख्याएँ शून्य नहीं हैं; वे सिद्ध करती हैं कि समूह ने वह किया जो एकल रोबोट नहीं कर सका।

जिज्ञासु मन के लिए निष्कर्ष

तो, क्या पाँच रोबोटों को मिलकर काम करने के लिए कहना हमेशा एक सुपर-रोबोट बनाता है? नहीं। शोध पत्र सुझाव देता है कि यह तभी काम करता है जब आप उनके उत्तरों को जोड़ने के तरीके के बारे में चतुर हों। आपको संयोजन का उपयोग उस नियम को तोड़ने के लिए करना होगा जिसमें एकल रोबोट फंसा हुआ था, या एक रोबोट की तुलना में अधिक क्षेत्र को कवर करने के लिए करना होगा।

यदि आप बस उनके उत्तरों को बेतरतीब ढंग से मिला देते हैं, या यदि आप उन्हें बिल्कुल एक ही चीज़ करने के लिए कहते हैं, तो आप कुछ भी नया प्राप्त नहीं कर रहे हैं। लेकिन यदि आप रोबोटों की कमजोरियों (जैसे मल्टीटास्किंग में अक्षमता या उनके अनिवार्य साइड-इफेक्ट्स) का लाभ उठाने के लिए सही "मिक्सिंग" रणनीति का उपयोग करते हैं, तो आप पहले से असंभव रहे उत्तरों की एक नई दुनिया खोल सकते हैं।

लेखक निष्कर्ष निकालते हैं कि यह हमें "कंपाउंड AI सिस्टम" बनाने के लिए एक रोडमैप देता है। केवल इस उम्मीद में रहने के बजाय कि अधिक मॉडल बेहतर परिणाम देंगे, अब हम जानते हैं कि वास्तव में सिस्टम को स्मार्ट बनाने के लिए हमें किस तरह के "मिक्सिंग" की आवश्यकता है। यह जादू नहीं है; यह गणित है।

तकनीकी सारांश: कंपाउंड AI सिस्टम में एकत्रीकरण (Aggregation) की शक्ति और सीमाएँ

समस्या विवरण

कंपाउंड AI सिस्टम, जो केवल एक एकल मॉडल के बजाय कई AI घटकों का उपयोग करते हैं, जटिल कार्यों को हल करने के लिए एक शक्तिशाली प्रतिमान (paradigm) के रूप में उभरे हैं। एक सामान्य रणनीति में एक ही लार्ज लैंग्वेज मॉडल (LLM) की कई प्रतियों को विभिन्न प्रॉम्प्ट या टूल्स के साथ क्वेरी करना और उनकी प्रतिक्रियाओं को एकत्रित करना शामिल है। जबकि अनुभवजन्य सफलता (empirical success) यह सुझाव देती है कि एकत्रीकरण प्रदर्शन में सुधार करता है, वे सैद्धांतिक स्थितियाँ स्पष्ट नहीं हैं जिनके तहत समान मॉडलों (homogeneous models) को एकत्रित करना एक एकल मॉडल की तुलना में सख्ती से बड़ा आउटपुट सेट अनलॉक करता है।

यह शोध पत्र इस एकत्रीकरण की शक्ति और सीमाओं की जांच करता है। विशेष रूप से, यह पूछता है: एकत्रीकरण कब एक ही मॉडल के कई आउटपुट को एकत्रित करने की अनुमति देता है जिससे एक सिस्टम डिज़ाइनर ऐसे आउटपुट प्राप्त कर सके जो एक एकल मॉडल से प्राप्त करना असंभव है, प्रॉम्प्ट इंजीनियरिंग (रिवॉर्ड स्पेसिफिकेशन) और मॉडल क्षमताओं पर प्रतिबंधों को देखते हुए?

कार्यप्रणाली

लेखक इस समस्या को एक शैलीबद्ध प्रिंसिपल-एजेंट फ्रेमवर्क का उपयोग करके औपचारिक रूप देते हैं, जो क्लाइनबर्ग और राघवन [2020] के कार्य का विस्तार है।

सैद्धांतिक ढांचा

एजेंट और आउटपुट: सिस्टम में $K$ एजेंट (जो समान LLM प्रतियां दर्शाते हैं) और एक एकल प्रिंसिपल (सिस्टम डिज़ाइनर) होता है। आउटपुट को $M$ -आयामी गैर-ऋणात्मक वेक्टर $x \in \mathbb{R}^M_{\ge 0}$ के रूप में दर्शाया जाता है।
मॉडल क्षमताएं (कोनिक बाधाएं): मॉडल की सीमाओं को आउटपुट स्पेस पर कोनिक बाधाओं (conic constraints) $C$ के रूप में मॉडल किया गया है। व्यवहार्य सेट (feasible set) को $B_{feasible}(C) = \{x \in \mathbb{R}^M_{\ge 0} \mid Cx \le 0\}$ के रूप में परिभाषित किया गया है। यह उन परिदृश्यों को कैप्चर करता है जहाँ एक मॉडल कुछ वांछनीय आउटपुट उत्पन्न नहीं कर सकता है बिना अवांछनीय दुष्प्रभावों (जैसे मतिभ्रम या सुरक्षा उल्लंघन) के।
प्रॉम्प्ट इंजीनियरिंग सीमाएं (कोर्स फीचर्स): सिस्टम डिज़ाइनर $M$ -आयामी आउटपुट स्पेस पर सीधे रिवॉर्ड निर्दिष्ट नहीं कर सकता है। इसके बजाय, रिवॉर्ड एक कोसर (coarser) $N$ -आयामी फीचर स्पेस पर कार्य करते हैं जो एक फीचर वेट मैट्रिक्स $\alpha$ द्वारा परिभाषित है। फीचर मैपिंग $F(x)$ आउटपुट आयामों को एकत्रित करती है, जो इस सीमा को पकड़ती है कि प्रॉम्प्ट्स अपूर्ण (underspecified) हो सकते हैं या मॉडल सूक्ष्म अंतरों की गलत व्याख्या कर सकते हैं।
एजेंट अनुकूलन: प्रत्येक एजेंट $k$ अपने बजट $E^{(k)}$ और कोनिक बाधाओं $C$ के अधीन एक मोनोटोन रिवॉर्ड फंक्शन $R^{(k)}$ को अधिकतम करता है।
एलिसिटेबिलिटी-एक्सपेंशन (Elicitability-Expansion): एक एकत्रीकरण ऑपरेशन $x^{(1)}, \dots, x^{(K)} \to x^{(A)}$ को एलिसिटेबिलिटी-एक्सपैंडिंग कहा जाता है यदि घटक आउटपुट $x^{(k)}$ किसी भी रिवॉर्ड/बजट जोड़ी द्वारा व्यक्तिगत रूप से एलिसिटेबल (elicitable) हैं, लेकिन एकत्रित आउटपुट $x^{(A)}$ किसी एकल रिवॉर्ड/बजट जोड़ी द्वारा एलिसिटेबल नहीं है।

एकत्रीकरण नियम

शोध पत्र सामान्य एकत्रीकरण नियमों का विश्लेषण करता है लेकिन दो प्राकृतिक प्रकारों पर ध्यान केंद्रित करता है:

इंटरसेक्शन एकत्रीकरण (Intersection Aggregation): कोऑर्डिनेट-वाइज मिनिमम ( $x^{(1)} \wedge \dots \wedge x^{(K)}$ ), जो डिबेट प्रोटोकॉल या कंसेंसस फ़िल्टरिंग के समान है।
एडिशन एकत्रीकरण (Addition Aggregation): वेटेड सम ( $\sum w_k x^{(k)}$ ), जो विशिष्ट उप-कार्यों के संश्लेषण के समान है।

मुख्य योगदान

1. तीन प्राकृतिक तंत्रों की पहचान

लेखक तीन तंत्रों की पहचान करते हैं जिनके माध्यम से एकत्रीकरण एलिसिटेबल आउटपुट के सेट का विस्तार कर सकता है:

व्यवहार्यता विस्तार (Feasibility Expansion): एकत्रीकरण एक ऐसा आउटपुट $x^{(A)}$ उत्पन्न करता है जो किसी भी व्यक्तिगत एजेंट के व्यवहार्य सेट से बाहर ( $Cx^{(A)} \not\le 0$ ) होता है, प्रभावी रूप से मॉडल क्षमता बाधाओं को दरकिनार करता है।
सपोर्ट विस्तार (Support Expansion): एकत्रीकरण छोटे सपोर्ट (कम गैर-शून्य आयामों) वाले आउटपुट को समृद्ध सपोर्ट वाले आउटपुट में जोड़ता है, जो रिवॉर्ड स्पेसिफिकेशन की सीमाओं को दूर करता है जहाँ विशिष्ट फीचर संयोजनों को सीधे एलिसिट करना कठिन होता है।
बाइंडिंग सेट संकुचन (Binding Set Contraction): एकत्रीकरण उन आउटपुट को जोड़ता है जहाँ बाधाएं बाइंडिंग (सक्रिय) हैं, एक ऐसे आउटपुट में जहाँ वे बाधाएं अब बाइंडिंग नहीं हैं (इंटीरियर), जिससे नए दिशाओं तक पहुँचने के लिए व्यवहार्य सेट की ज्यामिति का लाभ मिलता है।

2. आवश्यक और पर्याप्त शर्तें

शोध पत्र एक कठोर लक्षण वर्णन प्रदान करता है कि एकत्रीकरण कब शक्तिशाली होता है:

आवश्यकता (Necessity): थ्योरम 3.7 सिद्ध करता है कि एकत्रीकरण के एलिसिटेबिलिटी-एक्सपैंडिंग होने के लिए, इसे कम से कम तीन तंत्रों में से एक (व्यवहार्यता विस्तार, या प्रत्येक एजेंट के लिए सपोर्ट/बाइंडिंग-सेट विस्तार) को लागू करना अनिवार्य है। यदि इनमें से कोई भी लागू नहीं होता है, तो एकत्रीकरण कोई शक्ति प्रदान नहीं करता है, चाहे प्रॉम्प्ट इंजीनियरिंग की सीमाएं कुछ भी हों।
बुनियादी तंत्रों की अपर्याप्तता: लेखक यह प्रदर्शित करते हैं कि इन तंत्रों को लागू करना केवल एलिसिटेबिलिटी विस्तार की गारंटी देने के लिए पर्याप्त नहीं है।
सुदृढ़ लक्षण वर्णन (Strengthened Characterization): थ्योरम 4.3 और 4.4 एलिसिटेबिलिटी विस्तार के लिए आवश्यक और पर्याप्त शर्तें प्रदान करते हैं। ये शर्तें एक "सुदृढ़" संस्करण की मांग करती हैं, जिसमें विशेष रूप से व्यवहार्य, बजट-घटाने वाली दिशाओं पर आधारित एक "पावर-कैरेक्टराइजिंग कंडीशन" शामिल है। यह स्थिति सुनिश्चित करती है कि एकत्रित आउटपुट व्यक्तिगत आउटपुट से इस तरह मजबूती से भिन्न है कि कोई भी एकल रिवॉर्ड फंक्शन इसे एलिसिट नहीं कर सकता।

3. अनुभवजन्य चित्रण (Empirical Illustration)

लेखक GPT-4o-mini (और अन्य मॉडलों) का उपयोग करके एक खिलौना रेफरेंस-जेनरेशन टास्क में अपने सैद्धांतिक निष्कर्षों को अनुभवजन्य रूप से मान्य करते हैं।

कार्य: विशिष्ट विषय संतुलन को दर्शाने वाली पेपर संदर्भों की सूचियाँ उत्पन्न करना।
सेटअप: सिस्टम डिज़ाइनर उच्च-स्तरीय विषयों (कोर्स फीचर्स) के साथ मॉडलों को प्रॉम्प्ट करता है और परिणामी सूचियों को यूनियन (एडिशन) या इंटरसेक्शन के माध्यम से एकत्रित करता है।
परिणाम: प्रयोगों ने सफलतापूर्वक ऐसे एकत्रीकरण ऑपरेशन्स का निर्माण किया जो तीनों तंत्रों में से प्रत्येक को लागू करते हैं। प्रत्येक मामले में, एकत्रित आउटपुट लक्ष्य के काफी करीब था, जो कि एकल मॉडल द्वारा एलिसिट किए जाable निकटतम आउटपुट की तुलना में, यह पुष्टि करता है कि एकत्रीकरण वास्तव में प्रॉम्प्ट इंजीनियरिंग और मॉडल क्षमता दोनों सीमाओं को पार कर सकता है।

परिणाम और महत्व

शोध पत्र निष्कर्ष निकालता है कि एकत्रीकरण पर निर्भर कंपाउंड AI सिस्टम की शक्ति स्वचालित नहीं है; यह मौलिक रूप से आउटपुट स्पेस की ज्यामिति और रिवॉर्ड स्पेसिफिकेशन की सीमाओं द्वारा बाधित है।

सैद्धांतिक अंतर्दृष्टि: यह कार्य पूर्णतः लक्षण वर्णन करता है कि एकत्रीकरण कब एलिसिटेबल आउटपुट को बढ़ाता है। यह स्थापित करता है कि एकत्रीकरण तभी फायदेमंद है जब वह उन विशिष्ट ज्यामितीय गुणों (व्यवहार्यता, सपोर्ट, या बाइंडिंग सेट) का लाभ उठाता है जिन्हें एकल-एजेंट प्रॉम्प्टिंग एक्सेस नहीं कर सकती।
व्यावहारिक निहितार्थ: सिस्टम डिज़ाइनर इन तंत्रों का उपयोग यह निर्धारित करने के लिए कर सकते हैं कि क्या एक कंपाउंड सिस्टम एकल मॉडल से बेहतर प्रदर्शन करेगा। उदाहरण के लिए, यदि मॉडलों में कोई क्षमता सीमाएँ नहीं हैं (कोई कोनिक बाधाएं नहीं), तो इंटरसेक्शन एकत्रीकरण कोई शक्ति प्रदान नहीं कर सकता है, जबकि एडिशन एकत्रीकरण सपोर्ट विस्तार के माध्यम से लाभ प्रदान कर सकता है।
मजबूती (Robustness): अनुभवजन्य परिणाम बताते हैं कि ये सैद्धांतिक तंत्र गैर-शून्य तापमान वाले स्टोकेस्टिक LLMs तक जाने पर भी बने रहते हैं।

यह शोध पत्र खुद को समान मॉडलों को एकत्रित करने की मौलिक सीमाओं और क्षमताओं को समझने की दिशा में एक कदम के रूप में प्रस्तुत करता है, जो एक ऐसा वैचारिक ढांचा प्रदान करता है जो प्रभावी ढंग से प्रॉम्प्ट इंजीनियरिंग और मॉडल क्षमताओं की दोहरी सीमाओं को पार करने वाले कंपाउंड AI सिस्टम को डिजाइन करने में मदद करता है।