तकनीकी सारांश: स्मार्टेर सबोटर्स, बेटर फिक्सर्स (Smarter Saboteurs, Better Fixers)

समस्या विवरण (Problem Statement)

जैसे-जैसे औद्योगिक संदर्भों में लार्ज लैंग्वेज मॉडल (LLM)-आधारित मल्टी-एजेंट सिस्टम (MAS) को तैनात किया जा रहा है, उनकी प्रतिकूल हमले (adversarial compromise) के विरुद्ध प्रतिरोधक क्षमता एक महत्वपूर्ण सुरक्षा चिंता बन गई है। जबकि पूर्व शोध (जैसे, Huang et al., 2025) ने स्थापित किया था कि सख्त रैखिक सहयोग टोपोलॉजी (जैसे, $A \to B \to C$) एक दूषित एजेंट के मामले में अत्यंत नाजुक होती है, मॉडल स्केलिंग और सिस्टम-स्तरीय लचीलेपन (resilience) के बीच का अंतर्संबंध अभी भी कम समझा गया है। विशेष रूप से, यह स्पष्ट नहीं है कि क्या अंतर्निहित मॉडलों के पैरामीटर काउंट को बढ़ाने से दुर्भावनापूर्ण एजेंटों के प्रति संवेदनशीलता बढ़ती है या सिस्टम की आत्म-सुधार (self-correct) करने की क्षमता बढ़ती है।

यह शोध पत्र दो प्राथमिक अनुसंधान प्रश्नों को संबोधित करता है:

1. RQ1: जैसे-जैसे एक रैखिक मल्टी-एजेंट वर्कफ़्लो के भीतर मॉडल का स्केल बढ़ता है, क्या सिस्टम एक दुर्भावनापूर्ण एजेंट के प्रति अधिक लचीला होता है या कम?
2. RQ2: क्या एक टर्मिनल सत्यापन और सुधार चरण (QA $\to$ Fixer) को एकीकृत करने से, रैखिक पाइपलाइनों में सक्षम प्रतिकूल एजेंटों के विरुद्ध लचीलापन बहाल किया जा सकता है, बिना रैखिक टोपोलॉजी को तोड़े?

कार्यप्रणाली (Methodology)

लेखक MetaGPT फ्रेमवर्क के एक सख्त रैखिक अनुकूलन का उपयोग करके एक समझौताकृत सॉफ्टवेयर डेवलपमेंट लाइफसाइकिल (SDLC) पाइपलाइन का अनुकरण करते हैं। वर्कफ़्लो में चार भूमिकाओं को क्रमिक रूप से निष्पादित किया जाता है: प्रोडक्ट मैनेजर $\to$ आर्किटेक्ट $\to$ प्रोजेक्ट मैनेजर $\to$ इंजीनियर। सुधार कॉन्फ़िगरेशन में एक पांचवीं भूमिका, QA इंजीनियर, जोड़ी गई है, जिसके बाद एक फिक्सर इंजीनियर आता है।

प्रयोगात्मक सेटअप (Experimental Setup)

• मॉडल: अध्ययन दो ओपन-वेट मॉडल परिवारों को प्रत्येक में पांच पैरामीटर आकार के साथ मूल्यांकन करता है: Qwen 3.5 (0.8B से 27B) और Gemma 3 (0.27B से 27B)।
• बेंचमार्क: पूर्ण HumanEval बेंचमार्क (164 पायथन कोडिंग समस्याएं)।
• एडवर्सरियल इंजेक्शन (Adversarial Injection): डायनेमिक रनटाइम रीराइटिंग के बजाय, लेखक एक स्थिर, हस्त-क्यूरेटेड "मिस्चीवस सॉफ्टवेयर इंजीनियर" (Mischievous Software Engineer) प्रोफाइल का उपयोग करते हैं। इस एजेंट को वैध सिंटैक्स और फंक्शन सिग्नेचर बनाए रखते हुए सूक्ष्म लॉजिक बग्स (जैसे, ऑफ-बाय-वन एरर, इनवर्टेड कंपैरिजन) डालने के लिए निर्देशित किया जाता है।
• कॉन्फ़िगरेशन:
  • नो-फिक्स (No-Fix): वह असुरक्षित रैखिक श्रृंखला जहाँ इंजीनियर का आउटपुट अंतिम परिणाम होता है।
  • QA+फिक्सर (QA+Fixer): एक टर्मिनल चरण जहाँ QA इंजीनियर कोड की समीक्षा करता है। यदि समस्याएँ पाई जाती हैं, तो एक फिक्सर इंजीनियर पैच जेनरेट करता है। टोपोलॉजी पूरी तरह से रैखिक बनी रहती है।
  • प्रॉम्प्टिंग: स्केलिंग ट्रेंड्स को छोटे-मॉडल की अस्थिरता से अलग करने के लिए दोनों "नेटिव" (MetaGPT-शैली) और "सिम्प्लीफाइड" (प्रीफिक्स-फोर्सिंग) प्रॉम्प्टिंग रणनीतियों का परीक्षण किया गया था।

मुख्य परिणाम (Key Results)

1. कंप्लायंस-करेक्शन सिमेट्री (Compliance–Correction Symmetry)

केंद्रीय निष्कर्ष एक कंप्लायंस-करेक्शन सिमेट्री है: जैसे-जैसे मॉडल स्केल होते हैं, वे दुर्भावनापूर्ण निर्देशों को निष्पादित करने में बेहतर और उन्हें पहचानने तथा मरम्मत करने में भी बेहतर होते जाते हैं।

• असंशोधित पाइपलाइन (No-Fix): सुधार चरण की अनुपस्थिति में, स्केलिंग महत्वपूर्ण रूप से लचीलेपन को कम करती है। बड़े मॉडल दुर्भावनापूर्ण "सबोटेज" निर्देशों को निष्ठापूर्वक निष्पादित करने में अधिक सक्षम होते हैं।

  • Qwen 3.5 (सिम्प्लीफाइड प्रॉम्प्टिंग) के लिए, प्रदर्शन में गिरावट ($\Delta = \text{Pass@1}_{\text{Control}} - \text{Pass@1}_{\text{Malicious}}$), 0.8B पर 0.00pp से बढ़कर 27B पर 53.7pp हो गई।
  • सांख्यिकीय विश्लेषण (McNemar's test) पुष्टि करता है कि $\ge$ 9B मॉडलों के लिए ये गिरावट महत्वपूर्ण हैं।

• संशोधित पाइपलाइन (QA+Fixer): एक टर्मिनल फिक्सर चरण का एकीकरण स्केलिंग-संचालित भेद्यता को निष्प्रभावी कर देता है।

  • QA+Fixer कॉन्फ़िगरेशन में, प्रदर्शन में गिरावट ($\Delta$) सभी स्केल्स पर नगण्य रहती है।
  • 27B पर Qwen 3.5 के लिए, दुर्भावनापूर्ण गिरावट केवल 0.61pp थी, जो शून्य से सांख्यिकीय रूप से अविभेदित है।
  • वही क्षमता जो एक बड़े मॉडल को सूक्ष्म बग डालने की अनुमति देती है, वही क्षमता एक डाउनस्ट्रीम एजेंट को एक ही पास में उसे पहचानने और मरम्मत करने की अनुमति देती है।

2. टोपोलॉजिकल रेजिलिएंस (Topological Resilience)

परिणाम इस धारणा को चुनौती देते हैं कि रैखिक टोपोलॉजी स्वाभाविक रूप से नाजुक होती है। पेपर का तर्क है कि पूर्व कार्य (Huang et al., 2025) में देखी गई नाजुकता रैखिक संरचना के कारण नहीं, बल्कि टर्मिनल करेक्शन स्टेज की कमी के कारण है। जब एक सुधार तंत्र मौजूद होता है, तो रैखिक वर्कफ़्लो बड़े पैमाने पर भी व्यवहार्य और लचीला हो सकता है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि यह टर्मिनल सुधार को शामिल करने और बाहर करने वाले रैखिक वर्कफ़्लो के साथ मॉडल स्केलिंग विश्लेषण को संयोजित करने वाला पहला अन्वेषण प्रदान करता है। इसके प्राथमिक योगदान हैं:

1. रैखिक भंगुरता का खंडन (Refuting Linear Brittleness): यह प्रदर्शित करता है कि रैखिक MAS वर्कफ़्लो स्वाभाविक रूप से नाजुक नहीं हैं; उनकी भेद्यता सुधार तंत्र की अनुपस्थिति पर निर्भर है।
2. स्केलिंग डायनेमिक्स: यह स्थापित करता है कि मॉडल स्केलिंग एक दोधारी तलवार के रूप में कार्य करती है: यह सबोटेज की क्षमता को बढ़ाता है, लेकिन यदि सुधार चरण मौजूद हो, तो यह रक्षा की क्षमता को भी समान रूप से बढ़ाता है।
3. व्यावहारिक व्यवहार्यता: निष्कर्ष बताते हैं कि पदानुक्रमित (hierarchical) या चक्रीय (cyclic) टोपोलॉजी की जटिलता से बचते हुए, एक हल्के, टर्मिनल "फिक्सर" एजेंट के साथ सुदृढ़ किए जाने पर बड़े पैमाने पर सुरक्षित रूप से रैखिक सहयोग संरचनाओं को तैनात किया जा सकता है।

सीमाएं (Limitations)

लेखक अपने निष्कर्षों की सीमाओं को स्पष्ट रूप से नोट करते हैं:

• समझौते का दायरा (Scope of Compromise): केवल इंजीनियर भूमिका ही समझौताकृत थी; अपस्ट्रीम या मल्टी-एजेंट समझौतों का परीक्षण नहीं किया गया था।
• स्थिर हमलावर (Static Adversary): दुर्भावनापूर्ण प्रोफाइल स्थिर था; अनुकूलनशील हमलावर (adaptive attackers) जो QA रिपोर्ट पर प्रतिक्रिया करते हैं, दायरे से बाहर थे।
• बेंचमार्क बाधाएं: HumanEval कार्य छोटे और एल्गोरिद्मिक हैं; रिपॉजिटरी-स्केल कोड (जैसे, SWE-bench) में सूक्ष्म सिमेंटिक बग का पता लगाना कठिन हो सकता है।
• मॉडल स्केल: प्रयोग $\le$ 27B पैरामीटर्स तक सीमित थे। फ्रंटियर मॉडल्स (>100B) का व्यवहार एक खुला प्रश्न बना हुआ है।