तकनीकी सारांश: PAVE – जनरेटिव एजेंट समाजों में वैध उल्लंघन के लिए एक संज्ञानात्मक आर्किटेक्चर

1. समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) पर आधारित जनरेटिव एजेंटों ने सहकारी परिवेश में विश्वसनीय मानवीय व्यवहार का प्रदर्शन करने की क्षमता दिखाई है। हालाँकि, उन परिदृश्यों में तर्क करने की उनकी क्षमता जहाँ नियम तोड़ना आवश्यक हो—जैसे कि आग से निकासी, चिकित्सा आपात स्थिति, या संघर्षपूर्ण अधिकार वाले स्थितियाँ—अभी भी अपर्याप्त रूप से परिभाषित है। मौजूदा आर्किटेक्चर, जैसे कि पार्क एट अल. [2023] द्वारा स्थापित मौलिक 'जनरेटिव एजेंट्स', मुख्य रूप से मानदंडों के अनुपालन और सहयोग पर ध्यान केंद्रित करते हैं। वे अक्सर "सुविधाजनक" उल्लंघनों और आवश्यकता से प्रेरित "वैध" उल्लंघनों के बीच अंतर करने में विफल रहते हैं।

वर्तमान मॉडल तीन विशिष्ट विफलता मोडों के साथ संघर्ष करते हैं:

1. अति-अनुपालन (Over-compliance): एजेंट नियमों का पालन करते हैं भले ही वास्तविक आपात स्थिति में ऐसा करना आवश्यक हो (जैसे, आग लगने के दौरान रेड लाइट पर प्रतीक्षा करना)।
2. अति-उल्लंघन (Over-violation): एजेंट केवल सुविधा के लिए या साथियों के दबाव के कारण नियम तोड़ते हैं, बिना किसी उचित ट्रिगर के।
3. असीमित संक्रामकता (Unbounded Contagion): एजेंट दूसरों के उल्लंघनों की नकल करते हैं जब तक कि नियम तोड़ना एक नया मानदंड न बन जाए, जिससे ट्रिगर समाप्त होने के बाद भी वे आधारभूत अनुपालन में वापस नहीं लौट पाते।

मुख्य चुनौती नियमों की कमी नहीं है, बल्कि वह तंत्र है जिसके माध्यम से एजेंट उन नियमों को स्थिति की तात्कालिकता, अधिकार और सामाजिक संदर्भ के विरुद्ध तौलते हैं।

2. कार्यप्रणाली: PAVE आर्किटेक्चर

इन कमियों को दूर करने के लिए, लेखक PAVE (परसेप्शन, असेसमेंट, वर्डिक्ट, एम्यूलेशन) प्रस्तावित करते हैं, जो एक चार-मॉड्यूल वाला संज्ञानात्मक आर्किटेक्चर है जिसे सिद्धांतों के आधार पर नियम उल्लंघन की निर्णय लेने की प्रक्रिया को मॉडल करने के लिए डिज़ाइन किया गया है। PAVE, पार्क एट अल. [2023] के मेमोरी-रिफ्लेक्शन-प्लानिंग लूप का विस्तार करता है और इसमें नियम उल्लंघन के लिए समर्पित रीजनिंग मॉड्यूल पेश करता है।

2.1 चार मॉड्यूल

1. परसेप्शन (Perception - बोध):

   • कार्य: तर्क शुरू होने से पहले वातावरण से एक संरचित संदर्भ (context) निकालता है।
   • आउटपुट: एक संदर्भ ऑब्जेक्ट $C = \langle apres, dauth, B_{peer}, ucue, \zeta \rangle$।
   • प्रमुख विशेषताएँ: यह अधिकार की उपस्थिति ($apres$) को उसके से दूरी ($dauth$) से स्पष्ट रूप से अलग करता है। यह सिचुएशनल क्यूज़ ($ucue$) को प्रकार, दूरी और गंभीरता (1–100) के साथ टैग करता है। महत्वपूर्ण रूप से, यह वर्तमान दृश्य के स्नैपशॉट के रूप में साथियों के व्यवहार ($B_{peer}$) को कैप्चर करता है, जिससे एजेंट के पूर्वाग्रह के लिए दीर्घकालिक साथियों के प्रभाव का संचय नहीं हो पाता।

2. असेसमेंट (Assessment - मूल्यांकन):

   • कार्य: बोध संदर्भ को निर्णय चलाने वाले पांच अलग-अलग स्केलर कारकों (1–100) में परिवर्तित करता है।
   • कारक:
     • $r$ (जोखिम): पता चलने/दंड मिलने की कथित संभावना, जिसे अधिकार से दूरी के आधार पर भारित किया जाता है।
     • $p_{emp}$ (अनुभवजन्य अपेक्षा): आस-पास के एजेंटों का अनुपात जो वर्तमान में अनुपालन कर रहे हैं।
     • $p_{norm}$ (मानदण्डिक अपेक्षा): एजेंट का विश्वास कि दूसरों को क्या करना चाहिए।
     • $b$ (लाभ): उल्लंघन का कथित उपयोगिता (तात्कालिकता या आवश्यकता)।
     • $\ell$ (वैधता/Legitimacy): मुख्य योगदान। यह स्केलर यह निर्णय लेता है कि क्या स्थिति उल्लंघन की पात्र है, जो तीन सख्त मानदंडों पर आधारित है: आवश्यकता (क्या अनुपालन से वास्तविक हानि होगी?), आनुपातिकता (क्या उल्लंघन न्यूनतम है?), और विकल्पों का अभाव (क्या समान परिणाम के साथ कोई अनुपालन योग्य क्रिया उपलब्ध है?)।

3. वर्डिक्ट (Verdict - निर्णय):

   • कार्य: अनुपालन या उल्लंघन का निर्णय लेता है।
   • तंत्र: निर्णय एक हार्ड लेजिटिमेसी गेट (Hard Legitimacy Gate) द्वारा नियंत्रित होता है।
     • यदि $\ell < \tau$ (जहाँ $\tau$ एजेंट-विशिष्ट थ्रेशोल्ड है जो उनके व्यक्तित्व से प्राप्त होता है), तो निर्णय अनिवार्य रूप से comply (अनुपालन) होगा, चाहे लाभ कितना भी अधिक या जोखिम कितना भी कम क्यों न हो।
     • यदि $\ell \ge \tau$, तो एजेंट को उल्लंघन करने की अनुमति दी जाती है, जिसमें अंतिम निर्णय जोखिम, साथी व्यवहार और व्यक्तित्व से प्रभावित होता है।
   • आउटपुट: एक बाइनरी निर्णय ($y$), एक प्राकृतिक भाषा औचित्य ($j$), और एक कॉन्फिडेंस स्कोर ($\kappa$)।

4. एम्यूलेशन (Emulation - अनुकरण):

   • कार्य: निर्णय को लागू करता है और समाज में परिणाम प्रसारित करता है।
   • एक्शन स्कोपिंग: उल्लंघन करते समय, एजेंट केवल उस विशिष्ट नियम को तोड़ता है जो ट्रिगर द्वारा न्यायसंगत है (जैसे, आग से बचने के लिए रेड लाइट पार करना, लेकिन साइकिल चोरी करना नहीं)।
   • परिणाम प्रसार: कार्य करने वाले एजेंट की स्मृति को अपडेट करता है और आस-पास के एजेंटों के बोध संदर्भ को सीड (seed) करता है। यह साथियों के प्रभाव ($p_{emp}$) को अपडेट करने की अनुमति देता है, लेकिन अगला चक्र सुनिश्चित करता है कि लेजिटिमेसी गेट यह सुनिश्चित करे कि बढ़ा हुआ साथी दबाव तब तक उल्लंघन के लिए मजबूर न कर सके जब तक कि स्थिति स्वयं वैध न हो।

2.2 प्रयोगात्मक वातावरण: VOVILLE

लेखकों ने PAVE को VOVILLE में स्थापित किया, जो स्मॉलविले सैंडबॉक्स का एक फोर्क्ड टाइल-आधारित ट्रैफिक एनवायरनमेंट है।

• विशेषताएं: इसमें कॉन्फ़िगर करने योग्य ट्रैफिक सिग्नल, वन-वे सड़कें और स्क्रिप्टेड खतरे (आग) और अधिकारी (ट्रैफिक ऑफिसर) शामिल हैं।
• एजेंट: 10 PAVE एजेंट (8 कैफे में उपस्थित लोग, 2 राहगीर) और स्क्रिप्टेड NPCs (कन्फेडरेट्स, अधिकारी)।
• परिदृश्य:
  1. फायर एस्केप (बिना अधिकार के): यह परीक्षण करता है कि क्या एजेंट बचने के लिए नियम तोड़ते हैं और आग समाप्त होने के बाद अनुपालन में वापस लौटते हैं।
  2. फायर एस्केप (अधिकार के साथ): अधिकारियों के प्रति सम्मान का परीक्षण करता है और उल्लंघन का स्थानिक दमन (spatial suppression) देखता है।
  3. पीयर प्रेशर (जेववॉक/Jaywalking): यह परीक्षण करता है कि क्या एजेंट बिना आपात स्थिति के, केवल समय के दबाव में साथियों के उल्लंघन का अनुकरण करने का विरोध करते हैं।

3. प्रमुख योगदान

1. PAVE आर्किटेक्चर: एक नवीन संज्ञानात्मक ढांचा जो आपातकालीन-ट्रिगर उल्लंघन, साथी संक्रामकता और अधिकार दमन को संयुक्त रूप से मॉडल करता है, जो उल्लंघन को केवल एक आकस्मिक उभरते परिणाम के रूप में देखने से आगे बढ़ता है।
2. VOVILLE वातावरण: एक स्थानिक रूप से ग्राउंडेड सिमुलेशन वातावरण जो भौतिक रूप से अवलोकन योग्य अनुपालन और उल्लंघन घटनाओं को सक्षम बनाता है, जो विशुद्ध रूप से संवादात्मक सिमुलेशन से भिन्न है।
3. अनुभवजन्य लक्षण वर्णन: तीन परिदृश्यों, पांच स्थितियों और चार LLM बैकबोन (GPT-4o, Claude-3.5, Llama-3-70B, GPT-4o-mini) के माध्यम से एब्लेशन अध्ययनों के माध्यम से, लेखक उन विशिष्ट स्थितियों का लक्षण वर्णन करते हैं जिनमें एजेंट उल्लंघन करते हैं या नियम तोड़ने को दबाते हैं।

4. परिणाम

मूल्यांकन चार गुणों पर केंद्रित था: वैध उल्लंघन (P1), अधिकार के प्रति सम्मान (P2), अनुपालन रिकवरी (P3), और सीमित दायरा (P4)।

• वैध उल्लंघन (P1): PAVE एजेंट केवल तभी उल्लंघन करते हैं जब कोई ट्रिगर (जैसे आग) इसे न्यायसंगत बनाता है। "जेववॉक" परिदृश्य में, PAVE एजेंटों ने (वैलिडिटी चेक में फेल होने के कारण) साथियों के अनुकरण का विरोध किया (उल्लंघन दर 0.04) जबकि वैनिला एजेंटों की दर 0.58 थी।
• अधिकार के प्रति सम्मान (P2): एजेंट अधिकारी के निर्देशों का पालन करते हैं भले ही उनका आंतरिक वैधता स्कोर ($\ell$) उच्च हो। नियंत्रित चौराहों पर, अनुपालन 0.94 था। अधिकारी की निकटता के साथ उल्लंघन दर काफी कम हो गई (12 टाइल्स के भीतर 0.05 बनाम 12 टाइल्स के बाहर 0.65), जो मानवीय पुलिसिंग पैटर्न को दर्शाता है।
• अनुपालन रिकवरी (P3): एजेंट आग के दायरे से बाहर निकलने के लगभग 4 'टिक्स' के भीतर आधारभूत अनुपालन पर लौट आते हैं। अधिकार के प्रभाव लंबे समय तक नहीं टिकते; एक बार अधिकारी के जाने या आग समाप्त होने के बाद, एजेंट मानक व्यवहार पर वापस आ जाते हैं।
• सीमित दायरा (P4): उल्लंघन लक्षित नियम तक ही सीमित थे। असंबंधित नियम उल्लंघन (जैसे निजी इमारतों में प्रवेश करना) लगभग शून्य (0.02) रहे, जबकि वैनिला एजेंटों में उच्च दर (0.31) देखी गई।

एब्लेशन निष्कर्ष:

• लेजिटिमेसी गेट को हटाना: गेट के बिना, PAVE एजेंट सुविधा-संचालित उल्लंघनों के संबंध में "वैनिला" एजेंटों की तरह व्यवहार करते हैं। असंबंधित नियमों के लिए उल्लंघन दर 0.02 से बढ़कर 0.21 हो गई, और साथी-संचालित परिवर्तन 0.04 से बढ़कर 0.39 हो गया।
• वैनिला बेसलाइन: वैनिला एजेंट मुख्य रूप से एक "महत्व बाधा" (importance bottleneck) के कारण विफल हुए। अंतर्निहित महत्व स्कोरिंग तंत्र (पार्क एट अल.) ने भौतिक खतरे की तुलना में सामाजिक दुर्लभता को प्राथमिकता दी। परिणामस्वरूप, आग को अक्सर एक नियमित रेड लाइट के समान महत्व दिया गया, जिससे या तो अंडर-रिएक्शन (निकासी में विफलता) या अनस्केप्ड प्रतिक्रियाएं हुईं।

मानवीय मूल्यांकन:
मानव मूल्यांकनकर्ताओं ने PAVE एजेंटों को प्लेसिबिलिटी (विश्वसनीयता), विशेष रूप से संकेतों की प्रमुखता और वैधता निर्णय में, वैनिला एजेंटों (3.42/7) की तुलना में काफी उच्च (5.78/7) रेटिंग दी।

5. महत्व और दावे

यह पेपर दावा करता है कि PAVE जनरेटिव एजेंटों के निर्णय लेने वाले पाइपलाइन के लिए एक संरचनात्मक समाधान (structural fix) प्रदान करता है। इसका महत्व केवल परिणाम (एजेंटों का आग से बचना) में नहीं है, बल्कि इसके तंत्र में है:

• प्रेरणाओं का विभेदन: PAVE सफलतापूर्वक "सुविधा" को "वैधता" से अलग करता है, यह सुनिश्चित करता है कि उल्लंघन केवल तभी हो जब आवश्यकता, आनुपातिकता और विकल्पों का अभाव पूरा हो।
• तर्क की मापनीयता (Scalability of Reasoning): यह आर्किटेक्चर एजेंट-स्तरीय भिन्नता (प्राप्त थ्रेशोल्ड $\tau$ के माध्यम से) की अनुमति देता है, जबकि मनमाने ढंग से नियम तोड़ने के विरुद्ध एक सिद्धांत आधारित गेट बनाए रखता है।
• रिकवरी और संक्रामकता प्रतिरोध: सिस्टम यह प्रदर्शित करता है कि जब ट्रिगर कम हो जाता है तो सामाजिक ताना-बाना पुन: प्राप्त किया जा सकता है और एजेंट साथी-संचालित संक्रामकता का विरोध कर सकते हैं यदि अंतर्निहित स्थिति वैध नहीं है।

लेखक विनम्रतापूर्वक सीमाओं को नोट करते हैं: नियम सीखे जाने के बजाय हाथ से निर्दिष्ट किए गए हैं, और अध्ययन एकल-ट्रिगर परिदृश्यों पर केंद्रित है। हालांकि, वे तर्क देते हैं कि VOVILLE में देखे गए दमन-दूरी पैटर्न और क्रॉस-डे रिकवरी मानव क्षेत्र अध्ययनों (जैसे कोपर [1995]) को बिना किसी स्पष्ट लक्ष्य के पुनरुत्पादित करते हैं, जो यह सुझाव देता है कि आर्किटेक्चर सुरक्षा-संबंधित सेटिंग्स में नियम तोड़ने के मौलिक गतिशीलता को पकड़ता है।