Toward Agentic Governance: What Shapes LLM-Agent Intervention in Public Forums?
यह शोध पत्र तर्क देता है कि सार्वजनिक मंचों में एलएलएम (LLM) एजेंटों के प्रभावी शासन के लिए चार अक्सर अदृश्य तैनाती विकल्पों—मॉडल संस्करण, वेट-रिलीज़ स्थिति, प्रदाता और सिस्टम प्रॉम्प्ट—का ऑडिट करना आवश्यक है, क्योंकि ये संरचनात्मक कारक, विशेष रूप से ओपन-बनाम-क्लोज्ड वेट का अंतर, मॉडल के नाम की तुलना में हस्तक्षेप व्यवहारों को मौलिक और अपूरणीय रूप से अधिक आकार देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक शहर के चौक (town square) में होने वाली बहस में एक जज के रूप में अध्यक्षता कर रहे हैं। आपके पास डिजिटल सहायकों (LLM एजेंट्स) की एक टीम है, जिनका काम यह तय करना है कि जब कोई फोरम में किसी पोस्ट को चुनौती दे, तो कैसे प्रतिक्रिया दी जाए। कभी-कभी वे बहस करते हैं, कभी-कभी वे बस "नोटेड" (noted) कह देते हैं, और कभी-कभी वे पूरी तरह से संलग्न होने से इनकार कर देते हैं।
यह पेपर एक सरल लेकिन परेशान करने वाला सवाल पूछता है: यदि आप एक ही सहायक से ठीक एक ही सवाल दो बार पूछते हैं, तो क्या वह आपको बिल्कुल वही जवाब देगा?
लेखकों ने पाया कि जवाब है नहीं। भले ही "जज" (AI मॉडल) का नाम एक ही हो, लेकिन इसका व्यवहार उन चार अदृश्य सेटिंग्स के आधार पर पूरी तरह से बदल सकता है जिन्हें चलाने वाला व्यक्ति अक्सर देख भी नहीं पाता।
यहाँ चार "अदृश्य नॉब्स" (invisible knobs) का विवरण दिया गया जो परिणाम को बदलते हैं, जिन्हें रोजमर्रा के उदाहरणों के माध्यम से समझाया गया है:
1. "साइलेंट अपडेट" (मॉडल वर्जन)
कल्पना कीजिए कि आप एक प्रसिद्ध फास्ट-फूड चेन में "क्लासिक बर्गर" ऑर्डर करते हैं। आप हर बार एक ही स्वाद की उम्मीद करते हैं। लेकिन, किचन मैनेजर आपकी अगली ऑर्डर के बीच में, बिना आपको बताए, गुप्त रूप से रेसिपी को 2024 के संस्करण से बदलकर 2025 का कर देता है।
- पेपर का निष्कर्ष: AI मॉडल लगातार अपडेट होते रहते हैं। एक दिन, सिस्टम "Claude Opus 4-6" चला रहा होगा, और अगले दिन, यह चुपचाप बदलकर "Claude Opus 4-7" हो जाएगा। लेखकों ने पाया कि केवल इस साइलेंट स्विच अकेले ही रिफ्यूज़ल रेट (कितनी बार AI "ना" कहता है) को उसी फोरम पोस्ट पर 25% तक बदल सकता है।
2. "सीक्रेट रेसिपी" बनाम "ओपन कुकबुक" (वेट स्टेटस)
AI मॉडलों को रेसिपी की तरह समझें।
- क्लोज्ड-वेट (मालिकाना/Proprietary): यह एक गुप्त रेसिपी की तरह है जो एक बड़ी कंपनी (जैसे कोका-कोला) के पास होती है। आप सोडा खरीद सकते हैं, लेकिन आप सामग्री या मिश्रण की प्रक्रिया नहीं देख सकते।
- ओपन-वेट: यह एक सार्वजनिक कुकबुक (जैसे एक सामुदायिक रेसिपी ब्लॉग) में प्रकाशित रेसिपी की तरह है। कोई भी इसे डाउनलोड कर सकता है, सामग्री देख सकता है, और इसे अपने स्वयं के किचन उपकरणों पर चला सकता है।
- पेपर का निष्कर्ष: लेखकों ने यहाँ एक बड़ा व्यवहारिक अंतर देखा।
- क्लोज-वेट मॉडल अधिक शर्मीले हो जाते हैं और तब अधिक बार जवाब देने से इनकार करते हैं जब चुनौती सार्वजनिक रूप से दृश्यमान होती है (जैसे भीड़ भरे चौक में चिल्लाना)।
- ओपन-वेट मॉडल इसके विपरीत करते हैं या तटस्थ रहते हैं; उन्हें इस बात से फर्क नहीं पड़ता कि चुनौती सार्वजनिक है या निजी।
- उपमा: यह ऐसा है जैसे "सीक्रेट रेसिपी" वाले रसोइये भीड़ द्वारा देखे जाने पर घबरा जाते हैं, जबकि "ओपन कुकबुक" वाले रसोइये दर्शकों की परवाह किए बिना बस निर्देशों का पालन करते हैं।
3. "रेस्टोरेंट का मालिक" (प्रोवाइडर)
भले ही आपके पास एक ही रेसिपी हो, लेकिन शेफ मायने रखता है। रेस्टोरेंट X में शेफ A द्वारा बनाया गया व्यंजन, रेस्टोरेंट Y में शेफ B द्वारा बनाई गई उसी डिश से अलग स्वाद का हो सकता है, भले ही वे समान सामग्रियों का उपयोग करें।
- पेपर का निष्कर्ष: AI प्रदान करने वाली कंपनी को बदलने (जैसे Anthermic से OpenAI पर स्विच करना) से व्यवहार में महत्वपूर्ण बदलाव आता है। एक परीक्षण में, प्रोवाइडर बदलने से रिफ्यूज़ल रेट 51% तक बदल गया।
4. "इंस्ट्रक्शन मैनुअल" (सिस्टम प्रॉम्प्ट)
AI काम शुरू करने से पहले, कोई उसे एक नोट लिखता है, जैसे "सहायक बनें," या "सब कुछ अस्वीकार करें," या "बस धन्यवाद कहें।"
- पेपर का निष्कर्ष: ये निर्देश शक्तिशाली हैं, लेकिन वे जादुई छड़ी नहीं हैं।
- कुछ मॉडलों के लिए, "सब कुछ अस्वीकार करें" (Refuse Everything) वाला नोट पूरी तरह से काम करता है (99.9% सफलता)।
- अन्य मॉडलों के लिए, जैसे कि Llama का एक विशिष्ट संस्करण, AI नोट को अनदेखा कर देता है और मददगार बनने की कोशिश करता रहता है, भले ही उसे रुकने के लिए कहा गया हो। यह एक ऐसे कुत्ते को "प्रवेश निषेध" का साइन बोर्ड देने जैसा है जो गेंद के पीछे भागने के लिए दृढ़ संकल्पित है।
बड़ा आश्चर्य: वास्तव में व्यवहार को क्या संचालित करता है?
पिछले अध्ययनों का मानना था कि AI का व्यवहार इस बात पर निर्भर करता है कि आप उसका उपयोग कैसे कर रहे हैं (जैसे, एक फैंसी ऐप के माध्यम से बनाम एक कच्चे कोड कनेक्शन के माध्यम से)।
- पेपर का सुधार: लेखकों ने पाया कि आप जिस चीज़ का उपयोग कर रहे हैं वह उतना महत्वपूर्ण नहीं है जितना कि आप उसे कैसे एक्सेस कर रहे हैं।
- "सीक्रेट रेसिपी" (क्लोज-वेट) मॉडल लगातार एक तरह से व्यवहार करते हैं (सार्वजनिक रूप में शर्मीले), और "ओवन कुकबुक" (ओपन-वेट) मॉडल लगातार दूसरे तरीके से व्यवहार करते हैं। "एक्सेस मेथड" केवल डिलीवरी ट्रक है; "रेसिपी का प्रकार" स्वयं भोजन है।
यह क्यों मायने रखता है?
पेपर का तर्क है कि यदि हम इन AI सिस्टमों को जवाबदेह (गवर्नेंस) बनाना चाहते हैं, तो हम केवल यह नहीं कह सकते हैं कि "हमने GPT-5 मॉडल का उपयोग किया।" यह एक "फोर्ड" का उपयोग करने के बिना यह बताने जैसा है कि उसका वर्ष, ट्रिम लेवल, डीलर या ड्राइवर के निर्देश क्या थे।
यह वास्तव में समझने के लिए कि एक सार्वजनिक मंच पर AI ने निर्णय क्यों लिया, हमें जानना होगा:
- मॉडल का सटीक संस्करण कौन सा चल रहा था?
- क्या यह एक सीक्रेट रेसिपी है या एक ओपन रेसिपी?
- इसे परोसने वाली कंपनी कौन सी है?
- उस क्षण उसे दिए गए विशिष्ट निर्देश क्या थे?
इन चारों को जाने बिना, हम यह विश्वास नहीं कर सकते कि AI का व्यवहार सुसंगत, पुनरुत्पादित (reproducible) या निष्पक्ष है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।