When Roles Fail: Epistemic Constraints on Advocate Role Fidelity in LLM-Based Political Statement Analysis
यह शोध पत्र राजनीतिक विमर्श विश्लेषण के लिए मल्टी-एजेंट एलएलएम (LLM) पाइपलाइनों में 'रोल फिडेलिटी' (भूमिका निष्ठा) का पहला व्यवस्थित अनुभवजन्य परीक्षण प्रस्तुत करता है, जो यह प्रकट करता है कि मॉडल अक्सर 'एपिस्टेमिक रोल ओवरराइड' (ज्ञान संबंधी भूमिका अधिभावीकरण) जैसी प्रणालियों के कारण निर्धारित प्रतिकूल भूमिकाओं को बनाए रखने में विफल रहते हैं, जिसमें विशिष्ट मॉडल, भाषा और तथ्य-जांच उपकरणों के उपयोग के आधार पर विफलता के तरीकों और निष्ठा में महत्वपूर्ण भिन्नताएं देखी गई हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विवादास्पद नए कानून पर चर्चा करने के लिए एक टाउन हॉल मीटिंग आयोजित कर रहे हैं। एक निष्पक्ष तस्वीर प्राप्त करने के लिए, आप तीन अलग-अलग विशेषज्ञों को अपनी राय देने के लिए नियुक्त करते हैं:
- द क्रिटिक (आलोचक): वह व्यक्ति जो कमियां ढूंढता है और तर्क को ध्वस्त करने की कोशिश करता है।
- द न्यूट्रल (तटस्थ): वह व्यक्ति जो बिना कोई पक्ष लिए केवल तथ्यों को सूचीबद्ध करता है।
- द एडवोकेट (समर्थक): वह व्यक्ति जो तर्क के पीछे के सबसे अच्छे संभव अर्थ को खोजने का प्रयास करता है, जो उसके "सद्भावना" वाले इरादे को देखता है।
यह TRUST सिस्टम के रूप में काम करता है। यह तीन अलग-अलग AI मॉडलों (रोबोट्स) का उपयोग करता है जो इन भूमिकाओं को एक साथ निभाने के लिए। विचार यह है कि इन विशिष्ट कोणों से तर्क करने के लिए रोबोट्स को मजबूर करके, आपको एक पूर्ण, संतुलित दृष्टिकोण मिलता है।
हालाँकि, यह शोध पत्र एक सरल लेकिन डरावना सवाल पूछता है: क्या होगा अगर रोबोट अपना काम भूल जाएं?
मुख्य समस्या: जब रोबोट "किरदार तोड़ देते हैं"
लेखक, जुर्गन डिट्रिच (Juergen Dietrich) ने परीक्षण किया कि क्या ये AI रोबोट वास्तव में अपनी सौंपी गई भूमिकाओं में बने रह सकते हैं। उन्होंने पाया कि वे अक्सर विफल हो जाते हैं, लेकिन बेतरतीब ढंग से नहीं। वे बहुत विशिष्ट, अनुमानित तरीकों से विफल होते हैं जब वे ऐसे तथ्यों का सामना करते हैं जो उनके निर्देशों का खंडन करते हैं।
इसे एक नाटक में एक अभिनेता की तरह समझें जिसे खलनायक खेलने के लिए कहा गया है। यदि पटकथा कहती है कि खलनायक एक हत्यारा है, तो अभिनेता खलनायक निभाता है। लेकिन यदि पटकथा अचानक खुलासा करती है कि खलनायक वास्तव में एक संत है, तो अभिनेता खलनायक खेलना बंद कर सकता है और नायक की तरह व्यवहार करना शुरू कर सकता है, भले ही निर्देशक ने उन्हें किरदार में रहने के लिए कहा हो।
रोबोट विफल होने के दो तरीके
शोध पत्र में "किरदार तोड़ने" के दो मुख्य तरीके बताए गए हैं, जिसे लेखक एपिस्टेमिक रोल ओवरराइड (Epistemic Role Override) कहते हैं।
1. "फ्लोर" प्रभाव (एडवोकेट की दुविधा)
कल्पना कीजिए कि एडवोकेट रोबोट किसी कथन में अच्छाई खोजने और अच्छा दिखने की कोशिश कर रहा है।
- परिदृश्य: कथन कहता है, "चट्टानें खाने से कैंसर ठीक होता है।"
- संघर्ष: रोबोट का "फैक्ट-चेकर" (एक अलग टूल) तुरंत कहता है, "नहीं, यह गलत और खतरनाक है।"
- परिणाम: एडवोकेट रोबोट हार मान लेता है। वह किसी ऐसी चीज़ के प्रति उदार होने का ढोंग नहीं कर सकता जिसे वह जानता है कि तथ्यात्मक रूप से गलत है। वह अपनी "अच्छी" भूमिका छोड़ देता है और अचानक क्रिटिक की तरह लगने लगता है, झूठ की ओर इशारा करने लगता है।
- रूपक: यह एक वकील की तरह है जो अपने क्लाइंट का बचाव करने की कोशिश कर रहा है जिसका हाथ रंगे हाथों हत्या के हथियार के साथ पकड़ा गया है। वकील कितनी भी कोशिश क्यों न करे, तथ्य इतने भारी होते हैं कि वकील का बचाव ढह जाता है। शोध पत्र इसे एपिस्टमिक फ्लोर इफेक्ट (Epistemic Floor Effect) कहता है: तथ्य एक ऐसा कठिन फर्श बनाते हैं जिसके नीचे रोबोट नहीं जा सकता।
2. "प्रायर" संघर्ष (क्रिटिक की दुविधा)
अब कल्पना कीजिए कि क्रिटिक रोबोट सख्त होने और खामियां खोजने की कोशिश कर रहा है।
- परिदृश्य: कथन कहता है, "सूरज पूर्व में उगता है।"
- संघर्ष: क्रिटिक को समस्याओं को खोजने के लिए कहा गया है, लेकिन फैक्ट-चेकर कहता है, "यह 100% सच है।"
- परिणाम: क्रिटिक रोबोट संघर्ष करता है। उसका आंतरिक ज्ञान (जो मानव इतिहास के सभी पहलुओं पर प्रशिक्षित है) चिल्लाकर कहता है कि यह सच है, इसलिए वह वास्तव में इसकी आलोचना नहीं कर सकता। कभी-कभी, वह गलती से भूमिका बदल देता है और एडवोकेट की तरह लगने लगता है, कथन की पुष्टि करने लगता है बजाय हमला करने के।
- रूपक: यह एक जासूस की तरह है जिसे किसी संदिग्ध को निर्दोष साबित करने के लिए काम पर रखा गया है, लेकिन सबूत इतने स्पष्ट हैं कि जासूस गलती से संदिग्ध को दोषी साबित करने लगता है।
"मिरर" (दर्पण) खोज
सबसे दिलचस्प खोज यह है कि ये दो विफलताएं एक-दूसरे की दर्पण छवि (mirror images) हैं।
- यदि तथ्य बुरे हैं, तो "अच्छा" दिखने वाला रोबोट टूट जाता है।
- यदि तथ्य अच्छे हैं, तो "बुरा" दिखने वाला रोबोट टूट जाता है।
शोध पत्र इसे एपिस्टेमिक रोल ओवरराइड (Epistemic Role Override) कहता है। रोबोट का "क्या सत्य है" का आंतरिक ज्ञान, उसे "क्या भूमिका निभानी है" के निर्देश देने वाले निर्देशों से अधिक शक्तिशाली है।
रोबोट का मुकाबला: मिस्ट्रल बनाम क्लॉड
लेखक ने यह देखने के लिए दो अलग-अलग AI मॉडल का परीक्षण किया कि कौन सा मॉडल किरदार निभाने में बेहतर है: मिस्ट्रल लार्ज (Mistral Large) और क्लॉड सोनेट (Claude Sonnet)।
- क्लॉड सोनेट: यह रोबोट "एडवोकेट" की भूमिका निभाने में बहुत बुरा था। जब इसने तथ्यात्मक रूप से गलत कथन देखा, तो इसने पूरी तरह से अपना व्यक्तित्व बदल लिया, एक समर्थक से एक कठोर आलोचक बन गया। यह एक गिरगिट की तरह था जो बहुत आसानी से रंग बदल लेता है।
- मिस्ट्रल लार्ज: यह रोबोट बहुत बेहतर था। जब इसने एक गलत कथन देखा, तो इसने विपरीत पक्ष में जाने के बजाय, चुपचाप एडवोकेट होने की कोशिश करना छोड़ दिया। इसने भूमिका को "छोड़" दिया लेकिन दुश्मन नहीं बना।
- विजेता: मिस्ट्रल अपने सौंपे गए काम पर टिके रहने में क्लॉड की तुलना में काफी अधिक विश्वसनीय (लगभग 28% बेहतर) था।
भाषा और फैक्ट-चेकर का मोड़
अध्ययन ने यह भी देखा कि क्या भाषा (अंग्रेजी बनाम जर्मन) या उपयोग किए गए "फैक्ट-चेकर" टूल से फर्क पड़ता है।
- भाषा: रोबोटों ने अंग्रेजी और जर्मन दोनों में समान व्यवहार किया, जो अच्छी खबर है।
- फैक्ट-चेकर्स: यहीं पर मामला पेचीदा हो गया। यदि आपने क्लॉड रोबोट के साथ जर्मन कथनों के लिए एक विशिष्ट तथ्य-जांच उपकरण (परप्लेक्सिटी) का उपयोग किया, तो रोबोट और भी अधिक बार विफल हुआ। यह एक ऐसे आवर्धक लेंस (magnifying glass) का उपयोग करने जैसा है जो बहुत शक्तिशाली है; यह रोबोट को इतनी गलतियाँ दिखाता है कि वह अपना काम ही नहीं कर पाता।
बड़ी सीख
शोध पत्र निष्कर्ष निकालता है कि यदि आप ऐसे सिस्टम का निर्माण करते हैं जो विभिन्न भूमिकाएँ निभाने के लिए AI रोबोटों पर निर्भर करता है (जैसे कि एक बहस टीम), तो आप केवल यह मानकर नहीं चल सकते कि वे वही करेंगे जो आप उनसे कहते हैं।
- तथ्य निर्देशों से अधिक शक्तिशाली हैं: यदि तथ्य भूमिका का विरोध करते हैं, तो रोबट आमतौर पर तथ्यों का अनुसरण करेगा।
- सभी रोबोट समान नहीं हैं: कुछ मॉडल (जैसे मिस्ट्रल) अन्य (जैसे क्लॉड) की तुलना में अपनी भूमिका को बनाए रखने में बेहतर होते हैं।
- वैलिडेशन (पुष्टि) महत्वपूर्ण है: आप केवल यह जाँच नहीं सकते कि रोबोट ने उत्तर दिया या नहीं; आपको यह भी जाँच करना होगा कि क्या वह अपने किरदार में रहा। यदि आप इसे नहीं मापते हैं, तो आपका सिस्टम आपको एक संतुलित बहस दे रहा है जैसा दिखता है, लेकिन वास्तव में यह केवल एक रोबोट हो सकता है जो किसी और के रूप में खुद की राय चिल्ला रहा है।
संक्षेप में: आप एक रोबोट को 'डेविल्स एडवोकेट' (विपक्षी तर्क देने वाला) बनने के लिए कह सकते हैं, लेकिन यदि तथ्य बहुत स्पष्ट हैं, तो रोबोट डेविल खेलना बंद कर देगा और सच बोलना शुरू कर देगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।