A Four-Axis Trustworthiness Benchmark for LLM-as-Judge in Principle-Based Regulation
यह शोध पत्र Principle-Bench पेश करता है, जो सिद्धांत-आधारित विनियमन (principle-based regulation) में LLM-as-judge प्रणालियों का मूल्यांकन करने के लिए सटीकता, पैराफ्रेस रोबस्टनेस (paraphrase robustness), एडवरसैरियल रोबस्टनेस (adversarial robustness) और कैलिब्रेशन को कवर करने वाला एक नया बेंचमार्क है, जो यह प्रकट करता है कि वर्तमान मॉडल "अनुपालन थिएटर" (compliance theatre) की कमजोरियों से ग्रस्त हैं जहाँ एडवरसैरियल कीवर्ड स्टफिंग (adversarial keyword stuffing) प्रदर्शन को नाटकीय रूप से कम कर देती है और कैलिब्रेटेड, ऑडिट करने योग्य मूल्यांकन तंत्रों की महत्वपूर्ण आवश्यकता को रेखांकित करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक निष्पक्ष रेफरी बनना सिखाने की कोशिश कर रहे हैं। कानून और वित्त की दुनिया में, नियम आमतौर पर दो प्रकार के होते हैं। पहला प्रकार ट्रैफिक लाइट जैसा है: या तो लाल या हरा, रुकना या चलना। यदि आप रेड लाइट तोड़ते हैं, तो आपको टिकट मिलता है। यह सरल, बाइनरी और जांचने में आसान है। लेकिन दूसरा प्रकार एक अदालत में जज के हथौड़े जैसा है। ये "सिद्धांत" (principles) हैं, जैसे "निष्पक्ष होना," "स्पष्ट होना," या "लोगों को गुमराह न करना।" आप केवल एक बॉक्स को टिक करके यह नहीं देख सकते कि क्या कुछ निष्पक्ष है; आपको पूरी कहानी पढ़नी होगी, माहौल को समझना होगा और एक निर्णय लेना होगा।
हाल ही में, वैज्ञानिकों ने सुपर-स्मार्ट AI कंप्यूटरों का उपयोग करना शुरू कर दिया है, जिन्हें लार्ज लैंग्वेज मॉडल्स (LLMs) कहा जाता है, ताकि वे इन जजों के रूप में कार्य कर सकें। हम उनसे पूछते हैं, "क्या यह विज्ञापन निष्पक्ष है?" और वे उत्तर देते हैं। यह सुनने में बहुत अच्छा लगता है, लेकिन इसमें एक पेंच है। सिर्फ इसलिए कि एक AI कविता लिख सकता है, इसका मतलब यह नहीं है कि वह "निष्पक्षता" के गहरे और पेचीदा अर्थ को समझता है। यदि हम इन उच्च-दांव वाले निर्णय लेने के लिए AI को बिना उचित परीक्षण के छोड़ देते हैं, तो यह पूरी तरह से गलत होते हुए भी आत्मविश्वास से भरा दिख सकता है, या इससे भी बुरा, इसे एक चालाक धोखेबाज द्वारा ठगा जा सकता है। यह शोध पत्र एक बेहतर परीक्षण बनाने के बारे में है यह देखने के लिए कि क्या हमारे AI जज वास्तव में भरोसेमंद हैं, या वे केवल स्मार्ट होने का ढोंग कर रहे हैं।
द ग्रेट "कंप्लायंस थिएटर" हाइस्ट (अनुपालन का दिखावा)
इस शोध पत्र में, लेखक, दीपांकर सरकार, एक बड़े "गॉटचा" (पकड़ने वाला) खेल की व्यवस्था करते हैं ताकि यह देखा जा सके कि क्या AI जज वित्तीय नियमों की जटिल जांच करने के काम को वास्तव में संभाल सकते हैं। विचाराधीन नियम यूके के फाइनेंशियल कंडक्ट अथॉरिटी (FCA) के हैं, जो कंपनियों को निर्देश देते हैं कि उन्हें "निष्पक्ष, स्पष्ट और भ्रामक नहीं" होना चाहिए और उन्हें ग्राहकों के लिए "अच्छे परिणाम देने" चाहिए। ये सरल गणितीय समस्याएं नहीं हैं; ये अस्पष्ट, मानवीय विचार हैं जिन्हें पकड़ना कठिन है।
AI का परीक्षण करने के लिए, लेखक ने एक विशेष खेल का मैदान बनाया जिसे प्रिंसिपल-बेंच (Principle-Bench) कहा गया। कल्पना कीजिए कि यह AI रेफरी के लिए एक प्रशिक्षण जिम है। इसके भीतर, 168 अलग-अलग परिदृश्य हैं—जैसे कि नकली क्रिप्टो-एसेट विज्ञापन—जिनकी ग्रेडिंग AI को करनी है। लेकिन ट्विस्ट यह है कि यह जिम केवल सामान्य विज्ञापनों से भरा नहीं है। यह जालों (traps) से भरा है।
विश्वास के चार अक्ष (The Four Axes of Trust)
लेखक का कहना है कि हम केवल यह नहीं पूछ सकते, "क्या AI ने सही उत्तर दिया?" हमें इसे चार चीजों पर जांचना होगा, जैसे कि एक कार क्रैश टेस्ट जो एक साथ गति, स्टीयरिंग, ब्रेक और एयरबैग की जांच करता है:
- सटीकता (Accuracy): क्या इसने सामान्य विज्ञापनों पर सही उत्तर दिया?
- पैराफ्रेस रोबस्टनेस (Paraphrase Robustness): यदि आप विज्ञापन को अलग शब्दों का उपयोग करके फिर से लिखते हैं लेकिन वही अर्थ बनाए रखते हैं, तो क्या AI अभी भी इसे सही पाता है?
- एडवर्सरियल रोबस्टनेस (Adversarial Robustness): यदि कोई "अच्छी लगने वाली" बातों को विज्ञापन में भरकर AI को ठगने की कोशिश करता है जिनका वास्तव में कोई अर्थ नहीं है, तो क्या AI इसके झांसे में आ जाता है?
- कैलिब्रेशन (Calibration): यदि AI कहता है कि वह "90% सुनिश्चित" है, तो क्या वह वास्तव में 90% बार सही होता है, या वह केवल अति-आत्मविश्वासी है?
बड़ा आश्चर्य: AI को ठगा गया
अध्ययन में कई अलग-अलग AI विधियों का परीक्षण किया गया, साधारण शब्द-गिनती वाले उपकरणों से लेकर एक विशाल 120-बिलियन पैरामीटर वाले AI जज (एक बहुत शक्तिशाली मॉडल) तक। सामान्य, उबाऊ विज्ञापनों पर, बड़ा AI जज प्रदर्शन का सितारा था। उसने लगभग हर बार सही उत्तर दिया (एक नियम पर 96% सटीकता, दूसरे पर 74%)। वह एकदम सटीक लग रहा था।
लेकिन फिर, लेखक ने अचानक पासा पलट दिया। उन्होंने "एडवर्सरियल" जाल पेश किया। उन्होंने वास्तव में भ्रामक और चालाकी भरे विज्ञापनों को लिया, और उनमें विशिष्ट, तथ्यात्मक दिखने वाले वाक्यांश जैसे "क्लाइंट कुल नुकसान को झेल सकता है" भर दिए। ये वाक्यांश तकनीकी रूप से सत्य हैं, लेकिन इनका उपयोग यह छिपाने के लिए किया जाता है कि विज्ञापन का बाकी हिस्सा एक स्कैम (धोखाधड़ी) है। इसे कानूनी विद्वान "कंप्लायंस थिएटर" (अनुपालन का दिखावा) कहते हैं: नियमों का पालन करने का दिखावा करना जबकि वास्तव में उनकी भावना को तोड़ना।
जब AI जज ने इन ठगे गए विज्ञापनों को देखा, तो वह पूरी तरह से ध्वस्त हो गया। "कंज्यूमर ड्यूटी" नियम पर, इसकी सटीकता एक अच्छे 0.74 से गिरकर एक भयानक 0.27 रह गई। यह 47 अंकों की गिरावट थी! AI "अच्छे शब्दों" से इतना प्रभावित हुआ कि उसने स्कैम विज्ञापनों को ऐसे पास कर दिया जैसे वे एकदम सही हों। यह एक सुरक्षा गार्ड की तरह था जो एक चोर को अंदर आने देता है क्योंकि चोर ने सुंदर वर्दी पहनी है और कह रहा है "मैं यहाँ पार्टी के लिए आया हूँ।"
यह AI की गलती है, टेस्ट की नहीं
आप सोच सकते हैं, "क्या यह टेस्ट विशेष रूप से इस AI के लिए कठिन था?" यह सुनिश्चित करने के लिए, लेखक ने एक दूसरे AI जज को लाया जो पूरी तरह से अलग मॉडल परिवार (AI की एक अलग "प्रजाति") से था। जब उन दोनों ने एक ही ठगे गए विज्ञापनों को देखा, तो वे आपस में मुश्किल से ही सहमत हुए। उनका सहमति स्कोर केवल 0.16 था, जो कि लगभग यादृच्छिक संभावना (random chance) के बराबर है। इसने साबित कर दिया कि समस्या टेस्ट के सवालों में नहीं थी; समस्या यह थी कि AI मॉडल स्वयं आसानी से बहकाए जा सकते हैं। वे अनुपालन का "भ्रम" (hallucinating compliance) पैदा कर रहे हैं।
समाधान: एक नए प्रकार का जज
यह शोध पत्र एक नया टूल भी पेश करता है जिसे सेका (Ceca) (कैलिब्रेटेड एक्सेम्पलर-क्लस्टर असेसमेंट) कहा जाता है। सेका को एक एकल विशाल मस्तिष्क के रूप में नहीं, बल्कि विशेषज्ञों की एक टीम के रूप में सोचें जो ठीक से बता सकते हैं कि उन्होंने कोई निर्णय क्यों लिया। यदि AI कहता है कि एक विज्ञापन बुरा है, तो सेका कह सकता है, "यह जोखिम के बारे में इस विशिष्ट वाक्य के कारण बुरा है," और आपको ठीक से दिखा सकता है कि किस उदाहरण ने उसे ऐसा सोचने पर मजबूर किया।
अध्ययन में पाया गया कि कोई भी एक विधि हर चीज़ में नहीं जीतती। बड़ा AI सामान्य चीजों में महान है लेकिन चालों को पहचानने में बहुत खराब है। साधारण शब्द-गिनती वाले उपकरण सामान्य चीजों में खराब हैं लेकिन चालाकियों को अनदेखा करने में आश्चर्यजनक रूप से अच्छे हैं क्योंकि वे फैंसी भाषा से विचलित नहीं होते। सबसे अच्छा दृष्टिकोण एक "कैस्केड" (cascade) प्रतीत होता है: पहले एक सरल, मजबूत चेकर का उपयोग करें, और केवल तभी बड़े, फैंसी AI जज को बुलाएं जब सरल चेकर अनिश्चित हो।
मुख्य निष्कर्ष (The Bottom Line)
मुख्य संदेश उन लोगों के लिए एक चेतावनी है जो "निष्पक्ष रहें" या "स्पष्ट रहें" जैसे नियमों को लागू करने के लिए AI का उपयोग करना चाहते हैं। आप केवल हेडलाइन सटीकता नंबरों पर भरोसा नहीं कर सकते। एक मॉडल जो सामान्य परीक्षणों पर एकदम सही दिखता है, वह पूरी तरह से बेकार हो सकता है जब कोई उसे ठगने की कोशिश करता है।
शोध पत्र निष्कर्ष निकालता है कि वास्तविक दुनिया में सुरक्षित होने के लिए, AI को चार अक्षों पर परीक्षण किया जाना चाहिए: सटीकता, पुनर्गठन के प्रति प्रतिरोध, छल के प्रति प्रतिरोध, और ईमानदार आत्मविश्वास। जब तक हमारे पास एक ऐसा सिस्टम नहीं है जो अपनी कमजोरियों की रिपोर्ट कर सके और अपना काम दिखा सके (जैसा कि सेका करता है), तब तक निष्पक्षता के अंतिम जज के रूप में AI को छोड़ना एक जोखिम भरा खेल है। लेखक का सुझाव है कि किसी भी वास्तविक दुनिया के उपयोग में ये अतिरिक्त जांच शामिल होनी चाहिए, अन्यथा हम एक ऐसा सिस्टम बनाने का जोखिम उठाते हैं जो केवल "कंप्लायंस थिएटर" (अनुपालन के दिखावे) में बहुत कुशल है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।