DA-RAC: Distance-Aware Calibration of LLM Judges for Trustworthy AI Auditing
यह शोध पत्र DA-RAC को प्रस्तुत करता है, जो एक दूरी-जागरूक संदर्भ-लंगर (distance-aware reference-anchored) अंशांकन विधि है जो संदर्भ-प्रेरित गलत अंशांकन (context-induced miscalibration) को कम करने और AI ऑडिटिंग में गलत-सकारात्मक (false-positive) मूल्यांकन के जोखिम को कम करने के लिए अर्थपूर्ण रूप से समान लेबल किए गए एंकर्स को पुनर्प्राप्त और भारित करके LLM जजों की विश्वसनीयता में सुधार करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बढ़ती दुनिया में, मशीनों को तेजी से मानव संस्कृति बनाने और उसका मूल्यांकन करने का कार्य सौंपा जा रहा है। वे कहानियाँ लिखते हैं, समाचारों का सारांश देते हैं, सलाह देते हैं और सार्वजनिक संदेशों का मसौदा तैयार करते हैं। यह सुनिश्चित करने के लिए कि ये डिजिटल रचनाएँ सहायक और सटीक हों, शोधकर्ता अक्सर पहले एआई के काम को ग्रेड देने के लिए एक दूसरे आर्टिफिशियल इंटेलिजेंस का उपयोग एक जज के रूप में करते हैं। यह दृष्टिकोण इसलिए आकर्षक है क्योंकि यह तेज़ और स्केलेबल है, जो हर एक कार्य के लिए मानव विशेषज्ञों की एक टीम की आवश्यकता के बिना हजारों आउटपुट का परीक्षण करने का एक तरीका प्रदान करता है। हालाँकि, इन डिजिटल जजों के काम करने के तरीके में एक गंभीर दोष उभर कर आया है। जब एक एआई को किसी कार्य का मूल्यांकन करने के लिए कहा जाता है, तो वह अक्सर अपने निर्देशों में दिए गए कुछ उदाहरणों को यह समझने के लिए देखता है कि एक "अच्छा" उत्तर कैसा दिखता है। यदि वे उदाहरण अप्रासंगिक हैं या गलत संदर्भ से आते हैं, तो जज भ्रमित हो सकता है, और एक खराब उत्तर को उत्कृष्ट के रूप में आत्मविश्वास से ग्रेड दे सकता है क्योंकि वह गलत प्रकार के उदाहरण के समान दिखता है। यह घटना, जहाँ गलत संदर्भ निर्णय को विकृत कर देता है, विश्वसनीयता का एक खतरनाक भ्रम पैदा करती है।
माइक्रोसॉफ्ट के शोधकर्ताओं ने इस विशिष्ट विफलता मोड की पहचान की है, जिसे वे 'कॉन्टेक्स्ट-इंड्यूस्ड मिसकैलिब्रेशन' (संदर्भ-प्रेरित गलत अंशांकन) कहते हैं, और इसे ठीक करने के लिए एक नई विधि विकसित की है। उनका दृष्टिकोण, जिसका नाम DA-RAC है, एआई जज को दिए गए उदाहरणों को केवल यादृच्छिक निर्देशों के रूप में नहीं, बल्कि ऐतिहासिक पूर्ववृत्तों के रूप में मानता है जिन्हें वर्तमान कार्य के साथ सावधानीपूर्वक मेल खाना चाहिए। प्रत्येक मूल्यांकन के लिए उदाहरणों के एक निश्चित सेट का उपयोग करने के बजाय, सिस्टम गतिशील रूप से सबसे प्रासंगिक पिछले उदाहरणों की खोज करता है जो वर्तमान स्थिति के समान हैं। फिर यह इन उदाहरणों को उनके अर्थ और उनके अंतर्निहित तार्किक ढांचे, दोनों के आधार पर भार देता है। इन सावधानीपूर्वक चुने गए, प्रासंगिक पूर्ववृत्तों पर अपने निर्णय को आधारित करके, सिस्टम बहुत अधिक विश्वसनीय हो जाता है। शोधकर्ताओं ने पाया कि जब उन्होंने इस 'डिस्टेंस-अवेयर' (दूरी-जागरूक) पद्धति का उपयोग किया, तो एआई जज की सटीकता में काफी सुधार हुआ, और इसके अप्रासंगिक जानकारी से गुमराह होने की संभावना बहुत कम हो गई।
समस्या का मूल कारण यह है कि ये डिजिटल जज संदर्भ की व्याख्या कैसे करते हैं। एक मानक सेटअप में, एक एआई जज को यह दिखाने के लिए कुछ उदाहरण दिए जा सकते हैं कि एक अच्छी कहानी या एक अच्छा स्पष्टीकरण कैसा दिखता है। यदि वे उदाहरण यादृच्छिक रूप से चुने गए हैं या हर कार्य के लिए समान हैं, तो जज आसानी से धोखा खा सकता है। शोधकर्ताओं के परीक्षणों में, जब जज को यादृच्छिक, बेमेल उदाहरण दिए गए, तो इसकी सटीकता गिरकर अनुमान लगाने के स्तर से भी नीचे आ गई। ऐसा इसलिए हुआ क्योंकि जज ने विशिष्ट गुणवत्ता के बजाय सामान्य प्रवाह (fluency) को पुरस्कृत करने के लिए अपने आंतरिक मानकों को गलत उदाहरणों के अनुरूप बदल लिया। अध्ययन तर्क देता है कि निर्णय की गुणवत्ता पूरी तरह से प्रदान किए गए संदर्भ की गुणवत्ता पर निर्भर करती है। एक जज पर तब तक भरोसा नहीं किया जा सकता यदि वह गलत संदर्भ बिंदुओं को देख रहा हो, ठीक वैसे ही जैसे एक मानव आलोचक एक वैज्ञानिक रिपोर्ट के नियमों का उपयोग करके कविता का मूल्यांकन करने में संघर्ष करेगा।
इसे हल करने के लिए, शोधकर्ताओं ने एक ऐसा सिस्टम बनाया है जो एआई जज के लिए एक लाइब्रेरियन की तरह कार्य करता है। जज द्वारा निर्णय लेने से पहले, सिस्टम पिछले उदाहरणों के एक बड़े पूल में खोज करता है ताकि उन उदाहरणों को खोजा जा सके जो वर्तमान कार्य के सबसे समान हैं। यह दो प्रकार की दूरी को मापकर ऐसा करता है: शब्दों और अर्थों की निकटता, और तर्क के तार्किक ढांचे की निकटता। उदाहरण के लिए, दो टेक्स्ट समान शब्दों का उपयोग कर सकते हैं लेकिन उनके तार्किक प्रवाह पूरी तरह से अलग हो सकते हैं, जैसे एक कारण-और-प्रभाव संबंध का तर्क देता है जबकि दूसरा एक विरोधाभास प्रस्तुत करता है। सिस्टम इन सूक्ष्म अंतरों का पता लगाता है और यह सुनिश्चित करता है कि जज केवल उन्हीं उदाहरणों को देखे जो वास्तव में स्थिति से मेल खाते हैं। एक बार सर्वोत्तम उदाहरण मिल जाने के बाद, सिस्टम उन्हें वर्तमान कार्य के कितने करीब हैं इसके आधार पर महत्व के विभिन्न स्तर प्रदान करता है, जिससे सबसे प्रासंगिक उदाहरण निर्णय को अधिक मजबूती से निर्देशित कर सकें।
इस नई पद्धति के परिणाम आश्चर्यजनक थे। प्रयोगों में जहाँ एआई जज का सैकड़ों अलग-अलग परिदृश्यों पर परीक्षण किया गया था, नए सिस्टम ने नब्बे प्रतिशत से अधिक की सटीकता दर हासिल की, जो मानक तरीकों द्वारा प्राप्त सत्तर प्रतिशत से एक महत्वपूर्ण उछाल है। इससे भी महत्वपूर्ण बात यह है कि सिस्टम बहुत अधिक स्थिर हो गया; जब एक ही कार्य का कई बार मूल्यांकन किया गया, तो परिणाम सुसंगत रहे, जबकि अन्य तरीकों में बहुत अधिक भिन्नता देखी गई। शोधकर्ताओं ने यह भी पाया कि केवल एक अधिक शक्तिशाली एआई मॉडल का उपयोग करने से समस्या हल नहीं हुई। यहाँ तक कि एक बहुत उन्नत मॉडल भी वही गलतियाँ करता था यदि उसे गलत उदाहरण दिए जाते। यह सुझाव देता है कि एआई को दी जाने वाली जानकारी का चयन और प्रस्तुति उतनी ही महत्वपूर्ण है जितनी कि स्वयं एआई की बुद्धिमत्ता।
इस अध्ययन से एक प्रमुख अंतर्दृष्टि यह है कि सिस्टम अब यह बता सकता है कि वह कब अनिश्चित है। सबसे अच्छे मिलान वाले उदाहरणों की दूरी को देखकर, सिस्टम कार्य की कठिनाई का संकेत देने वाला एक सिग्नल उत्पन्न कर सकता है। यदि निकटतम उदाहरण अभी भी वर्तमान कार्य से बहुत अलग हैं, तो सिस्टम इसे एक ऐसे मामले के रूप में चिह्नित करता है जिसे मानव समीक्षा की आवश्यकता हो सकती है। यह सांस्कृतिक कलाकृतियों के लिए विशेष रूप से महत्वपूर्ण है, जहाँ सही उत्तर अक्सर विशिष्ट सामुदायिक मूल्यों या ऐतिहासिक संदर्भों पर निर्भर करता है जिसे एक एआई पूरी तरह से नहीं समझ सकता है। चुपचाप एक आत्मविश्वासी लेकिन संभावित रूप से गलत निर्णय लेने के बजाय, सिस्टम अब कह सकता है, "मैं इन विशिष्ट उदाहरणों के आधार पर निर्णय ले रहा हूँ, लेकिन वे एक आदर्श मिलान नहीं हैं, इसलिए एक मानव को इसकी जाँच करनी चाहिए।"
शोधकर्ता इस बात पर जोर देते हैं कि उनका लक्ष्य मानव आलोचकों या विशेषज्ञों को मशीनों से बदलना नहीं है। सांस्कृतिक मूल्यांकन में सूक्ष्मता, भावना और सामुदायिक मूल्य शामिल होते हैं जिन्हें कोड में बांधना कठिन है। इसके बजाय, सिस्टम को मानव निर्णय लेने में सहायता करने के लिए डिज़ाइन किया गया है, जिससे एआई के तर्क को दृश्यमान और चुनौती देने योग्य बनाया जा सके। यह दिखाता है कि किन उदाहरणों ने निर्णय को प्रभावित किया और यह भी उजागर करता है कि एआई कब अपने कंफर्ट ज़ोन से बाहर काम कर रहा है। यह दृष्टिकोण एआई को अंतिम निर्णय देने वाले एक 'ब्लैक बॉक्स' से बदलकर एक ऐसे उपकरण में बदल देता है जो मनुष्यों को निर्णय के आधार को समझने में मदद करता है। अध्ययन बताता है कि मानव संस्कृति का मूल्यांकन करने के लिए एआई को वास्तव में भरोसेमंद होने के लिए, इसे प्रासंगिक, निरीक्षण योग्य और चुनौती देने योग्य उदाहरणों पर आधारित होना चाहिए, न कि सामान्य नियमों या यादृच्छिक डेटा पर निर्भर रहना चाहिए।
अंततः, यह कार्य एक ऐसे भविष्य की ओर संकेत करता है जहाँ एआई मूल्यांकन अधिक पारदर्शी और अनुकूलन योग्य होगा। उदाहरणों को गतिशील पूर्ववृत्तों के रूप में मानकर, जो कार्य के साथ सावधानीपूर्वक मेल खाने चाहिए, सिस्टम छिपे हुए पूर्वाग्रहों और त्रुटियों के जोखिम को कम करता है। यह स्वीकार करता है कि एक अच्छा उत्तर क्या है, यह इस पर निर्भर करता है कि संदर्भ क्या है, और एक अच्छे जज को पता होना चाहिए कि सही संदर्भ कैसे ढूँढा जाए। स्थिर, एक-समान मूल्यांकन से हटकर एक ऐसी पद्धति की ओर बदलाव जो प्रत्येक मामले के विशिष्ट विवरणों के प्रति संवेदनशील है, अधिक विश्वसनीय और निष्पक्ष एआई सिस्टम की ओर एक मार्ग प्रदान करता है। शोधकर्ता निष्कर्ष निकालते हैं कि ऐसे सिस्टम का मूल्य सांस्कृतिक अधिकार को स्वचालित करने में नहीं, बल्कि मनुष्यों को यह समझने में सक्षम बनाने में है कि निर्णय कैसे लिए जाते हैं और जब संदर्भ गायब या अस्पष्ट हो तो हस्तक्षेप कैसे किया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।