Is This Your Final Answer? Cross-Contextual Consistency as a Measure of LLM Credibility
यह शोध पत्र क्रॉस-कॉन्टेक्स्टुअल कंसिस्टेंसी (C3) को प्रस्तुत करता है, जो एक ऐसा मीट्रिक है जो संदर्भ परिवर्तनों के तहत मॉडल प्रतिक्रियाओं की स्थिरता को मापकर LLM विश्वसनीयता का मूल्यांकन करता है, यह प्रदर्शित करते हुए कि उच्च निरंतरता अधिक सटीकता से सहसंबंधित है और बेंचमार्क संतृप्ति के लिए एक नैदानिक उपकरण के रूप में कार्य करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह पता लगाने की कोशिश कर रहे हैं कि क्या आपका एक दोस्त वास्तव में किसी कठिन पहेली का उत्तर जानता है, या वह केवल अनुमान लगा रहा है और भाग्य के भरोसे बैठा है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, विशेष रूप से लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ, यह एक बहुत बड़ा रहस्य है। ये कंप्यूटर प्रोग्राम सुपर-स्मार्ट 'ब्लैक बॉक्स' की तरह हैं जो कहानियाँ लिख सकते हैं, गणित की समस्याओं को हल कर सकते हैं और मनुष्यों की तरह बातचीत कर सकते हैं। लेकिन क्योंकि वे "ब्लैक बॉक्स" हैं, हम उनके अंदर झाँककर यह नहीं देख सकते कि वे कैसे सोचते हैं। हम केवल वही उत्तर देखते हैं जो वे देते हैं। वैज्ञानिकों के लिए बड़ा सवाल यह है: हमें कैसे पता चलेगा कि एक AI वास्तव में आश्वस्त और सही है, या वह केवल उन पैटर्न की नकल कर रहा है जिन्हें उसने पहले देखा था बिना वास्तव में तर्क को समझे?
इसे हल करने के लिए, शोधकर्ता आमतौर पर AI से पूछते हैं, "आप कितने निश्चित हैं?" या उनसे एक ही प्रश्न दस बार पूछने के लिए कहते हैं ताकि यह देखा जा सके कि क्या वे हर बार एक ही उत्तर देते हैं। लेकिन जैसा कि यह शोध पत्र बताता है, AI एक बहुत बुरा झूठा हो सकता है। वह गलत होने पर भी कह सकता है कि वह 100% निश्चित है, या वह हर बार एक ही गलत उत्तर दे सकता है क्योंकि वह एक लूप में फंस गया है। यह पेपर AI की ईमानदारी को परखने का एक नया तरीका पेश करता है, सीधे उससे पूछकर नहीं, बल्कि यह देखकर कि जब आप प्रश्न के इर्द-गिर्द की कहानी बदलते हैं तो वह कैसे प्रतिक्रिया देता है। इसे एक जासूस द्वारा गवाह से क्रॉस-एग्जामिनेशन (जिरह) करने की तरह समझें: यदि गवाह सच बोल रहा है, तो उसे वही बात कहनी चाहिए चाहे आप उससे अदालत में पूछें, कॉफी पीते समय पूछें, या एक मज़ेदार टोपी पहनकर पूछें। यदि संदर्भ बदलने पर उसकी कहानी हर बार बदल जाती है, तो संभावना है कि वह ईमानदार नहीं है।
यह शोध पत्र, जिसका शीर्षक "Is This Your Final Answer? Cross-Contextual Consistency as a Measure of LLM Credibility" है, क्रॉस-कॉन्टेक्स्टुअल कंसिस्टेंसी (C3) नामक एक विधि प्रस्तावित करता है। इसका मूल विचार सरल है: यदि कोई AI वास्तव में किसी उत्तर को "जानता" है, तो प्रश्न में तटस्थ, हानिरहित बैकग्राउंड शोर जोड़ने के बाद भी उसका उत्तर स्थिर रहना चाहिए। उदाहरण के लिए, यदि आप पूछते हैं, "2+2 क्या है?", तो AI को "4" कहना चाहिए। यदि आप एक वाक्य जोड़ते हैं जैसे, "कल्पना कीजिए कि आप एक समुद्री डाकू (पायरेट) हैं जिसे गणित पसंद है। 2+2 क्या है?", तो भी AI को "4" ही कहना चाहिए। यदि आप थोड़ा सा संदर्भ बदलने पर AI अचानक अपना उत्तर बदलकर "5" कर देता है, तो यह संकेत देता है कि AI वास्तव में तर्क नहीं कर रहा है; वह केवल पृष्ठ पर लिखे शब्दों पर प्रतिक्रिया दे रहा है।
शोधकर्ताओं ने इस विचार का परीक्षण गणित, तथ्यों और कोडिंग सहित छह विभिन्न प्रकार के कार्यों में 26 अलग-अलग AI मॉडलों पर किया। उन्होंने पाया कि जब इन "तटस्थ" संदर्भ बदलावों के बाद AI का उत्तर अधिक नहीं बदलता, तो उसके सही होने की संभावना बहुत अधिक होती है। वास्तव में, उन्होंने पाया कि C3, AI से उसकी आत्मविश्वास के बारे में पूछने या उसे प्रश्न दोहराने के लिए कहने की तुलना में सच्चाई का बेहतर भविष्यवक्ता है। अध्ययन बताता है कि यह "दबाव के तहत स्थिरता" इस बात का एक मजबूत संकेत है कि मॉडल के पास एक ठोस आंतरिक समझ है, न कि वह केवल अनुमान लगा रहा है।
सबसे दिलचस्प निष्कर्षों में से एक यह है कि C3 वैज्ञानिकों को यह पहचानने में मदद कर सकता है कि कोई टेस्ट "टूटा हुआ" (broken) है। कभी-कभी, AI मॉडल एक टेस्ट में परफेक्ट स्कोर प्राप्त करते हैं क्योंकि वे अपने प्रशिक्षण के दौरान उत्तरों को याद कर लेते हैं। यह पेपर दिखाता है कि ये "याद किए गए" उत्तर अक्सर "भंगुर" (brittle) होते हैं—वे सतह पर तो परफेक्ट दिखते हैं लेकिन थोड़ा सा संदर्भ शोर जोड़ने पर बिखर जाते हैं। इसके विपरीत, जो उत्तर वास्तव में समझे गए हैं, वे स्थिर रहते हैं। यह शोधकर्ताओं को यह देखने में मदद करता है कि कौन सा हिस्सा वास्तव में बुद्धिमत्ता को माप रहा है और कौन सा हिस्सा केवल स्मृति (मेमोरी) को माप रहा है।
लेखकों ने यह भी देखा कि यह विभिन्न प्रकार के AI के लिए कैसे काम करता है। उन्होंने पाया कि जैसे-जैसे AI मॉडल बड़े और अधिक शक्तिशाली होते जाते हैं, इस परीक्षण के तहत उनके उत्तर अधिक सुसंगत और विश्वसनीय होते जाते हैं। हालाँकि, सबसे स्मार्ट मॉडल भी पूर्ण नहीं हैं; वे संदर्भ बदलने पर अभी भी कुछ अस्थिरता दिखाते हैं, जो यह सिद्ध करता है कि वे अभी तक पूरी तरह से "मानव-समान" तर्क नहीं कर पा रहे हैं। पेपर निष्कर्ष निकालता है कि हालांकि C3 कोई जादुई छड़ी नहीं है जो गारंटी दे कि एक उत्तर सत्य है, लेकिन यह AI की निरंतरता और विश्वसनीयता की जांच करने के लिए एक शक्तिशाली नया उपकरण है, जो हमें इन प्रणालियों पर परीक्षण के दौरान थोड़ा अधिक भरोसा करने में मदद करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।