DECK: A Consistency x Confidence Taxonomy of LLM Hallucinations
यह शोध पत्र DECK को प्रस्तुत करता है, जो एक नवीन 2x2 वर्गीकरण है जो इंटर-सैंपल निरंतरता (inter-sample consistency) और टोकन-स्तर के आत्मविश्वास (token-level confidence) के आधार पर डिटेकेबिलिटी सिग्नेचर (detectability signatures) के माध्यम से LLM मतिभ्रम (hallucinations) को वर्गीकृत करता है, जो यह प्रकट करता है कि विशिष्ट त्रुटि प्रकारों (ड्रिफ्ट, एंट्रेंच्ड, कॉन्फैबुलेशन, नॉटेड) के लिए अलग-अलग पहचान विधियों की आवश्यकता होती है और एक सार्वभौमिक ब्लाइंड स्पॉट को उजागर करता है जहाँ ज्ञान-अंतराल (knowledge-gap) वाले इनपुट्स पर आत्मविश्वासी, दोहराव वाली मनगढ़ंत रचनाएँ वर्तमान आउटपुट-स्तर के अनिश्चितता परिमाणीकरण (uncertainty quantification) दृष्टिकोणों द्वारा अनिरोध्य रहती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, आत्मविश्वासी रोबोट है जो सवालों के जवाब देता है। कभी-कभी, यह रोबोट मनगढ़ंत बातें बनाता है। हम इन गलतियों को "हैलुसिनेशन" (hallucinations) कहते हैं।
लंबे समय तक, शोधकर्ताओं ने इन गलतियों को इस आधार पर वर्गीकृत करने की कोशिश की कि क्या गलत था (जैसे, "इसने तथ्यों को गलत बताया," या "इसकी तर्क क्षमता खराब थी")। लेकिन इस शोध पत्र के लेखक, मोहित सिंह चौहान, कहते हैं कि यह कार दुर्घटनाओं को "पेड़ से टकराया" बनाम "दीवार से टकराया" के आधार पर वर्गीकृत करने जैसा है। यह आपको बताता है कि क्या हुआ, लेकिन यह आपको यह नहीं बताता कि दुर्घटना होने से पहले ड्राइवर को कैसे पकड़ा जाए।
यह शोध पत्र गलतियों को वर्गीकृत करने का एक नया तरीका पेश करता है जिसे DECK कहा जाता है। त्रुटि की सामग्री (content) को देखने के बजाय, यह त्रुटि द्वारा छोड़े गए संकेत (signal) को देखता है। यह पूछता है: "किस प्रकार का डिटेक्टर (detector) इस गलती को पकड़ पाता?"
दो डिटेक्टर (दो अक्ष/Axes)
अपने सिस्टम को बनाने के लिए, लेखक रोबोट पर नज़र रखने के लिए दो सरल "सेंसर" का उपयोग करते हैं:
- कंसिस्टेंसी सेंसर (द रिपिट टेस्ट - Consistency Sensor): यदि आप रोबोट से वही सवाल 10 बार पूछते हैं, तो क्या वह हर बार एक ही जवाब देता है?
- उच्च कंसिस्टेंसी (High Consistency): यह एक ही जवाब दोहराता है।
- कम कंसिस्टेंसी (Low Consistency): यह हर बार एक अलग जवाब देता है।
- कॉन्फिडेंस सेंसर (द सुर-थिंग टेस्ट - Confidence Sensor): रोबोट कितना निश्चित सुनाई देता है? क्या वह 100% निश्चितता के साथ उत्तर देता है, या वह हिचकिचाता है?
- उच्च आत्मविश्वास (High Confidence): "मुझे 100% यकीन है।"
- कम आत्मविश्वास (Low Confidence): "मुझे शायद लगता है..."
DECK वर्गीकरण (चार बॉक्स)
इन दो सेंसरों को आपस में जोड़कर, लेखक एक 2x2 ग्रिड बनाते हैं जिसमें गलतियों के चार प्रकार हैं। उन्होंने इन्हें आकर्षक नाम दिए हैं:
1. ड्रिफ्ट (Drift - "भटका हुआ मार्गदर्शक")
- यह कैसा दिखता है: रोबोट आत्मविश्वासी है लेकिन हर बार एक अलग गलत उत्तर देता है।
- उपमा: कल्पना कीजिए कि एक टूर गाइड है जो बहुत ज़ोर से और पूरे विश्वास के साथ बोलता है, लेकिन हर बार जब आप पूछते हैं "संग्रहालय कहाँ है?", तो वह एक अलग दिशा में इशारा करता है। वह आत्मविश्वासी है, लेकिन वह भटक (drift) रहा है।
- इसे कौन पकड़ता है? एक ब्लैक-बॉक्स डिटेक्टर (जो यह जाँचता है कि उत्तर आपस में मेल खाते हैं या नहीं) इसे पकड़ लेगा क्योंकि उत्तर एक जैसे नहीं हैं।
2. एंट्रेन्च्ड (Entrenched - "ज़िद्दी गधा")
- यह कैसा दिखता है: रोबोट आत्मविश्वासी है और हर बार वही सटीक गलत उत्तर देता है।
- उपमा: यह उस छात्र की तरह है जिसने गलत उत्तर कुंजी (answer key) रट ली है। यदि आप उनसे पूछते हैं "2+2 क्या होता है?", तो वे हर बार आत्मविश्वास के साथ "5" कहेंगे, चाहे आप कितनी भी बार पूछें। वे एक गलत धारणा में अटके (entrenched) हुए हैं।
- इसे कौन पकड़ता है? यह सबसे कठिन है। कंसिस्टेंसी डिटेक्टर इसे सही मान लेते हैं क्योंकि यह सुसंगत (consistent) है! केवल एक जज (Judge) (एक दूसरा, स्वतंत्र AI जो तथ्यों को जानता है) ही इसे पकड़ सकता है।
3. कॉन्फैबुलेशन (Confabulation - "हिचकिचाता हुआ मनगढ़ंत निर्माता")
- यह कैसा दिखता है: रोबोट अनिश्चित है और हर बार अलग-अलग गलत उत्तर देता है।
- उपमा: यह रोबोट का यह स्वीकार करना है कि, "मुझे नहीं पता, लेकिन यहाँ एक अनुमान है... वास्तव में, शायद यह दूसरा अनुमान हो?" वह चीजें बना रहा है लेकिन उसे पता है कि वह अनुमान लगा रहा है।
- इसे कौन पकड़ता है? हर कोई इसे पकड़ लेता है। यह कम आत्मविश्वास और कम कंसिस्टेंसी वाला है, इसलिए सभी डिटेक्टर इसे "जोखिम भरा" घोषित कर देते हैं।
4. नॉटेड (Knotted - "फंसा हुआ उलझा हुआ")
- यह कैसा दिखता है: रोबोट अनिश्चित है (कम आत्मविश्वास) लेकिन हर बार वही सटीक गलत उत्तर देता है।
- उपमा: कल्पना कीजिए कि एक रोबोट गलत होने से डरता है, इसलिए वह बार-बार कहता है, "मुझे यकीन नहीं है, लेकिन मुझे लगता है कि शायद यह X है," और वह हर बार "शायद X" ही कहता है। वह एक सुरक्षित, दोहराव वाले, लेकिन गलत पैटर्न में "उलझा" (knotted) हुआ है।
- इसे कौन पकड़ता है? एक व्हाइट-बॉक्स डिटेक्टर (जो रोबोट के आंतरिक गणित को देखता है) इसे पकड़ लेगा क्योंकि रोबोट का आंतरिक गणित दिखाता है कि वह वास्तव में निश्चित नहीं है, भले ही उत्तर दोहराया जा रहा हो।
बड़ी खोज: "यूनिवर्सल ब्लाइंड स्पॉट" (Universal Blind Spot)
शोध पत्र में एक डरावनी स्थिति का पता चला जहाँ सभी डिटेक्टर एक साथ विफल हो जाते हैं।
उन्होंने रोबोटों का परीक्षण उन सवालों पर किया जिन्हें कोई भी नहीं जान सकता (जैसे "उस देश की राजधानी क्या है जो अभी अस्तित्व में नहीं आया है?")।
- रोबोटों ने "मुझे नहीं पता" नहीं कहा।
- इसके बजाय, उन्होंने आत्मविश्वास के साथ एक नकली उत्तर बनाया और उसे हर बार दोहराया।
इससे एक आदर्श जाल बन गया:
- कंसिस्टेंसी सेंसर ने देखा कि वे उत्तर दोहरा रहे हैं, इसलिए उसने सोचा: "बहुत अच्छा, यह सुसंगत है!"
- कॉन्फिडेंस सेंसर ने देखा कि वे सुनिश्चित लग रहे थे, इसलिए उसने सोचा: "बहुत अच्छा, यह आत्मविश्वासी है!"
- जज (Judge) विफल रहा क्योंकि जज को भी उत्तर नहीं पता था (क्योंकि वह देश अस्तित्व में ही नहीं है)।
लेखक इसे "यूनिवर्सल ब्लाइंड स्पॉट" कहते हैं। जब एक रोबोट उन चीजों के बारे में आत्मविश्वास के साथ झूठ दोहराता है जिनके बारे में वह कुछ नहीं जानता, तो कोई भी वर्तमान डिटेक्टर उसे पकड़ नहीं सकता।
समाधान
शोध पत्र सुझाव देता है कि इन विशिष्ट झूठों को पकड़ने के लिए बेहतर डिटेक्टर बनाने के बजाय, हमें एक "रिफ्यूज़ल एनवेलप" (Refusal Envelope) बनाना चाहिए। यह एक क्लब के बाउंसर की तरह है। यदि प्रश्न ऐसी चीज़ के बारे में है जिसे रोबोट को नहीं जानना चाहिए (ज्ञान की कमी), तो बाउंसर रोबोट को उत्तर देने से पहले ही रोक देना चाहिए और कहना चाहिए, "मैं इसका उत्तर नहीं दे सकता," इससे पहले कि रोबमा कुछ मनगढ़ंत बनाने की कोशिश करे।
सारांश
यह शोध पत्र केवल यह नहीं कहता कि "AI गलतियाँ करता है।" यह कहता है: "AI चार विशिष्ट पैटर्न में गलतियाँ करता है। कुछ पैटर्न पकड़ना आसान है, कुछ कठिन हैं, और एक विशिष्ट पैटर्न (आत्मविश्वासी, अज्ञात चीजों के बारे में दोहराए गए झूठ) वर्तमान में पकड़ना असंभव है। हमें रोबोट को उन सवालों के जवाब देने से रोकना होगा।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।