Token-Level Density-Based Uncertainty Quantification Methods for Eliciting Truthfulness of Large Language Models
यह शोध पत्र बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के लिए एक नवीन पर्यवेक्षित अनिश्चितता मात्रा निर्धारण (सुपरवाइज्ड अनसर्टेन्टी क्वांटिफिकेशन) पद्धति प्रस्तुत करता है जो कई परतों में टोकन-स्तरीय एम्बेडिंग्स के लिए महलानोबिस डिस्टेंस (महालनोबिस डिस्टेंस) को अनुकूलित करती है, जो अनुक्रम-स्तरीय जनरेशन और तथ्य-जांच कार्यों दोनों में सत्यता की अभिव्यक्ति के लिए मौजूदा दृष्टिकोणों की तुलना में बेहतर सटीकता और सामान्यीकरण प्रदर्शित करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान रोबोट (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो कहानियाँ लिख सकता है, सवालों के जवाब दे सकता है और समाचारों का सारांश बना सकता है। समस्या यह है कि यह रोबोट कभी-कभी "भ्रमित" (hallucinate) हो जाता है—यह आत्मविश्वास के साथ तथ्य गढ़ लेता है या झूठ बोल देता है, ठीक वैसे ही जैसे कोई छात्र परीक्षा में उत्तर का अनुमान लगाता है लेकिन वास्तव में गलत होता है।
इस शोध पत्र के लेखकों ने इस रोबोट के लिए एक "झूठ पकड़ने वाला यंत्र" (lie detector) बनाने की कोशिश की। वे एक ऐसा तरीका चाहते थे जिससे हमें यह पता चल सके कि रोबोट का उत्तर भरोसे करने से पहले, क्या वह वास्तव में अनिश्चित है या वह सिर्फ दिखावा कर रहा है।
उन्होंने इसे कैसे किया, इसका सरल विवरण यहाँ दिया गया है:
पुराने तरीकों के साथ समस्या
पहले, वैज्ञानिक रोबोट को झूठ पकड़ने के लिए दो मुख्य तरीकों का उपयोग करते थे:
- "दोबारा पूछें" विधि (The "Ask Again" Method): रोबोट से वही सवाल 10 बार पूछें। यदि वह 10 अलग-अलग उत्तर देता है, तो संभावना है कि वह भ्रमित है। कमी: यह धीमा और महंगा है, जैसे किसी मित्र से एक ही सवाल 10 बार पूछना यह देखने के लिए कि क्या वह अपनी बात बदलता है।
- "आत्मविश्वास स्कोर" विधि (The "Confidence Score" Method): यह देखें कि रोबोट कितना आत्मविश्वासी लग रहा है। कमी: रोबोट पूरी तरह से गलत होने पर भी आत्मविश्वास से भरा दिखने में माहिर होता है।
नया विचार: "टोकन-लेवल डेंसिटी" जासूस
लेखकों ने महसूस किया कि रोबोट का "मस्तिष्क" (इसके आंतरिक स्तर/layers) अनिश्चितता के बारे में सुराग रखता है। उन्होंने महालनोबिस डिस्टेंस (Mahalanobis Distance - MD) नामक एक गणितीय उपकरण का उपयोग करने का निर्णय लिया।
उपमा: "सामान्य भीड़" बनाम "असंगत तत्व" (The "Normal Crowd" vs. The "Outlier")
कल्पना कीजिए कि रोबोट के पास "अच्छे, सही उत्तरों" की एक मानसिक लाइब्रेरी है जो उसने प्रशिक्षण के दौरान सीखी है।
- पुराना तरीका (अनुक्रम स्तर/Sequence Level): जब रोबोट एक पूरा वाक्य समाप्त करता था, तो पुराना तरीका पूरे वाक्य को एक बड़े समूह (blob) के रूप में देखता था और पूछता था, "क्या यह पूरा समूह 'अच्छे' उत्तरों जैसा दिखता है?" समस्या यह थी कि एक वाक्य में एक अजीब शब्द पूरे वाक्य को खराब कर सकता है, लेकिन "समूह" अभी भी ठीक दिख सकता है।
- नया तरीका (टोकन स्तर/Token Level): लेखकों ने तय किया कि वे रोबol द्वारा लिखे गए हर एक शब्द (टोकन) को, एक-एक करके, देखेंगे।
- वे पूछते हैं: "क्या यह विशिष्ट शब्द रोबोट की 'अच्छे' शब्दों की लाइब्रेरी में पाए जाने वाले शब्दों जैसा दिखता है?"
- यदि रोबोट एक ऐसा शब्द लिखता है जो बहुत अजीब है या उसके सही शब्दों की लाइब्रेरी से बहुत दूर है, तो उस शब्द को एक उच्च "संदेह स्कोर" (suspicion score) मिलता है।
- वे यह प्रक्रिया वाक्य के हर शब्द के लिए करते हैं, फिर अंतिम "अनिश्चितता स्कोर" प्राप्त करने के लिए उन स्कोरों का औसत निकालते हैं।
उन्होंने इसे कैसे बनाया (नुस्खा)
- "अच्छे" उदाहरण एकत्र करना: उन्होंने कई प्रश्न और उनके उत्तर लिए। उन्होंने इन उत्तरों को छानकर केवल उन्हीं को रखा जो निश्चित रूप से सही थे (जैसे एक शिक्षक टेस्ट ग्रेड करते समय केवल A+ पेपर रखता है)।
- "अच्छे" शब्दों का मानचित्र बनाना: उन्होंने उन A+ पेपर्स के शब्दों के आंतरिक गणित (embeddings) को देखा ताकि यह नक्शा बनाया जा सके कि रोबोट के मस्तिष्क के प्रत्येक स्तर के लिए "सही" क्या दिखता है।
- "संदेह" परीक्षण: जब रोबोट एक नया उत्तर बनाता है, तो सिस्टम हर एक शब्द की जांच उस "सही" मानचित्र के विरुद्ध करता है।
- यदि कोई शब्द "सही" मानचित्र से दूर है, तो उसे उच्च दूरी स्कोर (उच्च अनिश्चितता) मिलता है।
- यदि वह करीब है, तो उसे कम स्कोर (कम अनिश्चितता) मिलता है।
- "कोच" (लीनियर रिग्रेशन): चूंकि रोबोट के मस्तिष्क के हर स्तर को देखना जटिल है, इसलिए उन्होंने एक सरल "कोच" (एक लीनियर रिग्रेशन मॉडल) को प्रशिक्षित किया। यह कोच इन विभिन्न स्तरों से प्राप्त सभी संदेह स्कोर और रोबोट के अपने आत्मविश्वास को देखता है, और फिर कहता है, "इन सभी सुरागों के आधार पर, इस उत्तर के सत्य होने की कितनी संभावना है?"
उन्हें क्या पता चला
उन्होंने समाचार लेखों का सारांश बनाने से लेकर कठिन विज्ञान संबंधी प्रश्नों के उत्तर देने तक, 11 अलग-अलग कार्यों पर इस नए "टोकन-लेवल डिटेक्टिव" का परीक्षण किया।
- यह तेज़ है: "दोबारा पूछें" विधि के विपरीत, इसमें रोबोट को कई बार चलाने की आवश्यकता नहीं होती है। यह लगभग उतना ही तेज़ है जितना कि रोबोट का सामान्य रूप से उत्तर लिखना।
- यह स्मार्ट है: इसने पिछले तरीकों की तुलना में झूठ को बहुत बेहतर तरीके से पकड़ा। कई परीक्षणों में, यह उपलब्ध सबसे अच्छा तरीका था।
- यह नई चीज़ों पर भी काम करता है: यहाँ तक कि जब उन्होंने रोबोट का परीक्षण उन विषयों पर किया जिन्हें उसने प्रशिक्षण के दौरान नहीं देखा था (जैसे समाचारों का सारांश देने से चिकित्सा संबंधी प्रश्नों के उत्तर देने तक स्विच करना), तब भी यह तरीका काम कर गया।
- "हाइब्रिड" बढ़ावा: उन्होंने पाया कि अपने नए तरीके को रोबोट के अपने आत्मविश्वास स्कोर के साथ मिलाने ("हाइब्रिड" दृष्टिकोण) से झूठ पकड़ने में और भी बेहतर परिणाम मिले।
निष्कर्ष (The Bottom Line)
शोध पत्र का दावा है कि रोबोट द्वारा लिखे गए हर एक शब्द को देखकर और यह जाँचकर कि वह रोबोट के प्रशिक्षण की तुलना में कितना "अजीब" है, हम यह पता लगाने का एक बहुत तेज़, सटीक और सस्ता तरीका बना सकते हैं कि रोबोट सच बोल रहा है या मनगढ़ंत बातें बना रहा है। यह रोबोट को एक दर्पण देने जैसा है ताकि वह यह देख सके कि वह कुछ भी अजीब बोलने से पहले, खुद को देख सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।