A Controlled Study of Decoding-Time Truthfulness Methods on Instruction-Tuned LLMs
यह शोध पत्र CHAIR को प्रस्तुत करता है, जो एक पर्यवेक्षित ढांचा (supervised framework) है जो सभी परतों में आंतरिक टोकन लॉजिट्स (internal token logits) से निकाले गए संक्षिप्त सांख्यिकीय विशेषताओं का विश्लेषण करके इंस्ट्रक्शन-ट्यून्ड LLMs में मतिभ्रम (hallucinations) का पता लगाता है, जो TruthfulQA और MMLU जैसे बेंचमार्क पर महत्वपूर्ण सटीकता सुधार प्रदर्शित करते हुए उन्नत डिकोडिंग रणनीतियों की क्षमता को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान लाइब्रेरियन (AI मॉडल) है। लंबे समय तक, लोगों ने इस लाइब्रेरियन को सच बोलने के लिए एक "सत्य फ़िल्टर" (truth filter) पहनाकर सच बोलने की कोशिश की। ये फ़िल्टर विशेष चश्मे या कान में लगे एक फुसफुसाने वाले उपकरण की तरह थे जो लाइब्रेरियन को तथ्यात्मक उत्तरों की ओर धकेलने की कोशिश करते थे।
अतीत में, जब यह लाइब्रेरियन अभी एक छात्र था (एक "बेस मॉडल" जिसके पास कम प्रशिक्षण था), तो ये फ़िल्टर चमत्कार करते थे, जिससे उनकी सत्यनिष्ठा में भारी उछाल आता था।
लेकिन यह शोध पत्र एक सरल प्रश्न पूछता है: क्या ये फ़िल्टर तब भी काम करते हैं जब लाइब्रेरियन पहले से ही एक वरिष्ठ विशेषज्ञ (एक आधुनिक, "इंस्ट्रक्शन-ट्यून्ड" मॉडल) हो चुका है जो पहले से ही सच बोलने में बहुत कुशल है?
लेखक, एओ सन (Ao Sun) ने इन फ़िल्टर्स को एक सख्त, बिना किसी ढिलाई वाले परीक्षण के अधीन करने का निर्णय लिया। उन्होंने जो पाया, वह यहाँ सरल रूप में समझाया गया है:
1. "जादुई चश्मे" की चमक खो गई
जब शोधकर्ताओं ने आधुनिक, विशेषज्ञ स्तर के लाइब्रेरियन पर इन "सत्य फ़िल्टर्स" (तकनीकी रूप से जिन्हें 'डिकोडिंग-टाइम मेथड्स' कहा जाता है) का परीक्षण किया, तो परिणाम निराशाजनक रहे।
- पुरानी कहानी: पिछले अध्ययनों ने दावा किया था कि ये फ़िल्टर सत्यनिष्ठा में 10-30% का भारी उछाल जोड़ते हैं।
- नई वास्तविकता: जब सख्त और निष्पक्ष परिस्थितियों में परीक्षण किया गया, तो वे लाभ लगभग गायब हो गए। वास्तव में, कुछ फ़िल्टर्स ने लाइब्रेरियन को सच बोलने में और भी खराब बना दिया, या उनका कोई प्रभाव नहीं पड़ा। वह "जादू" ज्यादातर उन परीक्षणों के कारण एक भ्रम था जैसे उन्हें पहले सेट किया गया था।
2. पुराने परीक्षणों ने झूठ क्यों बोला? (5 जाल)
शोध पत्र बताता है कि पिछले "बड़ी जीत" एक जादूगर के करतब की तरह थे। शोधकर्ताओं ने पाँच विशिष्ट तरीकों की पहचान की जिनसे पुराने परीक्षण पक्षपाती या त्रुटिपूर्ण थे:
- धोखेबाज छात्र (कंटैमिनेशन/संदूषण): कुछ फ़िल्टर्स को उन्हीं सवालों पर प्रशिक्षित किया गया था जिन पर बाद में उनका परीक्षण किया गया। यह एक छात्र को परीक्षा से पहले ही उत्तर कुंजी देने जैसा है। जब शोधकर्ताओं ने एक "साफ" परीक्षण (ऐसे सवाल जो मॉडल ने पहले कभी नहीं देखे थे) का उपयोग किया, तो स्कोर गिर गया।
- पक्षपाती जज (जज बायस): पुराने परीक्षणों में अक्सर उत्तरों को ग्रेड देने के लिए केवल एक AI का उपयोग किया जाता था। यह सच है कि अलग-अलग AI जजों के अलग-अलग व्यक्तित्व होते हैं। एक लंबा, आत्मविश्वासी उत्तर पसंद कर सकता है भले ही वह गलत हो, जबकि दूसरा उसे नापसंद करता है। जज बदलने से कभी-कभी एक "जीत" बदलकर "हार" में बदल गई।
- मुफ्त की चीज़ों को अनदेखा करना (मिसिंग बेसलाइन्स): पुराने परीक्षणों ने फैंसी फ़िल्टर्स की तुलना एक "आलसी" सेटिंग से की। लेकिन शोधकर्ताओं ने पाया कि सिर्फ एक साधारण डायल (तापमान/temperature बदलना) बदलकर मॉडल को जटिल, महंगे फ़िल्टर्स जितना ही सत्यनिष्ठ बनाया जा सकता है। यह 5 के ईयरप्लग भी वही काम कर देते हैं।
- "लंबा उत्तर" वाला जाल (कॉन्फाउंड्स): कभी-कभी फ़िल्टर्स ने मॉडल को अधिक बोलने या जवाब देने से मना करने के लिए प्रेरित किया। पुराने परीक्षणों ने इसे "सत्यनिष्ठ होना" माना, लेकिन वास्तव में, मॉडल केवल सतर्क या अधिक शब्द बोल रहा था, न कि वास्तव में अधिक सटीक।
- सिक्के का उछाल (सांख्यिकीय शोर/Statistical Noise): दावा किए गए सुधार इतने मामूली थे कि वे अक्सर केवल संयोग या भाग्य थे। यदि आप एक सिक्के को 10 बार उछालते हैं, तो आपको 7 बार 'हेड्स' मिल सकता है। इसका मतलब यह नहीं है कि सिक्का पक्षपाती है; यह केवल शोर (noise) है। शोध पत्र दिखाता है कि पुराने लाभ अक्सर केवल शोर थे।
3. वास्तव में क्या काम करता है? ("बोलने से पहले सोचें" विधि)
यदि फैंसी फ़िल्टर्स काम नहीं करते हैं, तो क्या काम करता है? शोध पत्र ने पाया कि सबसे प्रभावी तरीका आश्चर्यजनक रूप से सरल है: मॉडल को ज़ोर से सोचने के लिए कहें।
- चेन-ऑफ-थॉट (CoT): केवल उत्तर देने के बजाय, मॉडल से पहले अपने तर्क के चरणों को लिखने के लिए कहा जाता है।
- परिणाम: इस पद्धति ने विभिन्न परीक्षणों में सत्यनिष्ठा में लगातार 5% से 19% का सुधार किया।
- यह क्यों काम करता है: यह मॉडल के आंतरिक गियर को बदलने के बारे में नहीं है (जैसा कि फ़िल्टर्स ने कोशिश की थी); यह मॉडल को समस्या के माध्यम से विचार करने या तर्क करने का क्षण देने के बारेंे है, ठीक वैसे ही जैसे एक इंसान करता है।
4. निष्कर्ष (The Takeaway)
शोध पत्र निष्कर्ष निकालता है कि आधुनिक, विशेषज्ञ AI मॉडल के लिए, आप सत्य को कैसे मापते हैं, यह उस पद्धति के समान ही महत्वपूर्ण है जिसका आप उपयोग करते हैं।
- चमक-धमक पर भरोसा न करें: यदि कोई नई विधि सत्यनिष्ठा में भारी उछाल का दावा करती है, तो जांच लें कि क्या उन्होंने निष्पक्ष परीक्षण का उपयोग किया है।
- सादगी की जीत होती है: कभी-कभी, AI को बस "चरण-दर-चरण सोचने" के लिए कहना, उसे सच बोलने के लिए मजबूर करने वाले जटिल, महंगे उपकरण बनाने से बेहतर होता है।
- "आसान जीत" का युग समाप्त हो गया है: आसान उपलब्धियां अब खत्म हो चुकी हैं। आधुनिक मॉडल पहले से ही काफी सत्यनिष्ठ हैं, और उन्हें छोटे बदलावों के साथ और अधिक सत्यनिष्ठ बनाने के लिए मजबूर करने से अक्सर कोई लाभ नहीं होता।
संक्षेप में: जो फ़िल्टर्स शुरुआती लोगों के लिए काम करते थे, वे विशेषज्ञों के लिए ज्यादातर बेकार हैं। यदि आप आज एक सत्यनिष्ठ AI चाहते हैं, तो बस उसे बोलने से पहले सोचने के लिए कहें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।