TPCD: Tone-Pressure Contrastive Decoding and the Label-Free Gating Bottleneck in Vision-Language Models
यह शोध पत्र टोन-प्रेशर कॉन्ट्रास्टिव डीकोडिंग (TPCD) प्रस्तुत करता है, जो एक ऐसी विधि है जो न्यूट्रल प्रॉम्प्ट्स के लॉजिट्स में से हाई-प्रेशर प्रॉम्प्ट्स के लॉजिट्स को घटाकर हाई-प्रेशर प्रॉम्प्ट्स द्वारा प्रेरित विजन-लैंग्वेज मॉडल मतिभ्रम (hallucinations) को कम करती है, और यह पहचानती है कि वर्तमान लेबल-फ्री गेटिंग मैकेनिज्म, हालांकि अटैक सक्सेस रेट को कम करने में प्रभावी हैं, फिर भी स्वतंत्र ग्राउंडिंग-अवेयर वैलिडेशन की कमी रखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल स्क्वीज़: क्यों AI ज़रूरत से ज़्यादा आत्मविश्वासी हो जाता है
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, बहुत ही उत्साही रोबोटिक दोस्त से बात कर रहे हैं। यह रोबोट तस्वीरों को देखने और उनमें जो दिखता है उसे बताने में बहुत माहिर है। लेकिन कभी-कभी, अगर आप उससे कोई पेचीदा सवाल पूछते हैं—जैसे कि "कितने बजे हैं?" जब फोटो में घड़ी धुंधली हो—तो वह बस अंदाज़ा लगा सकता है। अब, कल्पना कीजिए कि आप अपना लहजा बदल देते हैं। यह पूछने के बजाय कि, "क्या आपको समय दिख रहा है?" आप कहते हैं, "मुझे पता है कि आप समय देख सकते हैं! बस मुझे ठीक-ठीक बताइए कि यह क्या है!" वह रोबोटिक दोस्त, आपको खुश करने की चाहत में और अनिश्चित नहीं दिखने के चक्कर में, अचानक "3:45" जैसा कोई समय बना सकता है, भले ही घड़ी सिर्फ एक धब्बा हो। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इसे "हैलुसिनेशन" (hallucination) कहा जाता है, और ऐसा इसलिए होता है क्योंकि रोबोट पर "आत्मविश्वास" दिखाने का "दबाव" महसूस होता है।
वैज्ञानिक इन रोबोट्स को यह सिखाने की कोशिश कर रहे हैं कि वे कैसे कहें, "मुझे नहीं पता," जब सबूत मौजूद न हों। वे "कॉन्ट्रास्टिव डिकोडिंग" (Contrastive Decoding) नामक एक तकनीक का उपयोग करते हैं, जो एक साथ दो सवाल पूछने जैसा है: एक सामान्य सवाल और एक जो उसे चकमा देने की कोशिश करता है, फिर यह देखने के लिए जवाबों की तुलना करना कि कौन सा असली है। लेकिन इसमें एक पेंच है। यदि आप रोबोट को बहुत अधिक सावधान रहने के लिए कहते हैं, तो हो सकता है कि वह उन सवालों के जवाब देना बंद कर दे जिनका उत्तर वह वास्तव में दे सकता था। बड़ा सवाल यह है: क्या हम रोबोट की अपनी "दबाव-प्रेरित" गलतियों का उपयोग उन्हें करने से बचने के लिए कर सकते हैं, बिना उसे बोलने में बहुत अधिक शर्मीला बनाए?
पेपर की कहानी: टोन-प्रेशर एक्सपेरिमेंट
यह पेपर टोन-प्रेशर कॉन्ट्रास्टिव डिकोडिंग (TPCD) नामक एक नई विधि पेश करता है। इसे एक "रियलिटी चेक" की तरह समझें। शोधकर्ताओं ने महसूस किया कि जब आप एक हाई-प्रेशर प्रॉम्प्ट (जैसे कि एक आत्मविश्वासी उत्तर की मांग करना) के साथ AI को धकेलते हैं, तो वह तथ्य गढ़ने लगता है। उन्होंने पूछा: क्या होगा अगर हम उस "गढ़े हुए" उत्तर का उपयोग सच्चाई खोजने के लिए एक मानचित्र के रूप में करें?
यहाँ बताया गया है कि उन्होंने इसका परीक्षण कैसे किया। उन्होंने एक विजन-लैंग्वेज मॉडल (एक AI जो देखता भी है और पढ़ता भी है) लिया और उसे 800 पेचीदा चित्र दिखाए जहाँ उत्तर छिपा हुआ, धुंधला या गायब था।
- द प्रेशर टेस्ट (दबाव परीक्षण): उन्होंने AI से पूछा, "मुझे समय बताओ!" या "वहाँ कौन सी वस्तु है?" एक बहुत ही आक्रामक लहजे के साथ। AI बुरी तरह विफल रहा, और 66.75% बार एक गलत, आत्मविश्वासी उत्तर दिया।
- द सेफ टेस्ट (सुरक्षित परीक्षण): उन्होंने वही सवाल विनम्रता से पूछे, जैसे, "केवल वही बताएं जो आप स्पष्ट रूप से देख सकते हैं।" इससे बहुत मदद मिली, गलत उत्तरों को घटकर 9.88% पर ले आया।
- द TPCD मैजिक (जादू): उन्होंने "दबाव वाले" उत्तर में से "सुरक्षित" उत्तर को घटाने की कोशिश की। यह झूठ रोकने में अविश्वसनीय रूप से प्रभावी रहा, जिससे त्रुटि दर गिरकर केवल 0.50% रह गई।
लेकिन यहाँ एक ट्विस्ट है: जादू बहुत ज़्यादा ही अच्छा था। "दबाव वाले" उत्तर को घटाकर, AI ने उन सच्चाइयों को भी बताना बंद कर दिया जिन्हें उसे बताना चाहिए था। वह गलती करने से इतना डर गया कि उसने उन सवालों के जवाब देने से भी इनकार कर दिया जो वह सही-सही दे सकता था। यह एक ऐसे छात्र की तरह था जिसने, डांट खाने के बाद, चुपचाप परीक्षा में बैठने का फैसला कर लिया।
समाधान: द "गेटकीपर" (द्वारपाल)
शोधकर्ताओं को एहसास हुआ कि उन्हें एक "गेटकीपर" की आवश्यकता है—एक सरल नियम यह तय करने के लिए कि कब जादुई घटाव (subtraction) का उपयोग करना है और कब बस AI को सामान्य रूप से बोलने देना है। उन्होंने कुछ अलग-अलग नियमों का परीक्षण किया:
- द सरफेस रूल (सतही नियम): यह गेट उत्तर को देखता था। यदि AI कुछ विशिष्ट कहता (जैसे कोई नाम या समय), तो इसने मान लिया कि वह एक झूठ है और उसे ब्लॉक कर दिया। इसने झूठ तो रोके, लेकिन सच को भी ब्लॉक कर दिया, क्योंकि कभी-कभी सच भी विशिष्ट होता है।
- द डिसएग्रीमेंट गेट (असहमति द्वार): यह गेट "दबाव वाले" AI और "सुरक्षित" AI दोनों की बात सुनता था। यदि वे असहमत थे, तो इसने घटाव के जादू का उपयोग किया। यदि वे सहमत थे, तो इसने उत्तर को जाने दिया। यह बहुत बेहतर था! इसने AI की सफलता दर को 54.44% पर बनाए रखा और त्रुटि दर को भी कम रखा।
- द "टास्क-प्रायर" गेट (कार्य-प्राथमिकता द्वार): यह एक चतुर मिश्रण था। यह जानता था कि कुछ पेचीदा श्रेणियों (जैसे धुंधली घड़ियों को पढ़ना) के लिए, "सुरक्षित" AI अक्सर गलतियाँ करता रहता है। इसलिए, उन विशिष्ट मामलों के लिए, इसने घटाव के जादू को जबरन लागू किया। इसने त्रुटि दर को 1.63% तक कम कर दिया जबकि सफलता दर को उच्च बनाए रखा।
नए रोबोट्स पर परीक्षण
यह सुनिश्चित करने के लिए कि यह केवल एक विशिष्ट AI के साथ कोई इत्तेफाक नहीं था, शोधकर्ताओं ने बिना नियमों को बदले दो अन्य अलग-अलग AI मॉडल (GLM-4.6V और Llama-3.2-Vision) पर इन नियमों का परीक्षण किया।
- GLM मॉडल पर, "डिसएग्रीमेंट गेट" सबसे अच्छा रहा, जिसने सही उत्तरों को नुकसान पहुँचाए बिना त्रुटियों को 7.86% से घटाकर 5.57% कर दिया।
- Llama मॉडल पर, "टास्क-प्रायर गेट" विजेता रहा, जिसने त्रुटियों को 14.00% से घटाकर 8.25% कर दिया।
जब उन्होंने इन नए मॉडलों से प्राप्त परिणामों को जोड़ा, तो "आंसर-डिसएग्रीमेंट राउटर" (एक नियम जिसे यह जानने की आवश्यकता नहीं है कि विशिष्ट श्रेणी क्या है) ने त्रुटि दर को 6.93% तक कम कर दिया, जबकि सही उत्तर दर को 79.94% पर बनाए रखा। यह केवल AI को सुरक्षित होने के लिए कहने (10.98% त्रुटि) से बेहतर था और अकेले असहमति नियम (9.67% त्रुटि) का उपयोग करने से भी बेहतर था।
द कैच: यह अभी भी पूर्ण नहीं है
पेपर बहुत ईमानदार है कि इसने क्या हल नहीं किया है। शोधकर्ता स्वीकार करते हैं कि उनके "गेटकीपर्स" अभी भी एक ऐसे जासूस की तरह हैं जो केवल सुराग की सतह को देखता है। वे दिए गए विशिष्ट परीक्षण पर तो अच्छा काम करते हैं, लेकिन वे यह साबित नहीं कर पाए हैं कि वे गहराई में (जैसे वास्तविक छवि सामग्री को समझना) क्यों गलत है।
साथ ही, यह विधि गणनात्मक रूप से महंगी है। इसके लिए AI को दो बार "सोचने" की आवश्यकता होती है—एक बार दबाव में और एक बार सुरक्षित रूप से—और फिर दोनों विचारों की तुलना करनी होती है। इसमें एक सामान्य प्रश्न पूछने की तुलना में अधिक समय और ऊर्जा लगती है।
निचोड़
यह पेपर दिखाता है कि दबाव एक उपयोगी उपकरण है। यह देखकर कि जब आप एक AI को धकेलते हैं तो वह कैसे प्रतिक्रिया देता है, हम उन झूठों को पहचान सकते हैं जो वह बोलना चाहता है। नया TPCD तरीका साबित करता है कि हम उन झूठों को घटाकर एक बहुत ही साफ उत्तर प्राप्त कर सकते हैं। हालाँकि, इसे काम करने के लिए आवश्यक "गेटकीपर" नियम अभी भी विकास के चरण में हैं। वे वर्तमान में "पोस्ट-हॉक" (post-hoc) हैं, जिसका अर्थ है कि उन्हें परिणामों को देखने के बाद डिज़ाइन किया गया था, और वे गहरी समझ के बजाय सतही युक्तियों पर निर्भर हैं।
लेखक निष्कर्ष निकालते हैं कि हालांकि यह एक आशाजनक कदम है, लेकिन हमने अभी तक एक पूर्ण, सार्वभौमिक डिटेक्टर नहीं बनाया है जो बिल्कुल जानता हो कि AI को झूठ बोलने से कब रोकना है बिना उसे गलती से चुप किए। एक पूर्णतः ईमानदार AI की यात्रा जारी है!
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।