Right Knowledge, Wrong Answer: Test-Time Steering for Temporal Fact Conflicts in Open-Weight Language Models
यह शोध पत्र टेम्पोरल अट्रैक्टर स्टीयरिंग (TAS) को प्रस्तुत करता है, जो एक टेस्ट-टाइम हस्तक्षेप विधि है जो ओपन-वेट लैंग्वेज मॉडल्स में पैरामीट्रिक टेम्पोरल संघर्षों का पता लगाती है और उन्हें हल करती है, जो हिडन स्टेट्स को नए तथ्यों की ओर निर्देशित करके बिना रिट्रेनिंग या बाहरी रिट्रीवल के महत्वपूर्ण उत्तर सुधार दर प्राप्त करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Right Knowledge, Wrong Answer" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।
समस्या: आपके दिमाग में मौजूद एक "पुराना विश्वकोश" (Outdated Encyclopedia)
कल्पना कीजिए कि आपके सिर में एक विशाल, जादुई विश्वकोश (encyclopedia) है (यह आपका AI मॉडल है)। वर्षों से, आपने इसमें नए पन्ने जोड़े हैं। उदाहरण के लिए, आपने सीखा कि व्यक्ति A 2020 में एक कंपनी का CEO था, लेकिन 2024 में, व्यक्ति B ने कार्यभार संभाल लिया।
आदर्श रूप से, यदि कोई पूछता है, "CEO कौन है?" तो आपको व्यक्ति B कहना चाहिए। लेकिन कभी-कभी, यह जादुई विश्वकोश भ्रमित हो जाता है। भले ही नया तथ्य (व्यक्ति B) किताब में स्पष्ट रूप से लिखा हो, लेकिन जब आप एक साधारण प्रश्न पूछते हैं, तो किताब गलती से आपको पुराने पन्ने (व्यक्ति A) की ओर ले जाती है।
पेपर इसे "पैरामीट्रिक टेम्पोरल कॉन्फ्लिक्ट" (Parametric Temporal Conflict) कहता है। ऐसा नहीं है कि AI ने नए CEO को भूल दिया है; नया CEO अभी भी उसकी याददाश्त में मौजूद है। बस, AI की "डिफ़ॉल्ट सेटिंग" नए उत्तर के बजाय पुराने, परिचित उत्तर को प्राथमिकता देती है।
समाधान: "टेम्पोरल अट्रैक्टर स्टीयरिंग" (TAS)
शोधकर्ताओं ने इस समस्या को ठीक करने के लिए TAS नामक एक विधि बनाई है, ताकि पूरे विश्वकोश को फिर से लिखना (retraining) न पड़े या इंटरनेट पर तथ्यों को न खोजना पड़े (retrieval)। वे AI को एक ऐसी कार की तरह मानते हैं जिसे सही लेन में रहने के लिए एक हल्के से धक्के (nudge) की आवश्यकता है।
TAS कैसे काम करता है, इसके तीन सरल चरण यहाँ दिए गए हैं:
1. जासूस (Detection)
सबसे पहले, सिस्टम एक जासूस की तरह काम करता है। यह AI से दो तरीकों से सवाल पूछता है:
- तरीका A: "CEO कौन है?" (मानक तरीका)।
- तरीका B: "2024 के अनुसार, CEO कौन है?" (वह तरीका जिसमें समय का संकेत शामिल है)।
यदि AI इन दोनों सवालों के अलग-अलग जवाब देता है, तो जासूस को पता चल जाता है, "अहा! यहाँ एक टकराव है। AI नया उत्तर जानता है, लेकिन वह उसे अनदेखा कर रहा है।"
2. मानचित्रकार (Localization)
इसके बाद, शोधकर्ताओं को यह पता लगाना होता है कि AI के मस्तिष्क में यह भ्रम कहाँ हो रहा है। AI को कई असेंबली लाइनों (layers) वाली एक फैक्ट्री के रूप में सोचें।
- उन्होंने पाया कि प्रत्येक प्रकार के AI मॉडल के लिए, आमतौर पर एक विशिष्ट असेंबली लाइन होती है जहाँ निर्णय लिया जाता है।
- फैक्ट्री का परीक्षण करके, उन्होंने सटीक रूप से उस लाइन (लेयर) का पता लगाया जो इस गड़बड़ी के लिए जिम्मेदार है। कुछ मॉडलों के लिए, यह लाइन के अंत के पास है; अन्य के लिए, यह बीच में है।
3. हल्का धक्का या दिशा बदलना (The Nudge/Steering)
अंत में, वे एक "नज" (नudge) लागू करते हैं।
- कल्पना कीजिए कि AI की विचार प्रक्रिया एक पहाड़ी से लुढ़कती हुई गेंद की तरह है। "पुराना उत्तर" एक गहरा, आरामदायक गड्ढा है जिसमें गेंद लुढ़कना पसंद करती है। "नया उत्तर" पास में ही एक ऊँचा और समतल स्थान है जहाँ तक गेंद पहुँच सकती है, लेकिन वह वहाँ नहीं जाना चाहती।
- TAS एक विशिष्ट वेक्टर (दिशा) की गणना करता है जो "नए तथ्य" का प्रतिनिधित्व करता है।
- जब AI गलत उत्तर देने वाला होता है, तो TAS गेंद को (AI की आंतरिक स्थिति को) "नए तथ्य" वाले गड्ढे की ओर धीरे से धकेलता है।
- महत्वपूर्ण बात: वे ऐसा केवल तभी करते हैं जब जासूस (चरण 1) ने पुष्टि की हो कि वास्तव में कोई टकराव (conflict) है। यदि AI पहले से ही सही उत्तर दे रहा है, तो वे उसे अकेला छोड़ देते हैं।
परिणाम: क्या हुआ?
शोधकर्ताओं ने चार अलग-अलग लोकप्रिय AI मॉडलों (जैसे Qwen, Mistral, और Llama) पर लगभग 9,000 वास्तविक दुनिया के तथ्यों (जैसे CEO, राष्ट्राध्यक्ष और कोच) के विशाल डेटासेट का उपयोग करके इसका परीक्षण किया।
- "फ्लिप" (Flip) दर: जब उन्होंने उस विशिष्ट लेयर को पैच किया जिसे उन्होंने खोजा था (चरण 2), तो वे AI को पुराने उत्तर से नए उत्तर में बदलने के लिए 72% से 85% बार मजबूर कर सके।
- पूर्ण प्रणाली: जब उन्होंने पूर्ण TAS सिस्टम (Detect + Locate + Nudge) का उपयोग किया, तो वे 29% से 57% टकरावों को सफलतापूर्वक ठीक करने में सक्षम रहे।
- सुरक्षा: सबसे अच्छी बात यह है कि इसने AI को खराब नहीं किया। उन प्रश्नों पर जहाँ कोई टकराव नहीं था (AI पहले से ही सही था), सिस्टम ने AI की सटीकता को 85% से 99% पर बनाए रखा। इसने गलती से AI को "आसमान हरा है" कहने पर मजबूर नहीं किया, सिर्फ इसलिए क्योंकि वह CEO वाले सवाल को ठीक करने की कोशिश कर रहा था।
यह क्यों महत्वपूर्ण है (पेपर के अनुसार)
पेपर का दावा है कि यह AI को बिना निम्नलिखित के ठीक करने का एक नया तरीका है:
- रिट्रेनिंग (Retraining): आपको AI को नई गणित नहीं सिखानी है या उसे नई किताबें नहीं खिलानी हैं।
- इंटरनेट सर्च: आपको उत्तर खोजने के लिए AI को गूगल से जोड़ने की आवश्यकता नहीं है।
- बाहरी उपकरण: यह पूरी तरह से मॉडल के अपने "मस्तिष्क" के भीतर काम करता है।
यह साबित करता है कि "नया ज्ञान" वास्तव में AI के अंदर मौजूद है, बस इंतज़ार कर रहा है कि हम सही समय पर सही स्विच को कैसे दबाते हैं।
सारांश उपमा (Summary Analogy)
AI को एक ऐसे GPS की तरह समझें जो एक पुराने मानचित्र पर अटका हुआ है। वह जानता है कि नया रास्ता मौजूद है (यह डेटाबेस में है), लेकिन वह बार-बार आपको पुराने, बंद रास्ते पर ले जाने की कोशिश करता है।
- पुराने तरीके ऐसे होंगे जैसे GPS को हटाकर नया खरीदना (retraining) या हर बार रास्ता पूछने के लिए किसी इंसान की मदद लेना (retrieval)।
- इस पेपर का तरीका एक स्मार्ट सह-चालक (co-pilot) की तरह है जो ध्यान देता है कि आप बंद सड़क की ओर मुड़ने वाले हैं, नक्शा देखता है कि नया रास्ता वैध है, और धीरे से स्टीयरिंग को नए रास्ते की ओर मोड़ देता है, जबकि बाकी समय वह आपको सामान्य रूप से गाड़ी चलाने देता है जब आप भ्रमित नहीं होते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।