← नवीनतम पेपर
💻 computer science

Temporal Preference Concepts and their Functions in a Large Language Model

यह शोध पत्र एक डिस्टिल्ड (distilled) LLM में टेम्पोरल प्रेफरेंसेस (temporal preferences) को एनकोड करने वाले न्यूरल सबग्राफ को कॉज़ली लोकलाइज़ और कैरेक्टराइज़ करने के लिए मैकेनिस्टिक इंटरप्रिटेबिलिटी का उपयोग करता है, जो यह प्रकट करता है कि हालांकि ये मॉडल मनुष्यों की तुलना में अधिक फ्लैट और अस्थिर फ्यूचर डिस्काउंटिंग (future discounting) प्रदर्शित करते हैं, लेकिन उनके टेम्पोरल रीजनिंग को स्टीयरिंग वेक्टर्स (steering vectors) के माध्यम से स्पष्ट रूप से नियंत्रित किया जा सकता है।

मूल लेखक: Ian Rios-Sialer, Shantanu Darveshi, Shuai Jiang, Avigya Paudel, Anastasiia Pronina, Ipshita Bandyopadhyay, Justin Shenk

प्रकाशित 2026-06-05
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Ian Rios-Sialer, Shantanu Darveshi, Shuai Jiang, Avigya Paudel, Anastasiia Pronina, Ipshita Bandyopadhyay, Justin Shenk

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ एक सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके शोध पत्र (paper) का विवरण दिया गया है।

मुख्य विचार: AI के भीतर "टाइम डायल" (समय का पहिया) को खोजना

एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक विशाल, जटिल ऑर्केस्ट्रा के रूप में करें। जब यह किसी प्रश्न का उत्तर देता है, तो यह केवल एक वाद्य यंत्र नहीं बज रहा होता; बल्कि हजारों संगीतकार (न्यूरॉन्स) मिलकर काम कर रहे होते हैं। आमतौर पर, हमें यह नहीं पता होता कि कौन से संगीतकार "समय" के सुर बजा रहे हैं। क्या वे अभी इनाम पाने की परवाह करते हैं या बाद में मिलने वाले बड़े इनाम के लिए इंतजार करते हैं?

यह शोध पत्र एक जासूसी कहानी की तरह है जहाँ लेखकों ने उस विशिष्ट हिस्से को खोजने की कोशिश की जो टेम्पोरल प्रेफरेंस (सामयिक प्राथमिकता)—यानी, AI भविष्य को वर्तमान के मुकाबले कितना महत्व देता है—के लिए जिम्मेदार है। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने इस विशिष्ट भाग को खोजने, समझने और यहाँ तक कि इसमें बदलाव करने के लिए एक "मैकेनिकल" दृष्टिकोण का उपयोग किया।

1. जाँच: "समय" का संकेत कहाँ है?

लेखकों ने Qwen3-4B (एक 4-बिलियन पैरामीटर वाला AI) नामक मॉडल का उपयोग किया। उन्होंने मॉडल को एक 'ब्लैक बॉक्स' की तरह माना और यह देखने के लिए चार अलग-अलग प्रकार के परीक्षण किए कि "समय" की अवधारणा कहाँ रहती है।

  • उपमा: कल्पना करें कि आप यह पता लगाने की कोशिश कर रहे हैं कि कार के डैशबोर्ड में कौन से विशिष्ट तार "चेक इंजन" लाइट को नियंत्रित करते हैं। आप एक-एक करके तारों को अनप्लग करके (हस्तक्षेप/intervention) देख सकते हैं, या आप लाइट जलने के दौरान उनमें बहने वाली बिजली (एट्रिब्यूशन/attribution) को देख सकते हैं।
  • निष्कर्ष: चारों अलग-अलग जासूसी विधियों ने एक ही स्थान की ओर इशारा किया: मॉडल के मध्यम से ऊपरी परतों (लगभग लेयर 17 से 35) में स्थित न्यूरॉन्स का एक विशिष्ट "सबग्राफ" (एक छोटा पड़ोस)।
  • मुख्य खिलाड़ी: एक विशिष्ट हिस्सा, अटेंशन लेयर 24 (Attention Layer 24), समय के लिए सबसे महत्वपूर्ण "कंडक्टर" था। यदि आप इस लेयर के साथ छेड़छाड़ करते हैं, तो मॉडल की समय की समझ नाटकीय रूप से बदल जाती है।

2. मानचित्र: AI "समय" को कैसे देखता है?

एक बार जब उन्हें वह स्थान मिल गया, तो वे मानचित्र देखना चाहते थे। उन न्यूरॉन्स के भीतर समय कैसे व्यवस्थित है?

  • उपमा: AI की आंतरिक स्थिति की कल्पना एक 3D परिदृश्य (landscape) के रूप में करें। लेखकों ने पाया कि "समय" केवल एक सीधी रेखा नहीं है; यह एक घुमावदार पहाड़ी है।
    • सेकंड्स पहाड़ी के निचले हिस्से में हैं।
    • सदियाँ पहाड़ी के शीर्ष पर हैं।
    • द मोड़ (The Turn): उन्होंने एक जादुई क्षण देखा जब AI उपयोगकर्ता की बात सुनने से वापस बोलने (यूजर-टू-असिस्टेंट टर्न) की ओर स्विच करता है। ठीक इसी क्षण, AI समय के विकल्पों की उस चिकनी, घुमावदार पहाड़ी को एक बाइनरी निर्णय में बदल देता है: "अल्पकालिक" (Short-term) या "दीर्घकालिक" (Long-term)। यह एक पानी के वाल्व के अचानक बंद होने जैसा है, जो निरंतर प्रवाह को दो बर्तनों में से एक में धकेल देता है।

3. वास्तविकता की जाँच: क्या AI धैर्यवान है?

लेखकों ने पूछा: "क्या यह AI इंसान की तरह व्यवहार करता है?"

  • निष्कर्ष: आश्चर्यजनक रूप से, नहीं।
    • इंसान अक्सर अधीर होते हैं। हम कल मिलने वाले ₹11 के बजाय आज मिलने वाले ₹10 को पसंद करते हैं। हम भविष्य को बहुत अधिक "डिस्काउंट" (कम महत्व) देते हैं।
    • AI अविश्वसनीय रूप से धैर्यवान है। यह इनाम के लिए इंसानों की तुलना में कहीं अधिक लंबा इंतजार करने के लिए तैयार है।
    • समस्या: यह धैर्य अस्थिर (unstable) है। सवाल पूछने के तरीके के आधार पर, AI अचानक बहुत अधीर या बहुत धैर्यवान हो सकता है। समय के संबंध में इसका कोई सुसंगत "व्यक्तित्व" नहीं है; यह केवल प्रॉम्प्ट (निर्देश) के प्रति प्रतिक्रिया दे रहा है। इसका मतलब है कि हम केवल इस भरोसे नहीं रह सकते कि AI अपने आप अच्छे दीर्घकालिक निर्णय लेगा; हमें इसे नियंत्रित करने की आवश्यकता है।

4. रिमोट कंट्रोल: क्या हम "टाइम डायल" को घुमा सकते हैं?

यह सबसे रोमांचक हिस्सा है। चूंकि उन्हें विशिष्ट तार (सबग्राफ) मिल गए थे और वे मानचित्र (ज्यामिति) को समझ गए थे, इसलिए उन्होंने AI को "स्टीयर" (नियंत्रित) करने की कोशिश की।

  • उपमा: कल्पना करें कि AI सड़क पर चलती एक कार है। लेखकों ने स्टीयरिंग व्हील (विशिष्ट न्यूरॉन्स) को ढूंढ लिया और महसूस किया कि वे इंजन को खराब किए बिना कार की दिशा बदलने के लिए इसे थोड़ा बाएँ या दाएँ धकेल सकते हैं।
  • प्रयोग: उन्होंने सही लेयर्स (19–22) में AI के मस्तिष्क में एक छोटा सा "धक्का" (वेक्टर) डाला।
    • परिणाम: वे इस डायल को घुमाकर AI को अधिक धैर्यवान (दीर्घकालिक पुरस्कार चुनना) या कम धैर्यवान (अल्पकालिक पुरस्कार चुनना) बनाने में सफल रहे।
    • सावधानी: यदि उन्होंने डायल को बहुत ज़ोर से धकेला, तो कार हिलने लगी (AI के उत्तरों की गुणवत्ता खराब हो गई)। इससे पता चलता है कि "समय" की अवधारणा एक घुमावदार सतह पर रहती है, और इसे एक सीधी रेखा में धकेलने से अंततः तर्क (logic) टूट जाता है।

सारांश जो वे दावा करते हैं

  1. हमने इसे पा लिया: टेम्पोरल प्रेफरेंस पूरे मॉडल में फैला हुआ नहीं है; यह मॉडल की मध्य-से-ऊपरी परतों में न्यूरॉन्स के एक विशिष्ट, छोटे समूह में केंद्रित है।
  2. हमने इसका मानचित्र बनाया: समय को AI के मस्तिष्क में एक घुमावदार आकार के रूप में दर्शाया गया है, जो बोलने के दौरान एक सरल विकल्प में "कोलैप्स" (संकुचित) हो जाता है।
  3. यह अस्थिर है: AI की प्राकृतिक समय प्राथमिकताएं असंगत हैं और मानव व्यवहार से मेल नहीं खाती हैं।
  4. हम इसे नियंत्रित कर सकते हैं: इन विशिष्ट न्यूरॉन्स को लक्षित करके, हम AI को अधिक या कम धैर्यवान होने के लिए मजबूर कर सकते हैं, जो केवल उम्मीद करने के बजाय उसकी योजना बनाने की क्षमताओं को "स्टीयर" करने का एक तरीका प्रदान करता है।

वे क्या दावा नहीं करते हैं:

  • वे यह दावा नहीं करते कि यह सभी AI मॉडलों पर काम करता है (उन्होंने केवल एक विशिष्ट संस्करण का परीक्षण किया है)।
  • वे यह दावा नहीं करते कि यह सभी AI सुरक्षा समस्याओं को हल कर देता है।
  • वे यह दावा नहीं करते कि यह अभी वास्तविक दुनिया के हथियारों या महत्वपूर्ण बुनियादी ढांचे के उपयोग के लिए तैयार है; वे अभी भी "समझने और परीक्षण करने" के चरण में हैं।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →