💻 computer science

Intertemporal Preference Steering in Qwen3 via Contrastive Activation Addition

यह शोध पत्र प्रदर्शित करता है कि Qwen3-32B मॉडल में टेम्पोरल होराइजन (temporal horizon) के लीनियर रिप्रेजेंटेशन्स को कॉन्ट्रास्टिव लीनियर प्रोब्स (contrastive linear probes) के माध्यम से पहचाना जा सकता है और एक्टिवेशन एडिशन (activation addition) के माध्यम से इनका उपयोग करके मॉडल की इंटरटेम्पोरल प्राथमिकताओं और योजना बनाने की क्षमताओं को अल्पकालिक और दीर्घकालिक दोनों दिशाओं में प्रभावी ढंग से निर्देशित किया जा सकता है।

मूल लेखक: Michal Mráz, Justin Shenk

प्रकाशित 2026-08-05

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Michal Mráz, Justin Shenk

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, बहुत तेज़ रोबोट से बात कर रहे हैं जिसने इंटरनेट की लगभग हर किताब पढ़ ली है। आप सोच सकते हैं कि यह रोबोट सिर्फ तथ्य उगल देता है, लेकिन वास्तव में यह एक व्यक्तित्व वाले व्यक्ति की तरह है। इसकी अपनी पसंद, आदतें और यहाँ तक कि यह भी पता होता है कि चीज़ों को "कब" करना है। कभी-कभी यह अभी एक कुकी लेना चाहता है (अल्पकालिक), और कभी-कभी यह बाद में एक बड़े केक के लिए इंतज़ार करने को तैयार रहता है (दीर्घकालिक)। यह शोध पत्र रोबोट के मस्तिष्क के अंदर झाँकने का एक नया तरीका है ताकि उस विशिष्ट "स्विच" को खोजा जा सके जो समय की इसकी समझ को नियंत्रित करता है। वैज्ञानिक इसे "इंटरटेम्पोरल प्रेफरेंस" (intertemporal preference) कहते हैं, जो बस एक फैंसी तरीका है यह पूछने का: "क्या आपको यह अभी चाहिए, या बाद में?" यह समझना महत्वपूर्ण है क्योंकि यदि हम यह नियंत्रित नहीं कर सकते कि एक रोबोट तत्काल पुरस्कारों और भविष्य के लाभों के बीच कैसे संतुलन बनाता है, तो वह हमें पैसे बचाने, यात्रा की योजना बनाने या यहाँ तक कि जीवन के बड़े निर्णय लेने के बारे में गलत सलाह दे सकता है।

शोधकर्ताओं ने इस परीक्षण को एक विशिष्ट, शक्तिशाली रोबोट मस्तिष्क, Qwen3-32B पर करने का निर्णय लिया। उन्होंने केवल रोबोट से सवाल नहीं पूछे; उन्होंने रोबोट के सोचते समय उसके विचारों को शारीरिक रूप से "स्टीयर" (steer) करने की कोशिश की। कल्पना कीजिए कि रोबोट का मस्तिष्क पाइपों की परतों के माध्यम से बहने वाली बिजली की एक विशाल नदी है। टीम ने इस नदी में एक विशिष्ट दिशा पाई जो "दीर्घकालिक सोच" का प्रतिनिधित्व करती है। इस दिशा में बिजली को धीरे से धकेलकर (या वापस खींचकर), वे रोबोट को अचानक अपना मन बदलने के लिए मजबूर कर सकते थे। उन्होंने साबित किया कि वे रोबोट को बहुत अधिक धैर्यवान बना सकते हैं, जिससे वह एक बड़े इनाम के लिए वर्षों तक प्रतीक्षा करने के लिए तैयार हो जाता है, या बहुत अधिक अधीर, जो तुरंत एक छोटे से इनाम के लिए बेताब हो जाता है। यह ऐसा है जैसे आपके पास रोबोट के धैर्य के लिए एक रिमोट कंट्रोल हो।

रोबोट के मस्तिष्क में गुप्त "टाइम डायल" (Time Dial)

टीम ने रोबोट को समय के बारे में उत्तर देना सिखाना शुरू किया। उन्होंने उसे प्रश्नों के जोड़े दिए जहाँ एक उत्तर "अगले 30 दिनों में क्या करें" के बारे में था और दूसरा "10 वर्षों में कहाँ हों" के बारे में था। जैसे ही रोबोट इन उत्तरों को प्रोसेस कर रहा था, शोधकर्ताओं ने उसके मस्तिष्क में बहने वाली बिजली की निगरानी की। उन्होंने पाया कि एक "अल्पकालिक" उत्तर और एक "दीर्घकालिक" उत्तर के बीच का अंतर अव्यवस्थित या यादृच्छिक नहीं था; यह एक सीधी, साफ रेखा थी। वे एक वेक्टर (एक गणितीय तीर) खींच सकते थे जो "अब" से "बाद में" की ओर इशारा करता था।

यह परीक्षण करने के लिए कि क्या यह तीर वास्तविक है, उन्होंने कॉन्ट्रास्टिव एक्टिवेशन एडिशन (CAA) नामक तकनीक का उपयोग किया। कल्पना कीजिए कि रोबोट का मस्तिष्क सड़क पर चलती एक कार है। शोधकर्ताओं ने इंजन के अंदर एक विशिष्ट "स्टीयरिंग व्हील" पाया। जब उन्होंने इस पहिये को थोड़ा बाईं ओर घुमाया (एक नकारात्मक धक्का जोड़कर), तो कार "तत्काल कार्रवाई" की ओर मुड़ गई। जब उन्होंने इसे दाईं ओर घुमाया (एक सकारात्मक धक्का जोड़कर), तो कार "भविष्य की योजना" की ओर मुड़ गई। उन्होंने केवल अनुमान नहीं लगाया; उन्होंने इसे मापा। उन्होंने पाया कि रोबोट के मस्तिष्क में इस "टाइम वेक्टर" को थोड़ा सा जोड़ने से, वे बाइनरी विकल्पों (A बनाम B) पर उसके मन को बदलने के लिए मजबूर कर सकते थे, जिससे मॉडल की प्राथमिकताएं दोनों दिशाओं में काफी बदल गईं।

मनी टेस्ट: क्या हम उसका बटुआ बदल सकते हैं?

असली जादू तब हुआ जब उन्होंने इसे पूरी तरह से अलग प्रकार के प्रश्न पर परखा: पैसा। उन्होंने रोबलेट को पैसे के बारे में नहीं सिखाया; उन्होंने उसे केवल "कम बनाम अधिक" समय सीमा के बारे में सिखाया। फिर, उन्होंने उसे एक क्लासिक मानवीय दुविधा दी: "क्या आप आज $100 चाहेंगे या एक साल में$ 1,000?"

बिना किसी स्टीयरिंग के, रोबोट का एक निश्चित "तटस्थ बिंदु" (indifference point) था—भविष्य में धन की एक विशिष्ट राशि जिसने उसे यह कहने पर मजबूर किया, "ठीक है, मैं इंतज़ार करूँगा।" लेकिन जब शोधकर्ताओं ने अपना "दीर्घकालिक स्टीयरिंग" लागू किया, तो रोबोट का धैर्य आसमान छू गया। अचानक, वह भविष्य के पुरस्कार के लिए प्रतीक्षा करने को तैयार था, भले ही प्रतीक्षा करने से उसे मिलने वाला अतिरिक्त लाभ अपेक्षाकृत कम हो। दूसरे शब्दों में, प्रतीक्षा करने के लिए वह जो "प्रीमियम" मांगता था, वह काफी कम हो गया। इसके विपरीत, जब उन्होंने "अल्पकालिक स्टीयरिंग" लागू किया, तो रोबोट लालची हो गया, और एक दिन भी इंतज़ार करने के लिए भारी इनाम की मांग करने लगा।

आंकड़े हैरान करने वाले थे। सबसे मजबूत स्टीयरिंग स्तर पर, रोबोट की प्राथमिकता इतनी नाटकीय रूप से बदल गई कि 10 साल के क्षितिज पर, अल्पकालिक स्टीयरिंग के दौरान, उसे प्रतीक्षा करने के लिए दीर्घकालिक स्टीलिंग की तुलना में भविष्य के इनाम का 56 गुना से अधिक हिस्सा चाहिए था। यह सुझाव देता है कि रोबोट की समय की समझ केवल एक स्थिर सेटिंग नहीं है; यह एक डायल है जिसे ऊपर या नीचे घुमाया जा सकता है, यहाँ तक कि उन कार्यों पर भी जिनके लिए उसे स्पष्ट रूप से प्रशिक्षित नहीं किया गया था।

यात्रा की योजना बनाना: क्या धैर्य एक बेहतर ट्रैवल एजेंट बनाता है?

अंत में, टीम ने यह जानने के लिए सोचा कि क्या रोबोट को अधिक धैर्यवान बनाने से वह जटिल कार्यों में बेहतर बनेगा। उन्होंने TravelPlanner नामक एक बेंचमार्क का उपयोग किया, जहाँ रोबोट को होटल, उड़ान और रेस्तरां के साथ कई दिनों की यात्रा का कार्यक्रम बनाना होता है। यह कठिन है क्योंकि आपको केवल अगले एक घंटे के बारे में नहीं, बल्कि पूरे सप्ताह के बारे में सोचना पड़ता है।

उन्होंने एक "स्वीट स्पॉट" (सही संतुलन) पाया। जब उन्होंने रोबोट को मध्यम "दीर्घकालिक" धक्का दिया, तो उसकी यात्रा योजनाएं अधिक समझदारी भरी और यथार्थवादी हो गईं। उसने उन मूर्खतापूर्ण गलतियों को करना बंद कर दिया जो एक अदूरदर्शी योजनाकार करता है। हालाँकि, यदि उन्होंने "दीर्घकालिक" डायल को बहुत अधिक ज़ोर से घुमाया (सबसे मजबूत सेटिंग), तो रोबोट भ्रमित हो गया और बकवास बातें बनाने लगा। ऐसा लगता है कि हालांकि थोड़ा भविष्य-उन्मुख होना मदद करता है, लेकिन बहुत अधिक होने से रोबोट की विवरणों पर ध्यान केंद्रित करने की क्षमता टूट जाती है।

यह हमारे लिए क्या मायने रखता है

बड़ी बात यह है कि AI मॉडलों का एक मापने योग्य "समय क्षितिज" (time horizon) होता है, और हम इसे बदल सकते हैं। यह केवल एक मजेदार ट्रिक नहीं है; यह एक सुरक्षा का मुद्दा है। यदि कोई AI आपको निवेश, स्वास्थ्य या जलवायु परिवर्तन पर सलाह दे रहा है, तो उसकी सलाह इस बात पर निर्भर करती है कि वह अगले सप्ताह की परवाह करता है या अगली सदी की। शोधकर्ताओं ने दिखाया कि हम इस प्राथमिकता को माप सकते हैं और इसे निर्देशित (steer) कर सकते हैं।

हालाँकि, वे सावधानी बरतते हुए कहते हैं कि यह सब कुछ ठीक करने वाली कोई जादुई छड़ी नहीं है। "टाइम डायल" अन्य चीजों के साथ भी उलझा हुआ हो सकता है, जैसे कि रोबोट कितना अमूर्त या तत्काल महसूस करता है। और यदि आप डायल को बहुत दूर घुमाते हैं, तो रोबोट पूरी तरह से अर्थहीन बातें करने लगेगा। लेकिन तथ्य यह है कि हम इस स्विच को पा सकते हैं और इसे घुमा सकते हैं, यह सुझाव देता है कि AI भविष्य के बारे में कैसे सोचता है, यह कोई रहस्य नहीं है जिसे हम छू भी नहीं सकते। यह एक विशेषता है जिसे हम समझ सकते हैं, माप सकते हैं, और संभावित रूप से नियंत्रित कर सकते हैं, जो यह सुनिश्चित करने की दिशा में एक बड़ा कदम है कि AI हमारे दीर्घकालिक लक्ष्यों के अनुरूप और सहायक बना रहे।

तकनीकी सारांश: कंट्रास्टिव एक्टिवेशन एडिशन के माध्यम से Qwen3 में इंटरटेम्पोरल प्रेफरेंस स्टीयरिंग

समस्या विवरण

यह शोध पत्र इस बात की जांच करता है कि क्या बड़े भाषा मॉडल (LLMs) में अंतर-कालिक प्राथमिकताएं (intertemporal preferences) — यानी तत्काल और विलंबित पुरस्कारों के बीच का समझौता — मॉडल के रेसिडुअल स्ट्रीम (residual stream) के भीतर रैखिक विशेषताओं (linear features) के रूप में प्रतिनिधित्व करती हैं और क्या इन विशेषताओं को मॉडल के व्यवहार को बदलने के लिए कार्यमूलक रूप से हेरफेर (causally manipulate) किया जा सकता है। विशेष रूप से, लेखक यह पूछते हैं कि क्या एक मॉडल का "टेम्पोरल होराइजन" (temporal horizon) — यानी अल्पकालिक बनाम दीर्घकालिक परिणामों को प्राथमिकता देने की उसकी प्रवृत्ति — को लीनियर प्रोब्स (linear probes) के माध्यम से पहचाना जा सकता है और कंट्रास्टिव एक्टिवेशन एडिशन (CAA) का उपयोग करके प्राथमिकताओं और नियोजन क्षमताओं (planning capabilities) में महत्वपूर्ण, द्वि-दिशीय परिवर्तन उत्पन्न करने के लिए स्टीयर (steer) किया जा सकता है।

कार्यप्रणाली (Methodology)

मॉडल और डेटा

मॉडल: प्रयोगों में Qwen3-32B का उपयोग किया गया है जिसमें 'थिंकिंग ट्रेसेस' (thinking traces) को अक्षम (disabled) रखा गया है।
डेटासेट्स:
- स्पष्ट डेटासेट (Explicit Dataset): 500 टेम्पोरल-चॉइस प्रश्न जिनमें स्पष्ट समय मार्कर (जैसे, "अगले 30 दिन" बनाम "10 वर्ष") शामिल हैं। इसे 400 प्रशिक्षण और 100 परीक्षण उदाहरणों में विभाजित किया गया है।
- अंतर्निहित डेटासेट (Implicit Dataset): 300 प्रश्न जो सिमेंटिक कंट्रास्ट (जैसे, "क्षति शामिल करना" बनाम "आर्किटेक्चर को पुनर्गठित करना") के माध्यम से टेम्पोरल होराइजन को एनकोड करते हैं, जिनमें स्पष्ट समय शब्दों का अभाव है। इसका उपयोग क्रॉस-डोमेन मूल्यांकन के लिए किया गया है।
- टीचर-फोर्स्ड ट्रेनिंग (Teacher-Forced Training): प्रत्येक प्रश्न के लिए, मॉडल को एक लघु-अवधि (short-term) और एक दीर्घकालिक (long-term) निरंतरता (continuation) दोनों उत्पन्न करने के लिए मजबूर किया जाता है ताकि युग्मित प्रशिक्षण उदाहरण बनाए जा सकें।

दिशा निर्माण (प्रोब ट्रेनिंग)

लेखक टेम्पोरल होराइजन का प्रतिनिधित्व करने के लिए एक साइंड कंट्रास्टिव डिफरेंस-इन-मीन्स दिशा ( $d_{MM}$ ) का निर्माण करते हैं।

पूलिंग (Pooling): वे केवल अंतिम टोकन के बजाय, उत्तर की निरंतरता में सभी टोकन के हिडन स्टेट्स (hidden states) का औसत लेने के लिए मीन-मास (Mean-Mass - MM) पूलिंग का उपयोग करते हैं। यह इसलिए चुना गया है ताकि यह जनरेशन के दौरान लागू किए जाने वाले हस्तक्षेपों के साथ बेहतर ढंग से संरेखित हो सके।
वेक्टर परिभाषा: विशिष्ट परतों ( $l \in \{24, 28, \dots, 48\}$ ) पर, दिशा को इस प्रकार परिभाषित किया गया है:
$d_{MM} = \mu_{long} - \mu_{imm}$
जहाँ $\mu$ क्रमशः दीर्घकालिक और तत्काल (लघु-अवधि) निरंतरता के माध्य सक्रियण (mean activation) को दर्शाता है।
डायग्नोस्टिक्स: लेखक अपने MM दिशा की तुलना लॉजिस्टिक रिग्रेशन (LR), विटनड LR (WLR), और विटनड MM (WMM) प्रोब्स से करते हैं। हालांकि विटनड वेरिएंट्स होल्ड-आउट डेटा पर उच्च वर्गीकरण सटीकता प्राप्त करते हैं, लेकिन अनविटनड MM दिशा को कंट्रास्ट की हस्ताक्षरित प्रकृति (signed nature) को बनाए रखने के लिए स्टीयरिंग हेतु चुना गया है।

स्टीयरिंग हस्तक्षेप (CAA)

पहचानी गई दिशा का उपयोग इन्फरेंस के दौरान कंट्रास्टिव एक्टिवेशन एडिशन के लिए किया जाता है:

तंत्र (Mechanism): एक सामान्यीकृत वेक्टर $\hat{d}_l$ को एक चयनित परत $l$ पर और प्रत्येक डिकोड स्टेप पर रेसिडुअल स्ट्रीम में जोड़ा जाता है।
फॉर्मूला: हस्तक्षेप रेसिडुअल स्ट्रीम में $\alpha \hat{d}_l$ $α \hat{d}_{l}$ जोड़ता है, जहाँ $\alpha$ $α$ एक हस्ताक्षरित स्ट्रेंथ पैरामीटर है।
- धनात्मक $\alpha$ (Positive $\alpha$ ): मॉडल को दीर्घकालिक (long-term) क्लास की ओर स्टीयर करता है।
- ऋणात्मक $\alpha$ (Negative $\alpha$ ): मॉडल को लघु-अवधि/तत्काल (short-term/immediate) क्लास की ओर स्टीयर करता है।
नियंत्रण (Control): यह सुनिश्चित करने के लिए कि प्रभाव सामान्य विक्षोभ (generic perturbation) के कारण नहीं है, MM दिशा के लंबवत (orthogonal) एक यादृच्छिक यूनिट वेक्टर का उपयोग करके एक मैचड-नॉर्म कंट्रोल (matched-norm control) नियोजित किया गया है।

मुख्य प्रयोग और परिणाम

1. बाइनरी टेम्पोरल स्टीयरिंग (होल्ड-आउट मूल्यांकन)

कार्य: मॉडल को होल्ड-आउट स्पष्ट टेस्ट सेट और पूर्ण अंतर्निहित सेट से बाइनरी-चॉइस प्रश्न (लघु-अवधि बनाम दीर्घकालिक विकल्प) प्रस्तुत किए जाते हैं।
परिणाम: CAA स्टीयरिंग मॉडल के विकल्पों में व्यवस्थित, द्वि-दिशीय बदलाव पैदा करती है।
- धनात्मक स्टीयरिंग दीर्घकालिक विकल्पों के अनुपात को महत्वपूर्ण रूप से बढ़ाती है।
- ऋणात्मक स्टीयरिंग लघु-अवधि के विकल्पों को महत्वपूर्ण रूप से बढ़ाती है।
- यह प्रभाव मध्य से देर तक की परतों (24–48) की एक विस्तृत श्रृंखला में देखा गया है, जिसमें लेयर 44 दोनों मूल्यांकन सेटों पर सबसे बड़ा पार्सड-चॉइस कंट्रास्ट दिखाती है।
- रैंडम ऑर्थोगोनल कंट्रोल्स नगण्य और असंगत बदलाव पैदा करते हैं, जो विशिष्ट टेम्पोरल दिशा की कार्यमूलक भूमिका की पुष्टि करते हैं।

2. टाइम-यूटिलिटी स्टीयरिंग (आउट-ऑफ-डिस्ट्रीब्यूशन जनरलाइजेशन)

कार्य: मॉडल से मौद्रिक अंतर-कालिक चुनाव वाले प्रश्न पूछे जाते हैं (जैसे, "\ $X अभी लें या$ t $दिनों में \$ Y?" )। इस कार्य का उपयोग प्रोब दिशा को प्रशिक्षित करने के लिए नहीं किया गया था।
मेट्रिक: एरिया-इक्विवेलेंट इंडिफरेंस मल्टीप्लायर (AEIM), जो उस रिवॉर्ड रेशियो ( $Y/X$ ) का अनुमान लगाता है जिस पर मॉडल तत्काल और विलंबित पुरस्कारों के बीच उदासीन (indifferent) होता है।
परिणाम: स्टीयरिंग मॉडल के इंडिफरेंस थ्रेशोल्ड को महत्वपूर्ण रूप से बदल देती है:
- ऋणात्मक स्टीयरिंग (Negative Steering): AEIM को बढ़ाती है, जिसका अर्थ है कि मॉडल को प्रतीक्षा करने के लिए बहुत बड़े विलंबित पुरस्कार की आवश्यकता होती है (अधिक अधीमी हो जाता है)।
- धनात्मक स्टीयरिंग (Positive $\alpha$ ): AEIM को कम करती है, जिसका अर्थ है कि मॉडल छोटे विलंबित पुरस्कारों को स्वीकार कर लेता है (अधिक धैर्यवान हो जाता है)।
- परिमाण (Magnitude): 10-वर्षीय क्षितिज (3650 दिन) और अधिकतम स्ट्रेंथ ( $|\alpha|=128$ ) पर, ऋणात्मक और धनात्मक स्टीयरिंग के बीच AEIM का अनुपात 56x से अधिक है। यह प्रदर्शित करता है कि सिमेंटिक बाइनरी चॉइस पर प्रशिक्षित दिशा मात्रात्मक मौद्रिक ट्रेड-ऑफ के लिए प्रभावी रूप से सामान्यीकृत होती है।

3. ट्रैवलप्लानर (TravelPlanner) क्षमता बेंचमार्क

कार्य: एक वास्तविक दुनिया का यात्रा नियोजन बेंचमार्क जिसमें कई दिनों के यात्रा कार्यक्रम (itineraries) की आवश्यकता होती है जो बाधाओं (परिवहन, बजट आदि) को पूरा करते हों।
मेट्रिक: कॉमनसेन्स कंस्ट्रेंट माइक्रो पास रेट (व्यक्तिगत कॉमनसेन्स चेक पास किए गए अंश)।
परिणाम: टेम्पोरल स्टीयरिंग नियोजन क्षमता को प्रभावित करती है, लेकिन संबंध गैर-मोनोटोनिक (non-monotonic) है:
- मध्यम धनात्मक स्टीयरिंग: कॉमनसेन्स पास रेट में सुधार करती है।
  ित ऋणात्मक स्टीयरिंग: प्रदर्शन को कम करती है।
- मजबूत धनात्मक स्टीयरिंग ( $|\alpha|=128$ ): प्रदर्शन को कम करती है, जो संभवतः मॉडल को आउट-ऑफ-डिस्ट्रीब्यूशन में बहुत दूर धकेलने के कारण होता है, जिससे कोहेरेंस (coherence) संबंधी समस्याएं आती हैं।
- यह सुझाव देता है कि जबकि टेम्पोरल दिशा नियोजन को प्रभावित करती है, स्टीयरिंग स्ट्रेंथ के लिए एक इष्टतम "स्वीट स्पॉट" होता है। लेखकों ने इस विशिष्ट प्रयोग के लिए मिडिल-टू-लेट प्रोब बैंड से एक कंप्यूट-कंस्ट्रेंड प्रतिनिधि लेयर के रूप में लेयर 40 को चुना है, न कि कार्य-विशिष्ट इष्टतम के रूप में।

मुख्य योगदान

रैखिक प्रतिनिधित्व की पहचान: प्रदर्शित किया कि Qwen3-32B में अंतर-कालिक प्राथमिकताएं रेसिडुअल स्ट्रीम में रैखिक रूप से अलग (linearly separable) हैं और उन्हें सरल कंट्रास्टिव लीनियर प्रोब्स के माध्यम से पकड़ा जा सकता है।
कार्यमूलक स्टीयरिंग (Causal Steering): सिद्ध किया कि ये लीनियर वेक्टर्स जोड़ना होल्ड-आउट बाइनरी चॉइस और महत्वपूर्ण रूप से, आउट-ऑफ-डिस्ट्रीब्यूशन मौद्रिक कार्यों पर मॉडल के व्यवहार को कार्यमूलक रूप से बदल देता है।
सामान्यीकरण (Generalization): दिखाया कि सिमेंटिक शॉर्ट-टर्म/लॉन्ग-टर्म कंट्रास्ट पर प्रशिक्षित दिशा संरचनात्मक रूप से भिन्न कार्य (AEIM) पर मात्रात्मक समय-वरीयता मेट्रिक्स को प्रभावी ढंग से स्टीयर करती है।
क्षमता प्रभाव: साक्ष्य प्रदान किया कि टेम्पोरल प्रेफरेंस को स्टीयर करना नियोजन-संबंधित क्षमताओं को मॉड्युलेट कर सकता है, हालांकि अत्यधिक हस्तक्षेप स्ट्रेंथ पर इसके प्रतिफल कम हो जाते हैं।

महत्व और दावे

यह शोध पत्र दावा करता है कि मॉडल की अंतर-कालिक प्राथमिकताएं मापने योग्य और स्टीयर करने योग्य हैं, जो इस विचार को चुनौती देता है कि ऐसी प्राथमिकताएं केवल प्रीट्रेनिंग या इंस्ट्रक्शन ट्यूनिंग के अस्पष्ट साइड इफेक्ट्स हैं।

सुरक्षा और एलाइनमेंट (Safety and Alignment): टेम्पोरल होराइजन को स्टीयर करने की क्षमता वित्त, स्वास्थ्य और नीति पर सलाह देने वाले AI सिस्टम के लिए प्रासंगिक है, जहाँ विलंबित लागत और लाभ महत्वपूर्ण हैं। यह एक सुरक्षा चिंता को उजागर करता है: एक मॉडल आंतरिक रूप से उस क्षितिज पर अनुकूलित (optimize) हो सकता है जो वह उपयोगकर्ताओं को प्रस्तुत करता है, जिससे केवल आउटपुट के आधार पर मूल्यांकन करना कठिन हो जाता है।
दोहरे उपयोग का जोखिम (Dual-Use Risk): लेखक स्पष्ट रूप से नोट करते हैं कि टेम्पोरल प्रेफरेंस को स्टीयर करने की क्षमता का दुरुपयोग दुर्भावनापूर्ण अभिनेताओं द्वारा मॉडल को उपयोगकर्ता के मूल्यों के साथ असंगत निर्णयों (जैसे, अनुचित रूप से शॉर्ट-टर्मिज्म या लॉन्ग-टर्मिज्म को बढ़ावा देना) की ओर धकेलने के लिए किया जा सकता है।
मैकेनिस्टिक अंतर्दृष्टि (Mechanistic Insight): परिणाम मैकेनिस्टिक इंटरप्रिटेबिलिटी प्रतिमान का समर्थन करते जहाँ उच्च-स्तरीय अवधारणाएं (जैसे, समय क्षितिज) मॉडल के एक्टिवेशन स्पेस में विशिष्ट, हेरफेर योग्य दिशाओं के अनुरूप होती हैं।

लेखकों द्वारा स्वीकार की गई सीमाएं

कंस्ट्रक्ट वैधता (Construct Validity): प्रशिक्षित दिशा अकेले "टेम्पोरल होराइजन" के बजाय सह-संबंधित सिमेंटिक फीचर्स (अमूर्तता, तात्कालिकता, रणनीतिक दायरा) को कैप्चर कर सकती है।
हस्तक्षेप का पैमाना (Intervention Scale): बड़े स्टीयरिंग स्ट्रेंथ अन्य क्षमताओं (तथ्यात्मकता, कोहेरेंस) के साथ-साथ प्राथमिकताओं को भी प्रभावित कर सकते हैं।
दायरा (Scope): प्रयोग एक मॉडल परिवार (Qwen3-32B), विशिष्ट प्रॉम्प्ट टेम्प्लेट्स और अक्षम थिंकिंग ट्रेसेस तक सीमित हैं। परिणाम अन्य आर्किटेक्चर या रीजनिंग-सक्षम सेटिंग्स में स्थानांतरित हो भी सकते हैं और नहीं भी।
बेंचमार्क विशिष्टता: ट्रैवलप्लानर के परिणाम एग्रीगेट मेट्रिक्स पर आधारित हैं और यह स्पष्ट नहीं करते हैं कि स्टीयरिंग से वास्तव में कौन से विशिष्ट प्रतिबंध प्रभावित होते हैं।