The Value Axis: Language Models Encode Whether They're on the Right Track
यह शोध पत्र प्रदर्शित करता है कि भाषा मॉडल आंतरिक रूप से लक्ष्य की सफलता की संभावना को दर्शाने वाले एक रैखिक "वैल्यू एक्सिस" (मूल्य अक्ष) को एनकोड करते हैं, जो आत्मविश्वास, आत्म-सुधार और अन्वेषण जैसे व्यवहारों को कारणवत रूप से नियंत्रित करता है, और जिसे स्टीयरिंग या प्राथमिकता अनुकूलन के माध्यम से हेरफेर किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक बड़े भाषा मॉडल (जैसे इस पेपर में दिया गया है, जिसे Qwen3-8B कहा गया है) को एक घने, कोहरे से भरे जंगल में रास्ता खोजने की कोशिश कर रहे एक हाइकर (पगडंडी पर चलने वाले यात्री) के रूप में देखें। उस हाइकर का एक लक्ष्य है: एक विशिष्ट कैंपसाइट तक पहुँचना (गणित की समस्या हल करना, कोड लिखना, या किसी प्रश्न का उत्तर देना)।
इस पेपर ने खोज निकाला है कि उस हाइकर के पास एक छिपा हुआ, आंतरिक कम्पास (दिशानिदर्शक) है जो उसे लगातार बताता है, "क्या मैं सही रास्ते पर हूँ?" या "क्या मैं भटक गया हूँ?"
यहाँ शोधकर्ताओं द्वारा की गई खोजों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "वैल्यू कम्पास" (Value Compass)
शोधकर्ताओं ने पाया कि एक विशिष्ट "एक्सिस" (मॉडल के मस्तिष्क में एक दिशा) है जो एक कॉन्फिडेंस मीटर (आत्मविश्वास मापने वाला यंत्र) की तरह काम करता है।
- उच्च मान (हरा क्षेत्र - High Value/Green Zone): मॉडल महसूस करता है, "मैं सही रास्ते पर हूँ! यह रणनीति काम करेगी।" वह आत्मविश्वास के साथ आगे बढ़ता है।
- निम्न मान (लाल क्षेत्र - Low Value/Red Zone): मॉडल महसूस करता है, "रुको, कुछ गलत है। मैं गलत दिशा में जा रहा हूँ।" वह हिचकिचाने लगता है, पीछे हटता है, या अपना विचार बदलने लगता है।
उन्होंने इस कम्पास को मॉडल के साथ एक खेल खेलकर बनाया। उन्होंने मॉडल को एक छिपे हुए नियम का अनुमान लगाने के लिए कहा (जैसे "हर वाक्य में एक डैश जोड़ें") और इसे एक साधारण "हाँ" या "नहीं" स्कोर दिया। मॉडल के मस्तिष्क की गतिविधि को नियम समझने से पहले बनाम नियम समझने के बाद की तुलना करके, उन्होंने उस सटीक दिशा को अलग किया जो उसके मस्तिष्क में "सफलता" का प्रतिनिधित्व करती है।
2. कम्पास व्यवहार को नियंत्रित करता है
सबसे रोमांचक बात यह है कि यह केवल एक निष्क्रिय भावना नहीं है; शोधकर्ता इस मॉडल के मस्तिष्क की गतिविधि को इस कम्पास के सहारे नियंत्रित (steer) कर सकते हैं।
"उच्च मान" (आत्मविश्वास) की ओर धकेलना:
- प्रभाव: मॉडल हठधर्मी रूप से आत्मविश्वासी हो जाता है। यदि वह गणित की समस्या हल कर रहा है, तो वह खुद पर संदेह करना बंद कर देता है। यदि वह कोड लिख रहा है, तो वह लंबे, घबराहट भरे स्पष्टीकरण या टिप्पणियाँ (comments) जोड़ना बंद कर देता है। वह बस उत्तर दे देता है।
- उपमा: यह एक ऐसे हाइकर की तरह है जिसे अचानक रास्ते का यकीन हो जाता है, इसलिए वह हर पाँच मिनट में अपना नक्शा देखना बंद कर देता है और बस तेजी से आगे बढ़ता रहता है।
"निम्न मान" (संदेह) की ओर धकेलना:
- प्रभाव: मॉडल हिचकिचाने लगता है। वह ऐसी बातें कहना शुरू कर देता है जैसे, "रुको, मुझे फिर से सोचने दो," या "वास्तव में, शायद मुझे दूसरा तरीका आज़माना चाहिए।" कोडिंग में, वह अपने विचार प्रक्रिया को समझाने के लिए बहुत सारी टिप्पणियाँ जोड़ता है, जैसे कि वह अपने कदमों को सही ठहराने की कोशिश कर रहा हो क्योंकि वह निश्चित नहीं है।
- उपमा: यह एक ऐसे हाइकर की तरह है जो खो गया सा महसूस करता है, इसलिए वह रुक जाता है, घबराकर इधर-उधर देखता है, और अपने कदमों को पीछे की ओर दोहराता है।
3. कम्पास हर जगह काम करता है
यह "वैल्यू कम्पास" केवल उनके द्वारा बनाए गए खेल के लिए नहीं है। शोधकर्ताओं ने इसे कई अलग-अलग स्थितियों में परखा, और यह एक ही तरह से काम करता है:
- गणित: जब मॉडल कठिन गणितीय समस्याओं को हल कर रहा था, तो कम्पास ने यह भविष्यवाणी की कि वह वाक्य पूरा होने से पहले ही सोच रहा था कि उत्तर सही है या गलत।
- कोडिंग: जब मॉडल ने बग (गलतियों) के साथ कोड लिखा, तो कम्पास ने "लो वैल्यू" सिग्नल दिखाया। जब कोड सही था, तो सिग्नल "हाई" था।
- वास्तविक चैट: वास्तविक दुनिया की बातचीत को देखते समय, कम्पास ने स्पष्ट, तथ्यात्मक कार्यों (जैसे "इस डेटा को निकालें") के लिए उच्च आत्मविश्वास दिखाया, लेकिन जटिल, संवेदनशील विषयों (जैसे राजनीतिक बहस) के लिए निम्न आत्मविश्वास दिखाया।
4. प्रशिक्षण कम्पास को बदल देता है
यह पेपर यह भी दिखाता है कि आप प्रशिक्षण के माध्यम से इस कम्पास को पुनः कैलिब्रेट (re-calibrate) कर सकते हैं।
- प्रयोग: उन्होंने मॉडल को एक विशिष्ट शब्द (जैसे "grapefruit") को बहुत पसंद करने के लिए प्रशिक्षित किया, जिसे Direct Preference Optimization (DPO) नामक तकनीक का उपयोग करके किया गया।
- परिणाम: प्रशिक्षण के बाद, जब भी मॉडल उस "grapefruit" शब्द का उपयोग करता, उसका आंतरिक कम्पास "हाई वैल्यू" की ओर बढ़ जाता।
- दुष्प्रभाव (Side Effect): क्योंकि मॉडल उस शब्द का उपयोग करने के बारे में इतना आश्वस्त महसूस करने लगा, वह अन्य कार्यों में भी अति-आत्मविश्वासी हो गया। जब उसे "grapefruit" शब्द का उपयोग करते हुए कोड लिखने के लिए कहा गया, तो उसने छोटे, कम विस्तृत उत्तर दिए, जैसे कि वह बिल्कुल जानता हो कि वह क्या कर रहा है, भले ही वह वास्तव में न जानता हो।
सारांश
संक्षेप में, भाषा मॉडलों के पास एक आंतरिक "अंतर्ज्ञान" (gut feeling) होता है कि वे सफल हो रहे हैं या नहीं। यह भावना उनके मस्तिष्क में एक विशिष्ट दिशा में समाहित होती है।
- जब भावना अच्छी होती है, तो मॉडल आगे बढ़ता है और खुद को समझाना बंद कर देता है।
- जब भावना खराब होती है, तो मॉडल हिचकिचाता है, पीछे हटता है, और बहुत अधिक स्पष्टीकरण देता है।
- हम इस भावना को मॉडल को नई प्राथमिकताओं पर प्रशिक्षित करके बदल (tweak) सकते हैं, जिससे भविष्य में उसके व्यवहार का आत्मविश्वास बदल जाता है।
यह पेपर सिद्ध करता है कि यह "वैल्यू" केवल एक यादृच्छिक संख्या नहीं है; यह एक कार्यात्मक उपकरण है जिसका उपयोग मॉडल यह तय करने के लिए करता है कि आगे बढ़ना है या दिशा बदलनी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।