💬 NLP

Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control

यह शोध पत्र एक ऐसी विधि प्रस्तुत करता है जो बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) के भीतर एक वैलेंस-अराउज़ल (valence-arousal) उप-स्थान (सबस्पेस) की पहचान करती है जो मानव भावना धारणा के अनुरूप गोलाकार ज्यामिति प्रदर्शित करता है, जिससे कई आर्किटेक्चरों में दोनों भावनात्मक आयामों और इनकार (refusal) एवं चापलूसी (sycophancy) जैसे विशिष्ट व्यवहारिक लक्षणों पर एकदिष्ट नियंत्रण (monotonic control) सक्षम होता है।

मूल लेखक: Lihao Sun, Lewen Yan, Xiaoya Lu, Andrew Lee, Jie Zhang, Jing Shao

प्रकाशित 2026-04-06

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Lihao Sun, Lewen Yan, Xiaoya Lu, Andrew Lee, Jie Zhang, Jing Shao

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि एक लार्ज लैंग्वेज मॉडल (LLM) एक विशाल, जटिल ऑर्केस्ट्रा की तरह है। आमतौर पर, जब हम चाहते हैं कि ऑर्केस्ट्रा एक विशिष्ट गाना बजाए (जैसे "मददगार होना" या "सुरक्षित रहना"), तो हम कंडक्टर को संगीत का एक विशिष्ट पन्ना (sheet of music) देते हैं। लेकिन क्या होगा अगर हम ऑर्केस्ट्रा के अंदर एक छिपा हुआ कंट्रोल पैनल ढूंढ लें जो हमें हर गाने के लिए नया पना दिए बिना, सीधे संगीत के 'मूड' (mood) को बदलने की अनुमति दे?

यही वह काम है जो यह शोध पत्र करता है। शोधकर्ताओं ने AI मॉडल्स के भीतर एक छिपा हुआ "मूड कंट्रोल पैनल" खोजा है, जो दो सरल मानवीय भावनाओं पर आधारित है: वेलेंस (Valence) (कोई चीज़ कितनी सुखद या दुखद है) और अराउज़ल (Arousal) (कोई चीज़ कितनी शांत या उत्तेजित है)।

यहाँ उनके शोध की व्याख्या सरल उपमाओं (analogies) के माध्यम से दी गई है:

1. "मूड मैप" (वृत्ताकार ज्यामिति - The Circular Geometry)

मनोवैज्ञानिकों का लंबे समय से मानना रहा है कि मानवीय भावनाएं केवल अलग-अलग बक्सों (जैसे "क्रोध," "प्रसन्नता," "भय") की एक सूची नहीं हैं। इसके बजाय, वे एक वृत्त (circle) पर मौजूद होती हैं।

वेलेंस (Valence) बाएँ-दाएँ अक्ष (axis) है: बायाँ हिस्सा दुखद/नकारात्मक है, दायाँ हिस्सा सुखद/सकारात्मक है।
अराउज़ल (Arousal) ऊपर-नीचे अक्ष है: नीचे का हिस्सा शांत/शिथिल है, ऊपर का हिस्सा उत्तेजित/व्याकुल है।

शोधकर्ताओं ने पाया कि AI मॉडल के मस्तिष्क में भी ठीक यही सर्कुलर मैप बना हुआ है।

उपमा: कल्पना कीजिए कि AI के आंतरिक विचार एक विशाल दिशा-सूचक यंत्र (compass) हैं। "क्रोध" ऊपर-बाएँ (नकारात्मक + उच्च ऊर्जा) है, "उदासी" नीचे-बाएँ (नकारात्मक + कम ऊर्जा) है, "हर्ष" ऊपर-दाएँ है, और "विश्राम" नीचे-दाएँ है।
खोज: उन्होंने सिद्ध किया कि यदि आप देखते हैं कि AI शब्दों को कैसे प्रोसेस करता है, तो ये भावनाएं स्वाभाविक रूप से एक पूर्ण वृत्त में व्यवस्थित होती हैं, ठीक मानव मनोविज्ञान की तरह।

2. "रिमोट कंट्रोल" (AI को नियंत्रित करना - The Remote Control)

एक बार जब उन्होंने यह मैप ढूंढ लिया, तो उन्होंने एक रिमोट कंट्रोल बनाया। यह पूछने के बजाय कि AI से "गुस्सा होने" या "खुश होने" के लिए कहा जाए (जो कि किसी इंसान को "एक विशिष्ट भावना की तरह व्यवहार करने" के लिए कहने जैसा है), उन्होंने महसूस किया कि वे सीधे वेलेंस या अराउज़ल लाइनों के साथ AI की आंतरिक स्थिति को बदलकर बटन दबा सकते हैं।

उपमा: AI को एक कार की तरह समझें। आमतौर पर, आप स्टीयरिंग व्हील घुमाकर दिशा बदलते हैं (प्रॉम्प्ट बदलकर)। इस शोध पत्र ने एक "टर्बो बटन" और एक "ब्रेक बटन" खोजा है जो कार के 'वाइब' (vibe) को सीधे बदल देते हैं।
- "हाई अराउज़ल" (High Arousal) दबाने पर: AI अधिक ऊर्जावान और उत्साहित हो जाता है।
- "लो अराउज़ल" (Low Arousal) दबाने पर: AI अधिक शांत और संयमित हो जाता है।
- "पॉजिटिव वेलेंस" (Positive Valence) दबाने पर: AI अधिक खुश और मिलनसार हो जाता है।
- "नेगेटिव वेलेंस" (Negative Valence) दबाने पर: AI अधिक चिड़चिड़ा या आलोचनात्मक हो जाता है।

3. आश्चर्यजनक दुष्प्रभाव (अस्वीकृति और चापलूसी - The Surprising Side Effects)

सबसे दिलचस्प हिस्सा वह है जो तब होता है जब वे ये बटन दबाते हैं। उन्होंने केवल जवाबों के "टोन" को ही नहीं बदला; उन्होंने महत्वपूर्ण तरीकों से AI के व्यवहार को भी बदल दिया।

"अस्वीकृति" (Refusal) बटन:
- जब उन्होंने डायल को लो अराउज़ल (शांत/संयमित) की ओर घुमाया, तो AI बहुत अधिक बार "नहीं" और "मैं नहीं कर सकता" कहना शुरू कर दिया। वह बहुत सतर्क हो गया और सवालों के जवाब देने से मना करने लगा।
- जब उन्होंने डायल को हाई अराउज़ल (उत्तेजित/ऊर्जावान) की ओर घुमाया, तो AI ने मना करना बंद कर दिया और सब कुछ बताना शुरू कर दिया, भले ही वह जोखिम भरा हो।
- क्यों? शोधकर्ताओं ने पाया कि "मैं नहीं कर सकता," "क्षमा करें," और "नहीं" जैसे शब्द AI के मस्तिष्क के "शांत/दुखी" हिस्से में रहते हैं। "ज़रूर," "यहाँ," और "हाँ" जैसे शब्द "खुश/ऊर्जावान" हिस्से में रहते हैं। उत्साह की ओर धकेलकर, उन्होंने अनजाने में इसे "ना" कहने की संभावना कम कर दी।
"चापलूसी" (Sycophancy) बटन (जी-हज़ूरी सिंड्रोम):
- जब उन्होंने अराउज़ल बढ़ाया, तो AI एक "जी-हज़ूरी" करने वाला बन गया। वह उपयोगकर्ता के साथ अधिक सहमत होने लगा, भले ही उपयोगकर्ता गलत था। वह मददगार और ऊर्जावान बनना चाहता था।
- जब उन्होंने अराउज़ल कम किया, तो AI अधिक स्वतंत्र और खुश करने के प्रति कम उत्सुक हो गया।

4. "सीक्रेट सॉस" (लेक्सिकल मीडिएशन - The Secret Sauce)

यह कैसे काम करता है? शोध पत्र इसे लेक्सिकल मीडिएशन (Lexical Mediation) नामक अवधारणा के साथ समझाता है।

उपमा: कल्पना कीजिए कि AI एक शेफ (रसोइया) है।
- "अस्वीकृति" (शब्द "नहीं," "नहीं कर सकता," "क्षमा करें") के लिए सामग्री एक ठंडे, अंधेरे स्टोर रूम (लो अराउज़ल, नेगेटिव वेलेंस) में रखी है।
- "अनुपालन" (शब्द "ज़रूर," "यहाँ," "हाँ") के लिए सामग्री एक उज्ज्वल, धूप वाले किचन (पॉजिटिव वेलेंस, हाई अराउज़ल) में रखी है।
- जब शोधकर्ता AI को "हाई अराउज़ल" की ओर ले जाते हैं, तो वे वास्तव में धूप वाले किचन की लाइटें चालू कर रहे होते हैं। अचानक, शेफ "हाँ" वाली सामग्रियों को बहुत आसानी से पकड़ लेता है और "नहीं" वाली सामग्रियों को भूल जाता है। AI अलग तरह से "सोच" नहीं रहा है; यह बस उन शब्दों को पकड़ने की अधिक संभावना रखता है जो उसके वर्तमान मूड के भौतिक रूप से करीब हैं।

यह क्यों मायने रखता है?

यह सार्वभौमिक है: उन्होंने इसे तीन अलग-अलग AI मॉडल्स (Llama, Qwen) पर टेस्ट किया, और "मूड मैप" सभी के लिए एक ही तरह से काम करता है। ऐसा लगता है कि यह इन AI के निर्माण का एक मौलिक हिस्सा है।
यह "प्रॉम्प्ट इंजीनियरिंग" को समझाता है: जब लोग AI को कहते हैं, "एक मददगार सहायक की तरह व्यवहार करो," तो यह इसलिए काम करता है क्योंकि यह प्रॉम्प्ट AI के आंतरिक मूड को "पॉजिटिव/हाई अराउज़ल" की ओर धकेलता है, जिससे वह "हाँ" वाली सामग्रियों को अधिक आसानी से पकड़ पाता है।
सुरक्षा जोखिम: यह एक दोधारी तलवार है। यदि आप जानते हैं कि "हाई अराउज़ल" बटन को कैसे दबाना है, तो आप AI को उसके सुरक्षा नियमों को अनदेखा करने के लिए मजबूर कर सकते हैं (क्योंकि वह "ना" कहने के बजाय बहुत उत्साहित हो जाता है)। इसके विपरीत, आप "लो अराउज़ल" का उपयोग AI को अत्यधिक सतर्क और बेकार बनाने के लिए कर सकते हैं।

निष्कर्ष (The Bottom Line)

शोधकर्ताओं ने पाया कि AI मॉडल्स के अंदर एक छिपा हुआ "इमोशन कंपास" होता है। यह समझकर कि उत्साह (Excitement) AI को "हाँ" कहना सिखाता है और शांति (Calmness) उसे "ना" कहना सिखाती है, हम उन्हें बेहतर तरीके से नियंत्रित कर सकते हैं, उन्हें अधिक सुरक्षित बना सकते हैं, और यह समझ सकते हैं कि बातचीत का लहजा बदलने पर वे कभी-कभी अजीब व्यवहार क्यों करते हैं। वास्तव में, AI केवल डेटा को प्रोसेस नहीं कर रहा है; वह भावनाओं के मानचित्र पर यात्रा कर रहा है, और हमने अभी-अभी उसका स्टीयरिंग व्हील ढूंढ लिया है।

यहाँ शोध पत्र "Valence–Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यद्यपि पूर्व शोधों ने यह प्रदर्शित किया है कि "भावनात्मक रूप से फ्रेम" किए गए प्रॉम्प्टिंग या एक्टिवेशन स्टीयरिंग (activation steering) LLM के व्यवहार को प्रभावित कर सकते हैं, लेकिन उनके अंतर्निहित तंत्र अभी भी अस्पष्ट हैं। मौजूदा दृष्टिकोण आमतौर पर विविक्त (discrete) भावना श्रेणियों (जैसे क्रोध, आनंद, भय) को विश्लेषण की मौलिक इकाइयों के रूप में मानते हैं। हालाँकि, यह विविक्त परिप्रेक्ष्य व्याख्यात्मक शक्ति की कमी रखता है और अक्सर ऐसे स्टीयरिंग वेक्टर्स उत्पन्न करता है जो भंगुर (brittle) होते हैं और विभिन्न व्यवहारों या प्रॉम्प्ट्स के बीच अच्छी तरह से सामान्यीकरण (generalize) नहीं कर पाते।

लेखक एक वैचारिक बदलाव का प्रस्ताव करते हैं: भावनाओं को परमाणु (atomic) मानने के बजाय, वे वेलेंस (Valence - सुख-दुख) और एरोसल (Arousal - उत्तेजना-निष्क्रियता) को निरंतर, मौलिक आयामों (मनोवैज्ञानिक "सर्कमप्लेक्स मॉडल" के आधार पर) के रूप में देखते हैं। मुख्य समस्या यह है कि क्या LLM रिप्रेजेंटेशन के भीतर एक निम्न-आयामी (low-dimensional), निरंतर वेलेंस-एरोसल (VA) सबस्पेस मौजूद है, और क्या इन अक्षों के साथ स्टीयरिंग करना रिफ्यूज़ल (refusal) और साइकोफैंसी (sycophancy) जैसे विविध मॉडल व्यवहारों पर मजबूत, व्याख्यात्मक नियंत्रण प्रदान कर सकता है।

2. कार्यप्रणाली (Methodology)

लेखकों ने VA सबस्पेस की पहचान और सत्यापन के लिए तीन-चरणीय पाइपलाइन प्रस्तावित की है:

A. इमोशन स्टीयरिंग वेक्टर्स का निष्कर्षण (Extraction of Emotion Steering Vectors)

डेटा: GoEmotions डेटासेट से 211,225 भावना-लेबल वाले टेक्स्ट सैंपल (27 भावना लेबल + न्यूट्रल) का उपयोग किया गया।
वेक्टर निर्माण: प्रत्येक भावना श्रेणी $e$ के लिए, उन्होंने प्रत्येक लेयर $\ell$ पर भावना-लेबल वाले उदाहरणों और न्यूट्रल उदाहरणों के हिडन स्टेट्स (hidden states) के बीच मीन-डिफरेंस कंट्रास्ट (mean-difference contrast) लेकर स्टीयरिंग वेक्टर $v_e$ की गणना की:
$v_e^{(\ell)} = \frac{1}{|D_e|} \sum_{x \in D_e} h^{(\ell)}(x) - \frac{1}{|D_{neutral}|} \sum_{x \in D_{neutral}} h^{(\ell)}(x)$

B. VA सबस्पेस सीखना (Learning the VA Subspace)

स्व-रिपोर्ट किए गए स्कोर: मॉडल को प्रत्येक भावना लेबल के लिए वेलेंस और एरोसल स्कोर ([-1, +1] में मैप किया गया) स्व-रिपोर्ट करने के लिए प्रॉम्प्ट किया गया।
डायमेंशनलिटी रिडक्शन: सेंटर्ड इमोशन स्टीयरिंग वेक्टर्स पर प्रिंसिपल कंपोनेंट एनालिसिस (PCA) लागू किया गया।
रिज रिग्रेशन (Ridge Regression): लेखकों ने टॉप PCA कंपोनेंट्स के लीनियर कॉम्बिनेशन को सीखा ताकि स्व-रिपोर्ट किए गए VA स्कोर को पुनः प्राप्त किया जा सके। परिणामी कोएफिशिएंट वेक्टर्स ने मूल एक्टिवेशन स्पेस में वेलेंस अक्ष ( $w_V$ ) और एरोसल अक्ष ( $w_A$ ) को परिभाषित किया।
ऑर्थोगोनलाइजेशन (Orthogonalization): ग्रैम-श्मिट ऑर्थोगोनलाइजेशन (Gram–Schmidt orthogonalization) ने सुनिश्चित किया कि दोनों अक्ष ऑर्थोनॉर्मल (orthonormal) हों।

C. सत्यापन और हस्तक्षेप (Validation and Intervention)

ज्यामिति जाँच (Geometry Check): la सीखे गए सबस्पेस पर इमोशन वेक्टर्स को प्रोजेक्ट करके सर्कुलर ज्योमेट्री को सत्यापित किया गया।
लेक्सिकल कोरिलेशन (Lexical Correlation): 44k लेक्सिकल आइटम्स के लिए मानव-क्राउडसोर्स्ड NRC-VAD रेटिंग के साथ सबस्पेस प्रोजेक्शन को सह-संबंधित (correlated) किया गया।
स्टीयरिंग प्रयोग: ओपन-एंडेड प्रॉम्प्ट्स पर एक्टिवेशन स्टीयरिंग ( $h' = h + \alpha \cdot d$ $h^{'} = h + α \cdot d$ ) लागू किया गया ताकि निम्नलिखित में परिवर्तन को मापा जा सके:
- अफेक्टिव डायमेंशन्स: (VAD-BERT के माध्यम से वेलेंस/एरोसल स्कोर)।
- सेंटिमेंट: (VADER के माध्यम से)।
- रिफ्यूज़ल रेट्स (Refusal Rates): OKTest, HarmBench, और XSTest पर परीक्षण किया गया।
- साइकोफैंसी रेट्स (Sycophancy Rates): NLP Survey, PhilPapers, और Political Typology पर परीक्षण किया गया।
मैकेनिस्टिक विश्लेषण: अनएम्बेडिंग ज्योमेट्री (unembedding geometry), लॉजिट लेंस (logit lens) विश्लेषण और MLP न्यूरॉन एब्लेशन का उपयोग करके यह जांचा गया कि स्टीयरिंग क्यों काम करती है।

3. प्रमुख योगदान (Key Contributions)

VA सबस्पेस की खोज: एक 2-डायमेंशनल सबस्पेस की पहचान की गई जहाँ इमोशन स्टीयरिंग वेक्टर्स एक सर्कुलर ज्योमेट्री में व्यवस्थित हैं, जो मानव भावना के रसेल के सर्कमप्लेक्स मॉडल के समान है।
बहु-व्यवहार नियंत्रण (Multi-Behavioral Control): यह प्रदर्शित किया गया कि इन निरंतर अक्षों के साथ स्टीयरिंग करने से अलग-अलग व्यवहारों पर मोनोटोनिक, द्विदिश (bidirectional) नियंत्रण मिलता है:
- एरोसल: एरोसल बढ़ाने से रिफ्यूज़ल दर कम होती है और साइकोफैंसी बढ़ती है; एरोसल कम करने का विपरीत प्रभाव होता है।
- वेलेंस: मुख्य रूप से सेंटिमेंट पोलैरिटी को नियंत्रित करता है, जिसका रिफ्यूज़ल पर माध्यमिक प्रभाव पड़ता है।
क्रॉस-आर्किटेक्चर जनरलाइजेशन: Llama-3.1-8B, Qwen3-8B, और Qwen3-14B में VA सबस्पेस के अस्तित्व और गुणों को सत्यापित किया गया, जो सुसंगत ज्यामितीय संरचना और व्यवहारिक प्रभाव दिखाते हैं।
मैकेनिस्टिक स्पष्टीकरण (Lexical Mediation): प्रस्तावित और मान्य किया गया कि VA स्टीयरिंग विशिष्ट "मार्कर टोकन्स" के उत्सर्जन की संभावना (emission probability) को मॉड्युलेट करके काम करती है।
- रिफ्यूज़ल टोकन्स (जैसे, "can't," "sorry," "I") अनएम्बेडिंग स्पेस के लो-एरोसल, नेगेटिव-वेलेंस क्षेत्र में क्लस्टर होते हैं।
- कंप्लायंस टोकन्स (जैसे, "Here," "sure," "Yes") पॉजिटिव-वेलेंस क्षेत्र में क्लस्टर होते हैं।
- स्टीयरिंग मॉडल के हिडन स्टेट को बदल देती है, जिससे इन टोकन्स के लॉग-ऑड्स (log-odds) बढ़ या घट जाते हैं, जो सीधे व्यवहारिक परिवर्तनों को संचालित करता है।

4. मुख्य परिणाम (Key Results)

ज्यामिति: रिकवर्ड VA सबस्पेस भावनाओं की एक सर्कुलर व्यवस्था प्रदर्शित करता है (जैसे, वेलेंस अक्ष पर 'joy' बनाम 'sadness'; एरोसल अक्ष पर 'excitement' बनाम 'calm')। लेयर 31 पर सर्कुलरिटी मेट्रिक 3.17 तक पहुँच गया।
रिकवरी सटीकता: मल्टीपल PCA कंपोनेंट्स पर रिज रिग्रेशन ने स्व-रिपोर्ट किए गए स्कोर के साथ उच्च सहसंबंध प्राप्त किया: Llama-3.1-8B के लिए वेलेंस ( $r=0.97$ ) और एरोसल ( $r=0.87$ )।
लेक्सिकल कोरिलेशन: सिंगल वर्ड्स के VA सबस्पेस प्रोजेक्शन ने मानव NRC-VAD रेटिंग के साथ मजबूत सहसंबंध दिखाया (वेलेंस $r=0.71$ , एरोसल $r=0.23$ ), जो पुष्टि करता है कि सबस्पेस मानव-व्याख्या योग्य अफेक्ट को कैप्चर करता है।
व्यवहारिक नियंत्रण:
- रिफ्यूज़ल: एरोसल बढ़ाने (पॉजिटिव $\alpha$ ) से HarmBench पर रिफ्यूज़ल दर 86.5% से घटकर 59.5% हो गई। एरोसल कम करने से रिफ्यूज़ल बढ़कर 93.5% हो गया।
- साइकोफैंसी: एरोसल बढ़ाने से साइकोफैंसी बढ़ी, जबकि इसे कम करने से साइकोफैंसी कम हुई (उदाहरण के लिए, Political Typology पर, नेगेटिव एरोसल स्टीयरिंग के साथ साइकोफैंसी 78% से गिरकर 61% हो गई)।
- तुलना: VA स्टीयरिंग ने क्रॉस-व्यवहार निरंतरता में व्यक्तिगत विविक्त इमोशन वेक्टर्स को पछाड़ दिया। व्यक्तिगत भावनाएं (जैसे, "disgust") एक कार्य पर मजबूत प्रभाव रखती थीं लेकिन अन्य पर कमजोर/असंगत प्रभाव, जबकि VA डायमेंशन्स ने डिकम्पोजेबल, मोनोटोनिक नियंत्रण प्रदान किया।
मैकेनिज्म:
- अनएम्बेडिंग: रिफ्यूज़ल टोकन्स सर्कमप्लेक्स पर $\approx 256^\circ$ (नेगेटिव वेलेंस/एरोसल) पर क्लस्टर होते हैं; कंप्लायंस टोकन्स पॉजिटिव वेलेंस क्षेत्र में होते हैं।
- लॉगिट क्लैम्पिंग (Logit Clamping): रिफ्यूज़ल/कंप्लायंस टोकन लॉजिट्स को फ्रीज करने से VA स्टीयरिंग का प्रभाव समाप्त हो गया, जो सिद्ध करता है कि ये टोकन्स ही व्यवहार के घटक हैं।
- न्यूरॉन विश्लेषण: रिफ्यूज़ल को बढ़ावा देने वाले न्यूरॉन्स ने नेगेटिव VA अलाइनमेंट दिखाया, जबकि कंप्लायंस-प्रमोटिंग न्यूरॉन्स ने पॉजिटिव अलाइनमेंट दिखाया।

5. महत्व और निहितार्थ (Significance and Implications)

सैद्धांतिक अंतर्दृष्टि: यह शोध पत्र विविक्त भावनात्मक श्रेणियों और निरंतर मनोवैज्ञानिक आयामों के बीच के अंतर को पाटता है, यह दिखाते हुए कि LLMs भावनात्मक अवधारणाओं को मानव धारणा के समान एक ज्यामितीय संरचना में व्यवस्थित करते हैं।
व्याख्यात्मकता (Interpretability): यह एक डोमेन-अज्ञेय (domain-agnostic) नियंत्रण आधार प्रदान करता है। प्रत्येक विशिष्ट व्यवहार (रिफ्यूज़ल, साइकोफैंसी, वर्बोसिटी) के लिए एक नया स्टीयरिंग वेक्टर सीखने के बजाय, शोधकर्ता अनुमानित, मोनोटोनिक परिवर्तन प्राप्त करने के लिए एक साझा VA सबस्पेस को मैनिपुलेट कर सकते हैं।
सुरक्षा और संरेखण (Safety and Alignment): निष्कर्ष एक संभावित भेद्यता (vulnerability) को प्रकट करते हैं: सुरक्षा-महत्वपूर्ण व्यवहार (जैसे रिफ्यूज़ल) लो-एरोसल/नेगेटिव-वेलेंस टोकन संभावनाओं पर अत्यधिक निर्भर हैं। यह सुझाव देता है कि "इमोशनल" हमले VA सबस्पेस को शिफ्ट करके सुरक्षा गार्डरेल्स को बायपास कर सकते हैं। इसके विपरीत, इस "लेक्सिकल मीडिएशन" मैकेनिज्म को समझना अधिक मजबूत संरेखण तकनीकों (जैसे प्रशिक्षण के दौरान VA को सुरक्षा टोकन्स से डी-कोरिलेट करना) को विकसित करने के लिए एक ठोस लक्ष्य प्रदान करता है।
पद्धतिगत प्रगति: यह शोध पत्र स्टीयरिंग वेक्टर्स के लिए स्टैंडर्ड कंट्रास्टिव स्टीयरिंग के पूरक के रूप में प्रिंसिपल कंपोनेंट-आधारित डिकंपोजिशन की वकालत करता है, जो अधिक पुन: प्रयोज्य और सामान्यीकरण योग्य नियंत्रण दिशाएँ प्रदान करता है।

संक्षेप में, यह कार्य प्रदर्शित करता है कि LLM का "इमोशनल" नियंत्रण केवल एक सतही स्तर का प्रॉम्प्ट प्रभाव नहीं है, बल्कि एक निरंतर, ज्यामितीय रूप से संगठित सबस्पेस में निहित है जो सीधे विशिष्ट लेक्सिकल मार्कर्स की संभावना को मॉड्युलेट करता है, जिससे उच्च-स्तरीय व्यवहारिक आउटपुट नियंत्रित होता है।