💬 NLP

The Effectiveness of Style Vectors for Steering Large Language Models: A Human Evaluation

यह शोध पत्र एलएलएम (LLM) के भावनात्मक स्वर को नियंत्रित करने के लिए एक्टिवेशन स्टीयरिंग (activation steering) का पहला मानव मूल्यांकन प्रस्तुत करता है, जो यह प्रदर्शित करता है कि मध्यम स्टीयरिंग स्ट्रेंथ (steering strength) टेक्स्ट की गुणवत्ता को बनाए रखते हुए विशिष्ट भावनाओं को प्रभावी ढंग से बढ़ाती है, जिसमें मानव और स्वचालित रेटिंग के बीच मजबूत संरेखण है और अल्पाका (Alpaca) से लामा-3 (LlaMA-3) में अपग्रेड करने पर बेहतर निरंतरता देखी गई है।

मूल लेखक: Diaoulé Diallo, Katharina Dworatzyk, Sophie Jentzsch, Peer Schütt, Sabine Theis, Tobias Hecking

प्रकाशित 2026-01-30

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Diaoulé Diallo, Katharina Dworatzyk, Sophie Jentzsch, Peer Schütt, Sabine Theis, Tobias Hecking

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक बहुत ही प्रतिभाशाली, लेकिन थोड़े कठोर स्वभाव वाले अभिनेता के रूप में करें। यह अभिनेता किसी भी स्क्रिप्ट को पूरी तरह से पढ़ सकता है, लेकिन वे हमेशा एक सपाट, तटस्थ आवाज़ में बोलते हैं। वे स्वाभाविक रूप से खुश, क्रोधित या दुखी नहीं सुनाई देते, जब तक कि आप उन्हें स्क्रिप्ट में बहुत विशिष्ट, अक्सर बोझिल निर्देश न दें।

यह शोधपत्र इस अभिनेता को निर्देशित करने का एक नया तरीका है। स्क्रिप्ट को फिर से लिखने के बजाय (जो कठिन और धीमा है), शोधकर्ताओं ने पाया कि वे अभिनेता के बोलने के दौरान उनके "आंतरिक मूड डायल" (internal mood dial) को ट्यून कर सकते हैं। वे इसे एक्टिवेशन स्टीयरिंग (Activation Steering) कहते हैं।

यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. भावनाओं के लिए "वॉल्यूम नॉब" (The "Volume Knob" for Emotions)

AI के आंतरिक मस्तिष्क की कल्पना करें जिसमें हर भावना (ख़ुशी, क्रोध, डर, आदि) के लिए एक छिपा हुआ वॉल्यूम नॉब है।

पुराना तरीका: AI को क्रोधित दिखाने के लिए, आपको "एक चिड़चिड़े व्यक्ति की तरह व्यवहार करो" जैसा प्रॉम्प्ट लिखना पड़ता था। यह ऐसा है जैसे आप हर पंक्ति के लिए अभिनेता को अपना पूरा पहनावा और बैकस्टोरी बदलने के लिए कह रहे हों।
नया तरीका: शोधकर्ताओं ने "स्टाइल वेक्टर्स" (Style Vectors) बनाए। कल्पना करें कि ये एक विशिष्ट चाबी की तरह हैं जो एक छिपे हुए डायल को खोल देती है। जब वे इस डायल को (एक संख्या जिसे $\lambda$ या "लैम्ब्डा" कहा जाता है, का उपयोग करके) घुमाते हैं, तो अभिनेता की आवाज़ वास्तविक शब्दों या कहानी को बदले बिना स्वाभाविक रूप से उस भावना की ओर झुक जाती है।

2. मानव परीक्षण (The "Human Test" - द क्राउड)

इस अध्ययन से पहले, हमें केवल यह पता चलता था कि यह "डायल" काम करता है या नहीं, इसके लिए हम टेक्स्ट की जाँच करने के लिए अन्य कंप्यूटरों का उपयोग करते थे। यह एक नई कार का परीक्षण करने जैसा था जहाँ इंजन के स्पेसिफिकेशन को तो देखा जाता था, लेकिन कभी उसे चलाया नहीं जाता था।

उन्होंने क्या किया: शोधकर्ताओं ने 190 वास्तविक लोगों को हजारों AI-जनरेटेड वाक्यों को पढ़ने के लिए काम पर रखा। उन्होंने पूछा: "यह कितना क्रोधित लग रहा है?" और "क्या यह अभी भी समझ में आ रहा है?"
परिणाम: उन्होंने पाया कि यह "डायल" काम करता है। जब उन्होंने "क्रोध" या "डर" का डायल बढ़ाया, तो इंसानों को स्पष्ट रूप से बदलाव सुनाई दिया। टेक्स्ट वास्तव में अधिक भावनात्मक लगने लगा।

3. "स्वीट स्पॉट" (The "Sweet Spot" - इसे बहुत अधिक न बढ़ाएं)

इसमें एक पेंच है। कल्पना करें कि आप रेडियो पर वॉल्यूम बढ़ा रहे हैं।

कम से मध्यम वॉल्यूम ( $\lambda \approx 0.15$ ): संगीत (भावना) तेज़ और स्पष्ट हो जाता है, लेकिन ध्वनि की गुणवत्ता अच्छी रहती है। वाक्य अभी भी समझ में आते हैं।
बहुत तेज़ वॉल्यूम ( $\lambda > 0.20$ ): संगीत विकृत (distort) होने लगता है। AI "क्रोधित" या "भयभीत" होने पर इतना केंद्रित हो जाता है कि वह अजीब और निरर्थक बातें करने लगता है। वाक्य समझने में कठिन हो जाते हैं।
निष्कर्ष: आपको सावधान रहना होगा। घृणा (Disgust) और डर (Fear) जैसी भावनाओं के लिए, यह डायल अविश्वसनीय रूप से अच्छा काम करता है। आश्चर्य (Surprise) के लिए, डायल लगभग कुछ भी नहीं करता—AI के पास चालू करने के लिए कोई मजबूत "सरप्राइज" स्विच नहीं लगता।

4. "रोबोट बनाम इंसान" की सहमति (The "Robot vs. Human" Agreement)

शोधकर्ताओं ने यह भी जाँच की कि क्या उनके कंप्यूटर प्रोग्राम अनुमान लगा सकते हैं कि इंसानों ने टेक्स्ट के बारे में कैसा महसूस किया।

रूपक (Metaphor): यह एक रोबोट जज और एक मानव जज द्वारा सूप चखने जैसा है।
परिणाम: वे आश्चर्यजनक रूप से अच्छी तरह से सहमत थे! जब इंसानों को लगा कि टेक्स्ट बहुत "दुखी" लग रहा है, तो कंप्यूटर ने भी उच्च "उदासी" स्कोर दिया। इसका मतलब है कि भविष्य में, हमें हर बदलाव का परीक्षण करने के लिए 190 लोगों को काम पर रखने की आवश्यकता नहीं होगी; हम गुणवत्ता की जाँच करने के लिए कंप्यूटर पर भरोसा कर सकते हैं।

5. "अपग्रेडेड एक्टर" (The "Upgraded Actor")

उन्होंने दो अलग-अलग संस्करणों वाले AI पर इसका परीक्षण किया (एक पुराना जिसे Alpaca कहा जाता है और एक नया, स्मार्ट जिसे LlaMA-3 कहा जाता है)।

परिणाम: नया अभिनेता (LlaMA-3) मूड डायल का पालन करने में बहुत बेहतर था। परिवर्तन अधिक सहज और सुसंगत थे। यह एक लकड़ी की कठपुतली से एक मानव अभिनेता में अपग्रेड करने जैसा है; नया अभिनेता सूक्ष्म भावनात्मक बदलावों को बहुत बेहतर तरीके से संभाल सकता है।

उन्होंने क्या पाया (सारांश)

यह काम करता है: आप केवल अपने आंतरिक सेटिंग्स को ट्यून करके AI को खुश, दुखी या क्रोधित होने के लिए प्रेरित कर सकते हैं।
इसकी सीमाएँ हैं: यदि आप भावना को बहुत अधिक बढ़ाते हैं, तो AI बड़बड़ाने (gibberish) लगता है।
यह मापने योग्य है: इंसान अंतर महसूस कर सकते हैं, और कंप्यूटर उस अंतर की भविष्यवाणी कर सकता है।
सभी भावनाएं समान नहीं हैं: AI को डरा हुआ या घृणा महसूस कराना आसान है, लेकिन उसे "आश्चर्यचकित" करना बहुत कठिन है।

यह पेपर क्या नहीं कहता:
यह पेपर यह दावा नहीं करता है कि इसका उपयोग चिकित्सा (therapy) में, मानसिक स्वास्थ्य के मुद्दों को ठीक करने के लिए, या उड़ने वाले विमानों जैसे विशिष्ट सुरक्षा-महत्वपूर्ण सिस्टम में किया जाएगा (हालांकि यह सामान्य संदर्भ के रूप में एयरोस्पेस का उल्लेख करता है)। यह सख्ती से यह साबित करने पर केंद्रित है कि यह "मूड डायल" तकनीक कैसे काम करती है, यह कितनी मजबूत होनी चाहिए, और मनुष्य परिणामों को कैसे देखते हैं।

तकनीकी सारांश: लार्ज लैंग्वेज मॉडल्स (LLMs) को निर्देशित करने के लिए स्टाइल वेक्टर्स की प्रभावशीलता

समस्या विवरण
इन्फरेंस टाइम (inference time) पर लार्ज लैंग्वेज मॉडल्स (LLMs) के व्यवहार को नियंत्रित करना, उनके आउटपुट को मानवीय सुरक्षा आवश्यकताओं और संचार लक्ष्यों के साथ संरेखित करने के लिए महत्वपूर्ण है। जबकि प्रॉम्प्ट इंजीनियरिंग और फाइन-ट्यूनिंग स्थापित विधियाँ हैं, उनमें अक्सर सटीक शैलीगत नियंत्रण (stylistic control) का अभाव होता है या उनके लिए महत्वपूर्ण कंप्यूटेशनल संसाधनों की आवश्यकता होती है। एक्टिवेशन स्टीयरिंग (activation steering) जनरेशन को निर्देशित करने के लिए आंतरिक मॉडल एक्टिवेशन को सीधे संशोधित करके एक हल्का (lightweight) विकल्प प्रदान करता है। हालाँकि, पूर्व शोध मुख्य रूप से व्यवहार्यता प्रदर्शित करने के लिए स्वचालित क्लासिफायर या दृष्टांत उदाहरणों पर निर्भर रहा है। एक महत्वपूर्ण अंतराल यह है कि क्या मनुष्य वास्तव में LLM आउटपुट में सूक्ष्म स्टीयरिंग (nuanced steering) को, विशेष रूप से भावनात्मक स्वर (emotional tone) के संबंध में, अनुभव कर सकते हैं, और इस तरह की स्टीयरिंग टेक्स्ट की गुणवत्ता और बोधगम्यता (comprehensibility) को कैसे प्रभावित करती है।

कार्यप्रणाली
यह अध्ययन Konen et al. [2] से अनुकूलित एक एक्टिवेशन-आधारित स्टाइल स्टीयरिंग दृष्टिकोण का उपयोग करता है, जो LlaMA-3-8B-Lexi-Uncensored मॉडल का उपयोग करता है। कार्यप्रणाली के तीन प्राथमिक चरण हैं:

वेक्टर निर्माण (Vector Construction): स्टाइल वेक्टर्स को GoEmotions डेटासेट (जो Ekman के छह बुनियादी भावनाओं: क्रोध, घृणा, भय, खुशी, दुख, आश्चर्य पर आधारित है) से प्राप्त किया गया है। एक लक्षित शैली $t$ और विरोधात्मक शैलियों $c$ के लिए, प्रत्येक परत $i$ के लिए माध्य सक्रियण वेक्टर (mean activation vectors) $\bar{a}^{(i)}$ की गणना की जाती है। स्टाइल वेक्टर $v^{(i)}(t)$ को लक्षित माध्य सक्रियण और विरोधात्मक सक्रियणों के माध्य के बीच के अंतर के रूप में परिकलित किया जाता है:
$v^{(i)}(t) = \bar{a}^{(i)}(t) - \frac{1}{s}\sum_{j=1}^{s} \bar{a}^{(i)}(c_j)$
इन्फरेंस-टाइम स्टीयरिंग (Inference-Time Steering): जनरेशन के दौरान, मूल सक्रियणों $a^{(i)}(x)$ को स्केल्ड स्टाइल वेक्टर जोड़कर संशोधित किया जाता है:
$\hat{a}^{(i)}(x) = a^{(i)}(x) + \lambda \cdot v^{(i)}(t)$
यहाँ, $\lambda$ एक स्केलिंग पैरामीटर के रूप में कार्य करता है जो स्टीयरिंग की तीव्रता को नियंत्रित करता है। अध्ययन इन वेक्टर्स को मॉडल की सभी परतों पर लागू करता है।
मूल्यांकन (Evaluation):
- स्वचालित मूल्यांकन: एक प्री-ट्रेंड DistilRoBERTa मॉडल भावना की तीव्रता को वर्गीकृत करता है, और LlaMA-3 मॉडल स्वयं टेक्स्ट की बोधगम्यता को 1–10 के पैमाने पर रेट करता है।
- मानवीय मूल्यांकन: Prolific के माध्यम से भर्ती किए गए एक विथ-सब्जेक्ट्स अध्ययन ( $N=190$ ) में प्रतिभागियों ने 19 प्रॉम्प्ट, 6 भावनाओं और 8 स्टीयरिंग स्ट्रेंथ ( $\lambda \in [0.00, 0.35]$ ) के तहत 7,000+ जनरेट किए गए टेक्स्ट को कथित भावनात्मक तीव्रता (0–7 स्केल) और टेक्स्ट बोधगम्यता (0–7 स्केल) के आधार पर रेट किया।

प्रमुख योगदान
यह शोध पत्र तीन विशिष्ट दिशाओं में साहित्य को आगे बढ़ाता है:

प्रथम मानवीय मूल्यांकन: यह भावनात्मक स्वर के लिए एक्टिवेशन स्टीयरिंग का पहला बड़े पैमाने पर मानवीय मूल्यांकन प्रदान करता है, जो केवल स्वचालित मेट्रिक्स से आगे बढ़कर कथित तीव्रता और टेक्स्ट गुणवत्ता का आकलन करता है।
स्टीयरिंग स्ट्रेंथ बनाम गुणवत्ता विश्लेषण: यह स्टीयरिंग तीव्रता और आउटपुट गुणवत्ता के बीच के ट्रेड-ऑफ का विश्लेषण करता है, यह पहचानते हुए कि मध्यम स्ट्रेंथ प्रवाह (fluency) को बनाए रखती है जबकि उच्च स्ट्रेंथ सामंजस्य (coherence) को कम करती है।
मॉडल आर्किटेक्चर तुलना: यह प्रदर्शित करता है कि Alpaca (पिछले कार्य में) से LlaMA-3 में अपग्रेड करने से भावनाओं और स्ट्रेंथ के बीच अधिक सुसंगत और स्पष्ट स्टीयरिंग प्रभाव प्राप्त होता है।

परिणाम

भावनात्मक तीव्रता: मानवीय रेटिंग्स ने छह में से पांच भावनाओं (क्रोध, घृणा, भय, खुशी, दुख) के लिए कथित भावनात्मक तीव्रता में $\lambda$ बढ़ने के साथ स्पष्ट वृद्धि की पुष्टि की। सबसे मजबूत प्रभाव घृणा ( $\eta^2_p = 0.616$ ) और भय ( $\eta^2_p = 0.540$ ) के लिए देखा गया। आश्चर्य ने न्यूनतम स्टीयरेबिलिटी ( $\eta^2_p = 0.042$ ) दिखाई, जिसमें कथित तीव्रता में कोई सार्थक परिवर्तन नहीं हुआ।
मानव-मॉडल संरेखण (Human-Model Alignment): मानवीय और मॉडल-आधारित गुणवत्ता रेटिंग के बीच मजबूत संरेखण था (औसत पियर्सन $r = 0.776$ )। हालांकि मानवीय रेटर्स अपने ऊपरी-सीमा रेटिंग में अधिक रूढ़िवादी थे, लेकिन भावनात्मक प्रवर्धन (amplification) में रुझान और उच्च $\lambda$ मानों पर बोधगम्यता में गिरावट के रुझान स्वचालित क्लासिफायर्स द्वारा बारीकी से प्रतिबिंबित किए गए थे।
टेक्स्ट गुणवत्ता: $\lambda \approx 0.15$ तक स्टीयरिंग स्ट्रेंथ के लिए बोधगम्यता स्थिर रही। इस सीमा के बाद, टेक्स्ट की गुणवत्ता (प्रवाह और सामंजस्य) में महत्वपूर्ण गिरावट आने लगी। अध्ययन नोट करता है कि मानवीय रेटर्स ने भावनाओं के "सह-बोध" (co-perception) को भी महसूस किया (जैसे, क्रोध के लिए स्टीयरिंग करने से घृणा की धारणा भी बढ़ गई), जो मानवीय भावना धारणा की बहुआयामी प्रकृति को दर्शाता है, जिसे सिंगल-डायमेंशन मॉडल क्लासिफायर्स पूरी तरह से कैप्चर नहीं कर पाए।
विश्वसनीयता: अधिकांश भावनाओं के लिए एकत्रित निर्णयों के लिए इंटर-रेटर विश्वसनीयता उच्च थी (ICC $\approx 0.71–0.87$ ), हालांकि व्यक्तिगत रेटर निरंतरता भिन्न थी।

महत्व
यह शोध दावा करता है कि एक्टिवेशन-आधारित नियंत्रण, एफेक्टिव आयामों (affective dimensions) में LLM व्यवहार को निर्देशित करने के लिए एक स्केलेबल और प्रभावी विधि है। यह मान्य करता है कि:

एक्टिवेशन स्टीयरिंग बिना पुन: प्रशिक्षण (retraining) के लक्षित भावनाओं को नियंत्रित तरीके से सफलतापूर्वक प्रवर्धित कर सकता है।
मध्यम स्टीयरिंग स्ट्रेंथ ( $\lambda \approx 0.15$ ) भावनात्मक अभिव्यक्ति और टेक्स्ट बोधगम्यता के बीच एक व्यवहार्य संतुलन प्रदान करती है।
स्वचालित स्कोरिंग, मानवीय-अनुभूत गुणवत्ता के लिए एक विश्वसनीय प्रॉक्सी के रूप में कार्य कर सकती है, जिससे भविष्य के मूल्यांकनों की लागत कम हो सकती है।
यह तकनीक LlaMA-3 आर्किटेक्चर के लिए विशेष रूप से प्रभावी है, जो यह सुझाव देती है कि मॉडल की क्षमता एक्टिवेशन इंजीनियरिंग की प्रभावकारिता को प्रभावित करती है।

लेखक निष्कर्ष निकालते हैं कि हालांकि यह विधि प्रभावी है, इसके लिए तीव्रता और सामंजस्य के बीच के ट्रेड-ऑफ को प्रबंधित करने के लिए भावना-विशिष्ट अंशांकन (calibration) की आवश्यकता है, और भविष्य के कार्यों को मल्टी-टर्न संवाद और अधिक अमूर्त शैलीगत गुणों पर अन्वेषण करना चाहिए।