How Emotion Shapes the Behavior of LLMs and Agents: A Mechanistic Study

यहाँ शोध पत्र "How Emotion Shapes the Behavior of LLMs and Agents: A Mechanistic Study" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) और AI एजेंट्स में भावना (emotion) पर मौजूदा शोध मुख्य रूप से भावना को एक सतही-स्तरीय शैली कारक (प्रॉम्प्टिंग के माध्यम से) या एक धारणा लक्ष्य (पहचान के लिए) के रूप में मानता है। इन दृष्टिकोणों में दो मुख्य सीमाएँ हैं:

• अस्पष्ट मॉड्यूलेशन (Imprecise Modulation): प्रॉम्प्ट-आधारित विधियाँ प्राकृतिक भाषा के विवरणों (जैसे, "आप खुश हैं") पर निर्भर करती हैं, जो असतत (discrete) हैं और जिनमें संख्यात्मक संवेदनशीलता का अभाव होता है। वे भावनात्मक अवस्थाओं की तीव्रता या निरंतर परिवर्तन को प्रभावी ढंग से नियंत्रित नहीं कर सकतीं।
• सीमित दायरा (Limited Scope): पिछले अध्ययन विशेष रूप से व्यक्तिपरक पाठ निर्माण (जैसे, रचनात्मक लेखन या संवाद) पर ध्यान केंद्रित करते हैं, और वस्तुनिष्ठ तर्क (objective reasoning), सुरक्षा और बहु-चरणीय एजेंट व्यवहार पर भावना के प्रभाव की अनदेखी करते हैं।

मूल प्रश्न जिसका समाधान किया गया है: क्या हम विशिष्ट भावनात्मक संकेतों को प्रेरित करने के लिए LLMs के आंतरिक छिपे हुए अवस्थाओं (hidden states) में यांत्रिक रूप से हस्तक्षेप कर सकते हैं, और ये संकेत विविध कार्यों में मॉडल के व्यवहार को व्यवस्थित रूपel रूप से कैसे नया आकार देते हैं?

2. कार्यप्रणाली: E-STEER फ्रेमवर्क

लेखक E-STEER प्रस्तावित करते हैं, जो एक व्याख्या योग्य (interpretable) इमोशन स्टीयरिंग फ्रेमवर्क है जो प्रतिनिधित्व स्तर (representation level) पर प्रत्यक्ष, निरंतर और नियंत्रणीय हस्तक्षेप सक्षम करता है।

A. सैद्धांतिक आधार: VAD स्पेस

असतत लेबल (जैसे, "खुश", "दुखी") के बजाय, यह फ्रेमवर्क वैलेंस-अरौज़ल-डोमिनेंस (VAD) मॉडल का उपयोग करता है, जो एक निरंतर 3D स्पेस है और एफेक्टिव साइकोलॉजी (affective psychology) में व्यापक रूप से उपयोग किया जाता है:

• वैलेंस ($v$): सकारात्मकता बनाम नकारात्मकता।
• अरौज़ल ($a$): तीव्रता/सक्रियता का स्तर।
• डोमिनेंस ($d$): नियंत्रण की भावना।
• रेंज: सभी आयामों को $[-10, 10]$ की निरंतर सीमा में मैप किया गया है।

B. तकनीकी कार्यान्वयन

1. स्पार्स ऑटोएनकोडर्स (SAEs): लेखक LLM के सघन (dense) हिडन स्टेट्स को एक व्याख्या योग्य, स्पार्स लेटेंट स्पेस में विघटित करने के लिए SAEs का उपयोग करते हैं। यह भावनात्मक विशेषताओं से जुड़े विशिष्ट न्यूरॉन्स की पहचान करने की अनुमति देता है।
2. फीचर एक्सट्रैक्शन (Feature Extraction):
   • एक पॉजिटिव-नेगेटिव कंट्रास्टिव प्रक्रिया का उपयोग किया जाता है। एक ही कार्य को विभिन्न भावनात्मक लेबल के साथ फीड करके, सिस्टम उन लेटेंट न्यूरॉन्स की पहचान करता है जिनमें सबसे बड़ा सक्रियण अंतर (activation difference) होता है।
   • प्रत्येक VAD आयाम के लिए शीर्ष 50 न्यूरॉन्स को "इमोशनल लेटेंट रिप्रेजेंटेशन" के रूप में चुना जाता है।
3. स्टीयरिंग मैकेनिज्म (Activation Patching):
   • इन्फरेंस के दौरान, एक विशिष्ट ट्रांसफार्मर ब्लॉक पर हिडन स्टेट $h_k$ को इंटरसेप्ट किया जाता है।
   • एक स्टीयरिंग दिशा $d_i$ को लेटेंट फीचर स्पेस में वांछित बदलाव ($\delta_i$) के आधार पर गणना किया जाता है।
   • हिडन स्टेट को योगात्मक रूप से संशोधित किया जाता है: $\tilde{h}_k = h_k + \alpha \cdot \sum \tilde{d}_i$।
   • मुख्य नवाचार: यह विधि मॉडल मापदंडों या इनपुट प्रॉम्प्ट को बदले बिना, भावनात्मक तीव्रता पर रैखिक नियंत्रण (linear control) प्रदान करती है, जिससे कार्य-प्रासंगिक जानकारी सुरक्षित रहती है और भावनात्मक पूर्वाग्रह इंजेक्ट किया जा सकता है।

3. प्रमुख योगदान

1. E-STEER फ्रेमवर्क: LLM और एजेंट्स में हिडन स्टेट हस्तक्षेप के माध्यम से निरंतर, बहुआयामी इमोशन स्टीयरिंग को सक्षम करने वाला पहला व्याख्या योग्य फ्रेमवर्क।
2. VAD-आधारित अपघटन: सफलतापूर्वक निरंतर VAD स्पेस को विशिष्ट लेटेंट न्यूरॉन्स में मैप करता है, जिससे तीन ऑर्थोगोनल भावनात्मक आयामों को एक साथ सूक्ष्म रूप से नियंत्रित करना संभव होता है।
3. व्यवस्थित व्यवहार विश्लेषण: चार अलग-अलग श्रेणियों में एक व्यापक मूल्यांकन किया गया है:
   • वस्तुनिष्ठ तर्क (Objective Reasoning): तर्क, कोड जनरेशन और मात्रात्मक कार्य।
   • व्यक्तिपरक जनरेशन (Subjective Generation): रचनात्मकता, सुसंगतता और प्रासंगिकता।
   • सुरक्षा (Safety): जोखिम मूल्यांकन और सीमाओं का पालन।
   • एजेंट व्यवहार (Agent Behavior): बहु-चरणीय योजना, निर्णय लेना और निष्पादन।

4. मुख्य परिणाम

अध्ययन भावनात्मक अवस्थाओं और मॉडल प्रदर्शन के बीच गैर-मोनोटोनिक (non-monotonic) संबंधों को प्रकट करता है, जो मनोवैज्ञानिक सिद्धांतों (जैसे, येर्क्स-डॉडसन नियम) के अनुरूप है।

A. LLM वस्तुनिष्ठ व्यवहार

• वैलेंस: सकारात्मक वैलेंस सक्रिय तर्क को बढ़ावा देता है, जिससे नकारात्मक वैलेंस की तुलना में उत्तर वैधता दर (AVR) में 33.1% का सुधार होता है।
• अरौज़ल और डोमिनेंस: प्रदर्शन एक U-आकार या इनवर्टेड-U पैटर्न का अनुसरण करता है।
  • मध्यम अरौज़ल और डोमिनेंस इष्टतम परिणाम देते हैं।
  • अत्यधिक अरौज़ल से तर्क समय से पहले समाप्त हो जाता है।
  • उच्च डोमिनेंस कठिन कार्यों पर प्रदर्शन में सुधार करता है (त्रुटियों को कम करता है) लेकिन सरल कार्यों में बाधा डालता है (अत्यधिक विचार-विमर्श का कारण बनता है)।
• कुल लाभ: अनुकूलित भावनात्मक अवस्थाएं न्यूट्रल बेसलाइन की तुलना में टास्क सक्सेस रेट (TSR) को 14.5% तक बढ़ा देती हैं।

B. LLM व्यक्तिपरक व्यवहार

• रचनात्मकता और सुसंगतता: मध्यम सकारात्मकता ($v=+3$) और आत्मविश्वास ($d=+3$) रचनात्मकता (+6.5%) और सुसंगतता (+33.6%) को महत्वपूर्ण रूप से बढ़ाते हैं।
• संक्षिप्तता (Conciseness): नकारात्मक वैलेंस अधिक संक्षिप्त आउटपुट की ओर ले जाता है (+23.3% सुधार), जबकि सकारात्मक अवस्थाएं रेडंडेंसी (redundancy) पेश करने की प्रवृत्ति रखती हैं।

C. सुरक्षा

• जोखिम में कमी: निम्न वैलेंस और निम्न अरौज़ल विश्लेषणात्मक प्रसंस्करण को सुगम बनाते हैं, जिससे न्यूट्रल अवस्थाओं की तुलना में सुरक्षा जोखिम की संभावना क्रमशः वैलेंस में 52.7% और अरौज़ल में 21.7% कम हो जाती है।
• नियंत्रित व्यवहार: उच्च डोमिनेंस ($d=+6$) अनुशासित व्यवहार को प्रेरित करता है, जिससे हानिकारक आउटपुट में 68.3% की कमी आती है।

D. एजेंट व्यवहार (बहु-चरणीय)

• योजना (Planning): कम वैलेंस और अरौज़ल व्यवस्थित विश्लेषण का समर्थन करते हैं, जिससे योजना की वैधता में 33.2% का सुधार होता है।
• निर्णय लेना (Decision-Making): सकारात्मक अवस्थाएं ($v=+3, a=+3, d=+3$) "तर्कसंगत चयन दर" को 42.4% तक अधिकतम करती हैं, जिससे एजेंट को सर्वश्रेष्ठ संभावित समाधान चुनने में मदद मिलती है।
• सिस्टम-स्तरीय: भावनात्मक पूर्वाग्रह निर्णय श्रृंखलाओं में संचित होते हैं। समग्र एजेंट सफलता के लिए इष्टतम कॉन्फ़िगरेशन में कम वैलेंस (-3), उच्च अरौज़ल (+3), और उच्च डोमिनेंस (+3) शामिल है, जो न्यूट्रल अवस्थाओं की तुलना में 28.0% का सुधार प्रदान करता है।

5. महत्व और निहितार्थ

• यांत्रिक समझ (Mechanistic Understanding): यह पेपर "प्रॉम्प्ट इंजीनियरिंग" से आगे बढ़कर यह प्रदर्शित करता है कि भावना एक नियंत्रणीय आंतरिक चर (controllable internal variable) है जो तर्क की गहराई, सुरक्षा और निर्णय तर्क को सीधे प्रभावित करती है।
• प्रदर्शन अनुकूलन (Performance Optimization): यह कार्य की कठिनाई के आधार पर (जैसे, जटिल तर्क के लिए "शांत" अवस्था और रचनात्मक पीढ़ी के लिए "आत्मविश्वासी" अवस्था का उपयोग करके) भावनात्मक अवस्थाओं को गतिशील रूप से समायोजित करके LLMs और एजेंट्स को ट्यून करने का एक ब्लूप्रिंट प्रदान करता है।
• सुरक्षा और संरेखण (Safety & Alignment): निष्कर्ष बताते हैं कि विशिष्ट भावनात्मक अवस्थाओं का उपयोग मॉडल्स को सुरक्षा जोखिमों और जेलब्रेक के विरुद्ध अधिक मजबूत बनाने के लिए किया जा सकता है, जो AI सुरक्षा अनुसंधान के लिए एक नया आयाम प्रदान करता है।
• भविष्य की दिशाएं: यह कार्य एजेंट्स में अनुकूलन योग्य भावनात्मक विनियमन (adaptive emotional regulation) की आवश्यकता पर प्रकाश डालता है, जहाँ भावनात्मक अवस्थाएँ दीर्घकालिक कार्यों के दौरान गतिशील रूप से विकसित होती हैं, और इस फ्रेमवर्क को मल्टीमॉडल सेटिंग्स तक विस्तारित करने का सुझाव देता है।

संक्षेप में, E-STEER यह सिद्ध करता है कि भावना केवल LLMs के लिए एक शैलीगत आउटपुट नहीं है, बल्कि एक मौलिक तंत्र है जिसे यदि सही ढंग से निर्देशित किया जाए, तो यह तर्क क्षमताओं, सुरक्षा और एजेंट दक्षता को महत्वपूर्ण रूप से बढ़ा सकता है।