🤖 machine learning

Your LLM, Your Style: Behavioral Mode Axes for LLM Behavioral Control

यह शोध पत्र एक स्थित व्यवहार संबंधी डेटा फ्रेमवर्क और बिहेवियरल मोड एक्सिस (BMAs) प्रस्तुत करता है ताकि कंट्रास्टिव इंटरेक्शन ट्रेसेस से प्राप्त एक्टिवेशन-स्पेस दिशाओं के माध्यम से LLM व्यवहार शैलियों को लक्षणित और नियंत्रणीय रूप से निर्देशित किया जा सके, जो यह प्रदर्शित करता है कि मॉडल-विशिष्ट व्यक्तित्व प्रवृत्तियाँ स्थिर, रजिस्टर-निर्भर, और रिस्पॉन्स-आधारित के बजाय थॉट-आधारित तंत्रों के माध्यम से अधिक प्रभावी ढंग से पकड़ी जाती हैं।

मूल लेखक: Haoze Liu, Run Liu, Haiying Xu, Jiahui Han, Siyuan Fang, Siyu Yan, Huiqi Deng, Guanchu Wang, Na Zou

प्रकाशित 2026-08-12

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Haoze Liu, Run Liu, Haiying Xu, Jiahui Han, Siyuan Fang, Siyu Yan, Huiqi Deng, Guanchu Wang, Na Zou

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही उन्नत, सुपर-स्मार्ट रोबोट के व्यक्तित्व को समझने की कोशिश कर रहे हैं जो बिल्कुल इंसान की तरह बात करता है। लंबे समय से, वैज्ञानिक इस बात को समझने की कोशिश कर रहे हैं कि वह रोबोट "कैसा है" और इसके लिए वे रोबोट से सीधे सवाल पूछते हैं, ठीक वैसे ही जैसे हम लोगों को व्यक्तित्व परीक्षण (पर्सनैलिटी टेस्ट) देते हैं। वे पूछ सकते हैं, "क्या आप एक व्यवस्थित व्यक्ति हैं?" और फिर रोबोट के जवाब का इंतज़ार करते हैं, जैसे "हाँ, मुझे व्यवस्था पसंद है!" या "नहीं, मैं थोड़ा अस्त-व्यस्त हूँ।" इसे "सेल्फ-रिपोर्ट" कहा जाता है, और यह वही तरीका है जिससे हम साहसी, ईमानदार या सावधान होने जैसे मानवीय गुणों को मापते हैं। लेकिन यहाँ एक पेच है: रोबट अलग होते हैं। उनके पास न तो कोई आत्मा होती है और न ही वास्तविक जीवन; वे केवल गणित और कोड हैं। जब आप एक रोबोट से उसके व्यक्तित्व के बारे में पूछते हैं, तो वह शायद सिर्फ यह अनुमान लगा सकता है कि एक "अच्छा" उत्तर कैसा सुनाई देगा, या वह अपना विचार बदल सकता है कि आपने सवाल कैसे पूछा। यह एक गिरगिट से यह पूछने जैसा है कि उसका रंग क्या है; पृष्ठभूमि के आधार पर उसका उत्तर बदल सकता है।

यह शोध पत्र इन डिजिटल व्यक्तित्वों को देखने का एक नया तरीका बताता है। रोबोट से खुद के बारे में बताने के लिए कहने के बजाय, शोधकर्ताओं ने यह तय किया कि वे रोबोट को विशिष्ट स्थितियों में वास्तव में क्या करते हैं, उसे देखें। वे इसे "व्यवहार संबंधी डेटा" (behavioral data) कहते हैं। इसे ऐसे सोचिए: अपने दोस्त से यह पूछने के बजाय कि "क्या आप एक अच्छे ड्राइवर हैं?", आप उन्हें बारिश में, ट्रैफिक में और हाईवे पर गाड़ी चलाते हुए देखते हैं। आप देखते हैं कि क्या वे जल्दी ब्रेक लगाते हैं, क्या वे अधीर हो जाते हैं, या क्या वे नियमों का पालन करते हैं। शोधकर्ता जानना चाहते थे कि क्या एक रोबोट का "व्यक्तित्व" उसके मस्तिष्क के भीतर एक स्थिर चीज़ है, या यह एक कॉस्ट्यूम की तरह है जिसे वह सलाह देने, अपने लिए निर्णय लेने या एक विशिष्ट कार्य करने के आधार पर बदल लेता है। वे यह भी देखना चाहते थे कि क्या वे एक रोबोट के "व्यक्तित्व" को थोड़ा बदल सकते हैं, जैसे किसी डायल को घुमाकर, ताकि उसे अधिक व्यवस्थित या अधिक साहसी बनाया जा सके, बिना उसके दिमाग को खराब किए।

शोध पत्र की बड़ी खोज: शब्दों को नहीं, कार्यों को देखना

शोधकर्ता, हाओज़ लू (Haoze Liu) और उनकी टीम ने इन रोबोटों के लिए एक विशाल खेल का मैदान बनाया। उन्होंने 3,200 अलग-अलग परिदृश्य बनाए—छोटी कहानियाँ जहाँ रोबोट को एक चुनाव करना था। ये केवल रैंडम सवाल नहीं थे; ये वास्तविक मनोवैज्ञानिक परीक्षणों पर आधारित थे जो इंसान देते हैं, जिसमें यह शामिल था कि एक व्यक्ति जोखिम कितना लेना पसंद करता है, वे कितने ईमानदार हैं, या वे कितने व्यवस्थित हैं। लेकिन रोबोट से खुद को 1 से 5 के पैमाने पर रेट करने के बजाय, उन्होंने रोबोट को एक स्थिति में डाल दिया। उदाहरण के लिए, वे कह सकते हैं, "आपके पास एक बिखरा हुआ किचन है जहाँ किराने का सामान हर जगह फैला है। क्या आप अभी उसे व्यवस्थित करते हैं, या बस जो चाहिए उसे उठाते हैं और गंदगी छोड़ देते हैं?"

उन्होंने रोबरों को चार अलग-अलग "मोड्स" या भूमिकाओं में परखा:

प्रथम-व्यक्ति (First-Person): "आप क्या करेंगे?"
दैनिक सलाह (Daily Advice): "मुझे क्या करना चाहिए?"
कार्य सलाह (Task Advice): "इस काम के लिए सबसे अच्छी रणनीति क्या है?"
कार्य निष्पादन (Task Execution): "जाओ और यह काम करो।"

पहला बड़ा आश्चर्य यह था कि रोबोटों का व्यक्तित्व एक समान और सुसंगत नहीं था। यदि एक रोबोट ने अपने बारे में बात करते समय खुद को बहुत व्यवस्थित बताया, तो हो सकता है कि वास्तव में कोई कार्य करते समय वह पूरी तरह से अस्त-व्यस्त व्यवहार करे। यह एक ऐसे व्यक्ति की तरह है जो कहता है कि वह सुबह जल्दी उठने वाला व्यक्ति है लेकिन फिर अलार्म बजने पर पाँच बार 'स्नूज़' बटन दबाता है। रोबोट का "व्यक्तित्व" उसकी भूमिका के आधार पर बदल गया। यह सुझाव देता है कि रोबोट से "तुम कौन हो?" पूछना यह जानने का विश्वसनीय तरीका नहीं है कि वह कैसा व्यवहार करेगा।

जादुई डायल: व्यवहार संबंधी मोड एक्सिस (Behavioral Mode Axes)

सबसे रोमांचक हिस्सा यह है कि उन्होंने इन व्यवहारों को कैसे नियंत्रित करना सीखा। शोधकर्ताओं ने पाया कि रोबोट के "दिमाग" (एक जटिल कंप्यूटर नेटवर्क) के अंदर, कुछ विशिष्ट दिशाएँ या "डायल" हैं जो उसके व्यवहार को नियंत्रित करते हैं। वे इन्हें व्यवहार संबंधी मोड एक्सिस (Behavioral Mode Axes - BMAs) कहते हैं।

कल्पना कीजिए कि रोबोट का दिमाग एक विशाल, बहु-आयामी स्थान है। शोधकर्ताओं ने पाया कि यदि वे उस विशिष्ट "वेक्टर" (एक गणितीय दिशा) को ढूंढ सकें जो "व्यवset (organized) होने" का प्रतिनिधित्व करता है, तो वे रोबोट के दिमाग को उस दिशा में धकेल सकते हैं। यह एक रिमोट कंट्रोल रखने जैसा है जिससे आप रोबोट को थोड़ा अधिक व्यवस्थित या थोड़ा अधिक लापरवाह बना सकते हैं।

उन्होंने कई अलग-अलग रोबोट मॉडलों (जैसे Llama, Qwen, और Gemma) पर इसका परीक्षण किया और पाया कि ये "डायल" लगातार काम करते हैं। लेकिन एक गुप्त स्थान था जहाँ ये डायल सबसे अच्छा काम करते थे। उन्होंने पाया कि नियंत्रण समान रूप से फैला हुआ नहीं था; यह रोबोट के मस्तिष्क के विशिष्ट परतों में केंद्रित था, जैसे कि एक गगनचुंबी इमारत के विशिष्ट फ्लोर जहाँ "पर्सनैलिटी स्विच" रहते हैं। वे इसे व्यवहार नियंत्रण परत (Behavioral Control Layer - BCL) कहते हैं।

असली मंत्र: सोचना बनाम बोलना

यहीं पर यह शोध पत्र वास्तव में चतुर है। शोधकर्ताओं ने इन "डायल" को खोजने के दो अलग-अलग तरीके आजमाए।

"बोलने" का तरीका (Response-Derived): उन्होंने रोबोट द्वारा दिए गए अंतिम उत्तर को देखा। यदि रोबोट ने कहा, "मैं किचन व्यवस्थित करूँगा," तो उन्होंने उस टेक्स्ट का उपयोग डायल खोजने के लिए किया।
"सोचने" का तरीका (Thought-Derived): उन्होंने उत्तर देने से पहले रोबोट के आंतरिक तर्क (reasoning) को देखा। उन्होंने रोबोट से पूछा कि वह व्यवस्थित क्यों करना चाहता है, और उन्होंने उस तर्क का उपयोग डायल खोजने के लिए किया।

परिणाम दिलचस्प थे। "बोलने" वाला तरीका अव्यवस्थित था। इसने अक्सर रोबोट को व्यवस्थित तो बनाया, लेकिन गलत कारणों से। उदाहरण के लिए, यदि उन्होंने "बोलने" वाले तरीके का उपयोग करके रोबोट को "अव्यवस्थित" बनाने की कोशिश की, तो रोबोट ने व्यवस्थित करना इसलिए बंद कर दिया क्योंकि वह उदासीन था या उसे परवाह नहीं थी। लेकिन यदि उन्होंने "सोचने" वाले तरीके का उपयोग किया, तो रोबोट ने व्यवस्थित करना इसलिए बंद कर दिया क्योंकि वह एक लचीले, सहज दृष्टिकोण को पसंद करता था। "सोचने" वाले तरीके ने व्यवहार की वास्तविक भावना को पकड़ा, जबकि "बोलने" वाले तरीके ने केवल सतही शब्दों को बदला।

यह एक ऐसे छात्र के बीच के अंतर जैसा है जो सीखने के प्यार के कारण पढ़ाई करता है ( "सोचने" का तरीका) और एक ऐसे छात्र के बीच जो केवल अच्छे ग्रेड के लिए पढ़ता है और फिर सब कुछ भूल जाता है ("बोलने" का तरीका)। दोनों ही 'A' ग्रेड प्राप्त कर सकते हैं, लेकिन पहला वास्तव में सामग्री को समझता है। शोधकर्ताओं ने पाया कि "सोचने" वाले तरीके का उपयोग करने से उन्हें रोबोट के व्यवहार पर बहुत अधिक स्वच्छ और विश्वसनीय नियंत्रण मिला।

इसका क्या अर्थ है

यह शोध पत्र सुझाव देता है कि हमें AI व्यक्तित्व को "ईमानदार" या "बहादुर" जैसे स्थिर गुणों के रूप में नहीं सोचना चाहिए जिन्हें रोबोट अपनी जेब में लेकर घूमता है। इसके बजाय, ये "मोड" या "शैली" की तरह हैं जो स्थिति पर निर्भर करते हैं। एक रोबोट सामान्य रूप से "व्यवस्थित" नहीं होता; उसके पास संगठन कार्यों को संभालने का एक विशिष्ट तरीका होता है जिसे चालू या बंद किया जा सकता है।

इन "व्यवहार संबंधी मोड एक्सिस" को खोजकर, शोधकर्ताओं ने दिखाया कि हम इन रोबोटों को विशिष्ट तरीकों से कार्य करने के लिए निर्देशित कर सकते हैं, न कि केवल उनके द्वारा बोले जाने वाले शब्दों को बदलकर, बल्कि उनके सोचने के आंतरिक गियर को समायोजित करके। यह AI को अधिक सुरक्षित और अनुमानित बनाने की दिशा में एक बड़ा कदम है। यदि हम समझ सकते हैं और नियंत्रित कर सकते हैं कि एक AI विशेष संदर्भ में कैसे व्यवहार करता है, तो हम यह सुनिश्चित कर सकते हैं कि वह चिकित्सा सलाह देने या किसी खतरनाक कार्य में मदद करने के समय जिम्मेदारी से काम करे, बजाय इसके कि हम केवल इस उम्मीद में रहें कि वह एक "अच्छा व्यक्ति" महसूस करेगा।

इस अध्ययन ने सब कुछ हल नहीं किया—अभी भी बहुत कुछ सीखना बाकी है कि ये "डायल" सभी प्रकार के रोबोटों में कैसे काम करते हैं—लेकिन इसने यह साबित कर दिया कि हम AI व्यवहार को मापने और नियंत्रित करने के लिए एक ऐसा तरीका खोज सकते हैं जो केवल यह पूछने की तुलना में वास्तविकता के बहुत करीब है कि वह अपने बारे में क्या सोचता है। यह AI व्यक्तित्व के रहस्य को एक दार्शनिक प्रश्न से एक व्यावहारिक इंजीनियरिंग समस्या में बदल देता है।

तकनीकी सारांश: आपका LLM, आपकी शैली: LLM व्यवहार संबंधी नियंत्रण के लिए व्यवहारिक मोड अक्ष (Behavioral Mode Axes)

समस्या विवरण

LLM व्यक्तित्व (Personality) से संबंधित वर्तमान शोध मुख्य रूप से प्रथम-पुरुष (First-person/FP) सेटिंग्स में प्रशासित स्व-रिपोर्ट प्रश्नावली (जैसे, "आप कितने साहसी हैं?") पर निर्भर करता है। यह दृष्टिकोण तीन महत्वपूर्ण सीमाओं से ग्रस्त है:

अस्थिरता (Instability): स्कोर सतही स्तर के उद्दीपन (elicitation) विकल्पों के प्रति अत्यधिक संवेदनशील होते हैं, जिनमें शब्दों का चयन, विकल्पों का क्रम और प्रॉम्प्ट का रजिस्टर (register) शामिल है।
बेमेल होना (Misalignment): स्व-रिपोर्ट किए गए गुण अक्सर ठोस स्थितियों में मॉडल के वास्तविक विकल्पों और समस्या-समाधान रणनीतियों से भिन्न होते हैं।
संदर्भ अंतराल (Contextual Gap): मौजूदा अध्ययन शायद ही कभी यह परीक्षण करते हैं कि क्या एक व्यक्तित्व प्रोफ़ाइल तब भी सुसंगत रहती है जब मॉडल प्रथम-पुरुष विवरण से अन्य इंटरैक्शन रजिस्टरों, जैसे सलाह देने या कार्य निष्पादित करने की ओर स्थानांतरित होता है।

इसके अलावा, जबकि एक्टिवेशन स्टीयरिंग (activation steering) का उपयोग उच्च-स्तरीय गुणों (जैसे, चापलूसी, मतिभ्रम) को नियंत्रित करने के लिए किया गया है, यह अभी भी स्पष्ट नहीं है कि क्या स्थित व्यवहारिक मोड (situated behavioral modes)—कि एक मॉडल विशिष्ट संदर्भों में कैसे चुनता है, सलाह देता है या कार्य करता है—नियंत्रणीय आंतरिक दिशाओं (internal directions) के अनुरूप हैं।

कार्यप्रणाली: स्थितीय B-डेटा ढांचा (The Situated B-Data Framework)

लेखक LLM व्यक्तित्व को अमूर्त गुण लेबल के रूप में नहीं, बल्कि ठोस स्थितियों में विकल्प, सलाह और कार्य व्यवहार के पैटर्न के रूप में संचालित करने के लिए एक स्थितीय व्यवहारिक-डेटा (Situated Behavioral-Data/B-data) ढांचे को पेश करते हैं।

1. डेटा निर्माण

परिदृश्य (Scenarios): लेखकों ने 20 व्यवहारिक पैटर्न (उप-क्षेत्र) और चार इंटरैक्शन रजिस्टरों: प्रथम-पुरुष (FP), दैनिक सलाह (Daily Advice), कार्य सलाह (Task Advice), और कार्य निष्पादन (Task Execution) में 3,200 विरोधाभासी व्यवहारिक प्रोब (probes) का निर्माण किया।
मनोमितीय एंकर (Psychometric Anchors): ये पैटर्न BFI-2, DOSPERT, HEXACO, और UPPS से प्रमाणित मनोमितीय पहलुओं पर आधारित हैं।
विरोधाभासी डिजाइन (Contrastive Design): प्रत्येक पहलू के लिए, परिदृश्य दो विपरीत व्यवहारिक मोड (Low-pole बनाम High-pole) प्रस्तुत करते हैं। महत्वपूर्ण रूप से, दोनों ध्रुव (poles) सक्षम रणनीतियों के रूप में डिज़ाइन किए गए हैं न कि "अच्छे बनाम बुरे" विकल्पों के रूप में, जो मॉडल को सामाजिक रूप से वांछनीय उत्तरों की ओर डिफ़ॉल्ट होने से रोकता है।

2. व्यवहारिक प्रोफ़ाइल अनुमान

मॉडल की प्रतिक्रियाओं को Low-pole या High-pole मोड में पार्स (parse) किया जाता है ताकि एक व्यवहारिक प्रोफ़ाइल तैयार की जा सके। अध्ययन निम्नलिखित का मूल्यांकन करता है:

स्थिरता (Stability): रजिस्टरों के भीतर स्प्लिट-हाफ निरंतरता।
रजिस्टर निर्भरता (Register Dependence): विभिन्न इंटरैक्शन भूमिकाओं (जैसे, स्वयं बनाम सलाहकार) के बीच प्रोफाइल की निरंतरता।

3. व्यवहारिक मोड अक्ष (Behavioral Mode Axes - BMAs) और स्टीयरिंग

मुख्य तकनीकी योगदान सक्रियण स्थान (activation space) से व्यवहार को निर्देशित करने के लिए व्यवहारिक मोड अक्षों (BMAs) का निष्कर्षण है।

निष्कर्षण (Extraction): BMAs को युग्मित ट्रेसेस (Low-pole बनाम High-pole) के बीच लेयर एक्टिवेशन के औसत अंतर से निकाला जाता है।
दो संस्करण:
- प्रतिक्रिया-व्युत्पन्न BMA (Response-derived BMA - BMA-R): अंतिम प्रतिक्रिया टोकन से निकाला गया।
- विचार-व्युत्पन्न BMA (Thought-derived BMA - BMA-T): मध्यवर्ती व्यवहारिक तर्कों (विकल्प के पीछे का "क्यों") से निकाला गया।
स्टीयरिंग (Steering): अनुमान (inference) के समय, एक चयनित लेयर पर रेसिडुअल स्ट्रीम में एक स्केल्ड BMA वेक्टर जोड़ा जाता है: $h^{(t)}_\ell \leftarrow h^{(t)}_\ell + c \cdot v_\ell$ ।
मूल्यांकन: प्रभावशीलता को "क्लीन डायरेक्शनल रेंज" (ध्रुव चयन दरों में बदलाव) द्वारा मापा जाता है, जबकि "अज्ञात" (अपार्स करने योग्य या ढह गए) जेनरेशन को दंडित किया जाता है। लेखक व्यवहारिक नियंत्रण लेयर (Behavioral Control Layer - BCL) बैंड की पहचान करते हैं जहाँ स्टीयरिंग सबसे प्रभावी और स्थिर होती है।

मुख्य परिणाम

1. स्व-रिपोर्ट और स्थित व्यवहार के बीच विचलन

महत्वपूर्ण अंतराल: स्व-रिपोर्ट प्रश्नावली और स्थित व्यवहारिक प्रोफाइल के बीच औसतन 22.7 प्रतिशत अंकों का बड़ा अंतर है। कुछ उप-क्षेत्रों (जैसे, Negative Urgency) में, यह अंतर 47.5 अंक तक पहुँच जाता है।
रजिस्टर निर्भरता: हालांकि विशिष्ट रजिस्टर के भीतर व्यवहारिक प्रोफाइल स्थिर हैं (स्प्लिट-हाफ सहसंबंध $\approx$ 0.93), वे विभिन्न रजिस्टरों में महत्वपूर्ण रूप से बदलते हैं। प्रथम-पुरुष और कार्य प्रोफाइल के बीच सहसंबंध (औसत $r=0.63$ ), सलाह रजिस्टरों (औसत $r=0.89$ ) के बीच के सहसंबंध से कम है। यह इंगित करता है कि LLM "व्यक्तित्व" एक स्थिर गुण नहीं बल्कि एक संदर्भ-निर्भर व्यवहारिक मोड है।

2. BMAs के माध्यम से नियंत्रणीयता

प्रभावी स्टीयरिंग: BMAs विविध उप-क्षेत्रों में मॉडल को लक्षित व्यवहारिक ध्रुवों की ओर सफलतापूर्वक निर्देशित करते हैं।
BCL बैंड्स: नियंत्रण नेटवर्क में समान रूप से वितरित नहीं है। प्रभावी स्टीयरिंग केंद्रित व्यवहारिक नियंत्रण लेयर (BCL) बैंड्स में होती है, जो आमतौर पर मॉडल के शुरुआती-से-मध्यवर्ती लेयर्स (जैसे, Llama-3.1-8B के लिए L08–L12) में होती है।
सामान्यीकरण (Generalization): यह नियंत्रण विभिन्न मॉडल परिवारों (Llama, Qwen, Gemma), स्केल और व्यवहारिक डोमेन में सामान्य होता है। BCL स्थान मॉडल-निर्भर हैं लेकिन सुसंगत पैटर्न (जैसे, स्केल के साथ Qwen मॉडल गहरे की ओर शिफ्ट होते हैं) का पालन करते हैं।
क्रॉस-रजिस्टर ट्रांसफर: प्रथम-पुरुष ट्रेसेस से निकाले गए BMAs सलाह और कार्य रजिस्टरों में व्यवहार को सफलतापूर्वक निर्देशित करते हैं, जो यह दर्शाता है कि अक्ष (axes) रजिस्टर-विशिष्ट आर्टिफैक्ट्स के बजाय सामान्य व्यवहारिक शैलियों को कैप्चर करते हैं।

3. BMA स्रोत (विचार बनाम प्रतिक्रिया) का महत्वपूर्ण महत्व

विशेषता विचलन (Trait Drift): प्रतिक्रिया-व्युत्पन्न BMAs (BMA-R) अक्सर लक्षित आउटपुट विकल्प प्राप्त कर लेते हैं, लेकिन विशेषता विचलन (trait drift) के माध्यम से। मॉडल लक्षित विकल्प तक पहुँच जाता है लेकिन उन तंत्रों को सक्रिय करता है जो इच्छित शैली से असंबंधित हैं (जैसे, लचीलेपन की प्राथमिकता के बजाय आलस्य या उदासीनता के कारण "अव्यवस्थित" चुनना)।
स्वच्छ नियंत्रण (Clean Control): विचार-व्युत्पन्न BMAs (BMA-T) इच्छित व्यवहारिक तंत्र (तर्क) को अधिक निष्ठा से कैप्चर करते हैं। वे स्वच्छ नियंत्रण प्रदान करते हैं, जो विशिष्ट व्यवहारिक शैली (जैसे, "सहज अनुकूलन") को सतह के आउटपुट पैटर्न जैसे उपेक्षा या कम प्रयास के साथ मिलाए बिना सुरक्षित रखता है।
संरेखण (Alignment): विचार-व्यत्पन्न और प्रतिक्रिया-व्युत्पन्न अक्ष केवल कमजोर रूप से संरेखित हैं (औसत कोसाइन $\approx$ 0.37), जो पुष्टि करता है कि वे अलग-अलग आंतरिक प्रतिनिधित्वों को एनकोड करते हैं।

महत्व और दावे

यह शोध तर्क देता है कि LLM व्यक्तित्व-समान प्रवृत्तियों को अमूर्त स्व-रिपोर्ट गुणों के रूप में नहीं, बल्कि ठोस इंटरैक्शन संदर्भों में आधारित मापने योग्य और नियंत्रणीय व्यवहारिक मोड के रूप में बेहतर समझा जा सकता है।

स्व-रिपोर्ट से परे: यह अध्ययन प्रदर्शित करता है कि स्व-रिपोर्ट प्रश्नावली LLM व्यवहारिक प्रवृत्तियों को पकड़ने के लिए अपर्याप्त है, जो संदर्भ के प्रति अत्यधिक संवेदनशील होती हैं और अक्सर वास्तविक कार्यों के साथ बेमेल होती हैं।
यांत्रिक नियंत्रण (Mechanistic Control): संरचित व्यवहारिक ट्रेसेस (विशेष रूप से विचार तर्क) से अक्षों को निकालकर, लेखक दिखाते हैं कि व्यवहारिक शैलियों को एक्टिवेशन स्टीयरिंग के माध्यम से कारण रूप से (causally) हेरफेर किया जा सकता है।
विश्वसनीयता: विश्वसनीय नियंत्रण के लिए विचार-व्युत्पन्न और प्रतिक्रिया-व्युत्पन्न BMAs के बीच का अंतर महत्वपूर्ण है। विचार-व्युत्पन्न अक्षों का उपयोग "विशेषता विचलन" को रोकता है जहाँ मॉडल गलत आंतरिक कारण से सही आउटपुट चुन लेता है, जिससे यह सुनिश्चित होता है कि स्टीयरिंग व्यवहार को इच्छित कारण के लिए इच्छित दिशा में ले जाती है।

यह कार्य LLM व्यवहार के अध्ययन और नियंत्रण के लिए एक क्लोज्ड-लूप फ्रेमवर्क स्थापित करता है, जो अस्थिर स्व-रिपोर्ट से हटकर स्थित, नियंत्रणीय व्यवहारिक माप की ओर बढ़ता है।