💬 NLP

BILLY: Steering Large Language Models via Merging Persona Vectors for Creative Generation

BILLY एक प्रशिक्षण-मुक्त (training-free) फ्रेमवर्क है जो एक ही मॉडल के एक्टिवेशन स्पेस के भीतर विशिष्ट पर्सोना वेक्टर्स को मिलाकर लार्ज लैंग्वेज मॉडल्स की रचनात्मकता को बढ़ाता है, जिससे मल्टी-एलएलएम (multi-LLM) सहयोग के लाभ प्राप्त होते हैं और साथ ही कंप्यूटेशनल लागत और इन्फरेंस लेटेंसी में काफी कमी आती है।

मूल लेखक: Tsung-Min Pai, Jui-I Wang, Li-Chun Lu, Shao-Hua Sun, Hung-Yi Lee, Kai-Wei Chang

प्रकाशित 2026-01-27

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tsung-Min Pai, Jui-I Wang, Li-Chun Lu, Shao-Hua Sun, Hung-Yi Lee, Kai-Wei Chang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक शानदार, रचनात्मक रोबोट है (एक लार्ज लैंग्वेज मॉडल, या LLM)। आप चाहते हैं कि वह एक शहर के पार्क के लिए एक बिल्कुल नया और अनोखा विचार निकाले।

पुराना तरीका (Multi-LLM Systems):
परंपरागत रूप से, एक विविध उत्तर प्राप्त करने के लिए, आप रोबोटों की एक टीम को काम पर रख सकते हैं। आप एक रोबोट को क्रिएटिव प्रोफेशनल (जो कला और अजीब डिजाइनों को पसंद करता है) के रूप में कार्य करने के लिए कहेंगे और दूसरे को एक पर्यावरणविद् (जिसे पेड़ों और स्वच्छ हवा की परवाह है) के रूप में। आप उन्हें एक कमरे में बैठकर आपस में बहस करने और अपने विचारों को साझा करने के लिए कहेंगे जब तक कि वे एक अंतिम योजना पर सहमत न हो जाएं।

समस्या: इसमें बहुत अधिक समय लगता है। इसमें बहुत पैसा खर्च होता है क्योंकि आप एक साथ कई रोबोट चला रहे होते हैं। कभी-कभी, वे बस एक-दूसरे की बातें दोहराते हैं या एक लूप में फंस जाते हैं, जिससे बिना वास्तव में स्मार्ट बने ऊर्जा बर्बाद होती है।

नया तरीका (BILLY):
यह पेपर BILLY (BlendIng persona vectors for Large Language model creativY) पेश करता है। रोबोटों की एक टीम को आपस में बात करने के बजाय, BILLLY एक ही रोबोट को एक "मानसिक सुपरपावर" देता है ताकि वह एक ही समय में दोनों विशेषज्ञों की तरह सोच सके।

यह कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए:

1. "मानसिक स्वाद" (Mental Flavor) वेक्टर्स

रोबोट के दिमाग को एक विशाल, अदृश्य रसोई के रूप में सोचें। इस रसोई के अंदर, रोबोट का हर विचार एक विशिष्ट स्वाद है।

जब रोबोट एक क्रिएटिव प्रोफेशनल की तरह सोचता है, तो वह अपने विचारों में एक "मसालेदार, कलात्मक" स्वाद जोड़ता है।
जब वह एक पर्यावरणविद् की तरह सोचता है, तो वह एक "हरा, प्राकृतिक" स्वाद जोड़ता है।

अतीत में, इन दोनों स्वादों को पाने के लिए, आपको रोबोट को बार-बार बदलने के लिए कहना पड़ता था या दो रोबोटों को अलग-अलग खाना बनाने के लिए कहना पड़ता था। BILLY कुछ चतुर करता है: यह इन स्वादों की रेसिपी निकालता है। यह मापता है कि जब रोबोट रचनात्मक हो रहा होता है और जब वह पर्यावरण के अनुकूल हो रहा होता है, तब उसके मस्तिष्क का स्वरूप वास्तव में कैसा दिखता है। इन मापों को "पर्सोना वेक्टर्स" (Persona Vectors) कहा जाता है।

2. "स्मूदी" का मिश्रण

एक बार जब BILLY के पास क्रिएटिव प्रोफेशनल और पर्यावरणविद् दोनों की रेसिपी (वेक्टर्स) आ जाती है, तो वह रोबोटों को बात करने के लिए नहीं कहता। इसके बजाय, वह उन रेसिपीज़ को एक "सुपर-रेसिपी" (मिश्रित वेक्टर) में मिला देता है।

कल्पना कीजिए कि आपके पास एक कप मसालेदार सॉस और एक कप हरी सॉस है। दो शेफ को यह बहस करने के लिए कहने के बजाय कि उन्हें कैसे मिलाया जाए, BILLY बस दोनों कपों को एक ब्लेंडर में डाल देता है, उन्हें पूरी तरह से मिला देता है, और एक नया, अनूठा सॉस बनाता है।

3. "धक्का" (The Nudge)

जब आप एक रोबोट से कोई सवाल पूछते हैं (जैसे "एक शहर के पार्क को फिर से डिजाइन करें"), तो BILLY उस "सुपर-रेसिपी" का उपयोग करता है और जैसे ही रोबोट सोचना शुरू करता है, उसके दिमाग को हल्का सा धक्का (Nudge) देता है।

यह रोबोट को "रचनात्मकता" और "स्थिरता" दोनों दिशाओं में एक साथ एक छोटा, अदृश्य धक्का देने जैसा है।
रोबोट को यह जानने की आवश्यकता नहीं है कि वह यह सब कर रहा है। वह बस ऐसे विचार उत्पन्न करना शुरू कर देता है जो स्वाभाविक रूप से ऐसे लगते हैं जैसे वे विशेषज्ञों की एक टीम द्वारा आए हों, लेकिन वह यह सब एक ही बार में, बहुत तेज़ी से करता है।

यह बेहतर क्यों है?

गति: यह एक ऐसे शेफ से पिज्जा ऑर्डर करने जैसा है जो पेपरोनी और वेजी पिज्जा दोनों को पूरी तरह से बनाना जानता है, बजाय इसके कि दो शेफ को टॉपिंग्स पर बहस करने के लिए रखा जाए। यह पुराने "टीम चर्चा" वाले तरीके की तुलना में 25 गुना तेज़ है।
लागत: क्योंकि यह केवल एक ही रोबोट का उपयोग करता है और इसे घंटों तक खुद से बात करने के लिए नहीं बनाता है, इसलिए यह भारी मात्रा में पैसा बचाता है (95% से अधिक कम लागत)।
गुणवत्ता: पेपर ने रचनात्मक पहेलियों (जैसे "चम्मच के असामान्य उपयोग खोजें") पर इसका परीक्षण किया। BILLY ने ऐसे विचार दिए जो एक अकेले रोबोट द्वारा दो लोगों होने का नाटक करने की तुलना में अधिक मौलिक और विस्तृत थे, और यहाँ तक कि धीमे और महंगे टीम वाले रोबों से भी बेहतर थे।

नियंत्रण का "जादू"

पेपर यह भी दिखाता है कि यह तरीका बहुत पारदर्शी है। क्योंकि BILLY वास्तव में रोबोट के दिमाग में विशिष्ट "स्वादों" (वेक्टर्स) को मिला रहा है, हम देख सकते हैं कि अंतिम उत्तर में कितना "रचनात्मक" स्वाद और कितना "पर्यावरण के अनुकूल" स्वाद है।

यदि आप केवल शब्दों (प्रॉम्प्ट) का उपयोग करके रोबोट को "रचनात्मक और पर्यावरण के अनुकूल होने" के लिए कहते हैं, तो वह अक्सर भ्रमित हो जाता है या एक हिस्से को भूल जाता है। लेकिन BILLY के "फ्लेवर मिक्सिंग" के साथ, रोबोट दोनों भूमिकाओं के बीच पूरी तरह संतुलित रहता है, जिससे एक ऐसा परिणाम मिलता है जो वास्तव में दोनों दिमागों का मिश्रण है, बिना किसी सिरदर्द के।

संक्षेप में: BILLY एक प्रशिक्षण-मुक्त, तेज़ और सस्ता तरीका है जिससे एक ही AI को विशेषज्ञों की एक पूरी टीम की तरह सोचने के लिए बनाया जाता है, और यह ऐसा इसलिए करता है क्योंकि यह जवाब देना शुरू करने से पहले उनके "मस्तिष्क अवस्थाओं" (brain states) को आपस में मिला देता है।

तकनीकी सारांश: BILLY (Large Language model creativity के लिए BlendIng persona vectors)

समस्या विवरण (Problem Statement)

यद्यपि मल्टी-LLM सिस्टम ने पुनरावृत्ति चर्चाओं (iterative discussions) के माध्यम से मानव सामूहिक बुद्धिमत्ता का अनुकरण करके रचनात्मकता बढ़ाने की क्षमता प्रदर्शित की है, वे महत्वपूर्ण व्यावहारिक सीमाओं से ग्रस्त हैं। इनमें उच्च कम्प्यूटेशनल लागत, मल्टी-राउंड टोकन विनिमय के कारण बढ़ी हुई इन्फरेंस लेटेंसी (inference latency), और "प्रोसेस लॉस" (process loss) शामिल हैं, जहाँ समन्वय संबंधी अक्षमताएं सामूहिक आउटपुट को व्यक्तिगत योगदान के योग से अधिक होने से रोकती हैं। इसके विपरीत, प्रॉम्प्ट इंजीनियरिंग पर निर्भर सिंगल-मॉडल दृष्टिकोण (जैसे, एक मॉडल को एक साथ कई भूमिकाएँ निभाने के लिए कहना) अक्सर एक ही प्रतिक्रिया के भीतर विविध दृष्टिकोणों को सुसंगत रूप से एकीकृत करने में संघर्ष करते हैं, जिससे असंगत या सतही परिणाम मिलते हैं। मुख्य चुनौती यह है कि बिना मल्टी-एजेंट संचार के ओवरहेड या अतिरिक्त मॉडल प्रशिक्षण की आवश्यकता के, एक ही LLM के भीतर कुशलतापूर्वक विविध, बहु-परिप्रेक्ष्य सहयोग को कैसे सिम्युलेट किया जाए।

कार्यप्रणाली (Methodology)

लेखक BILLY प्रस्तावित करते हैं, जो एक ट्रेनिंग-फ्री फ्रेमवर्क है जो मॉडल के एक्टिवेशन स्पेस के भीतर विशिष्ट 'परसोना वेक्टर्स' (persona vectors) को ब्लेंड करके एक सिंगल लार्ज लैंग्वेज मॉडल (LLM) को निर्देशित करता है। यह दृष्टिकोण तीन प्राथमिक चरणों से बना है:

परसोना वेक्टर्स का निष्कर्षण (Extraction of Persona Vectors):
एक कंट्रास्टिव एक्टिवेशन विधि का उपयोग करके, लेखक विशिष्ट परसोना (जैसे, "क्रिएटिव प्रोफेशनल", "एनवायरनमेंटलिस्ट") का प्रतिनिधित्व करने वाले दिशात्मक वेक्टर्स निकालते हैं। इसमें प्रत्येक परसोना $P$ के लिए दो डेटासेट तैयार करना शामिल है: एक पॉजिटिव-एक्सप्रेशन सेट ( $D^+_P$ ) जहाँ मॉडल परसोना के गुणों को प्रदर्शित करता है, और एक नेगेटिव-एक्सप्रेशन सेट ( $D^-_P$ ) जिसमें न्यूट्रल या बेसलाइन प्रतिक्रियाएं होती हैं। लेयर $l$ पर परसोना वेक्टर $\vec{v}^{(l)}_P$ को इन दो सेटों के बीच मीन टोकन-एवरेज रेसिडुअल स्ट्रीम एक्टिवेशंस के अंतर के रूप में गणना किया जाता है:
$\vec{v}^{(l)}_P = \frac{1}{|D^+_P|} \sum_{x \in D^+_P} \vec{a}^{(l)}(x) - \frac{1}{|D^-_P|} \sum_{x \in D^-_P} \vec{a}^{(l)}(x)$
ऑफलाइन फ्यूजन (Offline Fusion):
ऑनलाइन इंटरेक्शन की आवश्यकता वाले मल्टी-एजेंट सिस्टम के विपरीत, BILLY कई निकाले गए परसोना वेक्टर्स को ऑफलाइन एक एकल कंपोजिट स्टीयरिंग वेक्टर ( $\vec{v}_{merged}$ ) में फ्यूज करता है। यह व्यक्तिगत वेक्टर्स को औसत निकालकर प्राप्त किया जाता है:
$\vec{v}^{(l)}_{merged} = \frac{1}{N} \sum_{i=1}^{N} \vec{v}^{(l)}_i$
यह कंपोजिट वेक्टर लेटेंट स्पेस में एक बहु-आयामी परिप्रेक्ष्य को समाहित करता है।
इन्फरेंस-टाइम स्टीयरिंग (Inference-Time Steering):
जेनरेशन के दौरान, कंपोजिट वेक्टर को एक विशिष्ट लेयर $l$ (प्रायोगिक रूप से लेयर 20 पर सेट) पर एक स्केलिंग कोएफिशिएंट $\alpha$ (प्रायोगिक रूप से 2.0 पर सेट) के साथ मॉडल के एक्टिवेशंस में जोड़ा जाता है:
$\vec{a}^{(l)}_{steered} = \vec{a}^{(l)}_{original} + \alpha \cdot \vec{v}^{(l)}_{merged}$
यह ऑपरेशन मॉडल के आंतरिक स्टेट को मॉडल के वेट्स को बदले बिना या अतिरिक्त प्रशिक्षण की आवश्यकता के बिना, फ्यूज किए गए दृष्टिकोणों की ओर धकेलता है।

मुख्य योगदान (Key Contributions)

पेपर तीन प्राथमिक योगदानों को रेखांकित करता है:

उन्नत रचनात्मकता (Enhanced Creativity): BILLY विविध, बहु-परिप्रेक्ष्य प्रतिक्रियाएं उत्पन्न करने में सक्षम बनाता है जो क्रिएटिविटी-ओरिएंटेड बेंचमार्क पर सिंगल-मॉडल प्रॉम्प्टिंग और पारंपरिक मल्टी-LLM दृष्टिकोणों दोनों से बेहतर हैं।
दक्षता और सरलता (Efficiency and Simplicity): यह फ्रेमवर्क पूरी तरह से ट्रेनिंग-फ्री है और मल्टी-LLM संचार की आवश्यकता को समाप्त करता है। यह काफी कम कम्प्यूटेशनल और टोकन लागत के साथ तुलनीय या बेहतर रचनात्मक प्रदर्शन प्राप्त करता है।
व्याख्यात्मकता (Interpretability): लेटेंट एक्टिवेशन स्पेस में कार्य करके, BILLY रचनात्मकता को निर्देशित करने के लिए एक पारदर्शी तंत्र प्रदान करता है। लेखक प्रदर्शित करते हैं कि पूरक पहलुओं (जैसे, स्टाइल बनाम कंटेंट) को नियंत्रित करने के लिए अलग-अलग परसोना वेक्टर्स को सूक्ष्म नियंत्रण के साथ ब्लेंड किया जा सकता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने वॉलैक-कोगन क्रिएटिविटी टेस्ट से प्राप्त चार क्रिएटिविटी बेंचमार्क: AUT (अल्टरनेटिव यूजेस), INSTANCES, SIMILARITIES, और SCIENTIFIC पर BILLY का मूल्यांकन किया। मूल्यांकन के लिए तीन बेस मॉडल्स (Qwen-2.5-7B, Llama-3.1-8B, और Gemma-3-4B) का उपयोग किया गया और Originality और Elaboration स्कोर को मापा गया, जिसका मूल्यांकन LLM-आधारित जज (GPT-4o-mini) और मानव मूल्यांकनकर्ताओं द्वारा किया गया।

प्रदर्शन (Performance): BILLY ने सभी बेसलाइन्स, जिनमें सिंगल एजेंट (SA), हाई-टेम्परेचर डिकोडिंग के साथ SA, और मल्टी-रोल प्रॉम्प्टिंग के साथ SA (SA-MRP), और मल्टी-एजेंट "LLM डिस्कशन" फ्रेमवर्क शामिल हैं, की तुलना में लगातार उच्च ओरिजिनैलिटी स्कोर प्राप्त किया। इसने प्रतिस्पर्धी या बेहतर एलैबोरेशन स्कोर बनाए रखा।
दक्षता (Efficiency): BILLY ने LLM डिस्कशन की तुलना में नाटकीय रूप से कम इन्फरेंस टाइम (लगभग 25 गुना तेज़) दिखाया और मल्टी-एजेंट बेसलाइन्स की तुलना में टोकन लागत में 95% से अधिक की कमी की।
विश्लेषण (Analysis):
- वेक्टर कंपोजिशन (Vector Composition): वेक्टर्स को मर्ज करने से एक निश्चित संख्या (जैसे, 3 से 4 वेक्टर्स) के बाद घटते प्रतिफल (diminishing returns) दिखाई दिए, जो बताता है कि लाभ विशुद्ध रूप से योगात्मक (additive) नहीं है।
- स्टीयरिंग अलाइनमेंट (Steering Alignment): प्रोजेक्शन विश्लेषण से पता चला कि जबकि प्रॉम्प्ट-आधारित मल्टी-रोल प्रॉम्प्टिंग (SA-MRP) लेटेंट स्पेस में इच्छित सभी परसोना को लगातार सक्रिय करने में विफल रहा, BILLY ने सफलतापूर्वक कई परसोना को सह-सक्रिय (co-activate) किया, जो इसकी बेहतर नियंत्रणीयता को प्रमाणित करता है।
- गुणात्मक फ्यूजन (Qualitative Fusion): केस स्टडीज ने संकेत दिया कि मर्ज किया गया वेक्टर एक परसोना (जैसे, एनवायरनमेंटलिस्ट) की सारभूत सामग्री को दूसरे (जैसे, क्रिएटिव प्रोफेशनल) के शैलीगत निखार (stylistic flair) के साथ सफलतापूर्वक संश्लेषित करता है, जबकि प्रॉम्प्ट-आधारित विधियों के परिणाम अक्सर विश्लेषणात्मक या खंडित होते हैं।

महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि BILLY सिंगल मॉडल के भीतर मल्टी-LLM सहयोग के लाभों को कैप्चर करके रीयल-टाइम क्रिएटिव जेनरेशन के लिए एक व्यावहारिक समाधान प्रदान करता है। लेखक तर्क देते हैं कि उनका तरीका यह प्रदर्शित करता है कि मल्टी-एजेंट सिस्टम के रचनात्मक लाभों को एक्टिवेशन स्टीयरिंग के माध्यम से प्रभावी ढंग से कैप्चर किया जा सकता है, जिससे रचनात्मक कार्यों से जुड़ी इन्फरेंस टाइम और टोकन लागत काफी कम हो जाती है। इसके अलावा, यह कार्य सुझाव देता है कि कंपोजिट परसोना वेक्टर्स के साथ एक्टिवेशन स्टीयरिंग, मल्टीपल रोल-प्ले प्रॉम्प्टिंग की तुलना में बेहतर नियंत्रणीयता और व्याख्यात्मकता प्रदान करता है, क्योंकि यह जटिल, बहु-आयामी परसोना के साथ संरेखित करने के लिए मॉडल की आंतरिक स्थिति को सीधे मैनिपुलेट करता है। लेखक स्वीकार करते हैं कि हालांकि वर्तमान में उनका तरीका वेक्टर फ्यूजन के लिए सरल एवरेजिंग का उपयोग करता है, भविष्य के कार्य परसोना के बीच गैर-रैखिक इंटरैक्शन को बेहतर ढंग से प्रबंधित करने के लिए अधिक परिष्कृत कंपोजिशन तकनीकों का पता लगा सकते हैं।