💬 NLP

Linearly Controlled Language Generation with Performative Guarantees

यह शोध पत्र एक हल्का, ग्रेडिएंट-मुक्त नियंत्रण-सैद्धांतिक (control-theoretic) तरीका प्रस्तावित करता है जो भाषा मॉडल के लेटेंट स्पेस एक्टिवेशन्स में गतिशील रूप से हस्तक्षेप करता है ताकि यह सुनिश्चित किया जा सके कि टेक्स्ट जनरेशन पूर्व-निर्धारित सिमेंटिक क्षेत्रों के भीतर रहे, जिससे टेक्स्ट की गुणवत्ता से समझौता किए बिना विषाक्तता परिहार (toxicity avoidance) और सेंटिमेंट कंट्रोल जैसे उद्देश्यों को प्रभावी ढंग से प्राप्त किया जा सके।

मूल लेखक: Emily Cheng, Carmen Amo Alonso

प्रकाशित 2026-03-16

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Emily Cheng, Carmen Amo Alonso

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली, लेकिन कभी-कभी अप्रत्याशित, रोबोट लेखक है। यह रोबोट (एक लार्ज लैंग्वेज मॉडल) कहानियाँ, ईमेल और चुटकुले लिख सकता है, लेकिन कभी-कभी यह बहक जाता है और कुछ अभद्र, अपमानजनक या बस गलत लिख देता है।

आमतौर पर, जब हम रोबोट को ठीक करना चाहते हैं, तो हम दो चीजें करने की कोशिश करते हैं:

"प्रॉम्ट" विधि (The "Prompt" Method): हम रोबोट से शुरू करने से पहले विनम्रता से भीख मांगते हैं, जैसे, "कृपया अच्छे रहें!" लेकिन रोबोट हमारी बात अनसुनी कर सकता है या बीच में ही भूल सकता है।
"रीवायरिंग" विधि (The "Rewiring" Method): हम रोबोट के दिमाग को फिर से प्रशिक्षित करने की कोशिश करते हैं। यह एक कुत्ते को नए करतब सिखाने के लिए उसके डीएनए को बदलने जैसा है। इसमें बहुत समय लगता है और इससे रोबोट की अन्य चीजें भी बिगड़ सकती हैं।

यह शोध पत्र एक नया, अधिक स्मार्ट तरीका पेश करता है जिसे LiSeCo (लीनियर सिमेंटिक कंट्रोल) कहा जाता है। इसे रोबोट के विचारों के लिए एक रियल-टाइम ऑटोपायलट सिस्टम के रूप में समझें।

मुख्य विचार: रोबोट का "विचार स्थान" (The Robot's "Thought Space")

कल्पना कीजिए कि रोबोट का दिमाग सिर्फ एक ब्लैक बॉक्स नहीं है; यह एक विशाल, बहु-आयामी मानचित्र (map) है। हर बार जब रोबोट किसी शब्द के बारे में सोचता है, तो वह इस मानचित्र पर एक छोटे से बिंदु को हिलाता है।

यदि बिंदु "ग्रीन ज़ोन" (Green Zone) में जाता है, तो रोबोट सुरक्षित, विनम्र और सुखद विचार रख रहा है।
यदि बिंदु "रेड ज़ोन" (Red Zone) की ओर बढ़ता है, तो रोबोट विषाक्त (toxic), क्रोधित या नकारात्मक विचार रख रहा है।

वर्तमान के अधिकांश तरीके बिंदु को रेड ज़ोन से दूर ले जाने के लिए केवल एक हल्का सा धक्का देने की कोशिश करते हैं। यह एक गेंद को हाथ से धकेलने जैसा है; कभी आप बहुत ज़ोर से धकेलते हैं, तो कभी बहुत कम, और गेंद अभी भी खतरे के क्षेत्र में जा सकती है।

LiSeCo अलग है। यह एक फोर्स फील्ड (force field) या गार्डरेल (guardrail) की तरह काम करता है।

LiSeCo कैसे काम करता है (एक उपमा)

मैपमेकर (ऑफलाइन ट्रेनिंग):
रोबोट के शुरू करने से पहले, शोधकर्ता एक छोटे, सरल "जासूस" (एक लीनियर प्रोब) को रोबोट के विचारों को देखने के लिए प्रशिक्षित करते हैं। यह जासूस यह पहचानना सीख जाता है कि, "आह, यह विचार 80% विषाक्त है," या "यह विचार 10% विषाक्त है।" यह मानचित्र पर ग्रीन ज़ोन (सुरक्षित) और रेड ज़ोन (असुरक्षित) के बीच एक स्पष्ट रेखा खींचता है।
गार्डरेल (ऑनलाइन कंट्रोल):
अब, रोबोट लिखना शुरू करता है। जैसे-जैसे वह प्रत्येक शब्द बनाता है, उसका "विचार बिंदु" मानचित्र पर घूमता है।

यदि बिंदु सुरक्षित रूप से ग्रीन ज़ोन में है: गार्डरेल कुछ नहीं करता। रोबotong स्वाभाविक रूप से लिखता है।
यदि बिंदु रेड ज़ोन की ओर बढ़ने लगता है: LiSeCo सिस्टम तुरंत उस न्यूनतम संभव धक्के की गणना करता है जिसकी आवश्यकता बिंदु को सुरक्षा रेखा की ओर वापस धकेलने के लिए होती है।

जादू: अन्य तरीकों के विपरीत जो केवल एक रैंडम दिशा में धकेलते हैं, LiSeCo सटीक मात्रा में बल लगाने के लिए गणितीय भौतिकी (कंट्रोल थ्योरी) का उपयोग करता है। यह एक सेल्फ-ड्राइविंग कार की तरह है जो गड्ढे को देखती है और बिना झटके खाए या दुर्घटनाग्रस्त हुए, केवल उतना ही स्टीयर करती है जितना बचने के लिए ज़रूरी है।

यह एक बड़ी बात क्यों है?

यह एक गारंटी है, अनुमान नहीं: अन्य तरीके कहते हैं, "मुझे उम्मीद है कि इससे विषाक्तता कम होगी।" LiSeCo कहता है, "मैं गारंटी देता हूँ कि यह विचार सुरक्षित क्षेत्र में रहेगा।" यह उम्मीद करने और दीवार से टकराने से बचने के बीच का अंतर है।
यह तेज़ है: क्योंकि गणित को तुरंत ("क्लोज्ड फॉर्म" में) हल किया जाता है, यह रोबोट की गति को धीमा नहीं करता है। यह एक ऐसे गार्डरेल की तरह है जो केवल तभी दिखाई देता है जब आपको इसकी आवश्यकता होती है, बिना किसी देरी के।
यह सटीक है: आप रोबोट को बता सकते हैं, "विषाक्तता स्कोर को 0.0 और 0.1 के बीच रखें," और यह एक लेजर-गाइडेड मिसाइल की तरह उस सीमा पर टिका रहेगा।
यह गुणवत्ता बनाए रखता है: क्योंकि यह केवल तभी धक्का देता है जब वास्तव में आवश्यक हो, लेखन अभी भी स्वाभाविक लगता है। यह रोबोटिक या बनावटी नहीं लगता।

वास्तविक दुनिया का उदाहरण

कल्पना कीजिए कि आप इस रोबोट का उपयोग समाचार लेख लिखने के लिए कर रहे हैं।

LiSeCo के बिना: रोबोट अनजाने में किसी राजनीतिक समूह के बारे में नफरत भरी बयानबाजी में फिसल सकता है।
LiSeCo के साथ: जैसे ही रोबोट का "विचार बिंदु" उस नफरत भरी बयानबाजी की ओर बढ़ने लगता है, गार्डरेल धीरे से लेकिन मजबूती से उसे एक तटस्थ, तथ्यात्मक लहजे की ओर वापस धकेलता है। लेख लिखा जाता है, यह सुरक्षित है, और यह अभी भी एक पेशेवर समाचार की तरह पढ़ता है।

निचोड़ (The Bottom Line)

यह शोध पत्र हमें AI पर सीटबेल्ट और एयरबैग लगाने का एक तरीका देता है। केवल यह उम्मीद करने के बजाय कि AI अच्छा व्यवहार करेगा, हम इसे एक गणितीय सुरक्षा प्रणाली देते हैं जो गारंटी देती है कि उसके विचार सुरक्षित सीमाओं के भीतर रहेंगे, जबकि बातचीत का प्रवाह भी सहज बना रहता है। यह "नियंत्रित जनरेशन" को एक आशावादी अनुमान से बदलकर एक विश्वसनीय, गारंटीकृत विज्ञान में बदल देता है।

यहाँ एमिली चेंग और कारमेन एएमो अलोंसो के शोध पत्र "Linearly Controlled Language Generation with Performative Guarantees" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र लार्ज लैंग्वेज मॉडल्स (LMs) में नियंत्रित टेक्स्ट जनरेशन (controllable text generation) की महत्वपूर्ण आवश्यकता को संबोधित करता है, विशेष रूप से कंटेंट मॉडरेशन जैसे सुरक्षा-संवेदनशील अनुप्रयोगों के लिए। जबकि मौजूदा विधियाँ (जैसे प्रॉम्प्ट इंजीनियरिंग, फाइन-ट्यूनिंग, या एक्टिवेशन स्टीयरिंग) मॉडल के आउटपुट को "स्टीयर" (दिशा देना) कर सकती हैं, उनमें औपचारिक गारंटी (formal guarantees) का अभाव है।

स्टीयरिंग बनाम कंट्रोल (Steering vs. Control): लेखक 'स्टीयरिंग' (बिना किसी गारंटी के आउटपुट को एक दिशा की ओर झुकाना) और 'कंट्रोल' (गणितीय गारंटी के साथ बाधाओं को लागू करना कि आउटपुट एक विशिष्ट, पूर्व-निर्धारित क्षेत्र के भीतर रहे) के बीच अंतर स्पष्ट करते हैं।
अंतराल (The Gap): वर्तमान एक्टिवेशन-आधारित विधियाँ अक्सर रिप्रेजेंटेशन को एक सामान्य दिशा में धकेलती हैं या इटरेटिव ऑप्टिमाइज़ेशन (उच्च विलंबता/latency) या इन्फरेंस के दौरान बैकप्रोपैगेशन पर निर्भर करती हैं। वे यह गारंटी नहीं देतीं कि उत्पन्न टेक्स्ट स्ट्रिक्टली एट्रिब्यूट बाधाओं (जैसे, टॉक्सिसिटीिटी < 0.5) का पालन करेगा और साथ ही टेक्स्ट की गुणवत्ता (स्वाभाविकता) पर प्रभाव को न्यूनतम रखेगा।

2. कार्यप्रणाली: LiSeCo (Linear Semantic Control)

लेखक LiSeCo प्रस्तावित करते हैं, जो एक फ्रेमवर्क है जो भाषा जनरेशन को मॉडल के लेटेंट एक्टिवेशन स्पेस में एक कन्स्ट्रेंड ऑप्टिमल कंट्रोल प्रॉब्लम (constrained optimal control problem) के रूप में मानता है।

मुख्य अवधारणा (Core Concept)

यह विधि मानती है कि सिमेंटिक एट्रिब्यूट्स (जैसे विषाक्तता या सेंटिमेंट) LM के लेटेंट स्पेस में रैखिक रूप से (linearly) दर्शाए गए हैं। जेनरेट किए जा रहे टोकन के हिडन एक्टिवेशन में हस्तक्षेप करके, सिस्टम गणितीय रूप से गारंटी दे सकता है कि प्रक्षेपवक्र (trajectory) एक "सुरक्षित" क्षेत्र के भीतर रहे।

दो-चरणीय पाइपलाइन (The Two-Stage Pipeline)

ऑफलाइन चरण (प्रोब ट्रेनिंग - Offline Phase):
- प्रत्येक लेयर $t$ के लिए एक हल्का लीनियर प्रोब ( $f_t = \nu \circ W_t$ ) प्रशिक्षित किया जाता है।
- यह प्रोब लेटेंट एक्टिवेशन $x_t$ को एक निरंतर एट्रिब्यूट स्कोर (जैसे, टॉक्सिसिटी की संभावना) में मैप करता है।
- लेटेंट स्पेस में "अनुमत क्षेत्र" $X_t$ वांछित स्कोर रेंज $[\alpha_{min}, \alpha_{max}]$ का प्री-इमेज (pre-image) है।
ऑनलाइन चरण (इन्फरेंस-टाइम इंटरवेंशन - Online Phase):
- जनरेशन के दौरान, प्रत्येक टोकन और प्रत्येक कंट्रोल्ड लेयर के लिए, वर्तमान एक्टिवेशन $x_t$ का प्रोब द्वारा मूल्यांकन किया जाता है।
- यदि $x_t$ अनुमत क्षेत्र से बाहर गिरता है (अर्थात, अनुमानित स्कोर बाधा का उल्लंघन करता है), तो एक कंट्रोल इनपुट $\theta_t$ की गणना की जाती है।
- हस्तक्षेप (intervention) को योगात्मक रूप से लागू किया जाता है: $\tilde{x}_t = x_t + \theta_t$ ।
- यदि एक्टिवेशन पहले से ही सुरक्षित है, तो $\theta_t = 0$ (कोई हस्तक्षेप नहीं)।

गणितीय सूत्रीकरण (Mathematical Formulation)

हस्तक्षेप $\theta_t$ को एक कन्स्ट्रेंड ऑप्टिमाइज़ेशन प्रॉब्लम के समाधान के रूप में निकाला जाता है:
$\min_{\theta_t} \|\theta_t\|_2^2 \quad \text{s.t.} \quad \alpha_{min} \leq \nu(W_t^\top (x_t + \theta_t)) \leq \alpha_{max}$

उद्देश्य (Objective): हस्तक्षेप के $L_2$ नॉर्म को कम करना (मूल जनरेशन/टेक्स्ट की गुणवत्ता के साथ समानता बनाए रखना)।
बाधा (Constraint): संशोधित एक्टिवेशन को एट्रिब्यूट बाउंड्स को संतुष्ट करना चाहिए।
समाधान (Solution): पेपर KKT स्थितियों का उपयोग करके एक क्लोज्ड-फॉर्म सॉल्यूशन (closed-form solution) प्रदान करता है। अनुकूलित $\theta_t$ $θ_{t}$ एक वेक्टर प्रोजेक्शन है जो एक्टिवेशन को अनुमत क्षेत्र की सीमा के निकटतम बिंदु पर ले जाता है।
- यदि स्कोर बहुत अधिक है: $\theta_t = \frac{\nu^{-1}(\alpha_{max}) - W_t^\top x_t}{\|W_t\|^2} W_t$
- यदि स्कोर बहुत कम है: $\theta_t = \frac{\nu^{-1}(\alpha_{min}) - W_t^\top x_t}{\|W_t\|^2} W_t$
- अन्यथा: $\theta_t = 0$

3. मुख्य योगदान (Key Contributions)

सैद्धांतिक गारंटी के साथ औपचारिक नियंत्रण (Formal Control with Theoretical Guarantees): पिछले "स्टीयरिंग" तरीकों के विपरीत, LiSeCo जनरेशन को एक ऑप्टिमल कंट्रोल प्रॉब्लम के रूप में फ्रेम करता है, जो एक क्लोज्ड-फॉर्म सॉल्यूशन प्रदान करता है जो गारंटी देता है कि लेटेंट एक्टिवेशन (और सैद्धांतिक रूप से आउटपुट एट्रिब्यूट्स) उपयोगकर्ता द्वारा परिभाषित सीमाओं के भीतर रहेंगे।
स्कोर-स्पेस कंट्रोल और व्याख्यात्मकता (Score-Space Control & Interpretability): यह विधि निरंतर एट्रिब्यूट्स (जैसे, टॉक्सिसिटीिटी को ठीक 0.1 या 0.0–0.2 की रेंज पर सेट करना) पर सटीक, द्विदिश (bidirectional) नियंत्रण की अनुमति देती है, जो अस्पष्ट दिशात्मक वेक्टर्स के बजाय व्याख्या योग्य संख्यात्मक स्कोर का उपयोग करती है।
क्लोज्ड-फॉर्म, लो-लेटेंसी इंटरवेंशन (Closed-Form, Low-Latency Intervention): समाधान को बैकप्रोपैगेशन या इटरेटिव ऑप्टिमाइज़ेशन के बिना विश्लेषणात्मक रूप से कंप्यूट किया जाता है। इसके परिणामस्वरूप FUDGE या PPLM जैसी विधियों की तुलना में नगण्य इन्फरेंस लेटेंसी होती है, जिनमें कई फॉरवर्ड पास या ग्रेडिएंट गणना की आवश्यकता होती है।
सैद्धांतिक-प्रायोगिक संरेखण (Theoretical-Experimental Alignment): पेपर उन स्थितियों को प्रदान करता है जिनके तहत एक्टिवेशन कंट्रोल, आउटपुट टेक्स्ट कंट्रोल में बदल जाता है और इसे अनुभवजन्य रूप से मान्य करता है।

4. प्रायोगिक परिणाम (Experimental Results)

लेखकों ने दो कार्यों के लिए तीन मॉडल्स (Llama-3-8B, Gemma-2-2B, Mistral-7B) पर LiSeCo का मूल्यांकन किया: टॉक्सिसिटी अवॉयडेंस (Toxicity Avoidance) और सेंटिमेंट कंट्रोल (Sentiment Control)।

एक्टिवेशन कंट्रोल (Activation Control): LiSeCo ने जेनरेट किए गए एक्टिवेशंस के प्रोब स्कोर को सटीक लक्षित श्रेणियों में सफलतापूर्वक सीमित किया (उदाहरण के लिए, यदि लक्ष्य टॉक्सिसिटीिटी < 0.1 था, तो प्रोब स्कोर लगातार 0.1 से नीचे रहे)।
आउटपुट स्टीयरिंग (Output Steering): कंट्रोल पैरामीटर $\alpha$ और जेनरेट किए गए टेक्स्ट के वास्तविक टॉक्सिसिटी/नेगेटिविटी के बीच एक स्पष्ट, मोनोटोनिक संबंध है। $\alpha$ को कम करने से असुरक्षित जनरेशन विश्वसनीय रूप से कम हो गया।
टेक्स्ट क्वालिटी (स्वाभाविकता - Text Quality/Naturalness): LiSeCo ने टेक्स्ट की स्वाभाविकता (Perplexity द्वारा मापी गई) बनाए रखने में अन्य बेसलाइन्स (Activation Addition, Linear AcT, Prompt Engineering) को पछाड़ दिया। क्योंकि हस्तक्षेप न्यूनतम-नॉर्म (minimal-norm) है और केवल आवश्यकता होने पर ही लागू किया जाता है, यह "ओवर-स्टीयरिंग" और दोहराव वाले आर्टिफैक्ट्स से बचता है।
तुलना (Comparison):
- vs. ActAdd/AcT: LiSeCo ने बेहतर नियंत्रण और बेहतर स्वाभाविकता प्रदान की। ActAdd और AcT अक्सर वर्तमान स्थिति की परवाह किए बिना निरंतर शिफ्ट लागू करते थे, जिससे गुणवत्ता में अनावश्यक गिरावट आती थी।
- vs. Prompting: LiSeCo ने प्रॉम्प्ट इंजीनियरिंग की भंगुरता (brittleness) के बिना मजबूत एट्रिब्यूट रिडक्शन प्राप्त किया।

5. महत्व और निहितार्थ (Significance and Implications)

सुरक्षित AI परिनियोजन (Safe AI Deployment): LiSeCo सुरक्षित वातावरण में LM को तैनात करने के लिए एक सिद्धांतवादी मार्ग प्रदान करता है जहाँ सुरक्षा बाधाओं के सख्त पालन की आवश्यकता होती है, जो "बेस्ट-एफर्ट" स्टीयरिंग से आगे बढ़ता है।
दक्षता (Efficiency): हस्तक्षेप की क्लोज्ड-फॉर्म, ग्रेडिएंट-फ्री प्रकृति इसे उन वास्तविक समय के अनुप्रयोगों के लिए उपयुक्त बनाती है जहाँ लेटेंसी महत्वपूर्ण है।
व्याख्यात्मकता (Interpretability): कंट्रोल को लेटेंट स्पेस में एक ज्यामितीय समस्या के रूप में मानकर, यह विधि अमूर्त कंट्रोल थ्योरी और व्यावहारिक NLP के बीच के अंतर को पाटती है, जो यह समझने के लिए एक नया दृष्टिकोण प्रदान करती है कि LMs में अवधारणाएं कैसे एनकोड और मैनिपुलेट की जाती हैं।
सीमाएँ (Limitations): यह विधि लिनियर रिप्रेजेंटेशन हाइपोथीसिस (कि एट्रिब्यूट्स रैखिक रूप से डिकोडेबल हैं) पर निर्भर करती है। यदि प्रोब ठीक से प्रशिक्षित नहीं है या एट्रिब्यूट नॉन-लीनियरली एनकोडेड है, तो गारंटी लागू नहीं हो सकती है। इसके अतिरिक्त, प्रारंभिक प्रोब को प्रशिक्षित करने के लिए लेबल किए गए डेटासेट की आवश्यकता होती है।

संक्षेप में, LiSeCo अनुमानित "स्टीयरिंग" से गणितीय रूप से कठोर "कंट्रोल" की ओर एक बदलाव का प्रतिनिधित्व करता है, यह सुनिश्चित करता है कि भाषा मॉडल न्यूनतम कम्प्यूटेशनल लागत और अधिकतम टेक्स्ट गुणवत्ता संरक्षण के साथ, सेमेंटिक स्पेस के सुरक्षित क्षेत्रों के भीतर गतिशील रूप से बाधित किए जा सकें।