🤖 machine learning

Transmuting prompts into weights

प्रॉम्प्ट्स और अंतर्निहित वेट अपडेट्स (implicit weight updates) के बीच सैद्धांतिक संबंध को आगे बढ़ाते हुए, यह शोधपत्र क्षणिक प्रॉम्प्ट सूचना को पुन: प्रयोज्य, टोकन-स्वतंत्र थॉट वेक्टर्स (thought vectors) और मैट्रिसेस में संघनित करने के लिए एक सिद्धांतगत एल्गोरिदम प्रस्तावित करता है, जिससे मॉडल एडिटिंग और ज्ञान इंजेक्शन (knowledge injection) के लिए प्रभावी वेट अपडेट्स में टेक्स्ट इनपुट को रूपांतरित करने हेतु एक सैद्धांतिक आधार और प्रत्यक्ष विधि प्राप्त होती है।

मूल लेखक: Hanna Mazzawi, Benoit Dherin, Michael Munn, Adrian Goldwaser, Michael Wunder, Javier Gonzalvo

प्रकाशित 2026-06-04

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Hanna Mazzawi, Benoit Dherin, Michael Munn, Adrian Goldwaser, Michael Wunder, Javier Gonzalvo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन थोड़ा भूलक्कड़ रोबोट सहायक (एक लार्ज लैंग्वेज मॉडल) है। आमतौर पर, इस रोबोट को कोई विशिष्ट कार्य करने के लिए—जैसे "इस फ्रांसीसी शब्द का अनुवाद करें" या "इस वाक्य को सुंदर बनाएं"—आपको हर बार उससे सवाल पूछने के लिए निर्देश दोहराने पड़ते हैं। यह ऐसा है जैसे आप हर कार्य से पहले रोबोट के कान में एक ही नियम पुस्तिका चिल्लाकर सुना रहे हों।

यह शोध पत्र इस चिल्लाने को रोकने के लिए एक चतुर तरकीब पेश करता है। निर्देशों को दोहराने के बजाय, शोधकर्ताओं ने यह पता लगाया कि कैसे उन निर्देशों के आधार पर रोबोट की आंतरिक नियम पुस्तिका (इसके "वेट्स" या weights) को स्थायी रूप से फिर से लिखा जाए। वे इस प्रक्रिया को "ट्रांसम्यूटिंग प्रॉम्प्ट्स इन टू वेट्स" (प्रॉम्प्ट्स को वेट्स में बदलना) कहते हैं।

यहाँ इसका सरल विवरण दिया गया है, जिसे कुछ रोजमर्रा के उपमाओं (analogies) का उपयोग करके समझाया गया है:

1. समस्या: "भूतिया" निर्देश (The "Ghost" Instructions)

सामान्यतः, जब आप रोबोट को एक निर्देश देते हैं (जैसे "विनम्र रहें"), तो यह केवल उस बातचीत के लिए अस्थायी रूप से उसके व्यवहार को बदल देता है। एक बार बातचीत समाप्त होने के बाद, रोबंडा उसे भूल जाता है।

पुराना तरीका: शोधकर्ताओं ने हर बार रोबोट के दिमाग में एक "जादुई नंबर" (एक वेक्टर) जोड़कर इसे ठीक करने की कोशिश की। यह काम तो करता था, लेकिन यह अनुमान लगाने और फिर जांचने का एक खेल जैसा था।
नया तरीका: यह शोध पत्र कहता है, "चलिए अनुमान लगाना बंद करते हैं। आइए गणितीय रूप से यह सिद्ध करें कि एक निर्देश रोबोट के दिमाग को वास्तव में कैसे बदलता है, और फिर उस बदलाव को रोबोट की स्थायी स्मृति में समाहित कर दें।"

2. मुख्य विचार: "थॉट पैच" (The "Thought Patch")

शोधकर्ताओं ने पाया कि जब आप रोबोट को एक प्रॉम्प्ट (निर्देश) देते हैं, तो यह उसके दिमाग में बदलावों की एक अस्थायी "परछाई" बनाता है।

उपमा: कल्पना कीजिए कि रोबोट एक शेफ (रसोइया) है। जब आप कहते हैं, "नमक डालें," तो नमक छिड़कने के लिए शेफ का हाथ एक विशिष्ट तरीके से हिलता है।
- टोकन-डिपेंडेंट पैचेस (Token-Dependent Patches): शुरुआत में, शोधकर्ताओं ने पाया कि शेफ द्वारा बोले जाने वाले प्रत्येक शब्द के लिए "नमक छिड़कने" की गति थोड़ी अलग होती है। यह ऐसा है जैसे शेफ को वाक्य के हर एक शब्द के लिए एक नई, सूक्ष्म हाथ की गति सीखनी पड़ती है। इसे स्थायी रूप से सहेजना बहुत जटिल है।
- "थॉट पैच" (The "Thought Patch"): शोधकर्ताओं को एहसास हुआ कि वे उन सभी छोटी, अलग-अलग हाथ की गतियों को औसत निकालकर एक एकल, पूर्ण हाथ की गति में बदल सकते हैं जो पूरे वाक्य के लिए काम करती है। वे इसे पूरे वाक्य के लिए "थॉट वेक्टर" (सरल बदलावों के लिए) और "थॉट मैट्रिक्स" (अधिक जटिल परिवर्तनों के लिए) कहते हैं।

3. प्रक्रिया: निर्देश को "स्टिचिंग" (सीवन) करना

यह शोध पत्र एक एल्गोरिदम (चरण-दर-चरण विधि) का वर्णन करता है जो एक अस्थायी निर्देश को स्थायी परिवर्तन में बदल देता है:

शेफ को देखना: वे रोबोट को निर्देश और कार्य (जैसे "Translate: Hello" -> "Bonjour") पढ़ने देते हैं। वे रिकॉर्ड करते हैं कि रोबोट का दिमाग ठीक कैसे सक्रिय होता है।
निर्देश के बिना शेफ को देखना: वे रोबोट को बिना निर्देश के कार्य करने देते हैं (जैसे केवल "Hello")। वे देखते हैं कि दिमाग कैसे अलग तरह से सक्रिय होता है।
अंतर खोजना: वे दोनों मस्तिष्क अवस्थाओं के बीच के अंतर की गणना करते हैं।
गणितीय जादू: "लीस्ट स्क्वायर्स" (Least Squares) नामक पद्धति का उपयोग करके (इसे बिंदुओं के बादल के माध्यम से सबसे अच्छी फिट होने वाली रेखा खोजने के रूप में सोचें), वे सटीक गणितीय सूत्र की गणना करते हैं जिसकी आवश्यकता उस अंतर को भरने के लिए है।
स्थायी सुधार: वे उस सूत्र को लेते हैं और उसे सीधे रोबोट के स्थायी वेट्स (weights) में जोड़ देते हैं।

4. परिणाम: रोबोट याद रखता है

एक बार जब वे यह कर लेते हैं, तो रोबोट को अब "अनुवाद करें" निर्देश बोलने की आवश्यकता नहीं होती। निर्देश अब उसके दिमाग में हार्डवायर्ड (hardwired) हो चुका है।

उपमा: यह कुत्ते को बैठने सिखाने जैसा है।
- पहले: आपको हर बार "बैठो!" कहना पड़ता है, और कुत्ता इसलिए सुनता है क्योंकि आप वहां होते हैं।
- बाद में: आपने शारीरिक रूप से कुत्ते की मांसपेशियों को प्रशिक्षित कर दिया है ताकि जब आप इशारा करें, तो वह स्वतः ही बैठ जाए। कमांड अब कुत्ते के शरीर का हिस्सा बन गई है, न कि केवल आपके द्वारा की गई एक ध्वनि।

5. उन्होंने क्या परीक्षण किया

शोधकर्ताओं ने गूगल के एक छोटे मॉडल (Gemma) पर इसका परीक्षण किया और पाया:

गणित और तर्क: उन्होंने रोबोट को संख्याएं गुणा करना या विषाक्त वाक्यों को शुद्ध (detoxify) करना सिखाया। एक बार "थॉट पैच" लागू होने के बाद, रोबोट बिना बताए ही ये कार्य पूरी सटीकता से करने लगा।
अनुवाद: उन्होंने इसे फ्रांसीसी से अंग्रेजी में अनुवाद करना सिखाया। पैच लगाने के बाद, इसने फ्रांसीसी शब्दों का स्वतः अनुवाद किया, भले ही "अंग्रेजी में अनुवाद करें" निर्देश का उल्लेख कभी नहीं किया गया था।
नया ज्ञान: उन्होंने इसे बनावटी तथ्यों का एक छोटा शब्दकोश सिखाया (जैसे "Zog की राजधानी X है")। रोबोट ने इन तथ्यों को सीखा और बाद में बिना शब्दकोश के भी उन्हें याद रखने में सक्षम रहा।

पकड़ (सीमाएं)

शोध पत्र नोट करता है कि यह "हार्डवायरिंग" तब सबसे अच्छा काम करती है जब प्रश्न उसी तरह पूछे जाते हैं जैसे रोबोट को सिखाया गया था। यदि आप रोबोट से उन शब्दों का उपयोग करके प्रश्न पूछते हैं जो सिखाते समय उपयोग किए गए थे, तो रोबोट भ्रमित हो सकता है। यह वैसा ही है जैसे एक रोबोट जिसे "राजधानी क्या है?" पूछने के लिए प्रशिक्षित किया गया है, वह अटक सकता है यदि आप उससे "राजधानी शहर बताएं" पूछते हैं, क्योंकि "थॉट पैच" पहले प्रश्न की विशिष्ट शब्दावली के लिए ट्यून किया गया था।

सारांश

संक्षेप में, यह शोध पत्र यह प्रमाण देता है कि निर्देश केवल अस्थायी वेट अपडेट (weight updates) हैं। इन अस्थायी अपडेट्स को औसत निकालकर, उन्होंने एक तरीका बनाया जिससे निर्देशों और ज्ञान को भाषा मॉडल के दिमाग में स्थायी रूप से स्थापित किया जा सके, जिससे वे हर बार निर्देशों को दोहराए बिना जटिल कार्य करने में सक्षम हो जाते हैं।

तकनीकी सारांश: प्रॉम्प्ट्स को वेट्स (Weights) में रूपांतरित करना

समस्या विवरण

इन्फरेंस के समय लार्ज लैंग्वेज मॉडल्स (LLMs) को नियंत्रित करने की वर्तमान विधियाँ आम तौर पर दो अनुभवजन्य श्रेणियों में आती हैं: एक्टिवेशन स्टीयरिंग (हिडन स्टेट्स में "स्टीयरिंग वेक्टर्स" जोड़ना) और मॉडल एडिटिंग (वेट मैट्रिसेस पर लो-रैंक संशोधनों को लागू करना)। हालांकि ये तकनीकें प्रभावी हैं, लेकिन वे अनुभवजन्य ह्यूरिस्टिक्स (heuristics) पर बहुत अधिक निर्भर करती हैं, जैसे कि कंट्रास्टिव एक्टिवेशंस का औसत निकालना, जिनमें ट्रांसफॉर्मर आर्किटेक्चर पर आधारित एक एकीकृत सैद्धांतिक औचित्य का अभाव है। इसके अलावा, मौजूदा दृष्टिकोण अक्सर प्रॉम्प्ट जानकारी को क्षणिक (transient) मानते हैं या निर्देशों को वेट्स में स्थायी रूप से एनकोड करने के लिए आर्किटेक्चरल संशोधनों की आवश्यकता रखते हैं। मुख्य चुनौती एक सिद्धांत-आधारित विधि स्थापित करना है जो क्षणिक टेक्स्ट इनपुट (प्रॉम्प्ट्स) को पुन: प्रयोज्य, टोकन-स्वतंत्र वेट अपडेट में संघनित कर सके, ताकि निर्देशों या नए ज्ञान को बिना प्रॉम्प्ट को दोबारा चलाए स्थायी रूप से एनकोड किया जा सके।

कार्यप्रणाली

यह शोध पत्र डेरेन एट अल. (2025) के मौलिक सिद्धांत पर आधारित है, जिन्होंने प्रदर्शित किया था कि एक ट्रांसफॉर्मर ब्लॉक पर इनपुट प्रॉम्प्ट $I$ के कम्प्यूटेशनल प्रभाव को ब्लॉक के फीड-फॉरवर्ड वेट्स और बायस पर विशिष्ट, टोकन-निर्भर रैंक-वन अपडेट (जिन्हें "मिनिमल टोकन-पैचेस" कहा जाता है) लागू करके पूरी तरह से दोहराया जा सकता है।

लेखक इन क्षणिक, टोकन-विशिष्ट अपडेट को थॉट वेक्टर्स ( $\delta(I)$ ) और थॉट मैट्रिसेस ( $\Delta(I)$ ) नामक स्थिर, पुन: प्रयोज्य संरचनाओं में सामान्यित करने के लिए एक फ्रेमवर्क प्रस्तावित करते हैं।

1. सैद्धांतिक व्युत्पत्ति (Theoretical Derivation)

टोकन-निर्भर पैचेस: एक प्रॉम्प्ट $C = [I, x_1, \dots, x_n]$ के लिए, संदर्भ $I$ का टोकन $x$ पर प्रभाव को अपडेट $\delta_x(I)$ और $\Delta_x(I)$ द्वारा दोहराया जाता है।
थॉट वेक्टर (Thought Vector): एक टोकन-स्वतंत्र वेक्टर बनाने के लिए, लेखक अनुकूलतम टोकन वेक्टर्स और एक एकल वेक्टर के बीच स्क्वेर्ड एरर को कम करते हैं। समाधान अनुकूलतम टोकन-विशिष्ट वेक्टर्स का अंकगणितीय माध्य है:
$\delta(I) := \frac{1}{n} \sum_{i=1}^n \delta_i = \frac{1}{n} \sum_{i=1}^n (A(C, x_i) - A(C \setminus I, x_i))$
यह कंट्रास्टिव एक्टिवेशंस के औसत निकालने की ह्यूरिस्टिक पद्धति को एक सैद्धांतिक औचित्य प्रदान करता है।
थॉट मैट्रिक्स (Thought Matrix): अनुकूलतम मैट्रिक्स को सभी उदाहरणों में त्रुटि को कम करके निकाला जाता है। थ्योरम 2.1 सिद्ध करता है कि यदि मैट्रिक्स $Z = \sum a_i a_i^T$ इनवर्टिबल (invertible) है, तो ग्लोबल मिनिमम इस प्रकार प्राप्त होता है:
$\Delta(I) = \left( \sum_{i=1}^n W \delta_i a_i^T \right) Z^{-1}$
यह दर्शाता है कि अनुकूलतम थॉट मैट्रिक्स स्वाभाविक रूप से रैंक-वन अपडेट के योग के रूप में उभरता है।

2. थॉट पैचिंग एल्गोरिदम (The Thought Patching Algorithm)

लेखक निर्देशों को वेट्स में रूपांतरित करने के लिए एक पुनरावृत्त, लेयर-वाइज अलाइनमेंट प्रक्रिया (एल्गोरिदम 1) पेश करते हैं:

कॉन्टेक्स्टुअल पास (Contextual Pass): पूरे प्रॉम्प्ट $[I, x]$ पर मूल मॉडल चलाकर "ग्राउंड ट्रुथ" अटेंशन आउटपुट्स $A_l$ एकत्र करें।
नॉन-कॉन्टेक्स्टुअल पास (Non-Contextual Pass): वर्तमान में पैच किए गए वेट्स का उपयोग करके $[x]$ पर मॉडल चलाकर अनुमानित आउटपुट्स $a_l$ एकत्र करें।
डिस्क्रिपेंसी कैलकुलेशन (Discrepancy Calculation): अवशेष (residuals) $dz_l = A_l - a_l$ की गणना करें।
अपडेट कम्प्यूटेशन (Update Computation):
- थॉट वेक्टर अपडेट विसंगतियों (discrepancies) का माध्य है।
- थॉट मैट्रिक्स अपडेट को अवशेष त्रुटि को कम करने के लिए लीस्ट-स्क्वेयर्स मिनिमाइजेशन (वैकल्पिक रिज रेगुलराइजेशन के साथ) के माध्यम से कंप्यूट किया जाता है।
एप्लीकेशन (Application): अपडेट को लर्निंग रेट $\eta$ द्वारा स्केल किया जाता है और वेट्स पर लागू किया जाता है।

3. आर्किटेक्चरल अनुकूलन (Architectural Adaptations)

इस विधि को Gemma 3 जैसे आधुनिक आर्किटेक्चर के लिए अनुकूलित किया गया है, जो RMSNorm और Gated GeLU एक्टिवेशन का उपयोग करते हैं:

Gated GeLU: थॉट मैट्रिक्स ऑप्टिमाइजेशन को $W_{up}$ और $W_{gate}$ प्रोजेक्शन के लिए दो स्वतंत्र लीस्ट-स्क्वेयर्स एस्टीमेशन में अलग किया गया है।
बायस की अनुपस्थिति (Bias Absence): चूंकि Gemma में MLP आउटपुट में स्पष्ट बायस पैरामीटर्स नहीं हैं, इसलिए थॉट वेक्टर शिफ्ट को सीधे $W_{down}$ प्रोजेक्शन मैट्रिक्स में अवशोषित किया जाता है, जिसे एक्टिवेशन डिस्ट्रीब्यूशन बनाए रखने के लिए RMSNorm स्केलिंग फैक्टर्स के लिए समायोजित किया जाता है।

मुख्य योगदान

सैद्धांतिक एकीकरण (Theoretical Unification): यह पेपर एक प्रथम-सिद्धांतों वाला स्पष्टीकरण प्रदान करता है कि क्यों एक्टिवेशन स्टीयरिंग (कंट्रास्टिव एक्टिवेशंस का औसत निकालना) और लो-रैंक मॉडल एडिटिंग सफल होते हैं। यह सिद्ध करता है कि ये ह्यूरिस्टिक्स अनुकूलतम थॉट वेक्टर्स और मैट्रिसेस के लीस्ट-स्क्वेयर्स एप्रोक्सिमेशन के समकक्ष हैं।
ट्रांसम्यूटेशन फ्रेमवर्क (Transmutation Framework): यह "थॉट पैच" की अवधारणा को प्रॉम्प्ट कम्प्रेशन के लिए एक सैद्धांतिक उपकरण से ऊपर उठाकर, प्रत्यक्ष मॉडल नियंत्रण और स्थायी ज्ञान इंजेक्शन के लिए एक व्यावहारिक एल्गोरिदम के रूप में स्थापित करता है।
टोकन-स्वतंत्रता (Token-Independence): यह विधि सफलतापूर्वक क्षणिक, टोकन-निर्भर जानकारी को पुन: प्रयोज्य, टोकन-स्वतंत्र वेक्टर्स और मैट्रिसेस में संघनित करती है जो जटिल, नॉन-लीनियर आर्किटेक्चर के लिए उपयुक्त हैं।
एल्गोरिदमिक कार्यान्वयन (Algorithmic Implementation): लेखक (Algorithm 1) प्रदान करते हैं और Gemma जैसे आधुनिक मॉडल्स पर इसे लागू करने के लिए विशिष्ट संशोधन भी देते हैं।

प्रयोगात्मक परिणाम

इस दृष्टिकोण को Gemma 3.0 1B Instruction Tuned मॉडल पर कई कार्यों पर मान्य किया गया:

अरिथमेटिक और भाषाई कार्य: जोड़ने और गुणा करने जैसे कार्यों पर, पैच किए गए मॉडल ने (बिना संदर्भ में निर्देश के) 100% सटीकता प्राप्त की, जो मूल मॉडल के पूर्ण प्रॉम्प्ट प्रदर्शन से पूरी तरह मेल खाती है। यह केवल 10 उदाहरणों का उपयोग करके प्राप्त किया गया।
डिटॉक्सिफिकेशन (Detoxification): ParaDetox डेटासेट पर लागू करने पर, पैच किए गए मॉडल ने टॉक्सिसिटी को 90.53% से घटाकर 6.22% कर दिया, जो फुल-कॉन्टेक्स्ट बेसलाइन (6.7%) के करीब है, जबकि अर्थ (semantic meaning) को सुरक्षित रखा (BERT स्कोर द्वारा)।
अनुवाद और ज्ञान पुनर्प्राप्ति (Translation & Knowledge Retrieval): इस विधि ने फ्रेंच/स्पेनिश से अंग्रेजी में अनुवाद करने और देशों की राजधानियों को खोजने में उच्च सटीकता प्राप्त की, जो अनपैच्ड बेसलाइन से काफी बेहतर है और फुल-कॉन्टेक्स्ट प्रदर्शन के करीब है।
नया ज्ञान इंजेक्शन (New Knowledge Injection): मॉडल ने सिंथेटिक की-वैल्यू डिक्शनरी को सफलतापूर्वक अवशोषित किया। प्रदर्शन छोटे डिक्शनरी ( $k \le 8$ ) के लिए लगभग 100% रहा, लेकिन जैसे-जैसे डिक्शनरी का आकार बढ़ा ( $k=32$ के लिए 91% तक गिर गया) या जब रिट्रीवल क्वेरी स्ट्रक्चर ट्रेनिंग प्रॉम्प्ट्स से भिन्न थे, प्रदर्शन में गिरावट देखी गई।

महत्व और दावे

पेपर का दावा है कि यह ट्रांसफॉर्मर इन्फरेंस के क्षणिक मैकेनिक्स और स्थायी मॉडल संशोधन के बीच एक सीधा सैद्धांतिक संबंध स्थापित करता है। क्षणिक टोकन पैचेस को पुन: प्रयोज्य थॉट वेक्टर्स और मैट्रिसेस में एकत्रित करके, लेखक प्रॉम्प्ट निर्देशों को वेट्स में स्थायी रूप से एनकोड करने के लिए एक सिद्धांत-आधारित, डेटा-कुशल विधि प्रदान करते हैं।

इसका महत्व इस बात की पुष्टि करने में है कि कंट्रास्टिव एवरेजिंग और लो-रैंक अपडेट केवल अनुभवजन्य ट्रिक्स नहीं हैं, बल्कि ट्रांसफॉर्मर निर्देश एनकोडिंग के नेटिव मैकेनिज्म हैं। यह कार्य "पैरामीट्रिक कॉन्टिनम" सिद्धांतों और व्यावहारिक कार्यान्वयन के बीच के अंतर को पाटता है, जो मौजूदा नियंत्रण विधियों के लिए एक एकीकृत गणितीय स्पष्टीकरण प्रदान करता है।

लेखक अपनी सीमाओं के प्रति विनम्र बने हुए हैं, यह नोट करते हुए कि वर्तमान लीस्ट-स्क्वेयर्स फॉर्मूलेशन विशिष्ट प्रॉम्प्ट संरचनाओं पर ओवरफिटिंग (overfitting) के प्रति संवेदनशील है (जैसा कि नॉलेज इंजेक्शन कार्य में देखा गया जहाँ क्वेरी विचलन के कारण प्रदर्शन में गिरावट आई), और भविष्य का कार्य ज्ञान इंजेक्शन के दौरान स्ट्रक्चरल ओवरफिटिंग को रोकने के लिए उन्नत रेगुलराइजेशन पर केंद्रित होगा।