💬 NLP

Causal Path Alignment: Anchoring the Optimization Trajectory for Controllable In-Parameter Knowledge Editing

यह शोध पत्र कॉज़ल पाथ अलाइनमेंट (CPA) का प्रस्ताव करता है, जो एक मॉडल-अज्ञेय (model-agnostic) ढांचा है जो संबंध-जागरूक मध्यवर्ती अवस्थाओं (relation-aware intermediate states) को अनुकूलन प्रक्षेपवक्र (optimization trajectories) से जोड़कर लार्ज लैंग्वेज मॉडल्स में विषय-प्रधान मेमोरी इंटरफेरेंस को कम करता है, जिससे न्यूनतम दुष्प्रभावों के साथ सटीक ज्ञान संपादन सक्षम होता है।

मूल लेखक: Xiyu Liu, Zhengxiao Liu, Naibin Gu, Zheng Lin, Weiping Wang

प्रकाशित 2026-05-21

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xiyu Liu, Zhengxiao Liu, Naibin Gu, Zheng Lin, Weiping Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: एक "स्मार्ट" लेकिन "ज़िद्दी" मस्तिष्क को ठीक करना

कल्पiये कि एक लार्ज लैंग्वेज मॉडल (LLM) एक विशाल, अत्यंत बुद्धिमान लाइब्रेरियन है जिसने दुनिया की हर किताब पढ़ ली है। यह लाइब्रेरियन अपने मस्तिष्क (यानी "पैरामीटर्स") में तथ्यों को स्टोर करता है। कभी-कभी, लाइब्रेरियन से कोई तथ्य गलत हो जाता है (जैसे, उन्हें लगता है कि लियोनेल मेस्सी अर्जेंटीना के बजाय जर्मनी के नागरिक हैं)।

हम लाइब्रेरियन के मस्तिष्क को इस तरह से एडिट (edit) करना चाहते हैं कि वह इस एक विशिष्ट तथ्य को ठीक कर सके, बिना उसके बाकी ज्ञान को बिगाड़े। इसे नॉलेज एडिटिंग (Knowledge Editing) कहा जाता है।

हालाँकि, यह पेपर खोजता है कि वर्तमान एडिटिंग विधियाँ एक अनाड़ी सर्जन की तरह हैं। जब वे मेस्सी के बारे में एक विशिष्ट तथ्य को ठीक करने की कोशिश करते हैं, तो वे अनजाने में मेस्सी के बारे में लाइब्रेरियन की पूरी समझ को ही उखाड़ देते हैं। अचानक, लाइब्रेरियन सोचने लगता है कि मेस्सी किसी अजनबी से शादी कर चुके हैं, किसी अलग टीम के लिए खेलते हैं, या उनका परिवार नकली है।

लेखक इस समस्या को "सब्जेक्ट-डोमिनेंट मेमोरी इंटरफेरेंस" (Subject-Dominant Memory Interference) कहते हैं। सरल भाषा में: जब आप किसी व्यक्ति के बारे में एक विवरण बदलने की कोशिश करते हैं, तो मॉडल उस व्यक्ति के नाम के प्रति इतना जुनूनी हो जाता है कि वह वाक्य के संदर्भ (context) को ही भूल जाता है।

मूल कारण: "शॉर्टकट" वाला रास्ता

ऐसा क्यों होता है? लेखकों ने पाया कि एडिटिंग प्रक्रिया एक शॉर्टकट (shortcut) ले रही है।

कल्पना कीजिए कि लाइब्रेरियन के मस्तिष्क में किसी प्रश्न का उत्तर देने के दो तरीके हैं:

लंबा, सही रास्ता: "मेस्सी कौन हैं?" $\rightarrow$ "वह एक नागरिक हैं..." $\rightarrow$ "अर्जेंटीना के।" (यह नाम और संबंध दोनों का उपयोग करता है)।
शॉर्टकट: "मेस्सी" $\rightarrow$ "जर्मनी।" (यह "नागरिकता" वाले हिस्से को पूरी तरह से अनदेखा कर देता है)।

जब मॉडल नए तथ्य (मेस्सी = जर्मनी) को सीखने की कोशिश करता है, तो उसे लगता है कि शॉर्टकट ही सही उत्तर पाने का सबसे आसान तरीका है। वह "मेस्सी" नाम को बहुत अधिक ओवर-लर्न (over-learn) कर लेता है और "नागरिकता" वाले संबंध को पूरी तरह से अनदेखा कर देता है।

क्योंकि इसने यह शॉर्टकट लिया था, अगली बार जब आप पूछते हैं, "मेस्सी की पत्नी कौन है?", तो मॉडल अभी भी केवल "मेस्सी" देखता है और चिल्लाकर कहता है "जर्मनी!" क्योंकि वह भूल गया कि उत्तर संबंध (पत्नी बनाम नागरिकता) पर निर्भर करता है।

समाधान: कॉज़ल पाथ एलाइनमेंट (CPA)

इसे ठीक करने के लिए, लेखक एक नई विधि प्रस्तावित करते हैं जिसे कॉज़ल पाथ एलाइनमेंट (Causal Path Alignment - CPA) कहा जाता है। इसे लाइब्रेरियन के मस्तिष्क के लिए एक "ट्रैफिक कंट्रोलर" के रूप में सोचें।

मॉडल को आसान शॉर्टकट लेने देने के बजाय, CPA जानकारी को सही, लंबे रास्ते पर चलने के लिए मजबूर करता है। वे इसे दो चरणों में करते हैं:

चरण 1: झंडा गाड़ना (रिलेशन एंकरिंग - Relation Anchoring)
सबसे पहले, सिस्टम वाक्य के "संबंध" वाले हिस्से की पहचान करता है (जैसे, "का नागरिक है")। यह मस्तिष्क में एक विशेष "झंडा" या एंकर बनाता है जो इस संबंध का प्रतिनिधित्व करता है। यह सुनिश्चित करता है कि मॉडल समझ सके कि यही विशिष्ट संबंध नए उत्तर की ओर ले जाता है।
- उपमा: इससे पहले कि आप गंतव्य (destination) बदलें, आप पहले यह सुनिश्चित करते हैं कि "नागरिकता" का साइन बोर्ड स्पष्ट रूप से दिखाई दे रहा है और सही दिशा में इशारा कर रहा है।
चरण 2: पुल बनाना (ट्रैजेक्टरी एलाइनमेंट - Trajectory Alignment)
इसके बाद, सिस्टम "मेस्सी" की स्मृति को अपडेट करता है लेकिन इसे केवल उस "नागरिकता के झंडे" से जुड़ने के लिए मजबूर करता है। यह सुनिश्चित करता है कि मेस्सी के बारे में नया तथ्य उस "संबंध" के माध्यम से स्टोर किया जाए, न कि सीधे नाम से जुड़ा हो।
- उपमा: आप "मेस्सी" से एक पुल बनाते हैं जिसे "जर्मनी" तक पहुँचने से पहले "नागरिकता" के साइन बोर्ड से होकर ज़रूर गुजरना होगा। आप उस शॉर्टकट को भौतिक रूप से ब्लॉक कर देते हैं जो सीधे "मेस्सी" से "जर्मनी" तक जाता है।

परिणाम: एक स्मार्ट, अधिक विश्वसनीय एडिट

लेखकों ने कई अलग-अलग AI मॉडलों (जैसे GPT-2 और Qwen) पर इसका परीक्षण किया। यहाँ हुआ:

CPA से पहले: जब उन्होंने मेस्सी की नागरिकता बदली, तो मॉडल टूट गया। वह उनकी पत्नी, उनकी टीम और उनके परिवार के बारे में गलत उत्तर देने लगा।
CPA के बाद: मॉडल सफलतापूर्वक सीख गया कि मेस्सी जर्मनी के नागरिक हैं (परीक्षण के उद्देश्य से), लेकिन उसने उसके अन्य सभी तथ्यों को सही रखा। वह जानता था कि उनकी पत्नी अभी भी वास्तविक हैं और वे अपनी वास्तविक टीम के लिए खेलते हैं।

यह विधि एक "प्लग-इन" की तरह काम करती है जिसे मौजूदा एडिटिंग टूल्स में जोड़ा जा सकता है ताकि उन्हें बहुत अधिक सुरक्षित और सटीक बनाया जा सके। यह मॉडल को ओवर-जनरलाइज़ (over-generalize) करने से रोकता है और सुनिश्चित करता है कि परिवर्तन ठीक उसी संबंध के लिए विशिष्ट हों जिसे आप बदलना चाहते हैं।

सारांश

समस्या: वर्तमान AI एडिटिंग टूल्स बहुत आलसी हैं; वे शॉर्टकट लेते हैं जिससे मॉडल किसी व्यक्ति के अन्य तथ्यों की समझ को बिगाड़ देते हैं।
समाधान: एक नई विधि (CPA) जो AI को "लंबे रास्ते" पर चलने के लिए मजबूर करती है, जिससे यह सुनिश्चित होता है कि वह केवल नाम के बजाय संबंध (जैसे "नागरिकता") के संदर्भ का उपयोग करे।
परिणाम: आप AI में तथ्यों को अपडेट कर सकते हैं बिना उसी विषय के बारे में उसके अन्य ज्ञान को गलती से मिटाए या भ्रष्ट किए।

तकनीकी सारांश: नियंत्रणीय इन-पैरामीटर नॉलेज एडिटिंग के लिए कॉज़ल पाथ अलाइनमेंट (CPA)

1. समस्या की परिभाषा: सब्जेक्ट-डोमिनेंट मेमोरी इंटरफेरेंस (विषय-प्रधान स्मृति हस्तक्षेप)

यह शोध पत्र मुख्यधारा के इन-पैरामीटर नॉलेज एडिटिंग (विशेष रूप से ROME और MEMIT जैसे "लोकेट-देन-एडिट" दृष्टिकोणों) में एक गंभीर दोष को संबोधित करता है। जबकि ये विधियाँ विशिष्ट तथ्यात्मक संबंधों (जैसे, "लियोनेल मेसी जर्मनी के नागरिक हैं" को बदलना) को सफलतापूर्वक अपडेट करती हैं, वे सब्जेक्ट-डोमिनेंट मेमोरी इंटरफेरेंस से ग्रस्त होती हैं।

लक्षण: किसी विषय (subject) के एक विशिष्ट गुण को संशोधित करने से अनजाने में उसी विषय के संबंध में मॉडल के व्यापक संरचनात्मक ज्ञान में भ्रष्टाचार हो जाता है। उदाहरण के लिए, मेसी की राष्ट्रीयता को संपादित करने से मॉडल मेसी से जुड़े अन्य पारिवारिक संबंधों या अन्य गुणों के बारे में गलत जानकारी (hallucination) दे सकता है।
मूल कारण: लेखक इसे शॉर्टकट लर्निंग पैथोलॉजी के रूप में निदान करते हैं। मानक एडिटिंग ऑब्जेक्टिव्स विषय (subject) के उच्च-परिमाण वाले प्रतिनिधित्व (representation) पर ओवरफिट हो जाते हैं और आवश्यक रिलेशनल कॉन्टेक्स्ट (संबंधात्मक संदर्भ) को दरकिनार कर देते हैं।
- सब्जेक्ट-डोमिनेंट शॉर्टकट: अनुकूलन प्रक्षेपवक्र (optimization trajectory) विषय ( $s$ ) से नए लक्षित ऑब्जेक्ट ( $o^*$ ) के सीधे, बिना शर्त मैपिंग पर गिर जाता है, जिससे संबंध ( $r$ ) से भविष्यवाणी का विच्छेद हो जाता है। गणितीय रूप से, मॉडल $P(o^*|s, r) \approx P(o^*|s)$ सीख लेता है, जो रिलेशनल गेट को अनदेखा करता है।
- साक्ष्य: ग्रेडिएंट सैलिएंसी विश्लेषण एक "डुअल-पीक पैटर्न" प्रकट करता है जहाँ विषय और संबंध दोनों पथ शुरू में सक्रिय होते हैं। हालाँकि, कॉज़ल ट्रेसिंग से पता चलता है कि एडिटिंग के बाद, विषय के प्रतिनिधित्व का कॉज़ल प्रभाव विस्फोट करता है, जबकि संबंध प्रतिनिधित्व का योगदान स्थिर रहता है या कम हो जाता है, जो एक कॉज़ल पाथ कोलैप्स की पुष्टि करता है।

2. कार्यप्रणाली: कॉज़ल पाथ अलाइनमेंट (CPA)

इसे ठीक करने के लिए, लेखक कॉज़ल पाथ अलाइनमेंट (CPA) का प्रस्ताव करते हैं, जो एक सिद्धांत-आधारित ढांचा है जो अनुकूलन प्रक्षेपवक्र को वैध आंतरिक कॉज़ल पथों से बांधता है, बजाय इसके कि इसे केवल विषय-आधारित शॉर्टकट में गिरने दिया जाए।

सैद्धांतिक ढांचा

CPA नॉलेज एडिटिंग को केवल लक्षित ऑब्जेक्ट के लिए लॉस फंक्शन को कम करने के रूप में नहीं, बल्कि एक बाधित अनुकूलन परिदृश्य (constrained optimization landscape) के रूप में पुनर्गठित करता है। यह एक कंडीशनल इंडिपेंडेंस कंस्ट्रेंट लागू करता है: ऑब्जेक्ट $o^*$ की भविष्यवाणी केवल संबंध फीचर $h_r$ पर निर्भर होनी चाहिए; एक बार $h_r$ स्थापित हो जाने के बाद, यह विशिष्ट विषय इंजेक्शन $v_s$ से स्वतंत्र होनी चाहिए ( $o^* \perp v_s | h_r$ )।

उद्देश्य को दो पदों में विभाजित किया गया है:

रिलेशन एंकरिंग: संबंध फीचर से लक्षित ऑब्जेक्ट तक एक वैध मैपिंग स्थापित करना।
ट्रैजेक्टरी अलाइनमेंट: यह सुनिश्चित करना कि संपादित विषय वेक्टर इस महत्वपूर्ण संबंध फीचर का पुनर्निर्माण करे।

दो-चरणीय अनुकूलन प्रक्रिया

CPA इसे एक क्रमिक दो-चरणीय अनुकूलन के माध्यम से लागू करता है:

चरण 1: रिलेशन एंकरिंग
- लक्ष्य: एक "बॉटलनेक" लेयर (एडिट लेयर के डाउनस्ट्रीम में) पर एक मध्यवर्ती हिडन स्टेट $h^*_r$ की पहचान करना जो विषय से अलग, विशिष्ट संबंध अर्थों (semantics) को एनकोड करता है।
- तंत्र: $h^*_r$ को $\log P(o^* | h_r)$ को अधिकतम करने के लिए अनुकूलित करना, जबकि प्री-एडिट अवस्था के विरुद्ध KL डाइवर्जेंस के माध्यम से वितरण बदलाव (distribution shift) को नियंत्रित करना। यह एक्टिवेशन स्पेस में एक "वर्चुअल एंकर" बनाता है।
चरण 2: ट्रैजेक्टरी अलाइनमेंट
- लक्ष्य: पैरामीटर अपडेट को एंकर किए गए स्टेट $h^*_r$ के माध्यम से रूट करने के लिए मजबूर करना।
- तंत्र: $h^*_r$ को स्थिर करते हुए, विधि $v_s$ (एडिट लेयर पर) के विषय इंजेक्शन वेक्टर को अनुकूलित करती है ताकि $v_s$ के फॉरवर्ड प्रोपेगेशन और एंकर $h^*_r$ के बीच के अंतर को कम किया जा सके (अर्थात, $\|F[v_s, p] - h^*_r\|_F$ को न्यूनतम करना)।
- परिणाम: यह सूचना प्रवाह को रिलेशनल कंप्यूटेशनल पाथ के माध्यम से गुजरने के लिए मजबूर करता है, जिससे रिलेशनल सिमेंटिक्स को बायपास करने से रोका जा सके।

3. प्रमुख योगदान

शॉर्टकट लर्निंग का निदान: यह पेपर "सब्जेक्ट-डोमिनेंट शॉर्टकट" को लोकेट-देन-एडिट विधियों में मेमोरी इंटरफेरेंस के मूल कारण के रूप में पहचानता है, और इस मुद्दे को LLM के आंतरिक कॉज़ल स्ट्रक्चर और अनुकूलन उद्देश्य के बीच मिसअलाइनमेंट के रूप में प्रस्तुत करता है।
कॉज़ल पाथ अलाइनमेंट (CPA): एक दो-चरणीय अनुकूलन ढांचे का परिचय जो स्पष्ट रूप से एडिटिंग को रिलेशनल फीचर्स से जोड़ता है, जिससे बिना किसी ह्यूरिस्टिक समायोजन या डेटा ऑग्मेंटेशन के शॉर्टकट पथ को समाप्त किया जा सके।
मॉडल-एग्नोस्टिक प्लग-इन: CPA को एक सामान्यीकरण योग्य मॉड्यूल के रूप में डिज़ाइन किया गया है जिसे उनके लोकलाइजेशन या वेट-अपडेट सॉल्वर को बदले बिना मौजूदा लोकेट-देन-एडिट पाइपलाइनों (जैसे ROME, MEMIT, AlphaEdit) में प्रत्यारोपित किया जा सकता है।

4. प्रयोगात्मक परिणाम

लेखकों ने COUNTERFACT RS और EVOKE बेंचमार्क का उपयोग करके विविध LLM बैकबोन (GPT2-XL, GPT-J, Qwen2.5 7B/14B) पर CPA का मूल्यांकन किया।

रिलेशन स्पेसिफिटी (R-Spec): CPA लगातार शॉर्टकट को समाप्त करता है, जिससे रिलेशन स्पेसिफिटी में महत्वपूर्ण सुधार होता है।
- उदाहरण: GPT2-XL पर, R-Spec 45.7% (ROME) से बढ़कर 72.2% (ROME-CPA) हो गया। Qwen2.5 (7B) पर, यह 70.7% से बढ़कर 92.2% हो गया।
साइड इफेक्ट्स: CPA न्यूनतम साइड इफेक्ट्स प्रदर्शित करता है।
- सब्जेक्ट स्पेसिफिटी (S-Spec): उच्च स्कोर बनाए रखता है, जो दर्शाता कि अन्य विषयों के प्रति कोई विनाशकारी ओवर-जनरलाइजेशन नहीं हुआ है।
- फ्लुएंसी (Fluency): जेनरेशन की गुणवत्ता बेसलाइन विधियों के समान बनी रहती है, जो आक्रामक बाधा विधियों (जैसे RETS) के विपरीत है जो फ्लुएंसी में गिरावट का शिकार होती हैं।
- EVOKE मेट्रिक्स: CPA सबसे कम डिटरियोरेशन प्रोबेबिलिटी (DP) और उच्चतम एडिटिंग ओवरफिट स्कोर (EOS) प्राप्त करता है, जो हस्तक्षेप के प्रति मजबूत प्रतिरोध का संकेत देता है।
एब्लेशन स्टडीज: चरण 1 या चरण 2 में से किसी एक को हटाने से विफलता होती है। केवल चरण 1 अकेले होने पर विषय ओवर-जनरलाइजेशन होता है; केवल चरण 2 अकेले होने पर शॉर्टकट पैथोलॉजी वापस आ जाती है। केवल पूर्ण दो-चरणीय प्रक्रिया ही इष्टतम संतुलन प्राप्त करती है।
सामान्यीकरण: MEMIT और AlphaEdit पर लागू करने पर, CPA उनके R-Spec में पर्याप्त वृद्धि करता है (जैसे, Qwen2.5 7B पर AlphaEdit: 65.0% $\to$ 88.9%), जो पुष्टि करता है कि पैथोलॉजी अनकन्स्ट्रेंड टारगेट-वेक्टर ऑप्टिमाइज़ेशन से उत्पन्न होती है।

5. महत्व और दावे

यह शोध पत्र दावा करता है कि CPA नॉलेज एडिटिंग के प्लास्टिसिटी-स्टेबिलिटी ट्रेड-ऑफ के लिए एक विश्वसनीय समाधान प्रदान करता है। अनुकूलन को रिलेशन-अवेयर कॉज़ल स्टेट्स से जोड़कर, CPA यह सुनिश्चित करता है कि अपडेट्स अनकंडीशनल सब्जेक्ट मैपिंग के बजाय रिलेशनल फीचर्स द्वारा संचालित हों।

विश्वसनीयता: यह विधि "नियंत्रणीय और विश्वसनीय" इन-पैरामीटर नॉलेज एडिटिंग का मार्ग प्रशस्त करती है, जो गतिशील वातावरण में विकसित होते एजेंट के रूप में कार्य करने वाले LLMs के लिए आवश्यक है।
मैकेनिस्टिक अंतर्दृष्टि: यह कार्य ह्यूरिस्टिक पैच से आगे बढ़कर मूल अनुकूलन पैथोलॉजी को संबोधित करता है, जो मॉडल के आंतरिक कॉज़ल मैकेनिज्म की अखंडता बनाए रखने के लिए एक सिद्धांत-आधारित दृष्टिकोण प्रदान करता है।
सीमाएँ: लेखक विनम्रतापूर्वक नोट करते हैं कि CPA इस संरचनात्मक धारणा पर निर्भर करता है कि अंतिम विषय टोकन एक स्थिर कॉज़ल हब के रूप में कार्य करता है (जो डिक्लेरेटिव प्रॉम्प्ट्स के लिए मान्य है)। प्रश्न पूछने (QA) शैली के प्रॉम्प्ट्स (zsRE) पर प्रदर्शन कम है, जो यह सुझाव देता कि अनस्ट्रक्चर्ड या इंटरोगेटिव कॉन्टेक्स्ट में डायनेमिक एंकर आइडेंटिफिकेशन के लिए भविष्य में काम करने की आवश्यकता है। इसके अतिरिक्त, एकल-चरणीय एडिटर्स की तुलना में द्वि-चरणीय प्रक्रिया में मामूली लेटेंसी वृद्धि होती है।