🤖 AI

Breaking the Reversal Curse in Autoregressive Language Models via Identity Bridge

यह शोध पत्र इस विचार को चुनौती देता है कि 'रिवर्सल कर्ज़' (reversal curse) ऑटोरेग्रेसिव एलएलएम (LLMs) की एक अंतर्निहित सीमा है, यह प्रदर्शित करते हुए कि प्रशिक्षण डेटा में एक सरल "आइडेंटिटी ब्रिज" (Identity Bridge) रेगुलराइजेशन ( $A \to A$ ) जोड़ने से यहाँ तक कि एक-परत वाले ट्रांसफॉर्मर भी द्विदिश नियमों (bidirectional rules) को सीखने में सक्षम हो जाते हैं, जिससे रिवर्सल कार्यों के प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Xutao Ma, Yixiao Huang, Hanlin Zhu, Somayeh Sojoudi

प्रकाशित 2026-06-02

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xutao Ma, Yixiao Huang, Hanlin Zhu, Somayeh Sojoudi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Identity Bridge के माध्यम से ऑटोरेग्रेसिव लैंग्वेज मॉडल्स में रिवर्सल कर्ज़ (Reversal Curse) को तोड़ना" नामक शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ अनुवाद दिया गया है।

समस्या: AI की याददाश्त का "एकतरफा रास्ता"

कल्पना कीजिए कि आप एक छात्र को एक सरल तथ्य सिखाते हैं: "एलिस के पति बॉब हैं।"
आप उम्मीद करते हैं कि यदि आप बाद में पूछेंगे, "बॉब की पत्नी कौन है?" तो छात्र तुरंत कहेगा, "एलिस।"

लेकिन वर्तमान लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ, ऐसा अक्सर विफल हो जाता है। भले ही मॉडल ने पहला वाक्य पूरी तरह से सीखा हो, लेकिन उल्टा प्रश्न पूछे जाने पर वह अटक जाता है। यह ऐसा है जैसे छात्र ने विशिष्ट वाक्य "एलिस के पति बॉब हैं" को रट लिया हो, लेकिन वह वास्तव में विवाह की अवधारणा या संबंधों के उलटे होने के तरीके को नहीं समझ पाया।

शोधकर्ता इसे "रिवर्सल कर्ज़" (Reversal Curse) कहते हैं। लंबे समय तक, विशेषज्ञों को लगा कि यह इन AI मॉडल्स के निर्माण में एक मौलिक दोष है—जैसे एक ऐसी कार चलाने की कोशिश करना जिसमें केवल एक ही गियर (आगे का) हो। उनका मानना था कि इसे ठीक करने का एकमात्र तरीका या तो मॉडल को स्पष्ट रूप से उल्टा वाक्य ("बॉब की पत्नी एलिस है") सिखाना होगा या कार के पूरे इंजन (मॉडल के आर्किटेक्चर) को बदलना होगा।

समाधान: "आइडेंटिटी ब्रिज" (Identity Bridge)

यह शोध पत्र इस निराशावादी दृष्टिकोण को चुनौती देता है। लेखक कहते हैं: आपको उल्टा वाक्य सिखाने की आवश्यकता नहीं है, और न ही आपको इंजन को फिर से बनाने की आवश्यकता है। आपको बस ट्रेनिंग डेटा में एक छोटा, विशिष्ट प्रकार का "गोंद" (glue) जोड़ने की आवश्यकता है।

वे इस गोंद को "आइडेंटिटी ब्रिज" (Identity Bridge) कहते हैं।

उपमा: दर्पण का जादू (The Mirror Trick)

कल्पना कीजिए कि आप एक बच्चे को दर्पण के बारे में सिखा रहे हैं।

समस्या: आप उन्हें एक व्यक्ति (एलिस) की फोटो दिखाते हैं और कहते हैं, "यह एलिस है।" फिर आप उनके पति (बॉब) की फोटो दिखाते हैं और कहते हैं, "यह बॉब है।" यदि आप पूछते हैं, "बॉब की पत्नी कौन है?" तो वे ठिठक सकते हैं क्योंकि उन्होंने केवल "एलिस -> बॉब" का लिंक देखा था।
आइडेंटिटी ब्रिज: अब, आप पाठ में एक नया, दिखने में मामूली नियम जोड़ते हैं: "एलिस का नाम एलिस है।" और "बॉब का नाम बॉब है।"

ऐसा लगता है कि आप कुछ भी नया नहीं सिखा रहे हैं। बेशक, एलिस का नाम एलिस ही है! लेकिन AI की गणितीय दुनिया में, यह "मामूली" नियम एक रेगुलराइज़र (regularizer) (एक बाधा जो मस्तिष्क को अलग तरह से सोचने के लिए मजबूर करती है) के रूप में कार्य करता है।

मॉडल को यह सिखाने के लिए मजबूर करके कि "एलिस, एलिस को मैप करती है," मॉडल का गणितीय "परिदृश्य" (landscape) बदल जाता है। यह मॉडल को केवल विशिष्ट जोड़ों को रटने के बजाय संबंध के अंतर्निहित ढांचे को समझने के लिए मजबूर करता है। यह ऐसा है जैसे यह महसूस करना कि यदि "एलिस" और "बॉब" जुड़े हुए हैं, और "एलिस" भी "एलिस" से जुड़ी है, तो पूरे सिस्टम को संतुलित करने के लिए "बॉब" और "एलिस" के बीच का संबंध भी मौजूद होना चाहिए।

यह कैसे काम करता है (The "Secret Sauce")

यह शोध पत्र इस "आइडेंटिटी ब्रिज" को काम करने के लिए एक चतुर तकनीक का उपयोग करता है। केवल यह कहने के बजाय कि "एलिस का नाम एलिस है," वे इसे संबंध का उपयोग करके फिर से लिखते हैं।

मानक आइडेंटिटी: "एलिस का नाम एलिस है।" (यह अकेले प्रभावी नहीं रहा)।
"OCR" ट्रिक: वे इसे इस तरह से फिर से लिखते हैं: "एलिस के पति का नाम [बॉब] है।"

रुको, यह तो मूल तथ्य जैसा ही लग रहा है! लेकिन यहाँ जादू है:

ट्रेनिंग डेटा में, वे सिखाते हैं: "एलिस के पति का नाम बॉब है।"
फिर वे टेस्ट करते हैं: "बॉब की पत्नी कौन है?"

इस वाक्य को इस तरह से तोड़कर, मॉडल को "एलिस के पति" को एक एकल इकाई (विषय) के रूप में मानने के लिए मजबूर किया जाता है जिसका एक "नाम" और एक "पत्नी" है। यह समस्या को एक साधारण मेमोरी टेस्ट से बदलकर एक लॉजिक पहेली में बदल देता है जहाँ मॉडल को पहले से ज्ञात जानकारी के विभिन्न टुकड़ों के बीच संबंध जोड़ने की आवश्यकता होती है।

परिणाम: शून्य से नायक तक

शोधकर्ताओं ने इसे दो स्तरों पर परखा:

गणितीय प्रमाण: उन्होंने सिद्ध किया कि एक बहुत ही सरल, एक-परत वाला AI मॉडल (एक "बेबी" AI) भी इस रिवर्सल समस्या को हल कर सकता है यदि आप इसमें "आइडेंटिटी ब्रिज" जोड़ते हैं। इसके बिना, गणित कहता है कि मॉडल फंसा हुआ है; इसके साथ, गणित कहता है कि मॉडल इसे सुलझा सकता है।
वास्तविक दुनिया का परीक्षण: उन्होंने 1-बिलियन पैरामीटर वाले लैंग्वेज मॉडल (एक वास्तविक, उपयोगी AI) को इस नए डेटा रेसिपी के साथ फाइन-ट्यून किया।
- पहले: उल्टा प्रश्न पूछे जाने पर, मॉडल 0% बार सही होता था।
- बाद में: आइडेंटिटी ब्रिज के साथ, मॉडल 50% बार सही होता था।

यह एक बड़ी छलांग है। यह साबित करता है कि "रिवर्सल कर्ज़" AI के लिए भौतिकी का कोई अटूट नियम नहीं है; यह केवल एक ट्रेनिंग संबंधी मुद्दा है जिसे एक चतुर डेटा रेसिपी से ठीक किया जा सकता है।

यह क्यों महत्वपूर्ण है (बिना अतिशयोक्ति के)

यह शोध पत्र यह दावा नहीं करता कि यह AI को तुरंत पूर्ण बना देगा या इसकी हर तर्क संबंधी समस्या को हल कर देगा। यह एक विशिष्ट सीमा को रेखांकित करता है:

मॉडल अभी भी संघर्ष करता है यदि नाम बहुत लंबे हों (जैसे "Catalina" बनाम "34")। छोटे, सरल टोकन मॉडल के लिए उलटना आसान होता है।
मॉडल कभी-कभी एक "शॉर्टकट" सीख लेता है (तर्क के बजाय पैटर्न के आधार पर उत्तर का अनुमान लगाना), जो सफलता दर को 100% के बजाय 50% तक सीमित कर देता है।

संक्षेप में: यह शोध पत्र दिखाता है कि AI की रिश्तों को उलटने की अक्षमता को ठीक करने के लिए आपको पहिए का पुनरुद्धार करने की आवश्यकता नहीं है। आपको बस एक विशिष्ट प्रकार के "स्व-संदर्भित" (self-referential) डेटा (आइडेंटिटी ब्रिज) को जोड़ने की आवश्यकता है जो AI को केवल तथ्यों की सूची रटने के बजाय दुनिया के तार्किक ढांचे को देखने के लिए मजबूर करता है। यह एक एकतरफा सड़क को दो-तरफा सड़क में बदल देता है, बस कुछ अतिरिक्त संकेतों को जोड़कर।

तकनीकी सारांश: आइडेंटिटी ब्रिज के माध्यम से रिवर्सल कर्स को तोड़ना

समस्या विवरण

ऑटोरेग्रेसिव लार्ज लैंग्वेज मॉडल्स (LLMs) एक विशिष्ट विफलता मोड प्रदर्शित करते हैं जिसे "रिवर्सल कर्स" (reversal curse) कहा जाता है। जब इन्हें "A → B" (जैसे, "एलिस के पति बॉब हैं") के रूप में फॉरवर्ड नॉलेज पर प्रशिक्षित किया जाता है, तो ये मॉडल परीक्षण के दौरान रिवर्स रिलेशनशिप "B ← A" (जैसे, "बॉब की पत्नी एलिस हैं") का अनुमान लगाने में विफल रहते हैं। पूर्व शोध ने मुख्य रूप से इसे कॉज़ल ऑटोरेग्रेसिव आर्किटेक्चर की एक मौलिक सीमा के रूप में जिम्मेदार ठहराया है, जो यह सुझाव देता है कि मॉडल उच्च-स्तरीय तार्किक नियमों को पकड़ने के बजाय तथ्यात्मक-स्तर के ज्ञान को याद करने की प्रवृत्ति रखते हैं। मौजूदा शमन रणनीतियों में आमतौर पर स्पष्ट रिवर्स लिंक्स के साथ प्रशिक्षण डेटा को बढ़ाना या प्रशिक्षण उद्देश्य (objective) को संशोधित करना शामिल है, जो अक्सर मानक डेटा पाइपलाइनों से विचलित होने या प्रदर्शन संबंधी समझौतों की कीमत पर होता है।

कार्यप्रणाली

यह शोध पत्र इस विचार को चुनौती देता है कि रिवर्सल कर्स एक अंतर्निहित, अनसुलझी सीमा है। लेखक एक सरल डेटा रेगुलाइजेशन तकनीक प्रस्तावित करते हैं जिसे आइडेंटिटी ब्रिज (Identity Bridge) कहा जाता है, जो मॉडल आर्किटेक्चर, लॉस फंक्शन या ट्रेनिंग पैराडाइम को बदले बिना इस समस्या को हल करता है।

आइडेंटिटी ब्रिज

इस पद्धति में प्रशिक्षण डेटासेट को "A → A" (जैसे, "एलिस का नाम एलिस है" या "एलिस के पति की पत्नी एलिस है") के रूप में कथनों वाले एक "आइडेंटिटी ब्रिज" सेट ( $D_{idn}$ ) के साथ बढ़ाना शामिल है।

डेटा संरचना: प्रशिक्षण सेट में फॉरवर्ड रिलेशन सेट ( $D_{r+}$ ) और आइडेंटिटी ब्रिज सेट ( $D_{idn}$ ) शामिल हैं। महत्वपूर्ण बात यह है कि आइडेंटिटी ब्रिज में स्पष्ट रिवर्स संबंध ( $D_{r-}$ ) नहीं हैं।
सैद्धांतिक तंत्र: लेखक ग्रेडिएंट डिसेंट के इम्प्लिसिट बायस (implicit bias) का उपयोग करते हुए एक-परत वाले डिकोडर-ओनली ट्रांसफॉर्मर का विश्लेषण करते हैं। वे ट्रेनिंग डायनेमिक्स को मार्जिन बाधाओं के अधीन न्यूक्लियर नॉर्म मिनिमाइजेशन समस्या के रूप में मॉडल करते हैं (एक SVM फॉर्मूलेशन)।
- आइडेंटिटी ब्रिज के बिना, फॉरवर्ड डेटा से सीखा गया अनुकूलतम वेट मैट्रिक्स ( $W^F_{OV}$ ) केवल लोअर-लेफ्ट ब्लॉक (फॉरवर्ड नॉलेज) में गैर-शून्य मानों के साथ होगा, जिससे अपर-राइट ब्लॉक शून्य रह जाएगा।
- आइडेंटिटी ब्रिज के साथ, रेगुलाइजेशन मॉडल को डायगोनल ब्लॉक्स पर पॉजिटिव वेट्स सीखने के लिए मजबूर करता है। वेट मैट्रिक्स के न्यूक्लियर नॉर्म को कम करने के लिए और आइडेंटिटी बाधाओं को पूरा करने के लिए, ऑप्टिमाइजेशन लैंडस्केप अपर-राइट ब्लॉक को पॉजिटिव डायगोनल वैल्यूज प्राप्त करने के लिए मजबूर करता है, जो प्रभावी रूप से रिवर्स नॉलेज को एनकोड करता है।
आउट-ऑफ-कॉन्टेक्स्ट रीजनिंग (OCR) से संबंध: शोध पत्र सिद्ध करता है कि आइडेंटिटी ब्रिज द्वारा रेगुलाइज्ड रिवर्सल टास्क गणितीय रूप से एक आउट-ऑफ-कॉन्टेक्स्ट रीजनिंग (OCR) कार्य के समान है। आइडेंटिटी रिलेशन को फॉरवर्ड और रिवर्स संबंधों के संयोजन के रूप में पुनर्गठित करके (उदाहरण के लिए, "नाम" को "पति" और "पत्नी" के संयोजन के रूप में मानना), मॉडल को विभिन्न विषयों के बीच संबंधों को सामान्यीकृत करने के लिए प्रोत्साहित किया जाता है, जैसा कि OCR कार्यों में कार्य करता है।

प्रयोगात्मक सेटअप

लेखक अपने दृष्टिकोण को दो स्तरों पर प्रयोगों के माध्यम से मान्य करते हैं:

सैद्धांतिक सत्यापन: सिंथेटिक डेटा ( $N=10$ जोड़े) के साथ एक-परत वाले ट्रांसफॉर्मर पर प्रयोग पुष्टि करते हैं कि सीखा गया वेट मैट्रिक्स सैद्धांतिक SVM समाधानों से मेल खाता है, जो यह दर्शाता है कि आइडेंटिटी ब्रिज रिवर्स संबंधों तक सामान्यीकरण करने में सक्षम बनाता है जबकि केवल फॉरवर्ड-ओनली ट्रेनिंग ऐसा नहीं कर पाती है।
रियल-वर्ल्ड LLM फाइन-ट्यूनिंग: इस पद्धति को वास्तविक दुनिया के "पति-पत्नी" और "माता-पिता-बच्चा" कार्यों पर Llama-3.2-1B-Instruct मॉडल को फाइन-ट्यून करने के लिए लागू किया गया है।
- डेटा फॉर्मेटिंग: लेखक इस बात पर जोर देते हैं कि प्रभावी होने के लिए आइडेंटिटी ब्रिज को एक विशिष्ट "OCR फॉर्म" में फॉर्मेट किया जाना चाहिए (जैसे, "एलिस के पति का नाम बॉब है") न कि एक साधारण "एलिस का नाम एलिस है" फॉर्मेट में।
- हाइपरपैरामीटर्स: अध्ययन डेटा डुप्लिकेशन (फॉरवर्ड रिलेशंस को $k$ बार दोहराना), एंटिटी टोकन लेंथ और वेट डिके (weight decay) के प्रभाव की जांच करता है।

मुख्य परिणाम

सैद्धांतिक: शोध पत्र सिद्ध करता है कि एक-परत वाला ट्रांसफॉर्मर भी आइडेंटिटी ब्रिज रेगुलाइजेशन के माध्यम से रिवर्सल कर्स को तोड़ सकता है। इस रेगुलाइजेशन के बिना, मॉडल फॉरवर्ड-ओनली डेटा पर ग्रेडिएंट डिसेंट के इम्प्लिसिट बायस के कारण रिवर्स संबंधों तक सामान्यीकरण करने में विफल रहता है।
अनुभवजन्य (सिंथेटिक): एक-परत वाले ट्रांसफॉर्मर प्रयोगों में, आइडेंटिटी ब्रिज जोड़ने से मॉडल सभी रिवर्सल टेस्ट्स तक सामान्यीकरण कर पाता है, जबकि फॉरवर्ड-ओनली बेसलाइन इनिशियलाइजेशन स्तरों पर ही रहती है।
अनुभवजन्य (रियल LLMs):
- प्रस्तावित डेटा रेसिपी के साथ फाइन-ट्यून किया गया 1B पैरामीटर मॉडल रिवर्सल कार्यों पर ~50% सफलता दर प्राप्त करता है।
- इसके विपरीत, केवल फॉरवर्ड-नॉलेज डेटा पर प्रशिक्षित मॉडल लगभग शून्य सफलता दर प्राप्त करते हैं।
- टोकन लेंथ संवेदनशीलता: मॉडल छोटे एंटिटीज (जैसे, 1-टोकन नंबर जो ~100% सटीकता तक पहुँचते हैं) की तुलना में लंबे मल्टी-टोकन नामों (जो ~10% तक गिर जाते हैं) पर काफी बेहतर प्रदर्शन करता है।
- वेट डिके (Weight Decay): एक इष्टतम वेट डिके रेंज (लगभग 0.30 के आसपास) की पहचान की गई है जहाँ सामान्यीकरण अधिकतम (55% सटीकता) होता है, जबकि बहुत कम या बहुत अधिक डिके मान प्रदर्शन में बाधा डालते हैं।
- सीमाएँ: मॉडल कभी-कभी वास्तविक तार्किक तर्क के बजाय "शॉर्टकट" (टोकन कॉपी करना) सीख लेता है, जो सफलता दर को 100% तक पहुँचने से रोकता है।

महत्व और दावे

शोध पत्र रिवर्सल कर्स को समझने और हल करने के लिए एक नवीन सैद्धांतिक आधार प्रदान करने का दावा करता है। इसके प्राथमिक योगदान हैं:

प्रथम नॉन-इनवेसिव समाधान: यह बिना ट्रेनिंग पैराडाइम (आर्किटेक्चर/लॉस) को बदले या प्रशिक्षण डेटा को स्पष्ट रूप से रिवर्स किए, ऑटोरेग्रेसिव LLMs में रिवर्सल कर्स को तोड़ने वाला पहला कार्य है।
सैद्धांतिक अंतर्दृष्टि: यह रिवर्सल कर्स, ग्रेडिएंट डिसेंट में इम्प्लिसिट बायस और आउट-ऑफ-कॉन्टेक्स्ट रीजनिंग (OCR) घटना के बीच संबंध स्थापित करता है, और यह सिद्ध करता है कि एक-परत वाला ट्रांसफॉर्मर सही रेगुलाइजेशन के साथ रिवर्स संबंध सीखने में सैद्धांतिक रूप से सक्षम है।
व्यावहारिक, कम लागत वाला मार्ग: यह विधि एक सिद्धांत आधारित, कम लागत वाली डेटा रेसिपी प्रदान करती है जो LLMs में तार्किक तर्क क्षमताओं में काफी सुधार करती है, जो इस प्रचलित धारणा को चुनौती देती है कि रिवर्सल कर्स कॉज़ल मॉडल्स की एक मौलिक, अपरिवर्तनीय सीमा है।

लेखक निष्कर्ष निकालते हैं कि हालांकि यह पद्धति अत्यधिक प्रभावी है, लेकिन प्राप्त ~50% पास रेट और आदर्श 100% के बीच का अंतर शेष चुनौतियों, विशेष रूप से मल्टी-टोकन एंटिटी रिप्रेजेंटेशन और शॉर्टकट लर्निंग को समाप्त करने के संबंध में संकेत देता है।