🤖 AI

CoDA: Towards Effective Cross-domain Knowledge Transfer via CoT-guided Domain Adaptation

CoDA एक नवीन विधि है जो CoT-निर्देशित फीचर डिस्टिलेशन (feature distillation) और मैक्सिमम मीन ディस्पैरिटी (Maximum Mean Discrepancy) के माध्यम से स्रोत और लक्ष्य डोमेन के बीच लेटेंट रीजनिंग रिप्रेजेंटेशन (latent reasoning representations) को संरेखित करने के लिए एक लाइटवेट एडॉप्टर का उपयोग करके लार्ज लैंग्वेज मॉडल्स में क्रॉस-डोमेन नॉलेज ट्रांसफर को बढ़ाती है, जिससे इन-डोमेन प्रदर्शनों की कमी की सीमाओं को दूर किया जा सकता है और मौजूदा बेसलाइन्स की तुलना में काफी बेहतर प्रदर्शन किया जा सकता है।

मूल लेखक: Jianzhi Yan, Le Liu, Buzhou Tang, Yang Xiang, Dongning Sun, Zhiming Li

प्रकाशित 2026-04-22

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jianzhi Yan, Le Liu, Buzhou Tang, Yang Xiang, Dongning Sun, Zhiming Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ CoDA पेपर का सरल भाषा में अनुवाद दिया गया है, जिसमें रचनात्मक उपमाओं (analogies) का उपयोग किया गया है।

बड़ी समस्या: "विशेषज्ञ" बनाम "नौसिखिया"

कल्पना कीजिए कि आपके पास एक शानदार ग्रैंडमास्टर चेस प्लेयर (Large Language Model या LLM) है। यह खिलाड़ी जटिल तर्क संबंधी पहेलियों को हल करने में माहिर है, लेकिन केवल तभी जब वे उस शतरंज के बोर्ड पर खेल रहे हों जिसे वे अच्छी तरह जानते हैं।

अब, कल्पना कीजिए कि आप इस ग्रैंडमास्टर से Go (एक पूरी तरह से अलग बोर्ड गेम) खेलने के लिए कहते हैं या किसी ऐसे विदेशी कानूनी तंत्र में रहस्य सुलझाने के लिए कहते हैं जहाँ उन्होंने पहले कभी नियम नहीं देखे।

समस्या: यदि आप उनसे बस यह पूछते हैं, "ये रहे Go के नियम, अब खेलो," तो वे भ्रमित हो सकते हैं। वे Go में Chess के तर्क लागू करने की कोशिश करते हैं, और वे विफल हो जाते हैं।
वर्तमान समाधान (In-Context Learning): आमतौर पर, हम ग्रैंडमास्टर की मदद करने के लिए उन्हें शुरू करने से पहले Go के कुछ अच्छे उदाहरण दिखाते हैं। "देखो, एक प्रो Go कैसे खेलता है।"
बाधा (Bottleneck): क्या होगा यदि आप ऐसे क्षेत्र में हैं जहाँ अभी तक किसी ने नियम नहीं लिखे हैं? (जैसे कोई नई चिकित्सा खोज या कोई विशिष्ट कानूनी क्षेत्र)। आप ग्रैंडमास्टर को उदाहरण नहीं दिखा सकते क्योंकि वे मौजूद ही नहीं हैं। आप अन्य खेलों से समान उदाहरण भी नहीं ढूंढ सकते क्योंकि Chess और Go बहुत अलग हैं।

पुराने समाधान (और वे क्यों विफल हुए)

शोधकर्ताओं ने इसे ठीक करने के लिए कुछ चीज़ें आज़माईं, लेकिन उनमें कमियाँ थीं:

रिट्रीवल (लाइब्रेरी सर्च): "आइए किसी दूसरी किताब से एक समान उदाहरण ढूँढते हैं।"
- परिणाम: ग्रैंडमास्टर भ्रमित हो जाता है क्योंकि उदाहरण सतही तौर पर (शब्दों में) समान दिखते हैं लेकिन उनके नीचे का तर्क अलग होता है। यह नाव चलाने के मैनुअल को पढ़कर कार चलाना सीखने जैसा है।
फाइन-ट्यूनिंग (री-स्कूलिंग): "आइए ग्रैंडमास्टर के दिमाग को नए डेटा के साथ फिर से प्रशिक्षित करें।"
- परिणाम: इससे अक्सर "भूलने की बीमारी" (amnesia) हो जाती है। ग्रैंडमास्टर भूल जाता है कि Chess कैसे खेलना है और एक लूप में फंस जाता है, जिससे वह स्पष्ट रूप से सोचने में असमर्थ हो जाता है। वे नए, अजीब डेटा के प्रति ओवरफिट हो जाते हैं और अपनी सामान्य बुद्धिमत्ता खो देते हैं।

नया समाधान: CoDA (द "न्यूरल ट्रांसलेटर")

लेखक CoDA (CoT-guided Domain Adaptation) का प्रस्ताव करते हैं। ग्रैंडमास्टर के दिमाग को बदलने या एकदम सही किताब खोजने के बजाय, वे ग्रैंडमास्टर की सोचने की प्रक्रिया के बीच में एक हल्का (lightweight) ट्रांसलेटर स्थापित करते हैं।

यह कैसे काम करता है, चरण-दर-चरण:

1. "छिपे हुए विचार" (Latent States)

जब ग्रैंडमास्टर सोचता है, तो वह केवल "प्रश्न" से "उत्तर" पर नहीं कूदता। उसके पास आंतरिक विचारों की एक लंबी श्रृंखला (hidden states) होती है जहाँ वह चीजों को समझता है।

समस्या: नए डोमेन (जैसे Go) में, ये आंतरिक विचार अस्त-व्यस्त और अराजक दिखते हैं।
लक्ष्य: हम चाहते हैं कि "Go" के खेल में ग्रैंडमास्टर के आंतरिक विचार बिल्कुल वैसे ही दिखें जैसे उनके "Chess" के खेल में होते हैं।

2. "हल्का एडॉप्टर" (The Lightweight Adapter - द ट्रांसलेटर)

CoDA एक छोटा, समायोज्य उपकरण (एक Adapter) जोड़ता है जो इनपुट और आउटपुट के बीच बैठता है।

इस एडॉप्टर को स्मार्ट चश्मे के रूप में सोचें। जब ग्रैंडमास्टर Go बोर्ड को देखता है, तो चश्मा तुरंत विजुअल डेटा को "Chess लॉजिक" में अनुवादित कर देता है जिसे ग्रैंडमास्टर पहले से ही समझता है।
यह ग्रैंडमास्टर के दिमाग को नहीं बदलता; यह केवल सिग्नल को ग्रैंडमास्टर द्वारा प्रोसेस करने से पहले थोड़ा ट्यून करता है।

3. दो-चरणीय प्रशिक्षण (The Secret Sauce)

इस "स्मार्ट चश्मे" वाले एडॉप्टर को सिखाने के लिए, शोधकर्ता दो विशिष्ट ट्रिक्स का उपयोग करते हैं:

ट्रिक A: "शिक्षक की छाया" (MSE Loss)
- वे एक ऐसी समस्या लेते हैं जहाँ उनके पास उत्तर मौजूद है (Chess)। वे ग्रैंडमास्टर को एक पूर्ण स्पष्टीकरण (Chain-of-Thought) के साथ इसे हल करने के लिए कहते हैं।
- वे इस प्रक्रिया के दौरान ग्रैंडमास्टर के "परफेक्ट इंटरनल थॉट्स" को रिकॉर्ड करते हैं।
- फिर, वे नए डोमेन (Go) से एक समस्या लेते हैं और एडॉप्टर को मजबूर करते हैं कि ग्रैंडमास्टर के आंतरिक विचार "परफेक्ट Chess थॉट्स" जैसे दिखें।
- उपमा: यह एक डांस इंस्ट्रक्टर द्वारा छात्र को यह बताने जैसा है कि, "जब तुम यह नया मूव करो, तो कल्पना करो कि तुम पिछले हफ्ते सीखी हुई परफेक्ट पिरुएट (pirouette) कर रहे हो।"
ट्रिक B: "क्राउड मिक्सर" (MMD Loss)
- कभी-कभी, "Go" के विचार और "Chess" के विचार अभी भी बहुत दूर होते हैं।
- एडॉप्टर एक गणितीय ट्रिक (Maximum Mean Discrepancy) का उपयोग करता है ताकि दोनों समूहों के विचारों को एक-दूसरे के करीब लाया जा सके, जैसे एक DJ दो अलग-अलग म्यूजिक ट्रैक को मिक्स करता है ताकि वे एक सुचारू गाने में मिल सकें।
- उपमा: कल्पना कीजिए कि दो समूहों के लोग अलग-अलग भाषाएँ बोल रहे हैं। एडॉप्टर एक यूनिवर्सल ट्रांसलेटर के रूप में कार्य करता है जो उन सभी को एक "साझा तर्क भाषा" (common logic language) में बोलने के लिए प्रेरित करता है ताकि वे एक-दूसरे को समझ सकें।

परिणाम: ज़ीरो-शॉट मैजिक (Zero-Shot Magic)

एक बार जब यह एडॉप्टर प्रशिक्षित हो जाता है, तो ग्रैंडमास्टर एक पूरी तरह से नए कमरे (बिना किसी उदाहरण और लेबल वाले नए डोमेन) में जा सकता है और समस्याओं को पूरी तरह से हल कर सकता है।

उन्हें फिर से प्रशिक्षित करने की आवश्यकता नहीं है।
उन्हें पहले उदाहरण देखने की आवश्यकता नहीं है।
वे बस "स्मार्ट चश्मे" (एडॉप्टर) पहनते हैं, और अचानक, उनका आंतरिक तर्क उनके सर्वश्रेष्ठ प्रदर्शन के साथ संरेखित (align) हो जाता है।

यह एक बड़ी बात क्यों है?

यह सस्ता है: एडॉप्टर बहुत छोटा है। यह पूरे कंप्यूटर खरीदने के बजाय फोन में एक छोटा ऐप जोड़ने जैसा है।
यह सुरक्षित है: यह ग्रैंडमास्टर के मूल ज्ञान के साथ छेड़छाड़ नहीं करता (कोई "अमनेसिया" नहीं)।
यह हर जगह काम करता है: पेपर ने गणित, तर्क पहेलियों और विज्ञान पर इसका परीक्षण किया। इसने छोटे और बड़े, दोनों मॉडलों पर लगातार सभी पिछले तरीकों को पछाड़ते हुए काम किया।

एक वाक्य में सारांश

CoDA एक छोटा, स्मार्ट टूल है जो मॉडल के आंतरिक विचारों को उसके सर्वोत्तम तर्क पैटर्न से मेल खाने के लिए फिर से लिखता है, जिससे यह बिना किसी उदाहरण या पुन: प्रशिक्षण के बिल्कुल नई समस्याओं को हल करने में सक्षम होता है।

यहाँ शोध पत्र "CoDA: Towards Effective Cross-domain Knowledge Transfer via CoT-guided Domain Adaptation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) ने चेन-ऑफ-थॉट (CoT) प्रॉम्प्टिंग का उपयोग करके तार्किक तर्क (logical reasoning) में महत्वपूर्ण प्रगति की है। हालाँकि, जटिल, मल्टी-हॉप डिडक्शन कार्यों में उनका प्रदर्शन मानव स्तर से पीछे है।

मुख्य सीमा: इन-कॉन्टेक्स्ट लर्निंग (ICL) आमतौर पर प्रदर्शन को बढ़ाने के लिए उच्च-गुणवत्ता वाले, इन-डोमेन उदाहरणों (exemplars) पर निर्भर करती है। वास्तविक दुनिया के परिदृश्यों में (जैसे, कम-संसाधन वाले वैज्ञानिक क्षेत्र, उभरते बायोमेडिकल उपक्षेत्र, विशिष्ट कानूनी क्षेत्राधिकार), ऐसे उच्च-गुणवत्ता वाले इन-डोमेन प्रदर्शन दुर्लभ या गैर-मौजूद होते हैं।
वर्तमान समाधानों की विफलता: सरोगेट प्रदर्शन (surrogate demonstrations) के रूप में क्रॉस-डोमेन नमूनों का उपयोग करने के हालिया प्रयास (जैसे, लॉजिक पहेलियों को हल करने के लिए गणित की समस्याओं को रिट्रीव करना) केवल मामूली लाभ प्रदान करते हैं। यह मुख्य रूप से स्रोत और लक्ष्य वितरणों के बीच प्रकट डोमेन शिफ्ट (pronounced domain shifts) के कारण होता है।
बाधा (The Bottleneck): केवल कच्चे टेक्स्ट प्रॉम्प्टिंग पर निर्भर रहना LLMs को अंतर्नि었던 तर्क पैटर्न को एब्स्ट्रैक्ट और ट्रांसफर करने में मदद करने में विफल रहता है क्योंकि मॉडल अलग-अलग डोमेन के बीच साझा टोपोलॉजिकल संरचनाओं या लेटेंट रीजनिंग लॉजिक को पहचानने में संघर्ष करते हैं। मौजूदा विधियाँ (जैसे, रिट्रीवल या स्टैंडर्ड फाइन-ट्यूनिंग) अक्सर इन गहरे लेटेंट स्पेस को संरेखित करने में विफल रहती हैं, जिससे मोड कोलैप्स (mode collapse) या ओवरफिटिंग होती है।

2. कार्यप्रणाली: CoDA फ्रेमवर्क (Methodology: CoDA Framework)

लेखक CoDA (CoT-guided Domain Adaptation) का प्रस्ताव करते हैं, एक ऐसा फ्रेमवर्क जो मॉडल के इंटरमीडिएट हिडन स्टेट्स (intermediate hidden states) में सीधे हस्तक्षेप करके सतही टेक्स्ट विसंगतियों को दरकिनार करता है। मॉडल के वेट्स (weights) को बदलने या टेक्स्ट रिट्रीवल पर निर्भर रहने के बजाय, CoDA आंतरिक प्रस्तुतियों को मॉड्युलेट करने के लिए एक लाइटवेट न्यूरल एडॉप्टर (lightweight neural adapter) का उपयोग करता है।

यह फ्रेमवर्क तीन चरणों में कार्य करता है:

A. एडेप्टेड रिप्रेजेंटेशन एक्सट्रैक्शन (Adapted Representation Extraction)

LLM को एक फीचर एक्सट्रैक्टर ( $LLM_-$ ) और एक जनरेटर ( $LLM_+$ ) में विभाजित किया गया है।

सोर्स डोमेन (Source Domain): इनपुट प्रश्न से मानक हिडन स्टेट ( $h_S$ ) निकालता है और इनपुट को विशेषज्ञ-क्यूरेटेड CoT तर्क ( $x_S \oplus c_S$ ) के साथ जोड़कर एक "टीचर स्टेट" ( $h^*_S$ ) निकालता है।
टारगेट डोमेन (Target Domain): अनलेबल टारगेट इनपुट से हिडन स्टेट ( $h_T$ ) निकालता है।
एडॉप्टर इंजेक्शन (Adapter Injection): तर्क क्षमताओं को इंजेक्ट करने के लिए रेसिडुअल कनेक्शन के माध्यम से एक नॉन-लीनियर एडॉप्टर ( $A_\theta$ ) लागू किया जाता है:
$z = h + A_\theta(h)$
यह मूल स्टेट्स को एन्हांस्ड स्टेट्स ( $z_S, z_T$ ) में बदल देता है, जिनका उद्देश्य एक साझा रीजनिंग मैनिफोल्ड (reasoning manifold) में निवास करना है।

B. ड्यूल-ऑब्जेक्टिव ऑप्टिमाइजेशन (Dual-Objective Optimization)

एडॉप्टर $A_\theta$ को दो लॉस (loss) से बने एक संयुक्त ऑब्जेक्टिव फंक्शन का उपयोग करके प्रशिक्षित किया जाता है:

रीजनिंग लॉस (MSE): एन्हांस्ड सोर्स स्टेट ( $z_S$ ) को CoT-समृद्ध टीचर स्टेट ( $h^*_S$ ) के करीब लाने के लिए मजबूर करता है। यह विशिष्ट रीजनिंग ट्राजेक्टरी को डिस्टिल (distill) करता है।
$L_{Reason} = ||z_S - h^*_S||^2_2$
डिस्ट्रीब्यूशन अलाइनमेंट लॉस (MMD): एन्हांस्ड सोर्स स्टेट्स ( $Z_S$ ) और एन्हांस्ड टारगेट स्टेट्स ( $Z_T$ ) के बीच मैक्सिमम मीन डिस्क्रिपेंसी (MMD) को कम करता है। यह दोनों डोमेन के लेटेंट डिस्ट्रीब्यूशंस को संरेखित करता है, यह सुनिश्चित करता है कि टारगेट डोमेन सोर्स डोमेन के समान रीजनिंग मैनिफोल्ड साझा करता है।
$L_{MMD} = \text{MMD}(Z_S, Z_T)$

कुल लॉस है: $L = L_{Reason} + \lambda \cdot L_{MMD}$ ।

C. एडेप्टेड इन्फरेंस (Adapted Inference)

अनसीन टारगेट डेटा पर इन्फरेंस के दौरान:

बेस LLM फ्रीज रहता है।
टारगेट इनपुट के हिडन स्टेट पर प्रशिक्षित एडॉप्टर $A_\theta$ लागू किया जाता है।
संशोधित स्टेट को अंतिम रीजनिंग आउटपुट उत्पन्न करने के लिए जनरेटर को पास किया जाता है।
यह बिना किसी टारगेट-डोमेन लेबल या CoT एनोटेशन के जीरो-शॉट (zero-shot) क्रॉस-डोमेन रीजनिंग की अनुमति देता है।

3. प्रमुख योगदान (Key Contributions)

लेटेंट ट्रांसफर बाधाओं की पहचान: पेपर अनुभवजन्य रूप से प्रदर्शित करता है कि सतही प्रॉम्प्टिंग और स्टैटिक एक्टिवेशन इंटरवेंशन क्रॉस-डोमेन CoT ट्रांसफर के लिए अपर्याप्त हैं क्योंकि वे एब्स्ट्रैक्ट रीजनिंग के लिए आवश्यक साझा टोपोलॉजिकल संरचनाओं को कैप्चर करने में विफल रहते हैं।
नया फ्रेमवर्क (CoDA): एक लाइटवेट न्यूरल एडॉप्टर का उपयोग करके लेटेंट रिप्रेजेंटेशन डिस्टिलेशन (Latent Representation Distillation) दृष्टिकोण पेश करता है। यह अनूठे रूप से जोड़ता है:
- फीचर-आधारित डिस्टिलेशन (MSE): टीचर रीजनिंग ट्राजेक्टरीज की नकल करने के लिए।
- कर्नेलइज़्ड डिस्ट्रीब्यूशन अलाइनमेंट (MMD): सोर्स और टारगेट लेटेंट स्पेस को स्पष्ट रूप से संरेखित करने के लिए।
स्टेट-ऑफ-द-आर्ट जीरो-शॉट अडैप्टेशन: बिना टारगेट-डोमेन एनोटेशन के जीरो-शॉट क्रॉस-डोमेन रीजनिंग में महत्वपूर्ण प्रदर्शन सुधार (बेसलाइन्स से 12.3% तक) प्राप्त करता है, जो प्रभावी रूप से पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग (PEFT) में होने वाले मोड कोलैप्स से बचता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने GSM8K, LogicalDeduction, FOLIO, और ProofWriter जैसे डेटासेट्स का उपयोग करके विभिन्न ओपन-सोर्स LLM परिवारों (Gemma-3, Qwen-2.5, Llama-3.1) में 3B से 32B पैरामीटर्स तक CoDA का मूल्यांकन किया।

प्रदर्शन: CoDA ने लगातार स्टेट-ऑफ-द-आर्ट बेसलाइन्स को पछाड़ दिया, जिनमें शामिल हैं:
- रिट्रीवल मेथड्स: (BM25, Embed, ConE, DIN)।
- पैरामीटर-एफिशिएंट फाइन-ट्यूनिंग (PEFT): (LoRA, P-tuning)।
- एक्टिवेशन स्टीयरिंग: (CAA, CoT-Vectors)।
- उदाहरण: Gemma-3-27B पर, CoDA ने 85.0% औसत सटीकता प्राप्त की, जो सर्वश्रेष्ठ रिट्रीवल बेसलाइन (ConE, 82.4%) और जीरो-शॉट (77.2%) से अधिक है।
स्केलेबिलिटी: प्रदर्शन में वृद्धि मॉडल के आकार के साथ बढ़ी (जैसे, Gemma के लिए 12B पर 81.3% से 27B पर 85.0% तक बढ़ना), जो दर्शाता है कि विधि बड़े मॉडल्स में रीजनिंग प्रायर्स (reasoning priors) का प्रभावी ढंग से लाभ उठाती है।
पैरामीटर एफिशिएंसी: CoDA, LoRA की तुलना में काफी अधिक कुशल है। उदाहरण के लिए, 12B मॉडल पर, CoDA ने 80.3% सटीकता प्राप्त करने के लिए 7.4M ट्रेन करने योग्य पैरामीटर्स का उपयोग किया, जबकि LoRA ने केवल 64.0% सटीकता के लिए 32.7M पैरामीटर्स का उपयोग किया।
अलाइनमेंट विश्लेषण: t-SNE विज़ुअलाइज़ेशन और मात्रात्मक मेट्रिक्स (सिलहूट स्कोर, k-NN मिक्सिंग) ने पुष्टि की कि CoDA सफलतापूर्वक सोर्स और टारगेट डिस्ट्रीब्यूशंस को एक साझा रीजनिंग मैनिफोल्ड में मर्ज करता है, जबकि बेसलाइन्स डोमेन सेपरेशन या डिस्टॉर्शन दिखाते हैं।
एब्लेशन स्टडीज: रीजनिंग लॉस या MMD पेनल्टी में से किसी एक को हटाने से प्रदर्शन में महत्वपूर्ण गिरावट आई, जो साबित करता है कि दोनों घटक स्थिर ट्रांसफर के लिए आवश्यक हैं।

5. महत्व (Significance)

डेटा की कमी को हल करना: CoDA उन विशेषज्ञता-दुर्लभ डोमेन में LLMs को लागू करने के लिए एक मजबूत समाधान प्रदान करता है जहाँ इन-डोमेन CoT डेटा एकत्र करना असंभव है।
टेक्स्टुअल प्रॉम्प्टिंग से परे: यह प्रतिमान को "प्रॉम्ट इंजीनियरिंग" से "लेटेंट स्पेस इंजीनियरिंग" में बदल देता है, यह प्रदर्शित करता है कि एब्स्ट्रेक्ट रीजनिंग लॉजिक को ट्रांसफर करने के लिए टेक्स्ट उदाहरणों को रिट्रीव करने की तुलना में हिडन स्टेट्स में हस्तक्षेप करना अधिक प्रभावी है।
दक्षता: पूर्ण फाइन-ट्यूनिंग से बचकर और एक लाइटवेट एडॉप्टर का उपयोग करके, CoDA विशेष, आउट-ऑफ-डिस्ट्रीब्यूशन परिदृश्यों में LLMs को तैनात करने के लिए एक व्यावहारिक, लागत प्रभावी तरीका प्रदान करता है।
सामान्यीकरण (Generalizability): यह विधि विविध मॉडल आर्किटेक्चर और रीजनिंग टास्क में काम करती है, जो फाउंडेशन मॉडल्स में क्रॉस-डोमेन नॉलेज ट्रांसफर के लिए एक मौलिक तंत्र का सुझाव देती है।