🤖 machine learning

A Dialogue between Causal and Traditional Representation Learning: Toward Mutual Benefits in a Unified Formulation

यह शोध पत्र कार्य (task) और बाधा (constraint) घटकों के माध्यम से सीखने को परिभाषित करके, उनके ऐतिहासिक विभाजन को पाटने के लिए कारण संबंधी (causal) और पारंपरिक प्रतिनिधित्व शिक्षण (representation learning) के लिए एक एकीकृत सूत्रीकरण प्रस्तावित करता है, और प्रयोगों के माध्यम से यह प्रदर्शित करता है कि कारण संबंधी बाधाओं की प्रभावशीलता उनके साथ जोड़े गए विशिष्ट कार्यों पर अत्यधिक निर्भर करती है।

मूल लेखक: Yan Li, Yuewen Sun, Shaoan Xie, Gongxu Luo, Yunlong Deng, Kun Zhang, Guangyi Chen

प्रकाशित 2026-05-21

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yan Li, Yuewen Sun, Shaoan Xie, Gongxu Luo, Yunlong Deng, Kun Zhang, Guangyi Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र की व्याख्या दी गई है।

बड़ी तस्वीर: दो विचारधाराएँ

कल्पना कीजिए कि कंप्यूटर को डेटा को "देखने" और "समझने" के लिए सिखाने की दुनिया एक विशाल पुस्तकालय है। लंबे समय से, यह पुस्तकालय दो अलग-अलग पंखों में विभाजित है जो शायद ही कभी एक-दूसरे से बात करते हैं:

"व्यावहारिक" पंख (पारंपरिक प्रतिनिधित्व शिक्षण - Traditional Representation Learning): ये शोधकर्ता महारत हासिल करने वाले रसोइयों (Master Chefs) की तरह हैं। उन्हें अंतिम व्यंजन (परिणाम) की परवाह होती है। यदि कंप्यूटर वीडियो के अगले फ्रेम की भविष्यवाणी कर सकता है या फोटो में बिल्ली की पहचान कर सकता है, तो वे इसे सफलता मानते हैं। वे इस बात पर ध्यान केंद्रित करते हैं कि कंप्यूटर क्या सीखता है, और अक्सर सबसे अच्छा नुस्खा खोजने के लिए परीक्षण और त्रुटि (trial and error) का उपयोग करते हैं।
"सैद्धांतिक" पंख (कारण संबंधी प्रतिनिधित्व शिक्षण - Causal Representation Learning): ये शोधकर्ता वास्तुकारों और भौतिकविदों (Architects and Physicists) की तरह हैं। उन्हें इस बात की परवाह है कि इमारत क्यों खड़ी है। वे चाहते हैं कि कंप्यूटर दुनिया के अंतर्निहित नियमों को समझे (जैसे, "यदि मैं इस ब्लॉक को धकेलता हूँ, तो यह गुरुत्वाकर्षण के कारण गिर जाता है")। वे इस बात पर ध्यान केंद्रित करते हैं कि क्या कंप्यूटर ने वास्तव में डेटा के पीछे के छिपे हुए कारणों को सीखा है, न कि केवल पैटर्न को रटा है।

समस्या: रसोइया और वास्तुकार अलग-अलग भाषाएं बोलते हैं। रसोइया "लॉस फंक्शन" (loss functions) और "सटीकता" (accuracy) की बात करते हैं, जबकि वास्तुकार "पहचान योग्यता" (identifiability) और "हस्तक्षेप" (interventions) की बात करते हैं। क्योंकि वे आपस में बात नहीं करते, इसलिए वे कभी-कभी एक ही पहिये को दोबारा बनाने में लग जाते हैं या दूसरे पक्ष के बेहतरीन विचारों को खो देते हैं।

समाधान: एक एकीकृत ब्लूप्रिंट

इस शोध पत्र के लेखक एक ही ब्लूप्रिंट का उपयोग करके दोनों क्षेत्रों को देखने का एक नया तरीका प्रस्तावित करते हैं। वे कहते हैं कि कंप्यूटर को सिखाने के प्रत्येक तरीके को दो सरल भागों में तोड़ा जा सकता है:

कार्य (The "What"): कंप्यूटर क्या हासिल करने की कोशिश कर रहा है? क्या वह वाक्य में अगला शब्द बताने की कोशिश कर रहा है? एक धुंधली छवि को पुनर्गठित करने की? या एक लेबल की भविष्यवाणी करने की? यह लक्ष्य (Goal) है।
प्रतिबंध (The "How"): सीखते समय कंप्यूटर को किन नियमों का पालन करना चाहिए? क्या उसे किसी भी अव्यवस्थित आंतरिक तर्क का उपयोग करने की अनुमति है, या उसे विशिष्ट संरचनाओं (जैसे कारण-और-प्रभाव का एक विशिष्ट मानचित्र) का पालन करना चाहिए? यह संरचना (Structure) है।

उपमा: गाड़ी चलाना सीखने के बारे में सोचें।

कार्य (Task) बिंदु A से बिंदु B तक पहुँचना है।
प्रतिबंध (Constraint) यह नियम है कि आपको अपनी लेन में रहना होगा और ट्रैफिक लाइटों का पालन करना होगा।
पारंपरिक शिक्षण बिंदु B तक तेज़ी से पहुँचने पर बहुत अधिक ध्यान केंद्रित करता है, कभी-कभी काम पूरा होने पर लेन के नियमों की अनदेखी भी कर देता है।
कारण संबंधी शिक्षण (Causal learning) लेन के नियमों पर बहुत अधिक ध्यान केंद्रित करता है, यह सुनिश्चित करता है कि कार इस तरह से चले जो तब भी समझ में आए जब सड़क की स्थितियाँ बदल जाएँ (जैसे कि बारिश होने लगे)।

"अहा!" क्षण: उन्हें एक-दूसरे की ज़रूरत है

शोध पत्र का तर्क है कि इन दोनों पंखों को एक-दूसरे को अनदेखा करना बंद कर देना चाहिए और सहयोग करना शुरू करना चाहिए।

वास्तुकार (Causal) रसोइयों (Traditional) को क्या देते हैं: वे एक सैद्धांतिक मानचित्र प्रदान करते हैं जिससे यह पता चलता है कि सख्त नियम वास्तव में कब आवश्यक हैं।
- उदाहरण: एक रोबोटिक हाथ के हिलने वाले वीडियो की कल्पना करें। यदि हाथ के जोड़ एक के बाद एक चलते हैं (समय-विलंब के साथ), तो एक साधारण "लक्ष्य तक पहुँचने" वाला कार्य पर्याप्त हो सकता है। लेकिन यदि जोड़ एक साथ चलते हैं और एक-दूसरे को तुरंत प्रभावित करते हैं, तो एक साधारण लक्ष्य पर्याप्त नहीं है। कंप्यूटर एक ऐसा "नुस्खा/ट्रिक" सीख सकता है जो वीडियो के लिए तो काम करता है लेकिन विफल हो जाता है यदि आप रोबोट को नियंत्रित करने की कोशिश करते हैं। कारण संबंधी पंख कहता है, "हे, इस विशिष्ट स्थिति में, आपको एक संरचनात्मक नियम की आवश्यकता है ताकि कंप्यूटर एक नकली ट्रिक न सीख ले।"
रसोइया (Traditional) वास्तुकारों (Causal) को क्या देते हैं: वे व्यावहारिक सलाह देते हैं कि "कार्य" को कैसे डिज़ाइन किया जाए ताकि कंप्यूटर वास्तव में सही चीज़ सीख सके।
- उदाहरण: कारण संबंधी पंख कह सकता है, "हमें कंप्यूटर को कारण और प्रभाव को समझने की आवश्यकता है।" लेकिन उन्हें यह नहीं पता हो सकता कि कंप्यूटर से यह कैसे पूछा जाए। पारंपरिक पंख कहता है, "इसे छवि के लापता हिस्से को पुनर्गठित करने के लिए कहें, या इसे भविष्य के फ्रेम की भविष्यवाणी करने के लिए कहें।" शोध पत्र सुझाव देता है कि आपके द्वारा चुना गया कार्य का प्रकार बदल देता है कि कारण संबंधी नियम कितने प्रभावी ढंग से काम करते हैं।

प्रयोग: नुस्खे का परीक्षण

इसे सिद्ध करने के लिए, शोधकर्ताओं ने CausalVerse नामक एक कृत्रिम दुनिया (एक वीडियो गेम जैसा वातावरण जहाँ वे जानते हैं कि "भौतिकी" कैसे काम करती है) का उपयोग करके एक प्रयोग चलाया।

उन्होंने एक मानक Causal Learning पद्धति (जो डेटा कैसे उत्पन्न होता है इसके बारे में सख्त नियमों का उपयोग करती है) को ली और इसे विभिन्न कार्यों (Tasks) के साथ परखा:

कार्य A: छवि का पुनर्निर्माण करना (एक पहेली की तरह)।
कार्य B: अगले फ्रेम की भविष्यवाणी करना (एक वीडियो की तरह)।
कार्य C: कंट्रास्टिव लर्निंग (विभिन्न दृश्यों के बीच समानताएं खोजना)।
कार्य D: मास्क किया गया प्रेडिक्शन (लापता हिस्सों का अनुमान लगाना)।

परिणाम:
यह सामने आया कि "कारण संबंधी नियम" (Causal Rules) हर कार्य के साथ समान रूप से काम नहीं करते थे।

जब उन्होंने Causal नियमों को कंट्रास्टिव लर्निंग (समानताएं खोजने) के साथ जोड़ा, तो कंप्यूटर ने दुनिया की सबसे सटीक और बेहतर समझ विकसित की।
जब उन्होंने उसी Causal नियम को मास्क्ड रिकंस्ट्रक्शन (लापता हिस्सों का अनुमान लगाने) के साथ जोड़ा, तो कंप्यूटर का प्रदर्शन बहुत खराब रहा, भले ही नियम समान थे।

निष्कर्ष

शोध पत्र निष्कर्ष निकालता है कि आप केवल एक "Causal Rule" डिज़ाइन नहीं कर सकते और उम्मीद नहीं कर सकते कि यह हर जगह काम करेगा। जादू संयोजन (Combination) में होता है।

मुख्य बात: जैसे एक अच्छे भोजन के लिए सही सामग्री (Task) और सही खाना पकाने की विधि (Constraint) दोनों की आवश्यकता होती है, वैसे ही एक अच्छे AI प्रतिनिधित्व के लिए सही सीखने का लक्ष्य (Learning Goal) और सही संरचनात्मक नियम (Structural Rules) चाहिए।
भविवीष्य: "Causal" और "Traditional" को दुश्मन या अलग क्षेत्र मानने के बजाय, शोधकर्ताओं को इन्हें मिलाना और इनका मिलान करना चाहिए। यह जानने के लिए कि नियम कब जोड़ने हैं, Causal लर्निंग के सैद्धांतिक उपकरणों का उपयोग करें, और उन नियमों को सिखाने के लिए सर्वोत्तम कार्य डिज़ाइन करने के लिए Traditional लर्निंग के व्यावहारिक उपकरणों का उपयोग करें।

संक्षेप में: केवल इंजन (Causal) न बनाएँ; यह भी सुनिश्चित करें कि आप सही सड़क (Task) पर चल रहे हैं।

तकनीकी सारांश: कॉज़ल (Causal) और पारंपरिक प्रतिनिधित्व शिक्षण (Traditional Representation Learning) के बीच एक संवाद

समस्या विवरण

कॉज़ल रिप्रेजेंटेशन लर्निंग (CRL) और पारंपरिक प्रतिनिधित्व शिक्षण ऐतिहासिक रूप से अलग-अलग पथों पर विकसित हुए हैं। पारंपरिक विधियाँ मुख्य रूप से अनुप्रयोगों और अनुभवजन्य उद्देश्यों (जैसे, भविष्यवाणी सटीकता, पुनर्निर्माण निष्ठा) द्वारा संचालित होती हैं, जो कंट्रास्टिव लर्निंग, मास्क्ड ऑटोएनकोडिंग और ट्रांसफॉर्मेशन प्रेडिक्शन जैसे विविध कार्य स्वरूपों का उपयोग करती हैं। इसके विपरीत, CRL अधिक सिद्धांत-संचालित है, जो आइडेंटिफिएबिलिटी (identifiability), स्ट्रक्चरल कॉज़ल मॉडल्स और लेटेंट कॉज़ल फैक्टर्स की रिकवरी पर केंद्रित है।

इस विचलन ने शब्दावली, समस्या के स्वरूप और मूल्यांकन मानकों में एक अंतर पैदा कर दिया है। फलस्वरूप, दोनों क्षेत्र अक्सर सफलता के असंबद्ध मानकों के साथ संबंधित प्रश्नों का उपचार करते हैं, जिससे दोहराव वाले प्रयास और सीमित क्रॉस-पॉलिनेशन होता है। मूल समस्या जिसे संबोधित किया गया है वह यह है कि "कार्य" (क्या जानकारी सुरक्षित रखनी है) और "प्रतिबंध" (क्या संरचना लागू करनी है) दोनों प्रतिमानों में कैसे परस्पर क्रिया करते हैं, इसे समझने के लिए एक एकीकृत ढांचे की कमी है, और विशेष रूप से, क्या CRL के सैद्धांतिक उपकरण और पारंपरिक शिक्षण के व्यावहारिक अंतर्दृष्टि एक-दूसरे के लिए लाभकारी हो सकते हैं।

कार्यप्रणाली: एक एकीकृत स्वरूप

लेखक एक एकीकृत स्वरूप (unified formulation) प्रस्तावित करते हैं जो प्रतिनिधित्व शिक्षण को दो विशिष्ट घटकों के माध्यम से अभिलक्षित करता है:

कार्य घटक (Task Component): यह निर्दिष्ट करता है कि सीखा गया प्रतिनिधित्व $Z$ किस जानकारी को संरक्षित करने के लिए आवश्यक है। इसे व्यू-जेनरेशन प्रक्रिया $v(X)$ , लक्ष्य संकेत $T(X)$ , और संबद्ध कार्य हानि $L_{task}$ द्वारा परिभाषित किया जाता है।
प्रतिबंध घटक (Constraint Component): यह निर्दिष्ट करता है कि लेटेंट स्पेस पर क्या संरचना लागू की जाती है। इसे एक प्रतिबंध फलन $\Omega$ और इसके भार $\lambda$ द्वारा परिभाषित किया जाता है।

सामान्य शिक्षण उद्देश्य को इस प्रकार सूत्रित किया गया है:
$\min_{\theta, \phi} \mathbb{E}_{X, \tilde{X} \sim v(X)} \left[ L_{task}(g_\phi(Z), T(X)) + \lambda \Omega(Z, X) \right]$
जहाँ $Z = f_\theta(\tilde{X})$ ।

एकीकृत ढांचे के तहत वर्गीकरण

पारंपरिक प्रतिनिधित्व शिक्षण: मुख्य रूप से कार्य घटक पर ध्यान केंद्रित करता है।
- कार्य-संचालित विधियाँ: इसमें लक्ष्य भविष्यवाणी (सुपरवाइज्ड), पुनर्निर्माण (ऑटोएनकोडर्स), आंशिक सूचना भविष्यवाणी (मास्क्ड मॉडलिंग), ट्रांसफॉर्मेशन करेक्शन (प्रीटेक्स्ट टास्क), कंट्रास्टिव लर्निंग, और क्लस्टर/प्रोटोटाइप लर्निंग शामिल हैं। ये मुख्य रूप से व्यू $\tilde{X}$ और लक्ष्य $T(X)$ के चयन में भिन्न होते हैं।
- जेनेरिक प्रतिबंध: कुछ पारंपरिक विधियाँ लेटेंट स्पेस को आकार देने के लिए गैर-कॉज़ल प्रतिबंध $\Omega_{gen}$ जोड़ती हैं, जैसे कि कंप्रेशन (इन्फॉर्मेशन बॉटलनेक), डिस्ट्रीब्यूशन अलाइनमेंट (VAEs), स्पैरसिटी (sparsity), एनर्जी-बेस्ड प्रेफरेंस, या डिस्क्रिटनेस (क्वांटाइजेशन)।
कॉज़ल रिप्रेजेंटेशन लर्निंग (CRL): स्ट्रक्चर्ड कॉज़ल कंस्ट्रेंट्स $\Omega_{causal}$ $Ω_{c a u s a l}$ द्वारा विशिष्ट है।
- CRL में कार्य घटक कोई भी मानक उद्देश्य (पुनर्निर्माण, कंट्रास्टिव, आदि) हो सकता है।
- इसकी परिभाषित विशेषता कॉज़ल प्रतिबंध है, जो प्रतिनिधित्व को लेटेंट कॉज़ल मैकेनिज्म के साथ संरेखित करती है। श्रेणियों में शामिल हैं:
  - स्पार्स मैकेनिज्म कंस्ट्रेंट्स: अनुमानित कॉज़ल ग्राफ में घने डिपेंडेंसीज को दंडित करना।
  - कंडीशनल-प्रायर कंस्ट्रेंट्स: लेटेंट डिस्ट्रीब्यूशन को सहायक वेरिएबल्स (जैसे, डोमेन, समय) पर आधारित एक स्ट्रक्चर्ड प्रायर के साथ संरेखित करना।
  - इनवेरिएंस और इंटरवेंशन कंस्ट्रेंट्स: विभिन्न वातावरणों या हस्तक्षेपों के बीच इनवेरिएंट स्टैटिस्टिक्स के सामंजस्य को लागू करना।
  - फंक्शनल कंस्ट्रेंट्स: जेनेरेटिव प्रोसेस पर स्ट्रक्चरल बायस लागू करना (जैसे, एडिटिव डिकोडर्स, ऑब्जेक्ट-सेंट्रिक स्लॉट्स)।

मुख्य योगदान

एकीकृत स्वरूप: पेपर दोनों पारंपरिक और कॉज़ल प्रतिनिधित्व शिक्षण को वर्णित करने के लिए एक सामान्य भाषा (कार्य + प्रतिबंध) पेश करता है, यह स्पष्ट करते हुए कि CRL एक अलग प्रतिमान नहीं है बल्कि स्ट्रक्चर्ड कंस्ट्रेंट्स के साथ प्रतिनिधित्व शिक्षण का एक विशिष्ट उदाहरण है।
पारस्परिक लाभ विश्लेषण:
- CRL $\to$ पारंपरिक: यह समझने के लिए सैद्धांतिक उपकरण प्रदान करता है कि स्ट्रक्चर्ड कंस्ट्रेंट्स कब आवश्यक हैं। लेखक तर्क देते हैं कि कार्य पर्याप्तता (जैसे, अच्छी भविष्यवाणी प्रदर्शन) सही लेटेंट संरचना की रिकवरी की गारंटी नहीं देती है, विशेष रूप से इंस्टेंटेनियस रिलेशंस या एंटैंगल्ड फैक्टर्स की उपस्थिति में।
- पारंपरिक $\to$ CRL: कार्य डिजाइन पर व्यावहारिक अंतर्दृष्टि प्रदान करता है। पेपर का मानना है कि एक कॉज़ल प्रतिबंध की प्रभावशीलता आंतरिक नहीं है बल्कि इस बात पर बहुत अधिक निर्भर करती है कि उसे किस कार्य उद्देश्य के साथ जोड़ा गया है।
अनुभवजन्य सत्यापन: लेखक फिक्स्ड कॉज़ल कंस्ट्रेंट्स के साथ कार्य घटकों की परस्पर क्रिया का परीक्षण करने के लिए CausalVerse बेंचमार्क पर प्रयोग करते हैं।

प्रयोगात्मक परिणाम

अध्ययन यह मूल्यांकन करता है कि फिक्स्ड कॉज़ल कंस्ट्रेंट्स के साथ जोड़े जाने पर विभिन्न कार्य उद्देश्य CRL विधियों के प्रदर्शन को कैसे प्रभावित करते हैं। प्रयोग दो सेटिंग्स में किए गए थे: वीडियो (रोबोटिक्स स्टडी, 57D लेटेंट) और इमेज (बॉल ऑन द स्लोप, 7D लेटेंट)।

कार्य-प्रतिबंध परस्पर क्रिया (Task-Constraint Interaction): कॉज़ल कंस्ट्रेंट्स की प्रभावशीलता जुड़े हुए कार्य के आधार पर काफी भिन्न होती है।
- वीडियो और इमेज दोनों सेटिंग्स में, कंट्रास्टिव लर्निंग ने कॉज़ल कंस्ट्रेंट्स के साथ मिलकर उच्चतम प्रदर्शन (मीन कोरिलेशन कोएफिशिएंट (MCC) और $R^2$ द्वारा मापा गया) हासिल किया।
- पुनर्निर्माण-आधारित कार्य (जो कई CRL बेसलाइन्स में मानक हैं) मध्यम स्तर पर अच्छा प्रदर्शन करते हैं लेकिन कंट्रास्टिव दृष्टिकोणों द्वारा पीछे छोड़ दिए जाते हैं।
- मिड-लेटेंट रिकंस्ट्रक्शन और मास्क्ड रिकंस्ट्रक्शन (वीडियो सेटिंग में) काफी खराब प्रदर्शन करते हैं, बावजूद इसके कि वे समान कॉज़ल कंस्ट्रेंट्स का उपयोग करते हैं।
मोडैलिटी अंतर: कार्य के चुनाव का प्रभाव वीडियो सेटिंग में अधिक स्पष्ट था, जो संभवतः उच्च आयामीता (dimensionality) और टेम्पोरल डिपेंडेंसीज के कारण है, जिन्हें कार्य उद्देश्य से मजबूत इंडक्टिव बायस की आवश्यकता होती है।
प्रयोगों से निष्कर्ष: कॉज़ल कंस्ट्रेंट्स अकेले अंतर्निहित लेटेंट संरचना की रिकवरी की गारंटी देने के लिए पर्याप्त नहीं हैं। एक अच्छी तरह से मेल खाने वाले कार्य और प्रतिबंध का संयोजन निर्णायक है।

महत्व और दावे

पेपर का दावा है कि CRL और पारंपरिक प्रतिनिधित्व शिक्षण के बीच के अंतर को पाटना क्षेत्र को आगे बढ़ाने के लिए आवश्यक है।

सैद्धांतिक अंतर्दृष्टि: यह इस धारणा को चुनौती देता है कि बेहतर कॉज़ल कंस्ट्रेंट्स डिजाइन करना ही CRL को सुधारने का एकमात्र रास्ता है। इसके बजाय, यह इस बात पर प्रकाश डालता है कि कार्य घटक एक समान महत्वपूर्ण डिजाइन विकल्प है।
व्यावहारिक मार्गदर्शन: चिकित्सकों के लिए, निष्कर्ष बताते हैं कि CRL विधियों को लागू करते समय, उन्हें कार्य उद्देश्य को एक निश्चित डिफॉल्ट (जैसे, हमेशा पुनर्निर्माण का उपयोग करना) के रूप में नहीं मानना चाहिए। इसके बजाय, कार्य को व्यवस्थित रूप से चुना जाना चाहिए ताकि वह विशिष्ट कॉज़ल कंस्ट्रेंट्स के पूरक के रूप में कार्य कर सके।
भविष्य की दिशा: लेखक विनम्रतापूर्वक नोट करते हैं कि कार्य घटकों का उनका विश्लेषण वर्तमान में अनुभवजन्य अवलोकनों पर आधारित है। इष्टतम कार्य-प्रतिबंध संयोजनों के चयन के लिए एक सिद्धांतित सिद्धांत भविष्य के कार्य के लिए एक खुला विषय बना हुआ है।

पेपर निष्कर्ष निकालता है कि एक एकीकृत दृष्टिकोण दोनों क्षेत्रों को अलग-थलग प्रयासों से आगे बढ़ने की अनुमति देता है, जिससे वास्तविक दुनिया के अनुप्रयोगों में बेहतर कॉज़ल डिसेंटैंगलमेंट प्राप्त करने के लिए पारंपरिक प्रतिनिधित्व शिक्षण की अनुभवजन्य मजबूती और CRL की सैद्धांतिक कठोरता का लाभ उठाया जा जा सके।