🤖 machine learning

Causal Variational Deep Embedding: A Family of Interventional Generators for Confounded Images

यह शोध पत्र CauVaDE का प्रस्ताव करता है, जो एक मिश्रण वेरिएशनल ऑटोएन्कोडर (mixture variational autoencoder) ढांचा है जो अव्यक्त अनऑब्जर्व्ड कन्फाउंडर्स (unobserved confounders) को विविक्त लेटेंट क्लस्टर्स (discrete latent clusters) के रूप में मॉडल करता है ताकि अवलोकनात्मक डेटा (observational data) के अनुरूप इंटरवेंशनल डिस्ट्रीब्यूशन्स का एक विविध परिवार उत्पन्न किया जा सके, जिससे अत्यधिक प्रतिबंधात्मक संरचनात्मक धारणाओं पर निर्भर किए बिना इमेज जनरेशन में स्प्यूरियस एसोसिएशंस (spurious associations) को संबोधित किया जा सके।

मूल लेखक: Jingyuan Chen, Kangrui Ruan, Junzhe Zhang

प्रकाशित 2026-06-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jingyuan Chen, Kangrui Ruan, Junzhe Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को चित्र बनाना सिखाने की कोशिश कर रहे हैं। आप उसे एक विशाल फोटो एल्बम दिखाते हैं जहाँ लाल कार की हर तस्वीर एक घास के मैदान पर खड़ी है, और नीली कार की हर तस्वीर कंक्रीट पर खड़ी है।

रोबोट इस पैटर्न को पूरी तरह से सीख लेता है। लेकिन यहाँ एक पेंच है: कारों का इस तरह साथ होना इसलिए नहीं है क्योंकि लाल कारों को घास की ज़रूरत है। बल्कि इसलिए है क्योंकि फोटोग्राफर (एक छिपा हुआ कारक जिसे हम नहीं जानते थे) ने केवल पार्क में लाल कारों की तस्वीरें लीं और शहर में नीली कारों की तस्वीरें लीं। फोटोग्राफर ही वह "कन्फाउंडर" (confounder) है।

यदि आप रोबطोट से पूछते हैं, "मुझे कंक्रीट पर एक लाल कार बनाकर दिखाओ," तो एक मानक AI कह सकता है, "मैं यह नहीं कर सकता। मेरे प्रशिक्षण में, लाल कारें हमेशा घास पर होती हैं।" वह उस सहसंबंध (correlation) में फंस जाता है। उसे यह समझ नहीं आता कि प्रकृति का नियम क्या है और डेटा का संयोग क्या है।

यह शोध पत्र, CAUVADE, AI को प्रशिक्षित करने का एक नया तरीका पेश करता है ताकि यह इन संयोगों से मुक्त हो सके और छवियों के पीछे के वास्तविक "कारण और प्रभाव" (cause and effect) को समझ सके।

समस्या: रोबोट का "ब्लाइंड स्पॉट" (अंधा कोना)

लेखक बताते हैं कि अधिकांश AI मॉडल उन छात्रों की तरह हैं जो अवधारणाओं को समझे बिना केवल पाठ्यपुस्तक को रट लेते हैं। यदि पाठ्यपुस्तक में कोई गलती है (जैसे लाल कार/घास का संबंध), तो छात्र उस गलती को दोहराता है।

वास्तविक दुनिया में, हम अक्सर "फोटोग्राफर" (छिपे हुए कन्फाउंडर) को देख नहीं पाते हैं। क्योंकि हम उन्हें देख नहीं सकते, इसलिए हम 100% निश्चित नहीं हो सकते कि "असली" तस्वीर कैसी दिखती है।

पुराना AI: एक विशिष्ट उत्तर का अनुमान लगाता है (जैसे, "लाल कारें निश्चित रूप से घास पर होती हैं") और उसी पर टिका रहता है, भले ही वह गलत हो।
लक्ष्य: एक उत्तर का अनुमान लगाने के बजाय, AI को यह स्वीकार करना चाहिए कि, "मुझे सटीक सत्य तो नहीं पता, लेकिन मैं जानता हूँ कि उत्तर इस सीमा के भीतर कहीं है।"

समाधान: "मिस्ट्री बॉक्स" दृष्टिकोण

लेखकों ने CAUVADE नामक एक विधि प्रस्तावित की है। यह कैसे काम करती है, इसके लिए एक सरल उपमा देखें:

1. "मिस्ट्री बॉक्स" (डिस्क्रीट क्लस्टर)

कल्पना कीजिए कि छिपा हुआ फोटोग्राफर केवल एक व्यक्ति नहीं है, बल्कि अलग-अलग लोगों का एक समूह है, जिनमें से प्रत्येक की अपनी शैली है। AI एक "मिस्ट्री बॉक्स" बनाता है जिसमें कुछ खांचे (मान लीजिए 10) होते हैं।

खांचा A: उन फोटोग्राफरों का प्रतिनिधित्व करता है जो पार्कों को पसंद करते हैं।
खांचा B: उन फोटोग्राफरों का प्रतिनिधित्व करता है जो शहरों को पसंद करते हैं।
खांचा C: उन फोटोग्राफरों का प्रतिनिधित्व करता है जो समुद्र तटों को पसंद करते हैं।

AI को यह नहीं पता कि कोई विशिष्ट फोटो किस खांचे से आई है। उसे अनुमान लगाना पड़ता है।

2. "वॉल्यूम नॉब" (एन्ट्रॉपी रेगुलराइज़र)

यही असली जादू है। AI के पास एक नियंत्रण नॉब है जिसे गामा ( $\gamma$ ) कहा जाता है।

नॉब पूरी तरह से नीचे की ओर: AI को बहुत निश्चित होने के लिए मजबूर किया जाता है। वह हर फोटो को एक विशिष्ट खांचे में डाल देता है। यह एक मानक AI की तरह कार्य करता है, जो आपको केवल एक ही उत्तर देता है।
नॉब ऊपर की ओर: AI को "भ्रमित" या "फैला हुआ" होने के लिए प्रोत्साहित किया जाता है। वह महसूस करता है कि एक फोटो कई अलग-अलग खांचों में फिट हो सकती है।

इस नॉब को घुमाकर, AI अलग-अलग उत्तरों का एक परिवार तैयार करता है।

एक सेटिंग पर, यह कह सकता है, "यदि मैं एक लाल कार को कंक्रीट पर रखने के लिए मजबूर करता हूँ, तो शायद फोटोग्राफर 'सिटी' समूह से था।"
दूसरी सेटिंग पर, यह कह सकता है, "शायद फोटोग्राफर 'पार्क' समूह से था, लेकिन वे बस कंक्रीट पर आ गए थे।"

इससे क्या हासिल होता है?

एक ऐसा चित्र देने के बजाय जो गलत हो सकता है, CAUVADE आपको संभावनाओं का एक स्पेक्ट्रम देता है।

इसे मौसम के पूर्वानुमान की तरह सोचें।

पुराना AI: "दोपहर 2 बजे निश्चित रूप से बारिश होगी।" (यदि वह गलत हुआ, तो AI मूर्ख लगेगा)।
CAUVADE: "डेटा के आधार पर, दोपहर 1 बजे और 4 बजे के बीच कहीं भी बारिश संभव है, और यहाँ 1, 2, 3 और 4 बजे के बादलों की स्थिति दी गई है।"

यह शोध पत्र गणितीय रूप से सिद्ध करता है कि यह "स्पेक्ट्रम" उन सभी संभावित वास्तविकताओं को कवर करता है जिन्होंने उन तस्वीरों को बनाया होगा। यह केवल एक अनुमान नहीं लगाता; यह उस पूरे "व्यवहार्य क्षेत्र" (feasible region) का मानचित्र बनाता है जो सच हो सकता है।

परिणाम: सिद्धांत का परीक्षण

लेखकों ने इसे तीन अलग-अलग "फोटो एल्बमों" पर परखा:

डिजिट नंबर्स (Color-MNIST): उन्होंने एक नकली डेटा बनाया जहाँ संख्या "1" हमेशा हरी थी और "0" हमेशा नीली थी।
- मानक AI ने हरे/नीले के लिंक को बनाए रखा।
- CAUVADE ने, नॉब को घुमाकर, सफलतापूर्वक नीले रंग के "1" और हरे रंग के "0" उत्पन्न किए, जिससे पता चला कि वह समझ गया कि यह लिंक वास्तविक नहीं था।
सेलिब्रिटी चेहरे (CelebA): उन्होंने "युवा" होने और "भारी मेकअप" पहनने के बीच के संबंध को देखा। उनके डेटा में, आकर्षक उम्रदराज लोग मेकअप पहनते थे, जिससे AI भ्रमित हो गया।
- CAUVADE ने पता लगाया कि "युवा" होना मेकअप का कारण नहीं है, और उसने प्राकृतिक दिखने वाले चेहरे उत्पन्न किए जिनमें वह अजीब पूर्वाग्रह नहीं था।
एक्स-रे (MIMIC-CXR-JPG): उन्होंने "निमोनिया" और "लंग ओपेसिटी" (फेफड़ों का धुंधलापन) के बीच के संबंध को देखा। उनके डेटा में, पीठ के बल लेटे हुए बीमार मरीजों के फेफड़े अधिक खराब दिख रहे थे।
- मानक AI ने सोचा कि निमोनिया ने खराब दिखने का कारण पैदा किया।
- CAUVADE ने इसे सुधारा, जिससे ऐसे एक्स-रे उत्पन्न हुए जो अन्य मॉडलों की तुलना में "सत्य" (एक संतुलित, निष्पक्ष दृश्य) के बहुत करीब थे।

मुख्य निष्कर्ष

CAUVADE अनिश्चितता को स्वीकार करने वाला एक उपकरण है। जब डेटा अव्यवस्थित हो, तो एक एकल, संभावित रूप से पक्षपाती उत्तर चुनने के लिए AI को मजबूर करने के बजाय, यह "मिस्ट्री बॉक्स" और "वॉल्यूम नॉब" का उपयोग करके हमें दुनिया के विभिन्न रूपों को दिखाता है जो हमारे पास मौजूद साक्ष्यों के आधार पर संभव हैं। यह केवल चित्र उत्पन्न नहीं करता; यह उस मानचित्र को उत्पन्न करता है जो तार्किक रूप से संभव है, जिससे हमें हमारे डेटा में छिपे "ट्रिक्स" को देखने में मदद मिलती है।

तकनीकी सारांश: कॉज़ल वेरिएशनल डीप एम्बेडिंग (CAUVADE)

समस्या विवरण (Problem Statement)

डीप जनरेटिव मॉडल (जैसे VAEs, GANs, डिफ्यूजन मॉडल्स) प्रशिक्षण डेटा के ऑब्जर्वेशनल डिस्ट्रीब्यूशन (observational distribution) को पुनरुत्पादित करने के लिए डिज़ाइन किए गए हैं। हालाँकि, जब प्रशिक्षण डेटा में अनऑब्जर्व्ड कन्फाउंडर्स ( $U$ ) द्वारा संचालित स्प्यूरियस कोरिलेशन (spurious correlations) होते हैं, तो ये मॉडल इन पूर्वाग्रहों (biases) को भी विरासत में प्राप्त कर लेते हैं। एक कॉज़ल सेटिंग में, यदि कोई उपयोगकर्ता किसी विशेषता $X$ (जैसे डिजिट आइडेंटिटी) को मैनिपुलेट करना चाहता है और परिणामी आश्रित विशेषता $Y$ (जैसे बैकग्राउंड कलर) के वितरण को देखना चाहता है, तो मानक मॉडल ऑब्जर्वेशनल कंडिशनल $P(Y|X)$ आउटपुट करते हैं, न कि इंटरवेंशनल डिस्ट्रीब्यूशन $P_x(Y)$ ।

मुख्य चुनौती पार्शियल आइडेंटिफिएबिलिटी (partial identifiability) है। जब $U$ छिपा हुआ होता है, तो ऑब्जर्वेशनल डेटा $P(X, Y)$ विभिन्न विशिष्ट कॉज़ल मैकेनिज्म के एक सेट के अनुरूप होता है, जिनमें से प्रत्येक एक अलग $P_x(Y)$ की भविष्यवाणी करता है। मौजूदा कॉज़ल जनरेटिव दृष्टिकोण अक्सर इस अस्पष्टता को हल करने के लिए मजबूत स्ट्रक्चरल धारणाएं (जैसे विशिष्ट फंक्शनल फॉर्म या नॉइज़ इंडिपेंडेंस) लागू करके एक एकल इंटरवेंशनल डिस्ट्रीब्यूशन चुनने का प्रयास करते हैं। इमेज डोमेन में, ऐसी धारणाएं शायद ही कभी उचित होती हैं; एक मॉडल जो सिंगल पॉइंट एस्टीमेट देता है, वह अत्यधिक आत्मविश्वासी (overconfident) होता है, क्योंकि उसने चुपचाप अविभाज्य कॉज़ल स्पष्टीकरणों के सेट में से एक तत्व को चुन लिया होता है। लक्ष्य फिजिबल रीजन (feasible region) को चरित्रित करना है—अर्थात उन सभी इंटरवेंशनल डिस्ट्रीब्यूशन का सेट जो देखे गए डेटा और बचाव योग्य स्ट्रक्चरल धारणाओं के अनुरूप हैं—न कि केवल एक सिंगल पॉइंट पर प्रतिबद्ध होना।

कार्यप्रणाली (Methodology)

1. कैनोनिकल ऑगमेंटेड स्ट्रक्चरल कॉज़ल मॉडल्स (CASCMs)

लेखक इमेज जनरेशन के लिए विस्तारित ऑगमेंटेड स्ट्रक्चरल कॉज़ल मॉडल्स (ASCMs) पर आधारित एक सैद्धांतिक आधार प्रस्तावित करते हैं। एक ASCM में एक इमेज वेरिएबल $I$ शामिल है जो सिमेंटिक वेरिएबल्स ( $X, Y, Z$ ) और एक्सोजेनस नॉइज़ (exogenous noise) द्वारा जनरेट होता है।

सैद्धांतिक औचित्य (Theoretical Justification): पेपर यह सिद्ध करता है कि कैनोनिकल ASCMs (CASCMs) का वर्ग, दिए गए कॉज़ल डायग्राम के अनुकूल सभी ASCMs के वर्ग में, दोनों ऑब्जर्वेशनल और इंटरवेंशनल 1-वॉसरस्टीन डिस्टेंस ( $W_1$ ) के तहत सघन (dense) है।
कैनोनिकल स्ट्रक्चर: एक CASCM में, अनऑब्जर्व्ड कन्फाउंडर $U$ को एक डिस्क्रीट लेटेंट वेरिएबल के रूप में प्रतिबंधित किया जाता है जिसका बाउंडेड सपोर्ट है ( $U \in \{1, \dots, d\}$ ), जबकि निरंतर भिन्नता (continuous variation) स्वतंत्र एक्सोजेनस नॉइजेस ( $E_Z, E_X, E_Y, E_I$ ) में समाहित हो जाती है। यह रिडक्शन सामान्य ASCMs के अनंत-आयामी सर्च स्पेस को एक सुलभ क्लास में अनुमानित करने की अनुमति देता है जहाँ कन्फाउंडर एक डिस्क्रीट क्लस्टर है।

2. CAUVADE आर्किटेक्चर

कॉज़ल वेरिएशनल डीप एम्बेडिंग (CAUVADE) एक गॉसियन-मिक्सचर वेरिएशनल ऑटोएन्कोडर (VAE) का उपयोग करके CASCM क्लास को कार्यान्वित करता है।

लेटेंट वेरिएबल्स:
- क्लस्टर $C$ : एक डिस्क्रीट वेरिएबल जो कैनोनिकल कन्फाउंडर $U$ का प्रतिनिधित्व करता है।
- कंटीन्यूअस लेटेंट $Z$ : प्री-ट्रीटमेंट एट्रिब्यूट और स्वतंत्र एक्सोजेनस नॉइजेस को बंडल करता है।
जनरेटिव प्रोसेस: मॉडल एक जॉइंट डिस्ट्रीब्यूशन को परिभाषित करता है जहाँ $C$ और $Z$ , $X, Y$ और इमेज $I$ के जनरेशन को ड्राइव करते हैं।
इंटरवेंशन: इंटरवेंशनल सैंपल्स $P_x(I)$ उत्पन्न करने के लिए, मॉडल उनके जॉइंट प्रायर (न कि $X$ के दिए गए पोस्टीरियर) से $(C, Z)$ को सैंपल करता है, $X=x$ को फिक्स करता है, और $Y$ तथा $I$ के लिए डिकोडर्स के माध्यम से आगे बढ़ता है। यह कन्फाउंडिंग पाथ को तोड़ देता है, जिससे इंटरवेंशन और सिलेक्शन के बीच अंतर स्पष्ट होता है।

3. ट्रेनिंग और $\gamma$ -स्वीप ( $\gamma$ -Sweep)

CAUVADE को कन्फाउंडेड डेटा पर प्रशिक्षित किया जाता है जहाँ केवल $X$ लेबल किया गया है। ऑब्जेक्टिव फंक्शन स्टैंडर्ड VAE टर्म्स के साथ दो विशिष्ट रेगुलराइज़र्स को जोड़ता है:

ट्रीटमेंट-कंसिस्टेंसी टर्म ( $L_X$ ): एक ऑक्जिलरी क्लासिफायर यह सुनिश्चित करता है कि लेटेंट रिप्रेजेंटेशन $(C, Z)$ में देखे गए ट्रीटमेंट $X$ की भविष्यवाणी करने के लिए पर्याप्त जानकारी हो।
क्लस्टर-एंट्रॉपी रेगुलराइज़र ( $L_{ent}$ ): क्लस्टर पोस्टीरियर $q_\phi(C|I)$ $q_{ϕ} (C ∣ I)$ पर एक एंट्रॉपी टर्म जो एक स्केलर $\gamma$ $γ$ द्वारा भारित (weighted) है।
- लो $\gamma$ (Low $\gamma$ ): पोस्टीरियर कोलैप्स हो जाता है (लो एंट्रॉपी), जिससे एक डिटर्मिनिस्टिक VAE-जैसा व्यवहार होता है जो ऑब्जर्वेशनल कंडिशनल $P(Y|X)$ को ट्रैक करता है।
- हाई $\gamma$ (High $\gamma$ ): पोस्टीरियर यूनिफॉर्म हो जाता है (हाई एंट्रॉपी), जिससे इमेज को विशिष्ट कन्फाउंडर रियलाइजेशन से अलग (decouple) कर दिया जाता है और प्रायर के ऊपर औसत निकाला जाता है।
- द स्वीप (The Sweep): $\gamma$ को $[0, \infty)$ की रेंज में स्वीप करके, CAUVADE जनरेटर्स के एक निरंतर परिवार को ट्रेस करता है। प्रत्येक $\gamma$ एक अलग ऑप्टिमम के अनुरूप होता है जो ऑब्जर्वेशनल डेटा के समान लाइक्लीहुड को फिट करता है लेकिन एक विशिष्ट इंटरवेंशनल डिस्ट्रीब्यूशन $P_x(I)$ को प्रेरित करता है।

मुख्य योगदान (Key Contributions)

कैनोनिकल ऑगमेंटेड SCM: एक स्ट्रक्चरल मॉडल का परिचय जो अनऑब्जर्व्ड कन्फाउंडर्स को डिस्क्रीट लेटेंट क्लस्टर्स के रूप में मॉडल करता है। लेखक सिद्ध करते हैं कि यह क्लास वॉसरस्टीन डिस्टेंस के तहत सभी संगत ASCMs के स्पेस में सघन (dense) है, जो इमेज डोमेन के लिए इस सरल क्लास का उपयोग करने के औचित्य को पुष्ट करती है।
CAUVADE फ्रेमवर्क: एक मिक्सचर VAE का उपयोग करके कैनोनिकल क्लास का व्यावहारिक कार्यान्वयन। यह बिना किसी अतिरिक्त सुपरविजन या मजबूत स्ट्रक्चरल धारणाओं के, इंटरवेंशनल डिस्ट्रीब्यूशन के फिजिबल रीजन में नेविगेट करने के लिए क्लस्टर पोस्टीरियर पर एक एंट्रॉपी रेगुलराइज़र पेश करता है।
$\gamma$ -स्वीप के माध्यम से पार्शियल आइडेंटिफिकेशन: यह प्रदर्शित करना कि $\gamma$ की एंट्रॉपी वेट को बदलने से कॉज़ल स्पष्टीकरणों के एक फिजिबल रीजन के माध्यम से एक कर्व ट्रेस होता है। यह मॉडल को एक सिंगल बायस्ड एस्टीमेट के बजाय देखे गए डेटा के अनुरूप इंटरवेंशनल सैंपल्स के एक विविध सेट को उत्पन्न करने की अनुमति देता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक तीन डेटासेट्स पर CAUVADE का मूल्यांकन करते हैं: Confounded Color-MNIST, CelebA, और MIMIC-CXR-JPG।

Color-MNIST: एक ऐसी सेटिंग में जहाँ डिजिट आइडेंटिटी और बैकग्राउंड कलर एक छिपे हुए कन्फाउंडर के माध्यम से स्प्यूरियसली कोरिलेटेड हैं, स्टैंडर्ड VAEs और ANCMs सिंगल पॉइंट एस्टीमेट्स (या तो कन्फाउंडेड कंडिशनल या Manski बाउंड के भीतर एक सिंगल पॉइंट) पर कोलैप्स हो जाते हैं। CAUVADE, $\gamma$ को स्वीप करके, डिजिट-कलर एसोसिएशन का एक विविध सेट उत्पन्न करता है जो Manski के बाउंड द्वारा परिभाषित पूरे फिजिबल रीजन को कवर करता है।
CelebA: "Attractive" को एक हिडन कन्फाउंडर के रूप में रखते हुए "Young" का "Heavy Makeup" पर प्रभाव को मॉडल करते हुए, CAUVADE ऐसे सैंपल्स जनरेट करता है जो अलग-अलग $\gamma$ वैल्यूज पर अनकन्फाउंडेड ग्राउंड ट्रुथ के साथ विजुअली अलाइन करते हैं, जबकि बेसलाइन्स स्प्यूरियस कोरिलेशन को अलग करने में विफल रहते हैं।
MIMIC-CXR-JPG: न्यूमोनिया के फेफड़ों की ओपेसिटी (Lung Opacity) पर कॉज़ल प्रभाव को मॉडल करते हुए (जो पेशेंट पोजीशन द्वारा कन्फाउंडेड है), CAUVADE एक अनकन्फाउंडेड रेफरेंस (284.57) के विरुद्ध काफी कम FID प्राप्त करता है, जबकि VAE (354.97) और ANCM (407.73) के मुकाबले। बेसलाइन्स या तो सीधे बायस को विरासत में लेते हैं या एक गलत कॉज़ल स्पष्टीकरण के प्रति प्रतिबद्ध हो जाते हैं।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि छिपे हुए कन्फाउंडर्स की उपस्थिति में, "सही ऑब्जेक्ट" जिसे मॉडल किया जाना चाहिए वह सिंगल पॉइंट एस्टीमेट नहीं, बल्कि इंटरवेंशनल डिस्ट्रीब्यूशन का फिजिबल रीजन है।

संयमित दावे (Modest Claims): लेखक यह दावा नहीं करते हैं कि उन्होंने वास्तविक कॉज़ल मैकेनिज्म को पहचान लिया है (जो बिना अतिरिक्त धारणाओं के असंभव है)। इसके बजाय, वे एक ऐसा तरीका प्रदान करने का दावा करते हैं जो डेटा के अनुरूप संभावित मैकेनिज्म के सेट को वफादारी से चरित्रित (faithfully characterize) करता है।
व्यावहारिक प्रभाव: सिंगल-पॉइंट एस्टीमेटर्स की ओवरकॉन्फिडेंस से बचकर, CAUVADE कॉज़ल इमेज जनरेशन में अनिश्चितता का अधिक ईमानदार प्रतिनिधित्व प्रदान करता है। इस विधि को "डीकन्फाउंडेड इमेज जनरेशन" के लिए एक व्यावहारिक उपकरण के रूप में प्रस्तुत किया गया है जो डेटा द्वारा अनुमत कॉज़ल स्पष्टीकरणों की रेंज को कवर करने वाले विविध, उच्च-गुणवत्ता वाले सैंपल्स बनाता है।
सैद्धांतिक योगदान: डेनसिटी थ्योरम (Theorem 2.2) उच्च-आयामी इमेज स्पेस में जटिल, निरंतर अनऑब्जर्व्ड कन्फाउंडर्स को अनुमानित करने के लिए डिस्क्रीट लेटेंट क्लस्टर्स का उपयोग करने के लिए एक कठोर औचित्य प्रदान करता है, जो सैद्धांतिक कॉज़ल इन्फरेंस और डीप जनरेटिव मॉडलिंग के बीच के अंतर को पाटता है।