🤖 machine learning

Marginal Matching Does Not License Factorized Sampling: Auditing Conditional Style Leakage in Factorized Generative Models

यह शोध पत्र यह प्रदर्शित करता है कि एक लेटेंट स्टाइल वेरिएबल (latent style variable) के मार्जिनल डिस्ट्रीब्यूशन को गाऊसी प्रायर (Gaussian prior) के साथ मैच करना, क्लास लेबल्स से स्वतंत्रता सुनिश्चित करने के लिए अपर्याप्त है, क्योंकि फैक्टराइज्ड जेनेरेटिव मॉडल्स (factorized generative models) अभी भी महत्वपूर्ण कंडीशनल स्टाइल लीकेज (conditional style leakage) प्रदर्शित कर सकते हैं जो कुल मिलाकर गाऊसी दिखने के बावजूद क्लास प्रेडिक्शन की अनुमति देता है।

मूल लेखक: Duong Bach, Hai Nguyen Hong, Cuong Do

प्रकाशित 2026-08-07

📖 10 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Duong Bach, Hai Nguyen Hong, Cuong Do

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट कलाकार बनाने की कोशिश कर रहे हैं। आप चाहते हैं कि यह रोबोट कुछ भी—एक बिल्ली, एक कार, या एक बादल—का चित्र बना सके, बस एक सरल निर्देश देने पर जैसे "एक बिल्ली बनाओ।" ऐसा करने के लिए, आप रोबोट को अपने दिमाग को दो अलग हिस्सों में बांटना सिखाते हैं। एक हिस्सा, जिसे हम "कंटेंट ब्रेन" (Content Brain) कह सकते हैं, यह सीखता है कि बिल्ली को बिल्ली क्या बनाता है (नुकीले कान, मूंछें)। दूसरा हिस्सा, जिसे "स्टाइल ब्रेन" (Style Brain) कहा जाता है, वह उन यादृच्छिक (random), बिखरे हुए विवरणों को सीखता है जो इस विशिष्ट बिल्ली को उस दूसरी बिल्ली से अलग बनाते हैं (क्या वह रोएंदार है? क्या वह काली है? क्या वह सो रही है?)।

लक्ष्य यह है कि रोबोट एक मास्टर मिक्सर बने। आप चाहते हैं कि आप एक बिल्ली का "कंटेंट ब्रेन" और एक कुत्ते का "स्टाइल ब्रेन" ले सकें, और रोबोट एक रोएंदार, काली, सोती हुई कुत्ता बना सके जो बिल्कुल उसी कुत्ते जैसा दिखता हो जिस पर उसे प्रशिक्षित किया गया था, बस बिल्ली के निर्देशों के साथ। यदि आपका रोबोट पूरी तरह से काम करता है, तो "स्टाइल ब्रेन" उस जानवर के प्रकार के प्रति पूरी तरह से अंधा होना चाहिए जिसे वह देख रहा है; उसे केवल "यादृच्छिकता" (randomness) देखनी चाहिए।

वर्षों से, वैज्ञानिक यह जांचने के लिए कि रोबोट का "स्टाइल ब्रेन" अपना काम ठीक से कर रहा है या नहीं, एक चतुर ट्रिक का उपयोग करते आए हैं। वे देखते हैं कि क्या उन सभी स्टाइल्स का औसत (average), जो रोबोट ने देखे हैं, एक आदर्श, यादृच्छिक क्लाउड (Gaussian distribution) की तरह दिखता है। यदि औसत यादृच्छिक दिखता है, तो वे मान लेते हैं कि रोबोट ने सफलतापूर्वक भूल गया है कि वह किस जानवर को देख रहा था। यह ऐसा ही है जैसे यह जांचना कि मोजों का एक मिला-जुला बैग बाहर से देखने पर यादृच्छिक ढेर जैसा दिखता है या नहीं। यदि वह यादृच्छिक दिखता है, तो आप मान लेते हैं कि आप केवल ढेर को देखकर यह नहीं बता सकते कि कौन सा मोजा किस पैर का है।

लेकिन यहाँ एक ट्विस्ट है: क्या होगा अगर मोजों का वह बैग अंदर से वास्तव में पूरी तरह से व्यवस्थित है, भले ही वह बाहर से एक यादृच्छिक ढेर जैसा दिखता हो? क्या होगा अगर सभी बाएं-पैर के मोजे बैग के एक कोने में छिपे हैं और सभी दाएं-पैर के मोजे दूसरे कोने में हैं, लेकिन वे इतने अच्छी तरह से मिले हुए हैं कि कुल ढेर अभी भी यादृच्छिक दिखता है? यदि आप हाथ डालकर एक मोजा निकालते हैं, तो आप गलती से एक बाएं-पैर का मोजा पकड़ सकते हैं, और अचानक आपका रोबोट सोचता है, "ओह, मुझे लगता है कि मैं एक बाएं-पैर वाले जीव को बना रहा हूँ!"

यह बिल्कुल वही समस्या है जिसे विनयूनिवर्सिटी (VinUniversity), वियतनाम के शोधकर्ताओं का एक नया पेपर उजागर कर रहा है। उन्होंने पाया कि "यादृच्छिक ढेर" वाला टेस्ट एक झूठ है। सिर्फ इसलिए कि स्टाइल का औसत यादृच्छिक दिखता है, इसका मतलब यह नहीं है कि रोबोट लेबल (पहचान) को भूल गया है। वास्तव में, रोबोट हर एक इमेज की गुप्त पहचान अपने "स्टाइल ब्रेन" के अंदर छिपाकर रख सकता है, जिसका उपयोग करने के लिए वह तैयार बैठा है।

द ग्रेट स्टाइल लीक (The Great Style Leak)

शोधकर्ताओं, डयॉन्ग बाच, हाई नेगुएन होंग और कुओंग डो ने कई इन रोबोट कलाकारों का ऑडिट करने का फैसला किया ताकि यह देखा जा सके कि क्या वे वास्तव में निष्पक्ष खेल रहे हैं। उन्होंने केवल "औसत ढेर" (marginal statistics) को नहीं देखा; उन्होंने प्रत्येक जानवर के विशिष्ट ढेरों को देखा। उन्होंने पूछा: "यदि मैं केवल बिल्लियों के स्टाइल्स को देखूँ, तो क्या वे कुत्तों के स्टाइल्स से अलग दिखते हैं?"

इसका उत्तर एक जोरदार 'हाँ' था। वास्तव में, लीक बहुत बड़ा था।

उन्होंने एक मॉडल बनाया जिसका परीक्षण किया (जिसे F-CS-WAE कहा जाता है) और चार अन्य लोकप्रिय रोबोट कलाकारों का परीक्षण किया। भले ही उन सभी ने "यादृच्छिक ढेर" वाले टेस्ट को शानदार तरीके से पास कर लिया (उनके ग्लोबल स्टैटिस्टिक्स लगभग एकदम सही थे), शोधकर्ताओं ने पाया कि एक साधारण कंप्यूटर प्रोग्राम "स्टाइल ब्रेन" को देख सकता था और बेहद सटीकता के साथ अनुमान लगा सकता था कि कौन सा जानवर बनाया जा रहा है। एक डेटासेट पर, रोबोट का स्टाइल ब्रेन जानवर के लेबल का अनुमान लगाने में 100% सटीक था। दूसरे पर, यह 99.15% सटीक था।

यह एक ऐसे जासूस की तरह है जिसने किसी देश के पूरे गुप्त कोड को याद कर लिया है। भले ही उसके नोट्स, जब उन्हें मिला दिया जाए और औसत निकाला जाए, यादृच्छिक खरोंच जैसे दिखें, फिर भी जासूस संदेश को पूरी तरह से डिकोड कर सकता है यदि उसे पता हो कि वह किस पन्ने को देख रहा है। शोधकर्ताओं ने दिखाया कि "स्टाइल ब्रेन" केवल यादृच्छिक शोर (noise) नहीं था; यह जानवर की सटीक पहचान लेकर चल रहा था, जो सामने ही छिपा हुआ था।

रोबोट जादू का खेल क्यों हार जाता है?

तो, रोबोट जब आप मिक्स और मैच करने की कोशिश करते हैं तो क्यों विफल हो जाता है?

कल्पना कीजिए कि आप रोबोट हैं। आपको बिल्लियों को पेंट करने के लिए प्रशिक्षित किया गया है। जब आप एक बिल्ली देखते हैं, तो आपका "कंटेंट ब्रेन" कहता है "बिल्ली!" और आपका "स्टाइल ब्रेन" कहता है "रोएंदार, काली, सोती हुई।" आप सीखते हैं कि ये दोनों चीजें हमेशा एक साथ चलती हैं। आपने कभी भी "रोएंदार, काली, सोती हुई" स्टाइल को "कुत्ते" के साथ नहीं देखा।

अब, आपसे एक "कुत्ता" पेंट करने के लिए कहा जाता है। आपको अपने "कंटेंट ब्रेन" के लिए "कुत्ता" निर्देश मिलता है। लेकिन "स्टाइल ब्रेन" के लिए, आपको सभी स्टाइल्स के बड़े बैग में से एक यादृच्छिक स्टाइल चुनने के लिए कहा जाता है। क्योंकि बैग अंदर से गुप्त रूप से व्यवस्थित है, आप गलती से वह "रोएंदार, काली, सोती हुई" स्टाइल पकड़ सकते हैं जो एक बिल्ली का है।

यहाँ आपदा होती है: आपका रोबोट मस्तिष्क सीख चुका है कि "रोएंदार, काली, सोती हुई" केवल "बिल्ली" के साथ ही जाती है। उसने कभी भी यह स्टाइल "कुत्ते" के साथ नहीं देखा। इसलिए, जब आप बिल्ली के स्टाइल के साथ कुत्ता पेंट करने की कोशिश करते हैं, तो आपका रोबोट भ्रमित हो जाता है। वह निर्देश पर भरोसा करने के बजाय स्टाइल पर अधिक भरोसा करता है। वह "कुत्ता" कमांड को अनदेखा कर देता है और बिल्ली पेंट कर देता है।

शोधकर्ताओं ने पाया कि ऐसा हमेशा होता है। जब उन्होंने एक विशिष्ट क्लास (जैसे MNIST नंबर डेटासेट में "3") की नई इमेज बनाने की कोशिश की, तो रोबोट केवल 16% बार ही सही परिणाम दे पाया। वह गलत नंबर पेंट करता रहता था, आमतौर पर वे जो उसके "स्टाइल ब्रेन" में सबसे लोकप्रिय थे। रोबोट स्टाइल के संकेतों का इतना आदी हो गया था कि वह निर्देशों को पूरी तरह से भूल गया।

चार-भाग का रहस्य (The Four-Part Mystery)

यह पेपर केवल यह नहीं कहता कि "यह टूटा हुआ है"; यह इसे ठीक से चार अलग-अलग हिस्सों में तोड़ता है, जैसे कोई जासूस अपराध स्थल को सुलझा रहा हो:

द स्टाइल प्रायर मिसमैच (The Style Prior Mismatch): "स्टाइल ब्रेन" बिल्कुल वैसा नहीं दिखता जैसा कि वैज्ञानिक चाहते थे कि वह एक यादृच्छिक क्लाउड हो।
द स्टाइल लीकेज (The Style Leakage - मुख्य अपराधी): "स्टाइल ब्रेन" लेबल को जानता है। वह जानता है कि वह बिल्ली है या कुत्ता। यह मुख्य समस्या है।
द सिमेंटिक प्रायर मिसमैच (The Semantic Prior Mismatch): "कंटेंट ब्रेन" भी निर्देशों के साथ पूरी तरह से संरेखित (aligned) नहीं है।
द विदिन-क्लास डिपेंडेंस (The Within-Class Dependence): यहाँ तक कि "बिल्लियों" के समूह के भीतर भी, "कंटेंट ब्रेन" और "स्टाइल ब्रेन" एक-दूसरे के कान में गुप्त बातें कर रहे हैं।

शोधकर्ताओं ने गणितीय रूप से सिद्ध किया कि एक आदर्श रोबोट बनाने के लिए, इन चारों समस्याओं को ठीक करना आवश्यक है। आप केवल लीकेज (समस्या 2) को ठीक करके काम नहीं चला सकते। भले ही आप स्टाइल ब्रेन को लेबल भूलने के लिए मजबूर कर दें, यदि अन्य तीन समस्याएं मौजूद हैं, तो भी रोबक विफल हो जाएगा।

लीक को ठीक करने की कोशिश

टीम ने छेद को भरने के कई तरीके आजमाए। उन्होंने रोबोट को सीखने के दौरान लेबल पर ध्यान देने के लिए मजबूर किया, जिससे स्टाइल ब्रेन हर जानवर के लिए एक जैसा दिखे। उन्होंने "ग्रेडिएंट रिवर्सल" (जो कि ऐसा है जैसे रोबोट को कहना, "यदि तुम जानवर को सही पहचान लेते हो, तो तुम्हें दंड मिलेगा!") जैसे विभिन्न गणितीय प्रयोग भी किए।

इनमें से कुछ तरीके दूसरों की तुलना में बेहतर काम करते थे। "ग्रेडिएंट रिवर्सल" नामक एक विधि, स्टाइल ब्रेन को लेबल भूलने के लिए बहुत अच्छी थी, जिससे अनुमान लगाने की सटीकता गिरकर 21% हो गई (जो 100% से बहुत बेहतर है, लेकिन फिर भी पूर्ण नहीं है)। "पर-क्लास स्टाइल MMD" का उपयोग करने वाली एक अन्य विधि ने इसे 42.6% तक गिरा दिया।

लेकिन यहाँ एक पेच है: भले ही हमने लीक को ठीक कर दिया हो, रोबोट फिर भी पूरी तरह से काम नहीं करता है। क्यों? क्योंकि अन्य समस्याएं (जैसे कंटेंट और स्टाइल ब्रेन का आपस में हाथ मिलाना) अभी भी बनी हुई थीं। शोधकर्ताओं ने दिखाया कि लीकेज को ठीक करना आवश्यक है, लेकिन पर्याप्त नहीं है। यह एक नाव में लीक को ठीक करने जैसा है, लेकिन यह भूल जाना कि नाव के नीचे भी एक छेद है और पतवार भी टूटी हुई है। आप फिर भी डूब जाएंगे।

डेटासेट का आश्चर्य

शोधकर्ताओं ने यह भी खोजा कि यह समस्या कितनी कठिन है। उन्होंने दो अलग-अलग चित्रों के सेट पर परीक्षण किया: MNIST (साधारण ब्लैक-एंड-व्हाइट नंबर) और CIFAR-10 (जानवरों और वस्तुओं की रंगीन, जटिल तस्वीरें)।

साधारण नंबरों (MNIST) पर, रोबोट एक माहिर चोर था; वह स्टाइल से लेबल का लगभग सटीक अनुमान लगा सकता था। जटिल तस्वीरों (CIFAR-10) पर, रोबोट थोड़ा अनाड़ी था, लेकिन फिर भी इसमें काफी लीकेज था। शोधकर्ताओं ने पाया कि जैसे-जैसे चित्र अधिक जटिल और विविध होते गए, रोबोट ने लेबल का अनुमान लगाने के लिए स्टाइल पर कम निर्भरता दिखाई। यह समझ में आता है: यदि हर बिल्ली पूरी तरह से अलग दिखती है, तो स्टाइल में गुप्त कोड छिपाना कठिन होता है। लेकिन जटिल डेटासेट पर भी, रोबोट ने इतना लीकेज किया जो खतरनाक हो सकता है।

अंतिम सबक

इस पेपर का सबसे महत्वपूर्ण निष्कर्ष उन लोगों के लिए एक चेतावनी है जो ये रोबोट कलाकार बना रहे हैं। आप केवल यह जांचकर काम नहीं चला सकते कि "स्टाइल ब्रेन" औसत रूप से यादृच्छिक दिखता है। वह टेस्ट एक जाल है। आपको यह जांचना होगा कि स्टाइल वास्तव में हर एक क्लास के लिए लेबल से स्वतंत्र है या नहीं।

शोधकर्ताओं ने दिखाया कि भले ही कोई मॉडल सभी मानक परीक्षणों को पास कर ले और कागज पर बहुत अच्छा दिखे, वह उस एक चीज़ में पूरी तरह से बेकार हो सकता है जिसके लिए उसे बनाया गया था: स्टाइल को मिक्स और मैच करना। उन्होंने पाया कि एक मॉडल बिल्ली को पहचानने में 99% सटीक हो सकता है, लेकिन जब आपने उसे "कुत्ते के स्टाइल वाली बिल्ली" बनाने के लिए कहा, तो वह 84% बार विफल रहा।

अंत में, पेपर सुझाव देता है कि हमें अपने रोबोटों को टेस्ट करने के नए तरीकों की आवश्यकता है। हमें केवल हुड (hood) के ऊपर नहीं, बल्कि हुड के नीचे भी देखना होगा। हमें यह सुनिश्चित करना होगा कि "स्टाइल ब्रेन" वास्तव में स्वतंत्र है, न कि केवल स्वतंत्र होने का नाटक कर रहा है। जब तक हम ऐसा नहीं करते, हमारे रोबोट कलाकार गलत तस्वीरें बनाते रहेंगे, जो उन गुप्त कोडों से भ्रमित हैं जिन्हें वे छिपाने के लिए सीखे थे।

तकनीकी सारांश: मार्जिनल मैचिंग (Marginal Matching) फैक्टराइज्ड सैंपलिंग (Factorized Sampling) का लाइसेंस नहीं देता है

समस्या विवरण

फैक्टराइज्ड जनरेटिव मॉडल (Factorized generative models) का लक्ष्य कंटेंट (सिमेंटिक) और स्टाइल की जानकारी को अलग-अलग लेटेंट वेरिएबल्स, $z_c$ और $z_s$ में विभाजित करना है। इन मॉडलों में एक मानक अभ्यास यह है कि स्टाइल लेटेंट $z_s$ को एक निश्चित प्रायर (आमतौर पर एक स्टैंडर्ड गौसियन, $N(0, I)$ ) की ओर रेगुलराइज किया जाए, जिसके लिए मार्जिनल स्टैटिस्टिक (marginal statistic) का उपयोग किया जाता है, जैसे कि एग्रीगेटेड पोस्टीरियर $q(z_s)$ और प्रायर के बीच मैक्सिमम मीन डिस्क्रिपेंसी (MMD)। अभ्यासकर्ता अक्सर एक कम मार्जिनल डाइवर्जेंस (divergence) को इस प्रमाण के रूप में देखते हैं कि $z_s$ में कोई क्लास इंफॉर्मेशन नहीं है (अर्थात, $z_s \perp y$ )।

यह शोध पत्र तर्क देता है कि यह प्रमाण मौलिक रूप से त्रुटिपूर्ण है। मार्जिनल डिस्ट्रीब्यूशन $q(z_s)$ को प्रायर के साथ मैच करना इस बात पर कोई नियंत्रण नहीं रखता कि क्लास-कंडीशनल डिस्ट्रीब्यूशन्स $q(z_s | y)$ कैसे हैं। यह गणितीय रूप से संभव है कि $q(z_s)$ बिल्कुल गौसियन हो, जबकि प्रत्येक क्लास-कंडीशनल $q(z_s | y=k)$ लेटेंट स्पेस के एक अलग, गैर-ओवरलैपिंग क्षेत्र में स्थित हो। फलस्वरूप, $z_s$ लेबल $y$ के बारे में अधिकतम सूचनात्मक (informative) बना रह सकता है, भले ही ग्लोबल मार्जिनल स्टैटिस्टिक्स एकदम सही दिखें।

यह अंतर कंडीशनल स्टाइल लीकेज (conditional style leakage) की ओर ले जाता है: ट्रेनिंग के दौरान, डिकोडर विशिष्ट क्लास जानकारी को $z_s$ के साथ जोड़ने के लिए सीखता है क्योंकि उसे केवल उन्हीं $(z_c, z_s)$ जोड़ों का सामना करना पड़ता है जो एक ही इमेज से प्राप्त होते हैं। जनरेशन के समय, जब $z_c$ को क्लास-कंडीशनल प्रायर से और $z_s$ को मार्जिनल प्रायर (सभी क्लासेस के औसत के रूप में) से सैंपल किया जाता है, तो डिकोडर को एक ऐसा जोड़ा मिलता है जिसे उसने ट्रेनिंग के दौरान कभी नहीं देखा था। यदि $z_s$ क्लास जानकारी को एनकोड करता है, तो डिकोडर इच्छित क्लास उत्पन्न करने में विफल हो सकता है, और वह पहचान निर्धारित करने के लिए "लीक" किए गए स्टाइल कोड पर निर्भर हो जाता है।

कार्यप्रणाली (Methodology)

सैद्धांतिक विखंडन (Theoretical Decomposition)

लेखक एक फैक्टराइज्ड सैंपलर द्वारा होने वाले मिसमैच के सटीक विखंडन को प्रदान करते हैं, जिसे $M_{fact}$ के रूप में दर्शाया गया है। यह मिसमैच वास्तविक जॉइंट पोस्टीरियर और फैक्टराइज्ड सैंपलर के डिस्ट्रीब्यूशन के बीच अपेक्षित KL डाइवर्जेंस है:
$M_{fact} = I_q(z_c; z_s | y) + E_y[KL(q(z_c | y) \parallel p(z_c | y))] + I_q(z_s; y) + KL(q(z_s) \parallel p(z_s))$
चार गैर-ऋणात्मक (non-negative) पद हैं:

स्टाइल-प्रायर मिसमैच: $KL(q(z_s) \parallel p(z_s))$ (ग्लोबल मार्जिनल फिट)।
स्टाइल लीकेज: $I_q(z_s; y)$ (स्टाइल और लेबल के बीच म्यूचुअल इंफॉर्मेशन)।
सिमेंटिक-प्रायर मिसमैच: $E_y[KL(q(z_c | y) \parallel p(z_c | y))]$ ।
इन-क्लास डिपेंडेंस: $I_q(z_c; z_s | y)$ ।

लेखक सिद्ध करते हैं कि वैध फैक्टराइज्ड सैंपलिंग के लिए इन चारों पदों का शून्य होना आवश्यक है। इसलिए, स्टाइल लीकेज (पद 2) को समाप्त करना स्वतंत्र सैंपलिंग के सफल होने के लिए आवश्यक तो है, लेकिन पर्याप्त नहीं है; अन्य पदों को भी संबोधित किया जाना चाहिए।

ऑडिटिंग फ्रेमवर्क (Auditing Framework)

लीकेज का पता लगाने के लिए, पेपर इन सैद्धांतिक पदों के लिए परिमित-नमूना प्रॉक्सी (finite-sample proxies) का उपयोग करते हुए एक डायग्नोस्टिक फ्रेमवर्क प्रस्तावित करता है:

ग्लोबल MMD: पद 1 का प्रॉक्सी है।
इंटर-क्लास सेपरेशन ( $\Delta_{inter}$ ) और लीनियर प्रोब (LP): पद 2 का प्रॉक्सी है। $\Delta_{inter}$ क्लास-कंडीशनल स्टाइल डिस्ट्रीब्यूशन के बीच औसत अलगाव को मापता है, जबकि LP $z_s$ से $y$ की भविष्यवाणी करने वाले एक लीनियर क्लासिफायर की सटीकता को मापता है।
JointMMD: पद 4 का प्रॉक्सी है, जो वास्तविक इन-क्लास $(z_c, z_s)$ जोड़ों की तुलना उन पुनर्संयोजित (recombined) जोड़ों से करके किया जाता है जहाँ $z_s$ को उसी क्लास के भीतर ही परम्यूट (permute) किया गया है।

केस स्टडी और उपचार (Remedies)

लेखक इन अवधारणाओं को F-CS-WAE (Factorized Class-Structured Spherical Cauchy WAE) का उपयोग करके लागू करते हैं, जो एक हाइपर-स्फेरिकल सिमेंटिक प्रायर और एक यूक्लिडियन स्टाइल प्रायर का उपयोग करता है। वे MNIST और CIFAR-10 पर इस मॉडल और चार संदर्भ बेसलाइन्स (VAE, WAE-MMD, $\beta$ -TCVAE, FactorVAE) का मूल्यांकन करते हैं।

लीकेज को संबोधित करने के लिए, वे निम्नलिखित उपचारों का परीक्षण करते हैं:

पर-क्लास स्टाइल MMD (Per-class Style MMD): ग्लोबल मार्जिनल को मैच करने के बजाय, यह लॉस प्रत्येक क्लास $k$ के स्टाइल डिस्ट्रीब्यूशन को व्यक्तिगत रूप से $N(0, I)$ से मैच करता है।
ग्रेडिएंट रिवर्सल (Gradient Reversal): $z_s$ से लेबल जानकारी को हटाने के लिए एक मानक एडवरसेरियल तकनीक।
HSIC पेनल्टी: $z_s$ और $y$ के बीच निर्भरता को दंडित करना।
जॉइंट टर्म-4 इंटरवेंशन (Joint Term-4 Intervention): सीधे इन-क्लास निर्भरता को लक्षित करना।

वे एक पोस्ट-हॉक (post-hoc) सैंपलिंग रणनीति का भी मूल्यांकन करते हैं, जैसे कि क्लास-कंडीशनल डायगोनल गौसियन प्रायर या एक एम्पिरिकल स्टाइल बैंक का उपयोग करना, बिना मॉडल को फिर से प्रशिक्षित किए।

मुख्य परिणाम

मार्जिनल मेट्रिक्स लीकेज को छुपाते हैं

अनुभवजन्य परिणाम दिखाते हैं कि ग्लोबल MMD शून्य के करीब हो सकता है जबकि लीकेज गंभीर होता है।

MNIST पर, $\beta$ -TCVAE और FactorVAE जैसे बेसलाइन्स ने लगभग शून्य ग्लोबल MMD प्राप्त किया, लेकिन फिर भी $z_s$ से लेबल रिकवर करने के लिए लीनियर प्रोब ने 74–76% सटीकता दिखाई (चांस 10% है)।
F-CS-WAE केस स्टडी ने 0.0013 का ग्लोबल MMD दिखाया, फिर भी लीनियर प्रोब ने 100% सटीकता प्राप्त की।
महत्वपूर्ण रूप से, F-CS-WAE मॉडल ने 99.15% क्लस्टरिंग सटीकता और उच्च पुनर्निर्माण गुणवत्ता (SSIM 0.983) प्राप्त की, फिर भी मानक सैंपलिंग के तहत इसकी क्लास-कंडीशनल जनरेशन सटीकता (Gen-ACC) केवल 16% थी। यह दर्शाता है कि मानक डायग्नोस्टिक्स (क्लस्टरिंग, पुनर्निर्माण, ग्लोबल MMD) उस विफलता मोड का पता लगाने में विफल रहते हैं जो फैक्टराइज्ड जनरेशन के लिए प्रासंगिक है।

डिकोडर संवेदनशीलता (Decoder Sensitivity)

लेटेंट स्वैपिंग (क्लास $A$ से $z_c$ और क्लास $B$ से $z_s$ लेना) वाले प्रयोगों से पता चला कि डिकोडर पहचान (identity) के लिए $z_s$ पर बहुत अधिक निर्भर करता है। MNIST पर, बाहरी क्लासिफायर ने स्वैप्ड आउटपुट को 96.5% बार स्टाइल-डोनेटर क्लास के रूप में असाइन किया, जिससे पुष्टि हुई कि डिकोडर ने "लीक" किए गए स्टाइल कोड से पहचान पढ़ने के लिए सीखा है।

उपचारों की प्रभावशीलता

पर-क्लास MMD: इसने लीनियर प्रोब सटीकता को 100% से घटाकर 42.6% और $\Delta_{inter}$ को 81% कम कर दिया। हालांकि, इसने लीकेज को पूरी तरह खत्म नहीं किया, और JointMMD (Term 4 प्रॉक्सी) सांख्यिकीय रूप से अपरिवर्तित रहा।
ग्रेडिएंट रिवर्सल: टर्म-2 उपचारों में लीकेज को कम करने में सबसे प्रभावी रहा, जिससे प्रोब सटीकता घटकर 21% हो गई।
जॉइंट इंटरवेंशन: केवल टर्म 4 (इन-क्लास निर्भरता) को लक्षित करने वाले हस्तक्षेप ने ही JointMMD प्रॉक्सी को महत्वपूर्ण रूप से कम किया (2.7 $\times$ ), जो पुष्टि करता है कि $I(z_s; y)$ को कम करने से स्वचालित रूप से इन-क्लास निर्भरताएँ हल नहीं होती हैं।
मजबूती (Robustness): छह परिवर्तनों (कैपेसिटी, करिकुलम, प्रायर ज्योमेट्री, सुपरविजन) में से कोई भी लीकेज को पूरी तरह से समाप्त करने में विफल रहा। हालांकि कैपेसिटी ने लीकेज की मात्रा को काफी प्रभावित किया (विशेष रूप से CIFAR-10 पर), कोई भी एकल डिज़ाइन विकल्प इसका एकमात्र कारण नहीं था।

उपचारों की हस्तांतरणीयता (Transferability of Fixes)

पेपर डेटासेट्स के बीच एक महत्वपूर्ण अंतर को उजागर करता है:

MNIST: एक पोस्ट-हॉक क्लास-कंडीशनल प्रायर ने Gen-ACC को 0.16 से बढ़ाकर 0.97 कर दिया।
CIFAR-10: वही पैरामीट्रिक फिक्स केवल 0.41 तक पहुँच सका। एक एम्पिरिकल स्टाइल बैंक 0.88 तक पहुँचा, जो बताता है कि एक सरल डायगोनल गौसियन धारणा जटिल डेटासेट्स के लिए अपर्याप्त है।

महत्व और दावे

पेपर का दावा है कि केवल मार्जिनल $q(z_s)$ पर गणना किया गया कोई भी डाइवर्जेंस यह प्रमाणित नहीं कर सकता कि $z_s \perp y$ है। मार्जिनल स्टैटिस्टिक्स (जैसे ग्लोबल MMD) पर निर्भरता फैक्टराइज्ड मॉडल्स में क्लास इनवेरिएंस (class invariance) के संबंध में सुरक्षा की एक झूठी भावना प्रदान करती है।

लेखक इस बात पर जोर देते हैं कि:

संरचनात्मक आवश्यकता: स्टाइल लीकेज को समाप्त करना स्वतंत्र सैंपलिंग के लिए आवश्यक तो है, लेकिन पर्याप्त नहीं है; विखंडन के अन्य तीन पदों को भी संबोधित किया जाना चाहिए।
डायग्नोस्टिक आवश्यकता: अभ्यासकर्ताओं को क्लास इनवेरिएंस को सत्यापित करने के लिए मार्जिनल स्टैटिस्टिक्स के बजाय कंडीशनल डायग्नोस्टिक्स (जैसे लीनियर प्रोब्स, इंटर-क्लास सेपरेशन) का उपयोग करना चाहिए।
डिकोडर-स्तर की वास्तविकता: भले ही एक लेटेंट स्पेस विलगित (disentangled) दिखाई दे, डिकोडर अभी भी लीक की गई जानकारी का लाभ उठा सकता है, जिससे जनरेशन विफलता होती है जिसे मानक मेट्रिक्स नहीं पकड़ पाते।
डेटासेट निर्भरता: जो उपचार सरल डेटासेट्स (MNIST) पर काम करते हैं, वे जटिल डेटासेट्स (CIFAR-10) पर विफल हो सकते हैं, और लीकेज की गंभीरता डेटासेट की जटिलता और मॉडल कैपेसिटी पर अत्यधिक निर्भर करती है।

पेपर निष्कर्ष निकालता है कि केवल मार्जिनल स्टैटिस्टिक्स रिपोर्ट करना उन गुणों को सत्यापित करने के लिए पर्याप्त नहीं है जिनका दावा फैक्टराइज्ड जनरेटिव मॉडल्स के लिए किया जाता है, और स्वतंत्र सैंपलिंग की वैधता सुनिश्चित करने के लिए अधिक कठोर, कंडीशनल ऑडिटिंग फ्रेमवर्क की आवश्यकता है।