🤖 machine learning

Information-Preserving Domain Transfer with Unlabeled Data in Misspecified Simulation-Based Inference

यह शोध पत्र SPIN को प्रस्तुत करता है, जो एक सिमुलेशन-आधारित अनुमान ढांचा (सिमुलेशन-आधारित इन्फरेंस फ्रेमवर्क) है जो सूचना-संरक्षण डोमेन स्थानांतरण (इन्फॉर्मेशन-प्रिजर्विंग डोमेन ट्रांसफर) करने के लिए बिना लेबल वाले वास्तविक दुनिया के डेटा का लाभ उठाता है, जिससे वास्तविक दुनिया के पैरामीटर लेबल की आवश्यकता के बिना मॉडल मिसस्पेसिफिकेशन के तहत पोस्टीरियर इन्फरेंस सटीकता को बढ़ाता है।

मूल लेखक: Joon Jang, Eunho Jeong, Kyu Sung Choi, Hyeonjin Kim

प्रकाशित 2026-05-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Joon Jang, Eunho Jeong, Kyu Sung Choi, Hyeonjin Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके पेपर का स्पष्टीकरण दिया गया है।

बड़ी समस्या: "परफेक्ट सिम्युलेटर" बनाम "अव्यवस्थित वास्तविक दुनिया"

कल्पना कीजिए कि आप एक मौसम विज्ञानी हैं। भविष्य की भविष्यवाणी करने के लिए, आपके पास एक सुपर-कंप्यूटर सिम्युलेटर है जो वायुमंडल के काम करने के तरीके को मॉडल करता है। आप अलग-अलग सेटिंग्स (तापमान, आर्द्रता, हवा की गति) के साथ हजारों सिमुलेशन चलाते हैं ताकि नियमों को सीखा जा सके। आप एक AI को सिम्युलेशन के परिणामों को देखना और उन सेटिंग्स का अनुमान लगाना सिखाते हैं जिन्होंने उन्हें उत्पन्न किया था। यह सिम्युलेटर के अंदर बहुत अच्छा काम करता है।

लेकिन फिर, आप अपने सिम्युलेटर-प्रशिक्षित AI को वास्तविक दुनिया के डेटा पर आज़माते हैं। वास्तविक दुनिया अव्यवस्थित होती है। हो सकता है कि सिम्युलेटर ने किसी विशिष्ट प्रकार के बादल को ध्यान में न रखा हो, या शायद वास्तविक दुनिया के सेंसर थोड़े खराब हों। पेपर की भाषा में, इसे "मॉडल मिसस्पेसिफिकेशन" (model missification) कहा जाता है।

जब आप अपने सिम्युलेटर-प्रशिक्षित AI में वास्तविक दुनिया का डेटा डालते हैं, तो वह भ्रमित हो जाता है। यह आपको एक ऐसी भविष्यवाणी दे सकता है जो या तो बहुत गलत होगी या सही होने के बारे में अत्यधिक आत्मविश्वासी होगी, केवल इसलिए क्योंकि वास्तविक डेटा उस डेटा की तुलना में "विदेशी" (alien) दिखता है जिस पर इसे प्रशिक्षित किया गया था।

पुराने समाधान: केवल "दिखने में समानता" लाना

पिछले तरीकों ने इसे यह कहकर ठीक करने की कोशिश की कि, "आइए वास्तविक डेटा को सिम्युलेटर डेटा जैसा दिखाएं।" उन्होंने दोनों डेटासेट को संरेखित (align) करने के लिए तकनीकों का उपयोग किया ताकि वे सतह पर समान दिखें (जैसे किसी फोटो के औसत रंग को मिलाना)।

खामी: पेपर का तर्क है कि डेटा को केवल समान दिखाना पर्याप्त नहीं है। कल्पना कीजिए कि आपके पास एक बिल्ली की फोटो है (सिम्युलेटर) और एक कुत्ते की फोटो है (वास्तविक दुनिया)। यदि आप कुत्ते को बिल्ली जैसा दिखाने के लिए एक फ़िल्टर का उपयोग करते हैं, तो आप बालों की बनावट को सही कर सकते हैं, लेकिन आप गलती से यह तथ्य मिटा सकते हैं कि वह एक कुत्ता है। आप सही निर्णय लेने के लिए आवश्यक महत्वपूर्ण जानकारी खो देते हैं। पेपर के शब्दों में, "मार्जिनल अलाइनमेंट" (उन्हें समान बनाना) "पैरामीटर-रेलेवेंट इंफॉर्मेशन" (पहेली को हल करने के लिए आवश्यक विशिष्ट विवरण) को सुरक्षित नहीं रखता है।

नया समाधान: SPIN (एक "अनुवादक" जो याद रखता है)

लेखक SPIN नामक एक नया फ्रेमवर्क प्रस्तावित करते हैं। SPIN को एक स्मार्ट अनुवादक के रूप में सोचें जो न केवल भाषा बदलता है, बल्कि यह भी सुनिश्चित करता है कि अर्थ वही रहे।

SPIN कैसे काम करता है, इसके लिए "राउंड-ट्रिप ट्रैवल" (आने-जाने की यात्रा) का उदाहरण देखें:

सेटअप: आपके पास एक "सिम्युलेटर वर्ल्ड" (जहाँ आपके पास एक मानचित्र और एक गाइड है) और एक "रियल वर्ल्ड" (जहाँ आप खोए हुए हैं और आपके पास कोई मानचित्र नहीं है) है।
यात्रा (प्रशिक्षण):
- SPIN सिम्युलेटर वर्ल्ड से एक ज्ञात स्थान लेता है (मान लीजिए "पॉइंट A")।
- यह "पॉइंट A" को रियल वर्ल्ड में भेजता है, इसे इस तरह अनुवादित करता है कि यह एक वास्तविक दुनिया के अवलोकन (observation) जैसा दिखे।
- महत्वपूर्ण कदम: यह तुरंत उस अनुवादित अवलोकन को वापस सिम्युलेटर वर्ल्ड में भेज देता है।
- चूंकि यह एक ज्ञात स्थान के रूप में शुरू हुआ था, SPIN जाँचता है: "क्या हम वापस 'पॉइंट A' पर पहुँचे?"
- यदि अनुवाद में महत्वपूर्ण विवरण खो गए हैं, तो वापसी की यात्रा गलत जगह पर समाप्त होगी। SPIN अपने अनुवाद को ठीक करना सीखता है ताकि सूचना इस राउंड-ट्रिप में जीवित रहे।
परिणाम: SPIN एक "रियल-टू-सिम्युलेटर" मैप सीखता है। जब आप इसे वास्तविक दुनिया का अवलोकन (बिना किसी मानचित्र के) देते हैं, तो यह बिना किसी सुराग को खोए इसे सिम्युलेटर वर्ल्ड की भाषा में अनुवादित करता है ताकि उत्तर खोजने के लिए आवश्यक संकेत मिलते रहें।

यह विशेष क्यों है

अधिकांश तरीके वास्तविक दुनिया को सिम्युलेटर वर्ल्ड जैसा बनाने की कोशिश करते हैं। SPIN कुछ अधिक स्मार्ट करता है: यह सुनिश्चित करता है कि जब आप डेटा को दो दुनियाओं के बीच ले जाते हैं, तो आप वह "सीक्रेट सॉस" (पैरामीटर्स के बारे में जानकारी) नहीं खोते जो अवलोकन को उत्तर से जोड़ता है।

लेबल की आवश्यकता नहीं: सबसे अच्छी बात यह है कि SPIN को वास्तविक दुनिया के डेटा के लिए "सही उत्तर" जानने की आवश्यकता नहीं है। इसे खुद को ठीक से अनुवाद करना सिखाने के लिए इसे केवल सिम्युलेटर डेटा के लिए "सही उत्तरों" की आवश्यकता है।
बड़े अंतरों के साथ बेहतर: पेपर दिखाता है कि सिम्युलेटर और वास्तविक दुनिया के बीच जितना अधिक अंतर होगा (जितना बड़ा मिसस्पेसिफिकेशन होगा), SPIN उतना ही अधिक मदद करता है। यह एक ऐसे अनुवादक की तरह है जो तब सबसे अधिक उपयोगी होता है जब दो भाषाएँ बहुत भिन्न होती हैं।

प्रयोग (द "टेस्ट ड्राइव")

लेखकों ने चार अलग-अलग परिदृश्यों में SPIN का परीक्षण किया:

SIR: बीमारियों के फैलने का एक मॉडल (मामलों की रिपोर्टिंग में थोड़ी देरी का अनुकरण करते हुए)।
Pendulum (पेंडुलम): एक झूलता हुआ भार (हवा के प्रतिरोध का अनुकरण करते हुए जिसे सिम्युलेटर ने अनदेखा कर दिया था)।
Wind Tunnel (विंड टनल): एक भौतिक विंड चैंबर (हवा के प्रवाह को कैसे नियंत्रित किया जाता है, इसका अनुकरण करते हुए)।
Light Tunnel (लाइट टनल): एक लाइट चैंबर (फिल्टरों से प्रकाश कैसे गुजरता है, इसका अनुकरण करते हुए)।

निष्कर्ष:

उन परिदृश्यों में जहाँ सिम्युलेटर वास्तविक दुनिया से बहुत अलग था (जैसे विंड टनल और लाइट टनल), SPIN ने अन्य तरीकों से काफी बेहतर प्रदर्शन किया।
इसने अधिक सटीक भविष्यवाणियाँ दीं और गलत होने पर अत्यधिक आत्मविश्वासी होने की संभावना कम थी।
"राउंड-ट्रिप" प्रशिक्षण (यह जाँचना कि क्या जानकारी संरक्षित है) मुख्य घटक था। इसके बिना, यह विधि केवल पुराने, कम प्रभावी दृष्टिकोणों जैसा दिखता।

सारांश

SPIN AI को वास्तविक दुनिया के डेटा को संभालने के लिए सिखाने का एक नया तरीका है जब उसका प्रशिक्षण सिम्युलेटर पूर्ण नहीं होता है। केवल वास्तविक डेटा को नकली डेटा जैसा दिखाने के बजाय, SPIN AI को वास्तविक डेटा को आगे-पीछे अनुवाद करना सिखाता है, जिससे यह सुनिश्चित होता है कि महत्वपूर्ण सुराग कभी भी अनुवाद में खो न जाएं। यह तब सबसे अच्छा काम करता है जब सिमुलेशन और वास्तविकता के बीच का अंतर बड़ा होता है, और यह यह सब वास्तविक दुनिया के डेटा के लिए "सही उत्तरों" को जाने बिना करता है।

तकनीकी सारांश: मिसस्पेसिफाइड (Misspecified) सिमुलेशन-आधारित अनुमान में अनलेबल डेटा के साथ सूचना-संरक्षण डोमेन ट्रांसफर

समस्या विवरण
सिमुलेशन-आधारित अनुमान (SBI), सिम्युलेटर-जनरेटेड डेटा से एमोर्टाइज्ड (amortized) बायेसियन पैरामीटर अनुमान को सक्षम बनाता है, जिसके लिए स्पष्ट लाइकलीहुड (likelihood) मूल्यांकन की आवश्यकता नहीं होती है। हालाँकि, न्यूरल SBI विधियों, जैसे कि न्यूरल पोस्टीरियर एस्टीमेशन (NPE), की विश्वसनीयता मॉडल मिसस्पेसिफिकेशन (misspecification) के तहत कम हो जाती है—ऐसी स्थितियाँ जहाँ वास्तविक दुनिया के अवलोकन (observations) उपयोग किए गए सिम्युलेटर द्वारा अच्छी तरह से प्रतिनिधित्व नहीं किए जाते हैं। ऐसे मामलों में, वास्तविक दुनिया के डेटा पर सीधा अनुमान पक्षपाती (biased) या अत्यधिक आत्मविश्वासी (overconfident) पोस्टीरियर्स दे सकता है।

मिसस्पेसिफिकेशन को कम करने के लिए मौजूदा दृष्टिकोण अक्सर सिम्युलेटेड और वास्तविक अवलोकनों के मार्जिनल डिस्ट्रीब्यूशन को संरेखित करने के लिए अनलेबल वास्तविक दुनिया के डेटा (जैसे कि मैक्सिमम मीन डिसक्रीपेंसी या डोमेन-एडवर्सरियल ट्रेनिंग के माध्यम से) पर निर्भर करते हैं। हालाँकि, लेखक तर्क देते हैं कि केवल मार्जिनल एलाइनमेंट पर्याप्त नहीं है। यह यह गारंटी नहीं देता है कि टास्क वेरिएबल्स (पैरामीटर्स) के साथ अवलोकनों के कंडीशनल स्ट्रक्चर (conditional structure) को संरक्षित किया गया है, जो पोस्टीरियर अनुमान के लिए महत्वपूर्ण जानकारी को हटा सकता है। इसके अलावा, कई मौजूदा विधियों के लिए ज्ञात पैरामीटर्स वाले वास्तविक दुनिया के डेटा के एक छोटे कैलिब्रेशन सेट की आवश्यकता होती है, जो अक्सर उपलब्ध नहीं होता है।

कार्यप्रणाली: SPIN
यह शोध पत्र SPIN (सिमुलेशन-आधारित अनुमान के लिए पैरामीटर-प्रासंगिक सूचना-संरक्षण डोवेल ट्रांसफर) प्रस्तावित करता है, जो केवल अनलेबल, अनपेयर्ड (unpaired) वास्तविक दुनिया के अवलोकनों का उपयोग करके मिसस्पेसिफाइड NPE के लिए डिज़ाइन किया गया एक फ्रेमवर्क है।

मुख्य तंत्र (Core Mechanism): SPIN सिम्युलेटर डोमेन ( $X_s$ ) और वास्तविक दुनिया के डोमेन ( $X_r$ ) के बीच द्विदिश परिवहन मानचित्र (bidirectional transport maps) सीखता है। मान लीजिए कि $G_{sr}: X_s \to X_r$ सिम्युलेटर अवलोकनों को वास्तविक दुनिया के डोमेन में मैप करता है, और $G_{rs}: X_r \to X_s$ वास्तविक दुनिया के अवलोकनों को वापस सिम्युलेटर डोमेन में मैप करता है।
अनुमान प्रोटोकॉल (Inference Protocol): टेस्ट टाइम पर, एक वास्तविक दुनिया का अवलोकन $x_r$ सिम्युलेटर डोमेन में मैप किया जाता है: $x_{rs} = G_{rs}(x_r)$ । इसके बाद सिम्युलेटर-प्रशिक्षित NPE मॉडल का उपयोग करके पोस्टीरियर का अनुमान लगाया जाता है: $\hat{p}(\theta | x_r) = q_\psi(\theta | x_{rs})$ ।
सूचना-संरक्षण उद्देश्य (Information-Preserving Objective): मुख्य नवाचार एक प्रशिक्षण उद्देश्य है जो यह सुनिश्चित करता है कि ट्रांसपोर्ट (transport) पैरामीटर-प्रासंगिक जानकारी को सुरक्षित रखता है। चूंकि वास्तविक दुनिया के पैरामीटर लेबल उपलब्ध नहीं हैं, इसलिए SPIN प्रशिक्षण के दौरान सिम्युलेटर लेबल का उपयोग करता है।
1. एक लेबल वाला सिम्युलेटर पेयर $(\theta, x_s)$ को वास्तविक दुनिया के डोमेन में अनुवादित किया जाता है ( $x_{sr} = G_{sr}(x_s)$ ) और फिर सिम्युलेटर डोमेन में वापस मैप किया जाता है ( $x_{srs} = G_{rs}(x_{sr})$ )।
2. क्योंकि $x_{srs}$ एक लेबल वाले सैंपल से उत्पन्न हुआ है, मूल पैरामीटर $\theta$ ज्ञात है।
3. SPIN, ट्रांसपोर्ट किए गए अवलोकन $x_{srs}$ और पैरामीटर $\theta$ के बीच म्यूचुअल इंफॉर्मेशन (MI) के वेरिएशनल लोअर बाउंड को ऑप्टिमाइज़ करता है। यह मूल पैरामीटर के नेगेटिव लॉग-लाइक्लीहुड को मिनिमाइज़ करके प्राप्त किया जाता है:
  $\mathcal{L}_{info}(q) = \mathbb{E}_{(\theta, x_s) \sim p_s} [-\log q(\theta | G_{rs}(G_{sr}(x_s)))]$
4. यह लॉस ट्रांसपोर्ट मैप्स को पैरामीटर के बारे में जानकारी बनाए रखने के लिए प्रोत्साहित करता है, न कि केवल मार्जिनल डिस्ट्रीब्यूशन को मैच करने के लिए।
प्रशिक्षण प्रक्रिया (Training Procedure): फ्रेमवर्क ट्रांसपोर्ट नेटवर्क ( $G_{sr}, G_{rs}$ ), डिस्क्रिमिनेटर्स (डोमेन एलाइनमेंट के लिए), और पोस्टीरियर एस्टीमेटर ( $q_\psi$ ) को संयुक्त रूप से प्रशिक्षित करता है। कुल जनरेटर लॉस एडवर्सरियल ट्रांसलेशन, साइकिल-कंसिस्टेंसी, आइडेंटिटी रेगुलराइजेशन और सूचना-संरक्षण टर्म ( $\mathcal{L}_{info}$ ) को जोड़ता है।

प्रमुख योगदान

सूचना-संरक्षण डोमेन ट्रांसफर: पूर्ववर्ती डोमेन एलाइनमेंट विधियों के विपरीत, जो मार्जिनल डिस्ट्रीब्यूशन मैचिंग पर ध्यान केंद्रित करती हैं, SPIN स्पष्ट रूप से डोमेन ट्रांसफर को पैरामीटर ऑफ इंटरेस्ट के बीच म्यूचुअल इंफॉर्मेशन को संरक्षित करने के लिए बाधित करता है।
अनलेबल, अनपेयर्ड एडेप्टेशन: SPIN प्रशिक्षण के लिए केवल सिम्युलेटर लेबल की आवश्यकता होती है। यह बिना किसी कैलिब्रेशन सेट (जिसमें ज्ञात पैरामीटर्स हों) के, अनलेबल, अनपेयर्ड वास्तविक दुनिया के अवलोकनों का उपयोग करके NPE को अनुकूलित करता है।
सैद्धांतिक औचित्य: लेखक एक पॉपुलेशन आइडेंटिटी प्रदान करते हैं जो दिखाती है कि यदि सीखा गया ट्रांसपोर्ट एक पैरामीटर-प्रिजर्विंग जॉइंट-ट्रांसपोर्ट शर्त को संतुष्ट करता है, तो वास्तविक दुनिया का टेस्ट-टाइम रिस्क, $\mathcal{L}_{info}$ द्वारा मिनिमाइज़ किए गए सिम्युलेटर-लेबल वाले ट्रांसपोर्टेड रिस्क के बराबर होता है।

प्रायोगिक परिणाम
लेखकों ने चार बेंचमार्क पर SPIN का मूल्यांकन किया:

SIR: देरी से रिपोर्टिंग वाले महामारी मॉडल पर आधारित एक कमजोर रूप से मिसस्पेसिफाइड सिंथेटिक बेंचमार्क।
Pendulum: घर्षण रहित पेंडुलम मॉडल में डैम्पिंग (damping) पेश करने वाला एक सिंथेटिक बेंचमार्क।
Wind Tunnel: एक नियंत्रित भौतिक बेंचमार्क जो विंड-चेंबर सिस्टम का उपयोग करता है जहाँ मैकेनिस्टिक मॉडल वास्तविक चैंबर प्रतिक्रियाओं का अनुमान लगाता है।
Light Tunnel: एक नियंत्रित भौतिक बेंचमार्क जो एक ऑप्टिकल इमेजिंग सिस्टम का उपयोग करता है जिसमें लाइट-टनल प्रतिक्रियाओं का सरलीकृत मॉडलिंग है।

निष्कर्ष:

प्रदर्शन: सिंथेटिक और भौतिक बेंचमार्क में, SPIN ने मानक NPE और मार्जिनल एलाइनमेंट बेसलाइन्स (NPE-MMD, NPE-DANN) की तुलना में मुख्य अनुमान-गुणवत्ता मेट्रिक्स (RMSE, Log Posterior Probability, और ACAUC) में लगातार सुधार किया।
मिसस्पेसिफिकेशन का प्रभाव: SPIN के सुधार तब अधिक स्पष्ट हो गए जब मिसस्पेसिफिकेशन की डिग्री बढ़ गई। उदाहरण के लिए, पेंडुलम बेंचमार्क में, जैसे-जैसे डैम्पिंग गुणांक (मिसस्पेसिफिकेशन स्ट्रेंथ) बढ़ा, SPIN ने बेसलाइन्स की तुलना में श्रेष्ठ पोस्टीरियर डेंसिटी और सटीकता बनाए रखी।
एब्लेशन (Ablation): सूचना-संरक्षण टर्म ( $\mathcal{L}_{info}$ ) को हटाने से प्रदर्शन में गिरावट आई, विशेष रूप से उन कार्यों में जिनमें सिम्युलेटर-रियलिटी गैप बड़ा था। यह पुष्टि करता है कि लाभ केवल डोमेन एलाइनमेंट से नहीं, बल्कि पैरामीटर-प्रासंगिक जानकारी के संरक्षण से संचालित होते हैं।
डेटा दक्षता: SPIN का प्रदर्शन अनलेबल वास्तविक दुनिया के डेटा ( $N_r$ ) की मात्रा पर निर्भर करता है, बड़े डेटासेट अधिक स्थिर ट्रांसपोर्ट लर्निंग प्रदान करते हैं, हालांकि मध्यम डेटा आकार के साथ भी लाभ देखे गए।

महत्व और दावे
पेपर का दावा है कि मिसस्पेसिफाइड SBI के लिए, सिम्युलेटेड और वास्तविक डेटा के बीच मार्जिनल विसंगति (discrepancy) को कम करना आवश्यक है लेकिन पर्याप्त नहीं है। लेखक तर्क देते हैं कि डोमेन ट्रांसपोर्ट को स्पष्ट रूप से पैरामीटर ऑफ इंटरेस्ट के लिए प्रासंगिक जानकारी को संरक्षित करना चाहिए। SPIN प्रदर्शित करता है कि सिम्युलेटर लेबल का उपयोग करके अनलेबल वास्तविक दुनिया के डेटा के ट्रांसपोर्ट के दौरान सूचना-संरक्षण को लागू करके, अधिक मजबूत और सटीक पोस्टीरियर अनुमान प्राप्त किया जा सकता है। यह विधि विशेष रूप से प्रभावी है जब सिम्युलेटर और वास्तविकता के बीच का अंतर महत्वपूर्ण होता है, जो उन सेटिंग्स के लिए एक व्यावहारिक समाधान प्रदान करती है जहाँ वास्तविक दुनिया के पैरामीटर लेबल उपलब्ध नहीं होते हैं।

बड़ी समस्या: "परफेक्ट सिम्युलेटर" बनाम "अव्यवस्थित वास्तविक दुनिया"

पुराने समाधान: केवल "दिखने में समानता" लाना

नया समाधान: SPIN (एक "अनुवादक" जो याद रखता है)

यह विशेष क्यों है

प्रयोग (द "टेस्ट ड्राइव")

सारांश

इसी तरह के और पेपर