🤖 machine learning

Generating Benchmark Health Data Using a Tabular Diffusion Transformer

यह शोध पत्र एक दो-चरणीय ढांचे का प्रस्ताव करता है जो विषम कच्ची तालिकाओं को मानकीकृत सांख्यिकीय निरूपणों में परिवर्तित करता है और सिंथेटिक सांख्यिकीय तालिकाएँ उत्पन्न करने के लिए एक डिफ्यूजन ट्रांसफॉर्मर का उपयोग करता है, जिन्हें फिर क्रॉस-टेबुलर डेटा जनरेशन में मौजूदा विधियों की सीमाओं को दूर करने के लिए यथार्थवादी सिंथेटिक कच्ची तालिकाओं में पुनर्गठित किया जाता है।

मूल लेखक: Hao Yan, Lisa Pilgram, Dan Liu, Linglong Kong, Fida Dankar, Khaled El Emam

प्रकाशित 2026-08-17

📖 9 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Hao Yan, Lisa Pilgram, Dan Liu, Linglong Kong, Fida Dankar, Khaled El Emam

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

द ग्रेट डेटा डिटेक्टिव गेम (The Great Data Detective Game)

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन आपके पास केवल एक अपराध स्थल नहीं है, बल्कि दुनिया भर में बिखरे हुए हजारों अलग-अलग अपराध स्थल हैं। कुछ नैपकिन पर लिखे बेतरतीब निशान हैं, कुछ व्यवस्थित स्प्रेडशीट्स हैं, और कुछ के पन्ने पूरी तरह से गायब हैं। कंप्यूटर विज्ञान की दुनिया में, यह सिंथेटिक डेटा जनरेशन (synthetic data generation) की चुनौती है। वैज्ञानिक वास्तविक दिखने वाले नकली डेटासेट बनाना चाहते हैं जो बिल्कुल असली डेटा की तरह व्यवहार करें और दिखें। क्यों? क्योंकि असली डेटा में अक्सर निजी रहस्य (जैसे मेडिकल रिकॉर्ड) होते हैं जिन्हें स्वतंत्र रूप से साझा नहीं किया जा सकता। यदि शोधकर्ता ऐसा "नकली" डेटा बना सकते हैं जो असली चीज़ की तरह ही व्यवहार करता है, तो वे किसी व्यक्ति की निजी जानकारी देखे बिना अपने नए AI टूल्स का परीक्षण कर सकते हैं, अपने एल्गोरिदम को प्रशिक्षित कर सकते हैं, और समस्याओं को हल कर सकते हैं।

इसे करने के लिए, कंप्यूटर आमतौर पर डेटा के "नियमों" को सीखने की कोशिश करते हैं। इसे एक शेफ की तरह समझें जो एक व्यंजन को फिर से बनाने की कोशिश कर रहा है। यदि शेफ केवल एक विशिष्ट कटोरा सूप चखता है, तो वह उस सटीक कटोरे को पूरी तरह से बनाना सीख सकता है, लेकिन उसे यह नहीं पता चलेगा कि एक नया कटोरा कैसे बनाया जाए जो अभी भी सूप जैसा ही स्वाद दे। आज के अधिकांश कंप्यूटर शेफ एक बार में केवल एक ही कटोरा बनाने में अटके हुए हैं। उन्हें एक साथ हजारों अलग-अलग सूप, स्टू और सॉस के पूरे भंडार से सीखने के लिए कहा जाता है, तो वे संघर्ष करते हैं। यहीं पर नया शोध आता है, जिसका लक्ष्य कंप्यूटर को यह सिखाना है कि वे कैसे मास्टर शेफ बनें जो एक हजार अलग-अलग रेसिपी का स्वाद ले सकें और फिर बिल्कुल नए, स्वादिष्ट व्यंजन बना सकें जो पहले कभी अस्तित्व में नहीं थे।

द पेपर: कंप्यूटर को हज़ार रेसिपी के साथ खाना बनाना सिखाना

इस शोध पत्र में, कनाडा और जर्मनी के शोधकर्ताओं की एक टीम एक चतुर दो-चरणीय रेसिपी पेश करती है, जो कंप्यूटर को विभिन्न वास्तविक-दुनिया की तालिकाओं (tables) के विशाल संग्रह से यथार्थवादी, नकली स्वास्थ्य डेटा उत्पन्न करना सिखाती है। वे अपनी विधि को क्रॉस-टैबुलर डेटा जनरेशन (CTDG) कहते हैं। हर एक पंक्ति के डेटा को याद करने की कोशिश करने के बजाय (जो कि एक लाइब्रेरी में हर शब्द को याद करने जैसा है), वे कंप्यूटर को पहले डेटा के "फ्लेवर प्रोफाइल" (स्वाद के स्वरूप) को समझना सिखाते हैं।

चरण 1: "फ्लेवर प्रोफाइल" रूपांतरण (The "Flavor Profile" Transformation)

पहला समस्या जिसे टीम हल करती है, वह यह है कि वास्तविक दुनिया की डेटा तालिकाएं अव्यवस्थित और एक-दूसरे से भिन्न होती हैं। एक तालिका में "आयु" और "रक्तचाप" के कॉलम हो सकते हैं, जबकि दूसरी में "ऊंचाई" और "वजन" हो सकते हैं। यदि वे एक जैसे नहीं दिखते हैं, तो कंप्यूटर उन्हें आसानी से नहीं सीख सकता।

इसे ठीक करने के लिए, शोधकर्ताओं ने हर एक तालिका को एक मानकीकृत "सांख्यिकीय तालिका" (statistical table) में बदलने का एक तरीका आविष्कार किया। कल्पना कीजिए कि एक जटिल, अव्यवस्थित पेंटिंग को एक सरल रंग पैलेट कार्ड में बदल दिया गया है।

द मार्जिनल रेसिपी (The Marginal Recipe): प्रत्येक कॉलम (जैसे "आयु") के लिए, वे वास्तविक नंबरों को नहीं रखते हैं। इसके बजाय, वे वितरण (distribution) के आकार को समझते हैं। क्या यह एक बेल कर्व (bell curve) है? क्या यह झुका हुआ है? वे इस आकार को पकड़ने के लिए केवल तीन नंबरों का उपयोग करके एक गणितीय उपकरण जिसे बीटा-बाइनोमियल डिस्ट्रीब्यूशन (Beta-Binomial distribution) कहा जाता है, का उपयोग करते हैं: दो शेप पैरामीटर ( $\alpha$ और $\beta$ ) और अद्वितीय श्रेणियों की संख्या (cardinality)। वे यह भी नोट करते हैं कि उस कॉलम में कितने लापता मान (खाली स्थान) मौजूद हैं।
द रिलेशनशिप मैप (The Relationship Map): डेटा कॉलम अक्सर एक-दूसरे पर निर्भर होते हैं (जैसे, लंबे लोगों का वजन अधिक होने की प्रवृत्ति होती है)। इसे कैप्चर करने के लिए, वे गणना करते हैं कि कॉलम एक-दूसरे से कैसे संबंधित हैं। नंबरों के एक विशाल, अव्यवस्थित ग्रिड को रखने के बजाय, वे इस संबंध मानचित्र को एक निश्चित आकार के वेक्टर में संकुचित करने के लिए आइगन-डीकंपोजिशन (eigen-decomposition) नामक एक गणितीय ट्रिक का उपयोग करते हैं।

परिणाम क्या है? हर एक तालिका, चाहे वह मूल रूप से कितनी भी अलग क्यों न रही हो, नंबरों की एक सुव्यवस्थित, समान सूची में बदल जाती है। यह हजारों अलग-अलग भाषाओं को एक एकल, सार्वभौमिक कोड में बदलने जैसा है जिसे कंप्यूटर पढ़ सकता है।

चरण 2: द डिफ्यूजन ट्रांसफॉर्मर शेफ (The Diffusion Transformer Chef)

एक बार जब सभी तालिकाओं को इन समान "सांख्यिकीय तालिकाओं" में बदल दिया जाता है, तो शोधकर्ता एक विशेष AI मॉडल प्रशिक्षित करते हैं जिसे टैबुलर डिफ्यूजन ट्रांसफॉर्मर (TDT) कहा जाता है।

इस मॉडल को एक मूर्तिकार के रूप में सोचें जो शोर के एक ब्लॉक (रैंडम स्टैटिक) से शुरू करता है और एक मूर्ति प्रकट करने के लिए धीरे-धीरे उसे तराशता है। AI की दुनिया में, इसे डिफ्यूजन मॉडल (diffusion model) कहा जाता है। मॉडल रैंडम शोर को लेना और धीरे-धीरे उसे एक यथार्थवादी "सांख्यिकीय तालिका" में बदलना सीखता है जो उनके द्वारा अध्ययन किए गए डेटा जैसा दिखता है।

प्रशिक्षण (The Training): मॉडल को पहले सामान्य पैटर्न सीखने के लिए 4,095 सामान्य डेटासेट्स (अर्थशास्त्र, खेल, इंजीनियरिंग आदि से) पर "प्री-ट्रेन" किया गया था। फिर, इसे मेडिकल डेटा के विशिष्ट "फ्लेवर" को सीखने के लिए 144 स्वास्थ्य-संबंधित डेटासेट्स पर "फाइन-ट्यून" किया गया।
जेनरेशन (The Generation): प्रशिक्षित होने के बाद, मॉडल नए सांख्यिकीय टेबल बना सकता है। ये केवल कॉपियां नहीं हैं; ये उन पैटर्न के नए संयोजन हैं जिन्हें मॉडल ने सीखा है।
रिकंस्ट्रक्शन (The Reconstruction): अंत में, कंप्यूटर इन नए सांख्यिकीय टेबल्स को लेता है और प्रक्रिया को उल्टा करता है। यह नए डेटा पॉइंट्स को सैंपल करने के लिए नंबरों का उपयोग करता है, प्रभावी रूप से एक नकली कच्चा (raw) टेबल "पुनर्निर्मित" करता है जो वास्तविक स्वास्थ्य डेटा की तरह दिखता है और व्यवहार करता है।

उन्होंने क्या पाया (What They Found)

शोधकर्ताओं ने अपने तरीके का कड़ाई से परीक्षण किया कि क्या यह वास्तव में काम करता है।

1. रिकंस्ट्रक्शन टेस्ट (The Reconstruction Test):
सबसे पहले, उन्होंने जांचा कि क्या वे एक वास्तविक टेबल को सांख्यिककल टेबल में और फिर वापस कच्चे टेबल में बिना डेटा की "आत्मा" खोए बदल सकते हैं। उन्होंने मूल और पुनर्निर्मित डेटा के बीच अंतर को मापने के लिए डायमेंशन-नॉर्मलाइज्ड वासरस्टीन डिस्टेंस (dNWD) नामक एक मीट्रिक का उपयोग किया।

परिणाम: औसत अंतर अविश्वसनीय रूप से छोटा था: 0.095 (मानक विचलन 0.061 के साथ)। अधिकांश डेटासेट्स का स्कोर 0.2 से नीचे था।
सबक: यह सुझाव देता है कि सांख्यिकीय टेबल मूल डेटा का एक बहुत ही वफादार प्रतिनिधित्व है। कंप्यूटर ने केवल अनुमान नहीं लगाया; इसने आवश्यक संरचना को पकड़ा।

2. एब्लेशन टेस्ट (The "Ablation" Test - यदि हम संबंधों को छोड़ दें तो क्या होगा?):
यह साबित करने के लिए कि कॉलम के बीच संबंधों को समझना महत्वपूर्ण है, उन्होंने दो प्रयोग चलाए जहाँ उन्होंने संबंध डेटा को हटा दिया।

परिदृश्य A (कोई संबंध नहीं): उन्होंने कंप्यूटर को यह मानने के लिए कहा कि सभी कॉलम स्वतंत्र हैं (जैसे पासा फेंकना)। त्रुटि बढ़कर 0.304 हो गई। डेटा ठीक लग रहा था, लेकिन कनेक्शन टूट गए थे।
परिदृश्य B (रैंडम संबंध): उन्होंने कंप्यूटर को रैंडम, बनावटी संबंध दिए। त्रुटि बढ़कर 0.636 हो गई, और डेटा एक गड़बड़ बन गया।
निष्कर्ष: पेपर स्पष्ट रूप से इस विचार को खारिज करता है कि आप केवल व्यक्तिगत कॉलम को देखकर अच्छे परिणाम प्राप्त कर सकते हैं। अच्छे परिणाम पाने के लिए आपको यह कैप्चर करना ही होगा कि वे एक-दूसरे से कैसे संबंधित हैं।

3. डोमेन टेस्ट (क्या इसने स्वास्थ्य सीखा, या केवल शोर?):
टीम ने 2,000 नए सिंथेटिक स्वास्थ्य टेबल बनाए और उनकी तुलना स्वास्थ्य, अर्थशास्त्र, सांख्यिकी, इंजीनियरिंग, वित्त और खेलों से संबंधित वास्तविक तालिकाओं से की। उन्होंने क्लोजेस्ट वासरस्टीन डिस्टेंस (CWD) नामक मीट्रिक का उपयोग किया यह देखने के लिए कि नकली डेटा किस वास्तविक डोमेन के सबसे करीब दिखता है।

परिणाम: सिंथेटिक स्वास्थ्य टेबल वास्तविक स्वास्थ्य डेटा के सबसे करीब थे, जिसका औसत CWD 0.72 था।
तुलना: वे अन्य डोमेन से बहुत दूर थे: अर्थशास्त्र (0.97), सांख्यिकी (0.98), इंजीनियरिंग (1.35), वित्त (1.55), और गेम्स (1.75)।
प्रमाण: सांख्यिकीय परीक्षणों ने पुष्टि की कि सिंथेटिक डेटा अन्य प्रकार के डेटा की तुलना में वास्तविक स्वास्थ्य डेटा के काफी करीब है। मॉडल ने केवल प्रशिक्षण सेट को याद नहीं किया; इसने अंतर्निहित "स्वास्थ्य" पैटर्न को सीखा।

4. डाइवर्सिटी टेस्ट (The Diversity Test):
अंत में, उन्होंने पूछा: "क्या मॉडल बार-बार एक ही कुछ तालिकाओं की नकल कर रहा है?" उन्होंने जांचा कि सिंथेटिक तालिकाओं के कितने अद्वितीय वास्तविक टेबल करीब थे।

परिणाम: सिंथेटिक टेबल्स के निकटतम पड़ोसी (nearest neighbors) वास्तविक टेबल्स के 77% ( $k=1$ पर) को कवर करते थे और शीर्ष 10 पड़ोसियों को देखने पर 95% से अधिक को कवर करते थे।
निष्कर्ष: मॉडल विविध है। यह एक लूप में नहीं फंसा है; यह स्वास्थ्य डेटा के पूरे परिदृश्य का पता लगा रहा है।

यह क्यों मायने रखता है (Why This Matters)

लेखक सुझाव देते हैं कि यह तरीका बेंचमार्क डेटासेट्स बनाने के लिए गेम-चेंजर हो सकता है। अभी, शोधकर्ता अक्सर अपने नए मेडिकल AI टूल्स का परीक्षण करने के लिए अच्छे, विविध और यथार्थवादी डेटा को खोजने के लिए संघर्ष करते हैं। यह विधि वास्तविक दुनिया की जटिलता को कैप्चर करते हुए, वास्तविक रोगियों की गोपनीयता को उजागर किए बिना, असीमित संख्या में यथार्थवादी, नकली स्वास्थ्य डेटासेट उत्पन्न कर सकती है।

हालाँकि, पेपर इसकी सीमाओं को नोट करने में सावधान है। यह विधि उन तालिकाओं के लिए सबसे अच्छा काम करती है जिनमें 256 कॉलम तक होते हैं। यदि कोई डेटासेट विशाल है और इसमें हजारों कॉलम हैं, तो यह विशिष्ट मॉडल संघर्ष कर सकता है। साथ ही, क्योंकि यह विधि पैटर्न खोजने के लिए डेटा को स्मूथ (smooth) करती है, इसलिए चरम आउटलेयर्स (बहुत दुर्लभ, अजीब डेटा बिंदु) अनुवाद में खो सकते हैं। लेखक सुझाव देते हैं कि यदि किसी अध्ययन को उन चरम आउटलेयर्स की आवश्यकता है, तो उन्हें मैन्युअल रूप से वापस जोड़ना होगा।

संक्षेप में, यह पेपर कंप्यूटर को कई अलग-अलग स्रोतों से डेटा के "व्याकरण" को समझने का तरीका प्रस्तावित करता है, जिससे उन्हें नए, यथार्थवादी "कहानियां" (डेटासेट) लिखने की अनुमति मिलती है जो परीक्षण और प्रशिक्षण के लिए एकदम सही हैं, और साथ ही वास्तविक लोगों के रहस्यों को सुरक्षित रखती हैं।

तकनीकी सारांश: एक टैबुलर डिफ्यूजन ट्रांसफॉर्मर का उपयोग करके बेंचमार्क स्वास्थ्य डेटा उत्पन्न करना

समस्या विवरण

क्रॉस-टैबुलर डेटा जनरेशन (CTDG) का लक्ष्य कई विषम (heterogeneous) तालिकाओं से एक जनरेटिव मॉडल सीखना है ताकि नए सिंथेटिक टैबुलर डेटासेट तैयार किए जा सकें। जबकि मौजूदा सिंथेटिक टैबुलर डेटा जनरेशन (STDG) विधियों ने महत्वपूर्ण प्रगति की है, वे मुख्य रूप से सिंगल-इनपुट-टेबल परिदृश्यों तक ही सीमित हैं। ये विधियाँ विविध फीचर सेट, कॉलम नाम और डेटा प्रकारों वाली कई विषम तालिकाओं को प्रभावी ढंग से संभालने में संघर्ष करती हैं। फलस्वरूप, वे एक एकीकृत जनरेटिव मॉडल बनाने में सक्षम नहीं हो पातीं जो किसी डोमेन के साझा सांख्यिकीय गुणों और संरचनात्मक पैटर्न को कैप्चर कर सके। यह सीमा विविध, यथार्थवादी बेंचमार्क डेटासेट बनाने में बाधा डालती है जो वास्तविक दुनिया के डेटा की बहुलता को दर्शाते हैं, विशेष रूप से स्वास्थ्य सेवा (healthcare) के क्षेत्र में जहाँ डेटा अक्सर गैर-संरेखित (non-aligned) तालिकाओं में वितरित होता है। वर्तमान बेंचमार्क रिपॉजिटरी में अक्सर विविधता की कमी होती है, वे मनमाने डेटासेट चयन पर निर्भर करती हैं, या काल्पनिक वितरणों का उपयोग करती हैं जो वास्तविक स्वास्थ्य डेटा संरचनाओं को प्रतिबिंबित नहीं करते हैं।

कार्यप्रणाली (Methodology)

लेखक CTDG के लिए एक दो-चरणीय ढांचे का प्रस्ताव करते हैं जो विषम रॉ तालिकाओं को एक सजातीय (homogeneous) प्रतिनिधित्व में परिवर्तित करता है, एक एकीकृत वितरण सीखता है, और सिंथेटिक रॉ तालिकाओं का पुनर्निर्माण करता है।

चरण 1: सांख्यिकीय तालिकाओं में रूपांतरण

विषमता को संबोधित करने के लिए, प्रत्येक वास्तविक रॉ टेबल ( $X_i$ ) को एक मानकीकृत "सांख्यिकीय तालिका" में परिवर्तित किया जाता है। यह प्रक्रिया विशिष्ट कॉलम नामों और मानों को हटा देती है, और केवल जनरेशन के लिए आवश्यक सांख्यिकीय गुणों को बनाए रखती है:

सीमांत सांख्यिकी (Marginal Statistics):
- कैटेगोरिकल फीचर्स: अद्वितीय तत्वों को आवृत्ति के आधार पर सॉर्ट किया जाता है और पूर्णांक इंडेक्स में मैप किया जाता है। इन इंडेक्स पर एक बीटा-बाइनोमियल (Beta-Binomial) वितरण फिट किया जाता है, जिससे पैरामीटर $(\alpha, \beta)$ और कॉलम की कार्डिनैलिटी प्राप्त होती है।
- न्यूमेरिकल फीचर्स: मानों को निश्चित अंतराल ( $I_N = 100$ ) में विच्छेदित (discretize) किया जाता है। समान सॉर्टिंग, मैपिंग और बीटा-बाइनोमियल फिटिंग प्रक्रिया को इन पर भी लागू किया जाता है, जिसके परिणामस्वरूप पैरामीटर $(\alpha, \beta)$ और कार्डिनैलिटी $I_N$ के बराबर प्राप्त होती है।
- मिसिंग वैल्यूज: प्रत्येक कॉलम के लिए मिसिंग रेट दर्ज किया जाता है।
- परिणाम: प्रत्येक कॉलम को एक टुपल $(\alpha, \beta, \text{cardinality}, \text{missing rate})$ द्वारा दर्शाया जाता है।
सहसंबंध संरचना (Correlational Structure):
- निर्भरताओं को संरक्षित करने के लिए (मल्टीवेरिएट बीटा-बाइनोमियल वितरणों से सैंपलिंग की कम्प्यूटेशनल जटिलता से बचने हेतु), कॉलम को प्रोबेबिलिटी इंटीग्रल ट्रांसफॉर्म के माध्यम से एक सामान्य वितरण (normal distribution) में परिवर्तित किया जाता है।
- इन रूपांतरित चरों पर पेयरवाइज सहसंबंध (pairwise correlations) की गणना की जाती है जिससे एक सहसंबंध मैट्रिक्स $\Sigma_i$ बनता है।
- आइगन-डिकंपोजिशन (Eigen-decomposition): विभिन्न तालिकाओं में कॉलम की संख्या को संभालने के लिए, $\Sigma_i$ को $U\Lambda U^\top$ में डीकंपोज किया जाता है। लेखक एक ओवर-पैरामेट्राइज्ड सेटिंग अपनाते हैं जहाँ फिक्स्ड डायमेंशन $K=256$ है। मैट्रिक्स $A = U\Lambda^{1/2}$ एक कॉम्पैक्ट प्रतिनिधित्व के रूप में कार्य करता है जहाँ प्रत्येक रो वेक्टर $\mathbf{a}_i$ एक कॉलम के सहसंबंध मापदंडों के अनुरूप होता है।
- एकीकृत प्रतिनिधित्व: सांख्यिकीय तालिका में प्रत्येक कॉलम को $K+4$ मापदंडों के टुपल द्वारा दर्शाया जाता है: $(\alpha, \beta, \text{cardinality}, \text{missing rate}, \mathbf{a})$ ।
पुनर्निर्माण (Reconstruction): रिकवर किए गए सहसंबंध मैट्रिक्स का उपयोग करके मल्टीवेरिएट गौसियन वितरण से सैंपल लेकर, इनवर्स प्रोबेबिलिटी इंटीग्रल ट्रांसफॉर्म के माध्यम से नमूनों को वापस बीटा-बाइनोमियल वितरणों में मैप करके, और रिकॉर्ड किए गए दरों के आधार पर मिसिंग वैल्यूज पेश करके रॉ तालिकाओं का पुनर्निर्माण किया जाता है।

चरण 2: टैबुलर डिफ्यूजन ट्रांसफॉर्मर (TDT)

एक डिफ्यूजन ट्रांसफॉर्मर मॉडल को सजातीय सांख्यिकीय तालिकाओं के सेट पर उनके संयुक्त वितरण को सीखने के लिए प्रशिक्षित किया जाता है।

आर्किटेक्चर: मॉडल एक स्टैंडर्ड ट्रांसफॉर्मर एनकोडर का उपयोग करता है। एक सांख्यिकीय तालिका की प्रत्येक रो को एक एम्बेडिंग (एक वाक्य में टोकन के समान) के रूप में माना जाता है, और स्वयं तालिका एक सीक्वेंस है।
मानकीकरण: चूंकि मापदंडों के स्केल विविध होते हैं (जैसे, अनबाउंडेड $\alpha, \beta$ बनाम बाउंडेड कोरिलेशन वैल्यूज), सभी तालिकाओं में प्रत्येक के $K+4$ कॉलमों पर ग्लोबल क्वांटाइल ट्रांसफॉर्मेशन लागू किया जाता है ताकि उन्हें एक स्टैंडर्ड नॉर्मल डिस्ट्रीब्यूशन में मैप किया जा सके।
प्रशिक्षण: मॉडल डीडीडीएम (DDPM) ऑब्जेक्टिव का पालन करता है, जो इनपुट सांख्यिकीय तालिकाओं में जोड़े गए शोर (noise) को पुनर्गठित करना सीखता है।
रणनीति: एक प्रीट्रेनिंग-फाइनट्यूनिंग दृष्टिकोण अपनाया गया है। मॉडल पहले विविध सांख्यिकीय पैटर्न सीखने के लिए 4,095 सामान्य OpenML डेटासेट्स पर प्रीट्रेन किया जाता है, फिर 144 स्वास्थ्य-संबंधी डेटासेट्स (131 OpenML हेल्थ + 13 विशिष्ट हेल्थकेयर डेटासेट्स) पर फाइन-ट्यून किया जाता है।
जनरेशन: प्रशिक्षित मॉडल $T$ -स्टेप डिनोइजिंग प्रक्रिया के माध्यम से सिंथेटिक सांख्यिकीय तालिकाएं उत्पन्न करता है। इन्हें फिर सिंथेटिक रॉ तालिकाओं में पुनर्गठित किया जाता है।

मुख्य योगदान

क्रॉस-टैबुलर फ्रेमवर्क: एक दो-चरणीय CTDG फ्रेमवर्क का प्रस्ताव, जो कई विषम तालिकाओं से सीखने में सक्षम बनाता है, जिससे मौजूदा STDG विधियों की सिंगल-टेबल सीमाओं को दूर किया जा सके।
सांख्यिकीय तालिका प्रतिनिधित्व: बीटा-बाइनोमियल मार्जिनल फिटिंग और सहसंबंध मैट्रिक्स के स्पेक्ट्रल डीकंपोजिशन का उपयोग करके विषम रॉ तालिकाओं को सजातीय सांख्यिकीय तालिकाओं में बदलने की एक नवीन विधि, जो यूनिफाइड मॉडलिंग को सक्षम बनाती है।
टैबुलर डिफ्यूजन ट्रांसफॉर्मर: टैबुलर डेटा जनरेशन के लिए एक डिफक्शन ट्रांसफॉर्मर आर्किटेक्चर का अनुकूलन, जिसे विशेष रूप से सांख्यिकीय मापदंडों के परिवर्तनीय-लंबाई वाले सीक्वेंस को संभालने के लिए डिज़ाइन किया गया है।
बेंचमार्क जनरेशन: 1,000 सिंथेटिक हेल्थ डेटासेट्स (प्रत्येक 10,000 पंक्तियाँ, 10–256 कॉलम) का निर्माण, जिसका उद्देश्य यथार्थवादी बेंचमार्क के रूप में उपयोग किया जाना है, जो वर्तमान बेंचमार्क रिपॉजिटरी में विविधता और मानकीकरण की कमी को संबोधित करता है।

परिणाम

अध्ययन 144 स्वास्थ्य-संबंधी डेटासेट्स पर डायमेंशन-नॉर्मलाइज्ड वॉसरस्टीन डिस्टेंस (dNWD) और क्लोजेस्ट वॉसरस्टीन डिस्टेंस (CWD) का उपयोग करके फ्रेमवर्क का मूल्यांकन करता है।

पुनर्निर्माण निष्ठा (Reconstruction Fidelity):
- उनके निकाले गए सांख्यिकीय प्रतिनिधित्व से रॉ तालिकाओं को पुनर्गठित करने से औसत dNWD 0.095 (SD 0.061) प्राप्त हुआ।
- एब्लेशन स्टडीज ने पुष्टि की कि सटीक कोरिलेशन मॉडलिंग महत्वपूर्ण है। कोरिलेशन हटाने (identity matrix) से dNWD बढ़कर 0.304 हो गया, जबकि रैंडम कोरिलेशन का उपयोग करने से यह 0.636 हो गया, जो दर्शाता कि प्रस्तावित कोरिलेशन प्रतिनिधित्व निष्ठा के लिए आवश्यक है।
सिंथेटिक-टू-रियल मूल्यांकन:
- 5-फोल्ड क्रॉस-वैलिडेशन का उपयोग करते हुए, हेल्थ-डोमेन फाइन-ट्यूनिंग के बाद जनरेट की गई सिंथेटिक टेबल अन्य डोमेन (इकोनॉमिक्स: 0.97, स्टैटिस्टिक्स: 0.98, इंजीनियरिंग: 1.35, फाइनेंस: 1.55, गेम्स: 1.75) की तुलना में वास्तविक हेल्थ डेटा (औसत CWD: 0.72) के काफी करीब थीं।
- सांख्यिकीय परीक्षणों (होल्म करेक्शन के बाद फिशर के मेथड के माध्यम से संयोजित विल्कोक्सन साइन्ड-रैंक टेस्ट) ने पुष्टि की कि सिंथेटिक हेल्थ टेबल किसी भी अन्य डोमेन की तुलना में वास्तविक हेल्थ टेबल के काफी करीब हैं ( $p < 0.05$ )।
- सिंथेटिक-टू-रियल दूरी का पदानुक्रम (hierarchy) वास्तविक-टू-रियल दूरी के पदानुक्रम को ही दर्शाता है, जो इंगित करता है कि मॉडल डोमेन-विशिष्ट संरचनात्मक विशेषताओं और सापेक्ष क्रॉस-डोमेन निकटता को सुरक्षित रखता है।
विविधता विश्लेषण (Diversity Analysis):
- विविधता को "टॉप- $k$ रेश्यो" द्वारा मापा गया, जो सिंथेटिक तालिकाओं के निकटतम पड़ोसियों (nearest neighbors) द्वारा कवर किए गए अद्वितीय वास्तविक तालिकाओं के अनुपात को दर्शाता है।
- $k=1$ के लिए, 77% वास्तविक तालिकाओं को कवर किया गया; $k=10$ के लिए, कवरेज 95% से अधिक था। यह इंगित करता है कि मॉडल मोड कोलैप्स (mode collapse) से बचता है और डोमेन में व्यापक रूप से वितरित तालिकाएं उत्पन्न करता है।

महत्व और दावे

पेपर यह दावा करता है कि प्रस्तावित दृष्टिकोण सफलतापूर्वक कई विषम तालिकाओं से एक एकीकृत जनरेटिव मॉडल सीखता है, जो ऐसे सिंथेटिक डेटासेट तैयार करता है जो वास्तविक स्वास्थ्य डेटा के प्रति उच्च निष्ठा (fidelity) और सार्थक विविधता दोनों प्रदर्शित करते हैं। लेखक तर्क देते हैं कि यह विधि यथार्थवादी बेंचमार्क डेटासेट बनाने के लिए एक आधार प्रदान करती है जो वास्तविक दुनिया के डेटा की बहुलता को दर्शाते हैं, जिससे वर्तमान बेंचमार्क में मनमाने डेटासेट चयन और कमी की समस्याओं को हल किया जा सके।

गोपनीयता के संबंध में, लेखक नोट करते हैं कि चूंकि जनरेटिव मॉडल व्यक्तिगत रिकॉर्ड के बजाय एग्रीगेट सांख्यिकीय तालिकाओं (वितरण और सहसंबंध) पर प्रशिक्षित है, और क्योंकि प्रशिक्षण रिकॉर्ड और जनरेटेड डेटा के बीच कोई वन-टू-वन मैपिंग नहीं है, इसलिए मेंबरशिप या एट्रिब्यूट डिस्क्लोजर का जोखिम कम है। जनरेटित डेटासेट्स का उद्देश्य संरक्षित स्वास्थ्य जानकारी (PHI) को उजागर किए बिना सिम्युलेशन अध्ययन और मशीन लर्निंग पाइपलाइनों के परीक्षण का समर्थन करना है। लेखक सीमाओं को स्वीकार करते हैं, जैसे कि चरम आउटलेयर्स (extreme outliers) को मास्क करने की क्षमता और 256 कॉलम की सीमा, लेकिन इस कार्य को स्केलेबल, डोमेन-विशिष्ट सिंथेटिक डेटा जनरेशन की दिशा में एक महत्वपूर्ण कदम के रूप में प्रस्तुत करते हैं।