📊 statistics

FL-Sailer: Efficient and Privacy-Preserving Federated Learning for Scalable Single-Cell Epigenetic Data Analysis via Adaptive Sampling

FL-Sailer एक नवीन फेडेरेटेड लर्निंग फ्रेमवर्क है जो एडेप्टिव लीवरेज स्कोर सैंपलिंग और एक इनवेरिएंट VAE आर्किटेक्चर के माध्यम से सिंगल-सेल ATAC-seq डेटा की अल्ट्रा-हाई डाइमेंशनैलिटी, स्पर्सिटी और हेटेरोजेनिटी पर विजय प्राप्त करता है, जिससे संस्थानों के बीच गोपनीयता-संरक्षित, स्केलेबल और श्रेष्ठ सहयोगात्मक एपिजेनोमिक विश्लेषण सक्षम होता है।

मूल लेखक: Guangyi Zhang, Yi Dai, Yiyun He, Junhao Liu

प्रकाशित 2026-05-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Guangyi Zhang, Yi Dai, Yiyun He, Junhao Liu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल जिग्सॉ पज़ल (jigsaw puzzle) हल करने की कोशिश कर रहे हैं, लेकिन पज़ल के टुकड़े पाँच अलग-अलग बंद कमरों में बिखरे हुए हैं। प्रत्येक कमरा एक अलग अस्पताल का है, और गोपनीयता के सख्त कानून किसी को भी पज़ल के टुकड़ों को कमरे से बाहर ले जाने से रोकते हैं। आपको उस तस्वीर को एक साथ बनाना है, लेकिन आप टुकड़ों को हिला नहीं सकते।

यह वही चुनौती है जिसका सामना वैज्ञानिक सिंगल-सेल एपिजेनेटिक डेटा (विशेष रूप से scATAC-seq) के साथ करते हैं। यह डेटा एक सुपर-विस्तृत मानचित्र की तरह है कि हमारे जीन कैसे चालू या बंद होते हैं। यह बीमारियों को समझने के लिए अविश्वसनीय रूप से मूल्यवान है, लेकिन यह भी है:

विशाल: इसमें प्रति व्यक्ति लाखों "टुकड़े" (विशेषताएं) हैं।
विरल (Sparse): अधिकांश टुकड़े खाली हैं (95% खाली स्थान)।
निजी: अस्पताल रोगी की गोपनीयता कानूनों के कारण कच्चा डेटा (raw data) साझा नहीं कर सकते।

यहाँ FL-Sailer आता है, जो एक नया तरीका है जिसे इस शोध पत्र में प्रस्तावित किया गया है, जो एक चतुर "रिमोट पज़ल सॉल्वर" की तरह कार्य करता है। यह कैसे काम करता है, इसके सरल उपमाओं का उपयोग करके यहाँ दिया गया है:

1. समस्या: ले जाने के लिए बहुत भारी (Too Heavy to Carry)

यदि आप पूरे पज़ल (कच्चा डेटा) को एक केंद्रीय सर्वर पर इकट्ठा करने के लिए एक अस्पताल से दूसरे अस्पताल भेजने की कोशिश करते, तो फ़ाइल इतनी विशाल होती कि वह इंटरनेट को जाम कर देती, और यह गोपनीयता नियमों का उल्लंघन भी करती। मानक "फेडरेटेड लर्निंग" (जहाँ मॉडल को डेटा के पास भेजा जाता है, न कि डेटा को मॉडल के पास) आमतौर पर यहाँ विफल हो जाती है क्योंकि "मॉडल" स्वयं भेजने के लिए बहुत भारी होता है। यह एक किताब के केवल एक पृष्ठ को अपडेट करने के लिए पूरी लाइब्रेरी को डाक से भेजने जैसा है।

2. समाधान: "स्मार्ट हाइलाइटर" (अनुकूली नमूनाकरण - Adaptive Sampling)

FL-Sailer की पहली तरकीब एडेप्टिव लीवरेज स्कोर सैंपलिंग (Adaptive Leverage Score Sampling) है।

कल्पना कीजिए कि आपके पास 1,000 पन्नों का एक दस्तावेज़ है, लेकिन केवल 200 पन्नों में ही वास्तव में महत्वपूर्ण कहानी है; बाकी पन्ने या तो खाली हैं या दोहराव वाले फुटनोट्स हैं। पूरे 1,000 पन्नों को अपने दोस्तों को भेजने के बजाय, आप एक "स्मार्ट हाइलाइटर" का उपयोग करके केवल उन 200 सबसे महत्वपूर्ण पन्नों को चुनते हैं।

यह कैसे काम करता है: एल्गोरिदम गणितीय रूप से पहचानता है कि कौन से जीनोमिक क्षेत्र (वे "पन्ने") जैविक रूप से दिलचस्प हैं और बाकी को हटा देता है।
परिणाम: यह डेटा के आकार को 80% तक कम कर देता है। डेटा का एक भारी ट्रक भेजने के बजाय, वे एक छोटा, हल्का पैकेज भेजते हैं। महत्वपूर्ण बात यह है कि शोध पत्र का दावा है कि यह केवल जगह नहीं बचाता है; यह वास्तव में "शोर" (खाली पन्नों) को हटाकर पज़ल को बेहतर बनाता है जो सॉल्वर को भ्रमित कर सकता है।

3. दूसरी तरकीब: "यूनिवर्सल ट्रांसलेटर" (इनवेरिएंट VAE)

भले ही आप डेटा को सिकोड़ दें, विभिन्न अस्पतालों ने थोड़े अलग सूक्ष्मदर्शी (microscopes) या प्रोटोकॉल का उपयोग किया होगा। यह "बैच इफेक्ट्स" (batch effects) पैदा करता है—जैसे कि यदि एक समूह के दोस्तों ने पज़ल के टुकड़ों को नीली स्याही से बनाया और दूसरे ने लाल स्याही से। यदि आप उन्हें बस मिला देते हैं, तो तस्वीर अस्त-व्यस्त दिखेगी।

FL-Sailer एक विशेष आर्किटेक्चर का उपयोग करता है जिसे इनवेरिएंट VAE (Variational Autoencoder) कहा जाता है। इसे एक यूनिवर्सल ट्रांसलेटर के रूप में सोचें।

यह "कहानी" (वास्तविक जैविक संकेत) को "लहजे" (विभिन्न प्रयोगशालाओं के कारण तकनीकी शोर) से अलग करना सीखता है।
यह "लहजे" को हटा देता है ताकि अस्पताल A की एक कोशिका अस्पताल B की एक समान कोशिका की तरह ही दिखे, भले ही उन्हें अलग-अलग तरीके से मापा गया हो। यह ग्लोबल मॉडल को वास्तविक जैविक पैटर्न देखने की अनुमति देता है बिना लैब उपकरण के अंतरों से भ्रमित हुए।

4. असेंबली: मिलकर तस्वीर बनाना

अब, प्रक्रिया इस प्रकार काम करती है:

स्थानीय हाइलाइटिंग: प्रत्येक अस्पताल अपने सबसे महत्वपूर्ण डेटा के शीर्ष 20% को चुनने के लिए "स्मार्ट हाइलाइटर" का उपयोग करता है।
स्थानीय अनुवाद: वे अपने विशिष्ट "लहजे" को अनदेखा करते हुए "कहानी" सीखने के लिए स्थानीय रूप से एक छोटा मॉडल प्रशिक्षित करते हैं।
अपडेट भेजना: वे केवल सीखे गए नियमों (मॉडल अपडेट) को एक केंद्रीय सर्वर पर भेजते, न कि स्वयं डेटा को। चूंकि डेटा को सिकोड़ा गया था, इसलिए ये अपडेट बहुत छोटे होते हैं।
ग्लोबल असेंबली: सर्वर इन नियमों को मिलाकर पज़ल की बेहतर, वैश्विक समझ बनाने के लिए इनका संयोजन करता है।

उन्होंने क्या सिद्ध किया?

शोध पत्र केवल यह नहीं कहता कि "यह काम करता है"; वे एक गणितीय प्रमाण (एक "कन्वर्जेंस गारंटी") प्रदान करते हैं जो यह दर्शाता है कि यह विधि सही उत्तर खोज लेगी, भले ही डेटा को इतनी आक्रामक तरीके से सिकोड़ा गया हो।

अपने परीक्षणों में, उन्होंने FL-Sailer की तुलना दो अन्य दृष्टिकोणों से की:

सेंट्रलाइज्ड मेथड (Centralized Method): सारा डेटा एक स्थान पर रखने की कोशिश करना (आकार और गोपनीयता के कारण असंभव)।
मानक फेडरेटेड लर्निंग (Standard Federated Learning): डेटा को सिकोड़े बिना उसे साझा करने की कोशिश करना (यह बहुत भारी और शोर भरा होने के कारण विफल रहा)।

परिणाम: FL-Sailer ने न केवल काम किया; इसने कई मामलों में सेंट्रलाइज्ड पद्धति को पराजित भी किया। "शोर" (80% डेटा जो आवश्यक नहीं था) को हटाकर, मॉडल ने जैविक पैटर्न को उस स्थिति की तुलना में अधिक स्पष्ट रूप से देखा जब इसने पूरे शोर भरे डेटासेट को प्रोसेस करने की कोशिश की होती।

सारांश

FL-Sailer एक गोपनीयता-सुरक्षित उपकरण है जो अस्पतालों को कच्चे टुकड़ों को साझा किए बिना विशाल आनुवंशिक पहेलियों पर सहयोग करने की अनुमति देता है। यह इसे निम्न प्रकार से करता है:

कचरे को फेंक देना (डेटा को 80% तक सिकोड़ना ताकि यह तेज़ और निजी हो सके)।
लहजों को अनदेखा करना (तकनीकी शोर को हटाना ताकि अलग-अलग लैब सेब की तुलना सेब से कर सकें)।
गणितीय रूप से सिद्ध करना कि यह शॉर्टकट सही उत्तर की ओर ले जाता है।

शोध पत्र निष्कर्ष निकालता है कि यह दृष्टिकोण मानव जीव विज्ञान के अध्ययन के लिए एक "कंप्यूटेशनल रूप से असंभव" समस्या को एक व्यावहारिक और बेहतर तरीके में बदल देता है।

तकनीकी सारांश: FL-Sailer

समस्या विवरण

सिंगल-सेल ATAC-seq (scATAC-seq) क्रोमैटिन एक्सेसिबिलिटी का उच्च-रिज़ॉल्यूशन मैपिंग सक्षम करता है, लेकिन यह बहु-संस्थान सहयोग के लिए महत्वपूर्ण बाधाओं का सामना करता है। जबकि फेडरेटेड लर्निंग (FL) डेटा केंद्रीकरण का एक गोपनीयता-संरक्षित विकल्प प्रदान करती है, मानक FL एल्गोरिदम scATAC-seq डोमेन में विफल हो जाते हैं क्योंकि वे तीन संचयी चुनौतियोंों के कारण उत्पन्न होते हैं:

अत्यधिक उच्च आयामीता (Ultra-high Dimensionality): जीनोमिक डेटासेट में $10^5$ से $10^7$ फीचर्स (पीक्स/रीजन) होते हैं, जिससे प्रति-राउंड संचार लागत अत्यधिक (प्रति राउंड गीगाबाइट में) हो जाती है।
अत्यधिक विरलता (Extreme Sparsity): डेटा मैट्रिसेस लगभग 95% विरल (sparse) होते हैं, जो जैविक संकेतों को धुंधला कर देते हैं और स्थानीय स्टोकेस्टिक ग्रेडिएंट्स में उच्च विचरण (variance) का कारण बनते हैं।
गंभीर क्रॉस-संस्थान विषमता (Severe Cross-Institutional Heterogeneity): तकनीकी कन्फाउंडर्स (जैसे, सीक्वेंसिंग डेप्थ, बैच इफेक्ट्स) विभिन्न संस्थानों में भिन्न होते हैं, जो अक्सर जैविक संकेतों के साथ सह-संबंधित होते हैं, जिससे मॉडल का विचलन या स्प्यूरियस (spurious) बैच-विशिष्ट फीचर्स का सीखना होता है।

मौजूदा FL विधियाँ (जैसे, scRNA-seq के लिए) अपर्याप्त हैं क्योंकि वे scATAC-seq के विशिष्ट फीचर आयामीता और विरलता के क्रम-दर-ऑर्डर वृद्धि को संबोधित नहीं करती हैं।

कार्यप्रणाली: FL-Sailer

लेखक FL-Sailer प्रस्तावित करते हैं, जो विशेष रूप से scATAC-seq के लिए इंजीनियर किया गया पहला FL फ्रेमवर्क है। यह आयामीता और विषमता को एक साथ संबोधित करने के लिए दो मुख्य नवाचारों को एकीकृत करता है:

1. एडेप्टिव लीवरेज स्कोर सैंपलिंग (Adaptive Leverage Score Sampling)

संचार बाधाओं को दूर करने के लिए, FL-Sailer कॉलम लीवरेज स्कोर पर आधारित एक फीचर चयन रणनीति का उपयोग करता है।

तंत्र: क्लाइंट्स रैंडमाइज्ड QR डिकम्पोजिशन (महंगे SVD से बचते हुए) का उपयोग करके स्थानीय स्तर पर अनुमानित लीवरेज स्कोर की गणना करते हैं। सर्वर इन स्कोर को एकत्रित करता है ताकि एक वैश्विक सैंपलिंग वितरण बनाया जा सके जो जैविक रूप से सूचनात्मक जीनोमिक क्षेत्रों को प्राथमिकता देता है।
प्रभाव: यह फीचर डायमेंशन को $d$ से $s$ (जहाँ $s \ll d$ ) तक कम कर देता है, जिससे 80% की कमी आती है।
सैद्धांतिक गारंटी: यह सैंपलिंग एक सबस्पेस एम्बेडिंग के रूप में कार्य करती है, जो मूल उच्च-आयामी समस्या के ऑप्टिमाइज़ेशन ज्योमेट्री और ग्रेडिएंट नॉर्म्स को सीमित त्रुटि के साथ संरक्षित करती है। महत्वपूर्ण रूप से, यह नियामक तत्वों (regulatory elements) के विविध कवरेज को सुनिश्चित करने के लिए बिना प्रतिस्थापन (without replacement) के फीचर्स का चयन करता है।

2. इनवेरिएंट VAE आर्किटेक्चर (Invariant VAE Architecture)

विषमता और बैच इफेक्ट्स को संभालने के लिए, यह फ्रेमवर्क SAILER आर्किटेक्चर को फेडरेटेड सेटिंग में अनुकूलित करता है।

आर्किटेक्चर: एक क्रोमोसोम-ब्लॉक वेरिएशनल ऑटोएनकोडर (VAE) जो क्रोमैटिन एक्सेसिबिलिटी प्रोफाइल $x$ के लेटेंट रिप्रेजेंटेशन $z$ को सीखता है।
इनवेरिएंस ऑब्जेक्टिव: मॉडल तकनीकी कन्फाउंडर्स $c$ (जैसे, सीक्वेंसिंग डेप्थ, संस्थान आईडी) और लेटेंट रिप्रेजेंटेशन $z$ के बीच म्यूचुअल इंफॉर्मेशन $I(z; c)$ को एक वेरिएशनल अपर बाउंड के माध्यम से स्पष्ट रूप से न्यूनतम करता है। यह जैविक संकेतों को तकनीकी शोर से अलग (disentangle) करता है।
फेडरेटेड ट्रेनिंग: क्लाइंट्स अपने सैंपल किए गए डेटा ( $n \times s$ मैट्रिसेस) पर VAE को प्रशिक्षित करते हैं और स्थानीय तकनीकी विविधताओं के प्रति मजबूत, एक एकीकृत जैविक प्रतिनिधित्व सीखने के लिए अपडेट को एकत्रित करते हैं।

एल्गोरिदम अवलोकन

ट्रेनिंग प्रक्रिया (एल्गोरिदम 1) दो चरणों में होती है:

फेडरेटेड डायनेमिक फीचर सिलेक्शन: क्लाइंट्स स्थानीय लीवरेज स्कोर की गणना करते हैं; सर्वर एक वैश्विक फीचर सेट $S$ को सैंपल करने के लिए उन्हें एकत्रित करता है, जिसे सभी क्लाइंट्स को प्रसारित किया जाता है।
सबस्पेस फेडरेटेड ट्रेनिंग: क्लाइंट्स कम किए गए फीचर स्पेस पर इनवेरिएंट VAE ऑब्जेक्टिव का उपयोग करके स्थानीय प्रशिक्षण करते हैं। अपडेट को FedAvg के माध्यम से एकत्रित किया जाता है।

मुख्य योगदान

एडेप्टिव लीवरेज स्कोर सैंपलिंग: एक अभिनव सैंपलिंग मॉड्यूल जो सीधे जीनोमिक क्षेत्रों का चयन करके जैविक व्याख्यात्मकता (interpretability) को संरक्षित करता है। यह उच्च-सिग्नल वाले नियामक क्षेत्रों पर गणना केंद्रित करके संचार लागत को कई गुना (80% तक) कम करता है और क्लस्टरिंग प्रदर्शन में सुधार करता है।
इनवेरिएंट रिप्रेजेंटेशन लर्निंग: एक VAE आर्किटेक्चर जो फेडरेटेड लर्निंग के लिए अनुकूलित है और जो म्यूचुअल इंफॉर्मेशन मिनिमाइजेशन के माध्यम से तकनीकी कन्फाउंडर्स से जैविक संकेतों को स्पष्ट रूप से अलग करता है, जिससे सामान्य बैच इफेक्ट्स का समाधान होता है।
कन्वर्जेंस थ्योरी: यह पेपर आक्रामक फीचर सैंपलिंग के साथ FL के लिए पहली कन्वर्जेंस गारंटी स्थापित करता है। यह सिद्ध करता है कि FL-Sailer मूल उच्च-आयामी समस्या के एक अनुमानित समाधान तक सीमित त्रुटि पद $O(\epsilon \cdot L(U^*))$ के साथ अभिसरित (converge) होता है, जहाँ आयामीता बढ़ने पर $\epsilon \to 0$ होता है।
व्यवस्थित बेंचमार्किंग: सिंथेटिक और वास्तविक दुनिया के डेटासेट (Brain PFC, PsychENCODE, PBMB) पर व्यापक मूल्यांकन यह प्रदर्शित करता है कि FL-Sailer पहले जो असंभव था, उसे संभव बनाता है।

प्रयोगात्मक परिणाम

लेखकों ने तीन वास्तविक दुनिया के scATAC-seq डेटासेट (Brain PFC: 127K फीचर्स, PsychENCODE: 423K फीचर्स, PBMC: 108K फीचर्स) और सिम्युलेटेड डेटा पर FL-Sailer का मूल्यांकन किया।

सेंट्रलाइज्ड बनाम प्रदर्शन: FL-Sailer ने वास्तविक दुनिया के डेटा पर सेंट्रलाइज्ड SAILER (स्टेट-ऑफ-द-आर्ट बेसलाइन) को पछाड़ दिया। उदाहरण के लिए, PsychENCODE डेटासेट पर, FL-Sailer ने 0.781 का एडजस्टेड रैंड इंडेक्स (ARI) प्राप्त किया, जबकि पूर्ण डेटा एक्सेस के साथ सेंट्रलाइज्ड SAILER का ARI 0.626 था।
विषमता के प्रति मजबूती: कन्फाउंडेड विषमता (जहाँ तकनीकी शोर सेल टाइप के साथ सह-संबंधित है) वाले परिदृश्यों में, सेंट्रलाइज्ड विधियाँ विफल रहीं (ARI = 0.221), जबकि FL-Sailer ने संकेतों को अलग करके 0.871 का ARI प्राप्त किया।
संचार दक्षता: एक इष्टतम सैंपलिंग दर ( $\rho = 0.2$ ) पर, FL-Sailer ने कुल संचार को लगभग 80% कम कर दिया (उदाहरण के लिए, 100 राउंड के लिए PsychENCODE हेतु 20.40 GB से घटकर 4.12 GB हो गया) और साथ ही मॉडल की सटीकता में सुधार किया।
मानक FL के साथ तुलना: FL-Sailer ने जेनेरिक FL बेसलाइन्स (FedAvg, FedProx, SCAFFOLD, आदि) को काफी पीछे छोड़ दिया, जो अक्सर प्रदर्शन गिरावट (जैसे, PsychENCODE पर FedAvg ARI = 0.418) का शिकार होते हैं।
दुर्लभ सेल डिटेक्शन: फ्रेमवर्क ने अत्यधिक क्लास असंतुलन के तहत भी दुर्लभ सेल आबादी (जैसे, ~2.1% प्रसार वाले Common Myeloid Progenitors) को सफलतापूर्वक संरक्षित किया, और सिंथेटिक परीक्षणों में परफेक्ट क्लस्टरिंग (ARI = 1.000) प्राप्त की।

महत्व और दावे

यह पेपर दावा करता है कि FL-Sailer डोमेन-विशिष्ट बाधाओं के अनुरूप तैयार किया गया एक श्रेष्ठ प्रतिमान (paradigm) स्थापित करता है।

व्यवहार्यता: यह एक कम्प्यूटेशनल रूप से असंभव समस्या (लाखों फीचर्स पर फेडरेटेड ट्रेनिंग) को एक व्यावहारिक समाधान में बदल देता है।
प्रतिमान परिवर्तन: यह कार्य प्रदर्शित करता है कि फेडरेटेड लर्निंग, जब एडेप्टिव सैंपलिंग और इनवेरिएंट लर्निंग जैसी डोमेन-विशिष्ट तकनीकों के साथ जोड़ा जाता है, तो यह न केवल मिल सकता है बल्कि सेंट्रलाइज्ड विधियों से बेहतर भी हो सकता है। लेखक इस बात का श्रेय सैंपलिंग रणनीति को देते हैं जो एक "इम्प्लिसिट रेगुलराइज़र" के रूप में कार्य करती है जो तकनीकी शोर को दबाती है और विषम क्लाइंट्स के बीच ग्रेडिएंट्स को संरेखित करती है।
गोपनीयता और स्केलेबिलिटी: यह संवेदनशील कच्चे प्रोफाइल को केंद्रीकृत किए बिना गोपनीयता-संरक्षित बहु-संस्थान अध्ययनों को सक्षम बनाता है, जो जीनोमिक्स में महत्वपूर्ण नियामक और भंडारण बाधाओं को संबोधित करता है।

लेखक निष्कर्ष निकालते हैं कि उनका कार्य आक्रामक फीचर चयन के तहत FL के लिए कन्वर्जेंस गारंटी प्रदान करके एक सैद्धांतिक रिक्तता को भरता है और अनुभवजन्य रूप से प्रमाणित करता है कि विकेंद्रीकृत, गोपनीयता-संरक्षित फ्रेमवर्क तकनीकी विषमता की उपस्थिति में सेंट्रलाइज्ड दृष्टिकोणों की तुलना में उच्च गुणवत्ता वाले जैविक अंतर्दृष्टि प्रदान कर सकते हैं।