🤖 machine learning

DP-FedSOFIM: Differentially Private Federated Stochastic Optimization using Regularized Fisher Information Matrix

यह शोध पत्र DP-FedSOFIM का प्रस्ताव करता है, जो एक स्केलेबल डिफरेंशियल प्राइवेट फेडरेटेड लर्निंग पद्धति है जो निजीकृत ग्रेडिएंट्स से प्राप्त एक रेगुलराइज्ड फिशर इंफॉर्मेशन मैट्रिक्स के सर्वर-साइड रैंक-वन अपडेट का लाभ उठाकर कड़े गोपनीयता बजट के तहत अभिसरण (convergence) को त्वरित करती है, जिससे बिना किसी अतिरिक्त गोपनीयता ओवरहेड के हेसियन या फीचर कोवेरियेंस अनुमान की कम्प्यूटेशनल और मेमोरी लागतों से बचा जा सकता है।

मूल लेखक: Sidhant Nair, Tanmay Sen, Mrinmay Sen, Sayantan Banerjee

प्रकाशित 2026-03-25

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sidhant Nair, Tanmay Sen, Mrinmay Sen, Sayantan Banerjee

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ DP-FedSOFIM पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके किया गया स्पष्टीकरण है।

बड़ी तस्वीर: एक गुप्त समूह परियोजना (A Secret Group Project)

कल्पना कीजिए कि छात्रों का एक समूह (Clients) है जिनके पास अलग-अलग होमवर्क असाइनमेंट (उनका निजी डेटा) हैं। वे एक एकल, पूर्ण मॉडल बनाने के लिए एक विशाल पहेली को मिलकर हल करना चाहते हैं, लेकिन उन्हें अपना होमवर्क किसी को भी दिखाने की अनुमति नहीं है, यहाँ तक कि शिक्षक (Server) को भी नहीं। यही Federated Learning है।

हालाँकि, एक पेच है: भले ही वे अपना होमवर्क साझा न करें, लेकिन पहेली को हल करने के लिए उनके द्वारा उठाए गए कदम (gradients) अनजाने में उनके होमवर्क के रहस्यों को उजागर कर सकते हैं। इसे रोकने के लिए, वे अपने कदमों में अपने संदेश भेजने से पहले कुछ "स्टैटिक" या "शोर" (noise) जोड़ देते हैं। यह Differential Privacy (DP) है।

समस्या:
शोर जोड़ना एक घने कोहरे में चलने की तरह है। आप रास्ता स्पष्ट रूप से नहीं देख पाते, इसलिए आप छोटे, हिचकिचाते हुए कदम उठाते हैं। इससे सीखना बहुत धीमा हो जाता है।

First-order methods (जैसे मानक DP-FedGD) एक कंपास के साथ चलने की तरह हैं। उन्हें पता है कि "ऊपर" किस दिशा में है, लेकिन उन्हें यह नहीं पता कि ज़मीन कितनी ढालू या समतल है। कोहरे में, वे बस आगे बढ़ते रहते हैं, और अक्सर फंस जाते हैं या गलत रास्ता चुन लेते हैं।
Second-order methods (जैसे Newton's method) एक ऐसे मानचित्र (map) की तरह हैं जो इलाके के घुमावों और ढलानों को दिखाता है। उन्हें ठीक से पता होता है कि तेज़ ढलान पर तेज़ी से दौड़ने के लिए या तीखे मोड़ पर धीमा होने के लिए उन्हें अपने कदमों को कैसे समायोजित करना है। लेकिन, आमतौर पर, इस तरह का मानचित्र बनाने के लिए भारी मात्रा में डेटा को इधर-उधर भेजना पड़ता है, जो गोपनीयता के नियमों को तोड़ता है या बहुत समय लेता है।

समाधान: DP-FedSOFIM
लेखकों ने DP-FedSOFIM नामक एक नई विधि बनाई है। यह एक "स्मार्ट वॉकर" (smart walker) है जो बिना भारी मानचित्र भेजे इलाके के आकार को सीख लेता है।

यह कैसे काम करता है: "स्मार्ट टीचर" की उपमा (The "Smart Teacher" Analogy)

यहाँ बताया गया है कि DP-FedSOFIM समस्या को कैसे हल करता है, जिसे तीन सरल चरणों में विभाजित किया गया है:

1. छात्र "शोर वाले" नोट्स भेजते हैं

छात्र अपने कदम (steps) की गणना करते हैं, अपने रहस्यों को छिपाने के लिए कुछ स्टैटिक (noise) जोड़ते हैं, और शिक्षक को शोर वाले नोट्स भेजते हैं।

महत्वपूर्ण बिंदु: छात्र कुछ भी अतिरिक्त नहीं करते हैं। उन्हें जटिल मानचित्रों की गणना करने की आवश्यकता नहीं है। वे बस अपने शोर वाले नोट्स भेजते हैं। इससे वे तेज़ और हल्के बने रहते हैं।

2. शिक्षक एक "कर्वेचर प्रॉक्सी" (Curvature Proxy) बनाता है (जादुई ट्रिक)

आमतौर पर, इलाके के आकार (curvature) को जानने के लिए, आपको हर छात्र के सटीक पथ को जानने की आवश्यकता होती है। लेकिन यहाँ, शिक्षक चतुर है।

शिक्षक अब तक प्राप्त सभी शोर वाले नोट्स के औसत (average) को देखता है।
एक विशाल, जटिल 3D मानचित्र बनाने के बजाय, शिक्षक समूह के मोमेंटम (momentum) के आधार पर एक सरल, एक-रेखीय मार्गदर्शक बनाता है।
इसे एक सर्फर की तरह समझें जो लहरों को देख रहा है। भले ही लहरें ऊबड़-खाबबड़ (noisy) हों, यदि सर्फर याद रखता है कि पिछले कुछ मिनटों से लहरें किस सामान्य दिशा में धक्का दे रही थीं, तो वह अनुमान लगा सकता है कि अगली बड़ी लहर कहाँ जाएगी।
शिक्षक इस "एक-रेखीय मार्गदर्शक" को तुरंत अपडेट करने के लिए एक गणितीय शॉर्टकट (जिसे Sherman-Morrison formula कहा जाता है) का उपयोग करता है। यह पूरे मानचित्र को फिर से कैलकुलेट करने के बजाय एक सिंगल टैप के साथ अपने GPS रूट को अपडेट करने जैसा है।

3. शिक्षक कदमों को समायोजित करता है

अब, शिक्षक छात्रों को यह बताने के लिए इस सरल मार्गदर्शक का उपयोग करता है कि उन्हें कैसे आगे बढ़ना है।

यदि मार्गदर्शक कहता है, "यहाँ ज़मीन बहुत ढालू है," तो शिक्षक छात्रों को बड़े, साहसी कदम उठाने के लिए कहता है।
यदि मार्गदर्शक कहता है, "यह एक सपाट पठार है," तो वह उन्हें छोटे, सावधान कदम उठाने के लिए कहता है।
क्योंकि शिक्षक यह सारी गणित पहले से मौजूद 'शोर वाले' नोट्स पर करता है, इसलिए कोई अतिरिक्त गोपनीयता (privacy) खोई नहीं जाती। छात्रों के रहस्य सुरक्षित रहते हैं, लेकिन शिक्षक उन्हें कोहरे के बीच अधिक कुशलता से निर्देशित करता है।

यह एक बड़ी बात क्यों है? (परिणाम)

लेखकों ने इस पद्धति का परीक्षण दो प्रकार की पहेलियों पर किया:

CIFAR-10: एक मानक इमेज रिकग्निशन कार्य (जैसे बिल्लियों और कुत्तों की पहचान करना)।
PathMNIST: एक मेडिकल इमेजिंग कार्य (कैंसर स्कैन में ऊतकों के प्रकारों की पहचान करना)।

निष्कर्ष:

तेज़ सीखना: DP-FedSOFIM पुराने तरीकों की तुलना में बहुत तेज़ी से उच्च सटीकता (accuracy) तक पहुँच गया। कुछ मामलों में, इसने काम को 20 राउंड पहले ही पूरा कर लिया।
कोहरे में बेहतर प्रदर्शन: जब गोपनीयता के नियम बहुत सख्त थे (कोहरा सबसे घना था), तो पुराने तरीके या तो फंस गए या बहुत धीरे चले। DP-FedSOFIM आगे बढ़ता रहा, और अक्सर अन्य विकल्पों की तुलना में 1% से 4% अधिक सटीकता प्राप्त की।
मेडिकल मैजिक: सुधार मेडिकल इमेजिंग के लिए और भी बड़ा था। यह सुझाव देता है कि मेडिकल डेटा में एक "ऊबड़-खाबड़" परिदृश्य होता है जहाँ इलाके के आकार को जानना विशेष रूप से महत्वपूर्ण है।
"पकड़ बनाने" का प्रभाव (The "Catch-Up" Effect): कभी-कभी, भारी शोर के साथ शुरुआती कुछ राउंड में, यह विधि थोड़ी अस्थिर थी (जैसे एक सर्फर जो डगमगाते बोर्ड पर खड़ा होने की कोशिश कर रहा हो)। लेकिन एक बार जब इसने थोड़ा मोमेंटम हासिल कर लिया, तो यह स्थिर हो गया और दूसरों से बहुत आगे निकल गया।

मुख्य निष्कर्ष (The Takeaway)

DP-FedSOFIM एक ऐसे समूह को देने जैसा है जो घने कोहरे में चल रहा है एक स्मार्ट, हल्का कंपास जो उनके सामूहिक संचलन (collective movement) से सीखता है।

यह उनसे भारी मानचित्र ले जाने के लिए नहीं कहता (उनकी बैटरी और गोपनीयता बचाते हुए)।
यह उनसे जटिल ज्यामिति (geometry) की गणना करने के लिए नहीं कहता।
यह बस "समूह के मोमेंटम" का उपयोग करके सबसे अच्छे रास्ते का पता लगाता है, जिससे उन्हें तेज़ और अधिक सटीक रूप से सीखने में मदद मिलती है, भले ही गोपनीयता सर्वोच्च प्राथमिकता हो।

यह स्वास्थ्य सेवा (healthcare) और वित्त (finance) जैसे संवेदनशील क्षेत्रों में AI के उपयोग के लिए एक बड़ा कदम है, जहाँ हमें अपने निजी डेटा को देखे बिना शक्तिशाली मॉडल प्रशिक्षित करने की आवश्यकता है।

यहाँ शोध पत्र "DP-FedSOFIM: Differentially Private Federated Stochastic Optimization using Regularized Fisher Information Matrix" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डिफरेंशियल प्राइवेट फेडरेटेड लर्निंग (DP-FL) गोपनीयता (privacy) और उपयोगिता (utility) के बीच एक मौलिक समझौते (trade-off) का सामना करता है। $(\epsilon, \delta)$ -डिफरेंशियल प्राइवेसी को संतुष्ट करने के लिए, क्लाइंट अपडेट्स को क्लिप करना और गॉसियन नॉइज़ (Gaussian noise) के साथ विक्षोभ (perturb) करना आवश्यक है। सख्त प्राइवेसी बजट (कम $\epsilon$ ) के तहत, यह नॉइज़ अक्सर वास्तविक ग्रेडिएंट सिग्नल पर हावी हो जाती है, जिससे अभिसरण (convergence) रुक जाता है या काफी खराब हो जाता है।

जबकि सेकंड-ऑर्डर ऑप्टिमाइज़ेशन विधियाँ (जैसे कि न्यूटन-टाइप मेथड्स) ग्रेडिएंट को रीस्केल करने के लिए कर्वेचर (curvature) जानकारी का उपयोग करके अभिसरण को तेज कर सकती हैं, DP-FL के लिए मौजूदा दृष्टिकोण महत्वपूर्ण स्केलेबिलिटी समस्याओं से ग्रस्त हैं:

उच्च संचार/मेमोरी लागत (High Communication/Memory Cost): FedNL या GIANT जैसी विधियों के लिए क्लाइंट्स को हेसियन मैट्रिसेस (Hessian matrices) या फीचर कोवेरियेंस मैट्रिसेस (feature covariance matrices) की गणना और ट्रांसमिट करने की आवश्यकता होती है, जिससे प्रति राउंड $O(d^2)$ मेमोरी और संचार लागत आती है। यह उच्च-आयामी मॉडलों और संसाधन-बाधित एज डिवाइसेस के लिए निषेधात्मक है।
प्राइवेसी संवेदनशीलता (Privacy Sensitivity): क्लाइंट स्तर पर सेकंड-ऑर्डर सांख्यिकी की गणना करने से अतिरिक्त संवेदनशीलता उत्पन्न होती है, जिसके लिए सख्त क्लिपिंग या बड़े नॉइज़ मल्टीप्लायर की आवश्यकता होती है, जो उपयोगिता को और अधिक कम कर देता है।
पूर्व कार्य की सीमाएँ (Limitations of Prior Work): निकटतम पूर्व कार्य, DP-FedNew, स्थानीय फीचर कोवेरियेंस मैट्रिसेस ( $O(d^2)$ ) पर निर्भर करता है, जो इसे कम-आयामी मॉडलों तक सीमित करता है और आधुनिक ट्रांसफर लर्निंग पाइपलाइनों में स्केल करने में विफल रहता है।

2. कार्यप्रणाली: DP-FedSOFIM (Methodology: DP-FedSOFIM)

लेखक DP-FedSOFIM (Regularized Fisher Information Matrix का उपयोग करते हुए Differentially Private Federated Stochastic Optimization) का प्रस्ताव करते हैं, जो एक ऐसा ढांचा है जो सभी कर्वेचर एस्टीमेशन (curvature estimation) और प्रीकंडीशनिंग (preconditioning) को पूरी तरह से सर्वर पर स्थानांतरित कर देता है।

मुख्य तंत्र (Core Mechanism)

क्लाइंट-साइड (अपरिवर्तित) (Client-Side - Unchanged): क्लाइंट मानक DP-FedGD संचालन करते हैं:
- प्रति-उदाहरण ग्रेडिएंट (per-example gradients) की गणना करना।
- $\ell_2$ रेडियस $C_g$ तक ग्रेडिएंट को क्लिप करना।
- एकत्रित क्लिप्ड ग्रेडिएंट्स में गॉसियन नॉइज़ जोड़ना।
- सर्वर को प्राइवैटाइज्ड अपडेट भेजना।
- महत्वपूर्ण बात यह है कि क्लाइंट कोई भी सेकंड-ऑर्डर जानकारी की गणना या ट्रांसमिट नहीं करते हैं।
सर्वर-साइड (कर्वेचर प्रॉक्सी) (Server-Side - Curvature Proxy):
- मोमेंटम बफर (Momentum Buffer): सर्वर एकत्रित प्राइवैटाइज्ड ग्रेडिएंट्स ( $G_t$ ) का एक्सपोनेंशियल मूविंग एवरेज (EMA) बनाए रखता है:
  $M_t = \beta M_{t-1} + (1-\beta)G_t$
  यह बफर प्राइवेसी मैकेनिज्म और सैंपलिंग द्वारा पेश किए गए स्टोकेस्टिक नॉइज़ को सुचारू (smooth) बनाता है।
- रैंक-वन फिशर प्रॉक्सी (Rank-One Fisher Proxy): पूर्ण हेसियन के बजाय, सर्वर मोमेंटम बफर का उपयोग करके फिशर इंफॉर्मेशन मैट्रिक्स (FIM) का रैंक-वन सन्निकटन (approximation) बनाता है:
  $\hat{I}_t = M_t M_t^\top + \rho I_d$
  जहाँ $\rho > 0$ एक रेगुलराइजेशन पैरामीटर है जो पॉजिटिव डेफिनिटनेस (positive definiteness) सुनिश्चित करता है।
- कुशल व्युत्क्रमण (Efficient Inversion - Sherman-Morrison): प्रीकंडिशनर का इनवर्स, $O(d^3)$ व्युत्क्रमण से बचते हुए, शेर्मन-मोरिसन (Sherman-Morrison) फॉर्मूला का उपयोग करके कुशलतापूर्वक कंप्यूट किया जाता है:
  $H_t = \hat{I}_t^{-1} = \frac{1}{\rho}I_d - \frac{M_t M_t^\top}{\rho(\rho + \|M_t\|^2)}$
- अपडेट नियम (Update Rule): ग्लोबल मॉडल को प्रीकंडिश्न्ड ग्रेडिएंट का उपयोग करके अपडेट किया जाता है:
  $\theta_{t+1} = \theta_t - \eta_t H_t G_t$

जटिलता और प्राइवेसी (Complexity and Privacy)

जटिलता (Complexity): सर्वर-साइड अपडेट के लिए प्रति राउंड केवल $O(d)$ समय और मेमोरी की आवश्यकता होती है, जो इसे उच्च-आयामी मॉडलों के लिए स्केलेबल बनाती है। क्लाइंट-साइड जटिलता $O(d)$ बनी रहती है।
प्राइवेसी गारंटी (Privacy Guarantee): चूंकि कर्वेचर मैट्रिक्स $H_t$ , पहले से प्राइवैटाइज्ड ग्रेडिएंट्स ( $G_t$ ) और सर्वर स्टेट का एक नियतात्मक (deterministic) फलन है, इसलिए पोस्ट-प्रोसेसिंग थ्योरम (Post-Processing Theorem) लागू होता है। DP-FedSOFIM, मूल DP-FedGD मैकेनिज्म के अलावा कोई अतिरिक्त प्राइवेसी लागत नहीं लेता है।

3. प्रमुख योगदान (Key Contributions)

सर्वर-साइड सेकंड-ऑर्डर प्रीकंडीशनिंग: एक नया ढांचा जो पूरी तरह से प्राइवैटाइज्ड एग्रीगेटेड ग्रेडिएंट्स से एक कर्वेचर-अवेयर नेचुरल ग्रेडिएंट प्रीकंडिशनर बनाता है, जिससे क्लाइंट-साइड सेकंड-ऑर्डर गणना की आवश्यकता समाप्त हो जाती है।
कुशल $O(d)$ कार्यान्वयन: शेर्मन-मोरिसन फॉर्मूला का लाभ उठाकर, यह विधि प्रति राउंड रैखिक कम्प्यूटेशनल जटिलता प्राप्त करती है, जो पिछली $O(d^2)$ विधियों की स्केलेबिलिटी बाधा को हल करती है।
सैद्धांतिक प्राइवेसी संरक्षण: औपचारिक प्रमाण कि सर्वर-साइड प्रीकंडीशनिंग बेसलाइन की $(\epsilon, \delta)$ -DP गारंटी को बिना प्राइवेसी बजट बढ़ाए सुरक्षित रखती है।
अभिसरण गारंटी (Convergence Guarantees): स्ट्रॉन्ग कॉन्वेक्सिटी (strong convexity) और पोलियाक-लोजासिक (Polyak-Łojasiewicz - PL) स्थिति के तहत सैद्धांतिक विश्लेषण, जो नॉइज़-और-बायस-डिपेंडेंट एरर फ्लोर तक रैखिक अभिसरण को सिद्ध करता है।
अनुभवजन्य श्रेष्ठता (Empirical Superiority): विविध प्राइवेसी बजट और डेटासेट पर विभिन्न स्टेट-ऑफ-द-आर्ट बेसलाइन्स के मुकाबले निरंतर बेहतर प्रदर्शन प्रदर्शित करने वाले व्यापक प्रयोग।

4. प्रायोगिक परिणाम (Experimental Results)

विधि का मूल्यांकन CIFAR-10 और PathMNIST (मेडिकल इमेजिंग) पर ResNet-20 फीचर एक्सट्रैक्टर्स (फ्रोजन) और अलग-अलग क्लाइंट काउंट्स ( $K=20, 100$ ) के साथ किया गया।

प्रदर्शन (Performance): DP-FedSOFIM ने सभी प्राइवेसी बजट ( $\epsilon \in \{0.5, 1, 2, 5, 10\}$ $ϵ \in {0.5, 1, 2, 5, 10}$ ) और डेटासेट के लिए लगातार उच्चतम अंतिम सटीकता (final accuracy) प्राप्त की।
- CIFAR-10: इसने नॉन-प्राइवेट सेटिंग्स में DP-FedGD से +4.05% और सख्त प्राइवेसी ( $\epsilon=1$ ) के तहत +1.45% तक बेहतर प्रदर्शन किया।
- PathMNIST: इसने और भी बड़ी बढ़त दिखाई, जो 100 क्लाइंट्स के साथ $\epsilon=5$ पर बेसलाइन्स से +4.86% तक का सुधार दिखाती है।
अभिसरण गति (Convergence Speed): DP-FedSOFIM काफी तेजी से अभिसरित हुआ, अक्सर DP-FedGD की अंतिम सटीकता से 20 राउंड पहले ही आगे निकल गया।
मजबूती (Robustness): DP-SCAFFOLD के विपरीत, जो दूषित कंट्रोल वेरिएट्स के कारण सख्त प्राइवेसी के तहत गंभीर रूप से गिर जाता है, DP-FedSOFIM ने $\epsilon=0.5$ पर भी मजबूत प्रदर्शन बनाए रखा।
प्रारंभिक-राउंड डायनेमिक्स (Early-Round Dynamics): सख्त प्राइवेसी के तहत CIFAR-10 पर, विधि ने थोड़ी प्रारंभिक अस्थिरता (पहले 10-20 राउंड में कम सटीकता) दिखाई क्योंकि मोमेंटम बफर सिग्नल को संचित करता है, लेकिन 30 राउंड तक यह सभी बेसलाइन्स से तेजी से आगे निकल गया। यह अस्थिरता PathMNIST पर अनुपस्थित थी, जो सुझाव देती है कि मेडिकल इमेजिंग परिदृश्य में अधिक केंद्रित कर्वेचर सिग्नल होते हैं।

5. महत्व और प्रभाव (Significance and Impact)

स्केलेबिलिटी (Scalability): DP-FedSOFIM फर्स्ट-ऑर्डर विधियों की संचार दक्षता और सेकंड-ऑर्डर विधियों की अभिसरण स्थिरता के बीच के अंतर को पाटता है, जिससे सेकंड-ऑर्डर ऑप्टिमाइज़ेशन बड़े पैमाने पर, उच्च-आयामी DP-FL के लिए व्यवहार्य बनता है।
प्राइवेसी-उपयोगिता ट्रेड-ऑफ (Privacy-Utility Trade-off): यह प्रदर्शित करता है कि डिफेंशियल प्राइवेसी नॉइज़ के कारण होने वाली उपयोगिता हानि को कम करने के लिए नॉइजी, प्राइवैटाइज्ड ग्रेडिएंट्स से कर्वेचर जानकारी को प्रभावी ढंग से निकाला जा सकता है, विशेष रूप से इल-कंडीशन्ड (ill-conditioned) समस्याओं (जैसे मेडिकल इमेजिंग) में।
व्यावहारिक तैनाती (Practical Deployment): यह विधि उन गोपनीयता-संवेदनशील डोमेन (स्वास्थ्य सेवा, वित्त) के लिए अत्यधिक उपयुक्त है जहाँ डेटा को केंद्रीकृत नहीं किया जा सकता है और मजबूत गोपनीयता गारंटी कानूनी रूप से अनिवार्य है। यह मौजूदा सेकंड-ऑर्डर दृष्टिकोणों के भारी ओवरहेड के बिना विकेंद्रीकृत डेटा पर उच्च-उपयोगिता मॉडल प्रशिक्षित करने में सक्षम बनाता है।
भविवी दिशाएँ (Future Directions): लेखक नॉन-कॉन्वेक्स डीप लर्निंग लैंडस्केप के लिए ढांचे को विस्तारित करने, स्ट्रक्चर्ड कर्वेचर एप्रोक्सिमेशन (जैसे K-FAC) का अन्वेषण करने और यूजर-लेवल डिफरेंशियल प्राइवेसी को अनुकूलित करने का सुझाव देते हैं।

निष्कर्षतः, DP-FedSOFIM, DP-FL में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है, जो एक स्केलेबल, प्राइवेसी-प्रिजर्विंग और अत्यधिक प्रभावी ऑप्टिमाइज़ेशन रणनीति प्रदान करता है जो मौजूदा फर्स्ट-ऑर्डर और सेकंड-ऑर्डर बेसलाइन्स से बेहतर प्रदर्शन करता है, विशेष रूप से सख्त गोपनीयता प्रतिबंधों के तहत।