🤖 machine learning

Robust Federated Inference

यह शोध पत्र समस्या को औपचारिक रूप देने, औसत-आधारित एग्रीगेटर्स (aggregators) की सीमाओं का विश्लेषण करने और एक नवीन डीपसेट-आधारित (DeepSet-based) ढांचे का प्रस्ताव करने के माध्यम से फेडरेटेड इन्फरेंस (federated inference) की हमलों के प्रति गंभीर भेद्यता को संबोधित करता है, जो मौजूदा तरीकों की तुलना में सटीकता में उल्लेखनीय सुधार के लिए एडवरसैरियल ट्रेनिंग (adversarial training) को टेस्ट-टाइम रोबस्ट एग्रीगेशन (test-time robust aggregation) के साथ जोड़ता है।

मूल लेखक: Akash Dhasade, Sadegh Farhadkhani, Rachid Guerraoui, Nirupam Gupta, Maxime Jacovella, Anne-Marie Kermarrec, Rafael Pinot

प्रकाशित 2026-04-15

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Akash Dhasade, Sadegh Farhadkhani, Rachid Guerraoui, Nirupam Gupta, Maxime Jacovella, Anne-Marie Kermarrec, Rafael Pinot

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यह शोध पत्र मुख्य रूप से इस प्रश्न को संबोधित करता है कि "कई पक्षों से मतों (opinions) को सुरक्षित रूप से कैसे एकत्रित किया जाए।"

कल्पना कीजिए कि आप एक प्रिंसिपल (सर्वर) हैं और आपके पास छात्रों (क्लाइंट्स/मॉडेल्स) का एक समूह है। ये छात्र स्थानीय स्तर पर सीख रहे हैं, जिनके पास अपना स्वयं का ज्ञान (निजी डेटा) है, लेकिन उनकी दक्षता का स्तर अलग-अलग है, और उनमें से कुछ शरारती तत्व (दुर्भावनापूर्ण हमलावर/malicious attackers) भी हो सकते हैं।

अब, आपके पास सभी से एक प्रश्न पूछने का सवाल है, जिससे आप सबसे सटीक उत्तर प्राप्त करने की आशा करते हैं। यह "फेडरेटेड इन्फरेंस" (Federated Inference) है: प्रिंसिपल छात्रों का होमवर्क (डेटा) एकत्र नहीं करता है, बल्कि उनसे सीधे उनके उत्तर मांगता है और फिर सभी के जवाबों को एकत्रित करता है।

इस शोध पत्र का मूल विषय है: जब शरारती तत्व जानबूझकर गलत उत्तर लिखते हैं, तो प्रिंसिपल को भ्रमित होने से बचने के लिए उन्हें बुद्धिमानी से कैसे एकत्रित करना चाहिए?

नीचे सरल, बोलचाल की भाषा में इस शोध पत्र की सामग्री का विवरण दिया गया है:

1. वर्तमान स्थिति: पहले यह कैसे किया जाता था? (साधारण औसत बनाम भ्रमित होना)

पिछला दृष्टिकोण (साधारण औसत - Simple Averaging):
प्रिंसिपल 10 छात्रों के उत्तरों को जोड़ता है और 10 से विभाजित करता है।
- समस्या: यदि 3 शरारती तत्व जानबूझकर लिखते हैं "उत्तर 999 है," जबकि अच्छे छात्र लिखते हैं "उत्तर 1 है," तो औसत "300" हो सकता है, जो पूरी तरह से गलत है।
पिछला सुधार (रोबस्ट एवरेजिंग - Robust Averaging):
प्रिंसिपल इतना स्मार्ट है कि वह औसत निकालने से पहले उच्चतम और निम्नतम स्कोर को हटा देता है (उदाहरण के लिए, 3 शरारती तत्वों के अत्यधिक उत्तरों को हटाना)। यह "ट्रिम्ड मीन" (trimmed mean) पद्धति की तरह है।
- समस्या: शोध पत्र में पाया गया है कि शरारती तत्वों को हटाने के बाद भी, यदि अच्छे छात्रों के उत्तरों में स्वयं कुछ "असहमति" (जैसे, कुछ 1 सोचते हैं, अन्य 2 सोचते हैं) है, या यदि शरारती तत्व चतुर हैं और अपने उत्तरों को सही उत्तर के बहुत करीब लाने के लिए उन्हें थोड़ा बदल देते हैं, तो साधारण "ट्रिम्ड एवरेजिंग" अभी भी गलत चुनाव का कारण बन सकती है। यह सबसे अजीबोगरीब स्कोर को हटाने जैसा है, लेकिन शेष स्कोर के बीच, सही उत्तर और गलत उत्तर इतने करीब होते हैं कि प्रिंसिपल के गलती करने की संभावना बनी रहती है।

2. मुख्य निष्कर्ष: साधारण "ट्रिमिंग" अपर्याप्त क्यों है?

शोध पत्र के लेखकों ने गणितीय विश्लेषण किया और पाया कि प्रिंसिपल की त्रुटियां मुख्य रूप से तीन कारकों पर निर्भर करती हैं:

शरारती तत्वों का अनुपात: जितने अधिक बुरे छात्र होंगे, उतना ही कठिन होगा।
अच्छे छात्रों के बीच असहमति: यदि अच्छे छात्र स्वयं तीव्र असहमति (उत्तरों में बड़ा विचलन/variance) में हैं, तो प्रिंसिपल के लिए यह निर्णय लेना कठिन है कि कौन सही है।
सही उत्तर का "विश्वास" (Confidence): यदि सही उत्तर अन्य की तुलना में काफी मजबूत है (उदाहरण के लिए, सही उत्तर की संभावना 90% है जबकि अन्य की केवल 5%), तो गलत होने की संभावना कम है; लेकिन यदि सही उत्तर दूसरे सर्वश्रेष्ठ की तुलना में केवल थोड़ा बेहतर है (जैसे, 40% बनाम 39%), तो मामूली हस्तक्षेप से भी भ्रमित होना बहुत आसान है।

निष्कर्ष: केवल शरारती तत्वों को बाहर निकालना (ट्रिम्ड एवरेजिंग) पर्याप्त नहीं है, क्योंकि अच्छे छात्रों के उत्तर स्वयं अस्पष्ट हो सकते हैं, या शरारती तत्व "फाइन-ट्यूनिंग" की रणनीति अपना सकते हैं।

3. अभिनव समाधान: DeepSet + एडवरसेरियल ट्रेनिंग (प्रिंसिपल को "सुपर ब्रेन" से लैस करना)

इस समस्या को हल करने के लिए, लेखकों ने एक "संयोजन रणनीति" प्रस्तावित की है, जैसे प्रिंसिपल को एक AI सहायक प्रणाली से लैस करना:

चरण 1: प्रिंसिपल को "सुपर ब्रेन" (DeepSet मॉडल) से लैस करना

प्रिंसिपल अब साधारण जोड़, घटाव, गुणा या भाग पर निर्भर नहीं है, बल्कि एक न्यूरल नेटवर्क (DeepSet) का उपयोग करता है।

उपमा: यह मस्तिष्क बहुत स्मार्ट है; इसे इस बात से फर्क नहीं पड़ता कि छात्रों ने किस क्रम में उत्तर दिया (परिणाम वही रहता है चाहे पहले या बाद में पूछा जाए)। यह जटिल प्रतिक्रिया पैटर्न से पैटर्न सीख सकता है।
चुनौती: इस मस्तिष्क को कैसे प्रशिक्षित किया जाए? यदि प्रशिक्षण के दौरान हर बार शरारती तत्वों की पहचान बदल जाती है (आज यह ज़ांग सैन हो सकता है, कल ली सी), तो गणना के लिए प्रशिक्षण का आयतन बहुत अधिक होगा।
चतुर तरकीब: लेखकों ने पाया कि प्रशिक्षण के दौरान शरारती तत्वों के छोटे उपसमुच्चय (subset) के संयोजनों का यादृच्छिक नमूना (random sampling) लेकर, मस्तिष्क सभी संभावनाओं को सूचीबद्ध किए बिना "शरारती तत्वों के लक्षणों" को पहचानना सीख सकता है। यह "एक अपरिवर्तनीय सिद्धांत के साथ दस हजार परिवर्तनों का उत्तर देने" जैसा है।

चरण 2: दोहरी बीमा (इन्फरेंस के दौरान एडवरसेरियल ट्रेनिंग + ट्रिमिंग)

लेखकों ने दो तकनीकों को जोड़ा है:

एडवरसेरियल ट्रेनिंग (Adversarial Training): प्रिंसिपल के मस्तिष्क को प्रशिक्षित करते समय, विभिन्न "शरारती तत्वों" को जानबूझकर हमला करने के लिए बनाया जाता है, जिससे वह अराजकता के बीच भी स्पष्ट दिमाग बनाए रखना सीखता है। यह "सिम्युलेटेड युद्धों में लेवल अप करने" जैसा है।
इन्फरेंस के दौरान ट्रिमिंग (Trimming During Inference): जब वास्तविक परीक्षा (इन्फरेंस) होती है, तो प्रिंसिपल का मस्तिष्क अंतिम उत्तर को आउटपुट करने से पहले एक "ट्रिम्ड एवरेजिंग" फिल्टर के माध्यम से गुजारता है, जो सबसे अजीब आउटलेर्स को एक बार फिर से बाहर निकाल देता है।

उपमा: यह एक "विशेष बलों की इकाई द्वारा विशेष रूप से प्रशिक्षित रेफरी" (एडवरसेरियल ट्रेनिंग) की तरह है, जो सीटी बजाने से पहले, "पहले कुछ स्पष्ट रूप से धोखाधड़ी करने वाले प्रतियोगियों को बाहर कर देगा" (ट्रिम्ड एवरेजिंग)।

4. यह कितना प्रभावी है? (एक शानदार जीत)

लेखकों ने विभिन्न परीक्षाओं (डेटासेट: CIFAR-10, CIFAR-100, AG-News) पर इस पद्धति का परीक्षण किया:

प्रतिद्वंद्वी: पारंपरिक "ट्रिम्ड एवरेजिंग," सरल "मीडियन वोटिंग," और अन्य पिछले रक्षात्मक तरीके।
हमलावर: विभिन्न उच्च-बुद्धि वाले शरारती तत्व (जिसमें एक नया आविष्कार किया गया "सबसे शक्तिशाली रिवर्स अटैक SIA" भी शामिल है)।
परिणाम: लेखकों का "सुपर ब्रेन + दोहरी बीमा" संयोजन सभी परीक्षणों में सर्वश्रेष्ठ प्रदर्शन करता है।
- अत्यंत कठिन परिदृश्यों में, सटीकता दूसरे सर्वश्रेष्ठ तरीके की तुलना में 4.7% से 22.2% अधिक थी।
- यह एक शोर भरे कमरे में हस्तक्षेप के बीच ऐसा है, जहाँ केवल यही प्रिंसिपल सही उत्तर को स्पष्ट रूप से सुन सकता है, जबकि बाकी सब पागलों की तरह अनुमान लगा रहे हैं।

5. सारांश: यह शोध पत्र वास्तव में क्या कहता है?

सरल शब्दों में, यह शोध पत्र हमें बताता है:
बहु-पक्षीय सहयोग (Federated Learning/Inference) के परिदृश्यों में, साधारण "बहुमत का पालन करना" या "चरम मानों को हटाना" अब पर्याप्त नहीं है। चतुर हस्तक्षेप का सामना करने के लिए, हमें आवश्यकता है:

एक स्मार्ट एग्रीगेटर (साधारण गणितीय औसत के बजाय न्यूरल नेटवर्क का उपयोग करना)।
कठोर प्रशिक्षण (मॉडल को मजबूत करने के लिए प्रशिक्षण के दौरान विभिन्न हमलों का अनुकरण करना)।
दोहरी सुरक्षा (प्रशिक्षण के दौरान लेवल अप करना, और उपयोग के दौरान फिर से फ़िल्टर करना)।

एक वाक्य की उपमा:
पहले हम सोचते थे कि शरारती तत्वों को बाहर निकालने और शेष अच्छे छात्रों के उत्तरों का औसत निकालने से उच्च अंक प्राप्त होंगे; अब लेखक हमें बताते हैं कि अच्छे छात्र भी असहमत हो सकते हैं, और शरारती तत्व बहुत चतुर होते हैं। इसलिए, हमें एक "शैतानी प्रशिक्षण" (devilish training) के माध्यम से प्रशिक्षित सुपर रेफरी की आवश्यकता है जो अच्छे छात्रों की जटिल राय को समझ सके, शरारती तत्वों के भेष को तुरंत पहचान सके, और अराजकता के बीच सबसे सटीक निर्णय ले सके।

तकनीकी सारांश: रोबस्ट फेडरेटेड इन्फरेंस (Robust Federated Inference)

समस्या का निरूपण (Problem Formulation)

यह शोध पत्र फेडरेटेड इन्फरेंस के भीतर रोबस्टनेस (robustness) की महत्वपूर्ण कमी को संबोधित करता है, जो एक ऐसा प्रतिमान (paradigm) है जहाँ एक केंद्रीय सर्वर स्थानीय डेटा या मॉडल वेट्स तक पहुँच बनाए बिना कई क्लाइंट-होल्ड मॉडल्स (जैसे, वन-शॉट फेडरेटेड लर्निंग, एज एंसेम्बल्स, या फेडरेटेड एंसेम्बल्स के माध्यम से) से भविष्यवाणियों को एकत्रित करता है। जबकि मौजूदा साहित्य ऐसे एंसेम्बल्स की सटीकता पर ध्यान केंद्रित करता है, यह काफी हद तक उनकी बायज़ेंटाइन विफलताओं (Byzantine failures) और पॉइज़न्ड आउटपुट्स (poisoned outputs) के प्रति संवेदनशीलता की उपेक्षा करता है।

लेखक रोबस्ट फेडरेटेड इन्फरेंस की समस्या को निम्नानुसार औपचारिक रूप देते हैं:

सेटअप: $n$ क्लाइंट्स का एक सिस्टम, जिनमें से प्रत्येक के पास एक स्थानीय प्रोबिट-वैल्यूड क्लासिफायर $h_i$ है जो इनपुट्स को प्रोबिट सिमप्लेक्स $\Delta_K$ में मैप करता है।
थ्रेट मॉडल (Threat Model): $f < n/2$ क्लाइंट्स (छिपी हुई पहचान के साथ) इन्फरेंस के समय मनमाने ढंग से दूषित (corrupted) प्रोबिट वेक्टर्स लौटा सकते हैं।
लक्ष्य: एक ऐसा एग्रीगेशन स्कीम $\psi$ डिज़ाइन करना जो रोबस्ट फेडरेटेड इन्फरेंस रिस्क ( $R_{adv}$ ) को कम करे, जिसे सभी संभावित भ्रष्टाचार पैटर्न (आकार $f$ ) पर सबसे खराब स्थिति (worst-case) की भविष्यवाणी त्रुटि के रूप में परिभाषित किया गया है, जबकि वैश्विक डेटा वितरण पर सटीकता बनाए रखी जाए।

लेखक दो प्रकार के एग्रीगेटर्स के बीच अंतर करते हैं:

लीनियर (औसत-आधारित): सर्वर 'argmax' लेने से पहले क्लाइंट प्रोबिट्स का एक रोबस्ट औसत (जैसे, कोऑर्डिनेट-वाइज ट्रिम्ड मीन - CWTM) कंप्यूट करता है।
नॉन-लीनियर (लर्नड): सर्वर क्लाइंट प्रोबिट्स को संयोजित करने के लिए एक प्रशिक्षित न्यूरल नेटवर्क एग्रीगेटर का उपयोग करता है, जिसने अनकরাপटेड सेटिंग्स में बेहतर प्रदर्शन दिखाया है लेकिन इसमें मजबूती (robustness) की गारंटी का अभाव है।

कार्यप्रणाली (Methodology)

1. एवरेजिंग-आधारित एग्रीगेटर्स का विश्लेषण

लेखक पहले एक बेसलाइन के रूप में रोबस्ट एवरेजिंग स्कीम्स (जैसे CWTM) का विश्लेषण करते हैं। वे प्रदर्शित करते हैं कि जबकि रोबस्ट एवरेजिंग यह सुनिश्चित करती है कि आउटपुट ईमानदार प्रोबिट्स के औसत के $\ell_2$ -नॉर्म के करीब हो, यह निकटता 'argmax' ऑपरेटर की गैर-निरंतरता (non-continuity) के कारण सही वर्गीकरण की गारंटी नहीं देती है।

सैद्धांतिक अंतर्दृष्टि: वे एक रोबस्टनेस सर्टिफिकेट प्राप्त करते हैं जो यह दर्शाता है कि एग्रीगेटर की त्रुटि तीन कारकों पर निर्भर करती है:
1. भ्रष्टाचार का अंश ( $f/n$ )।
2. ईमानदार क्लाइंट आउटपुट्स के बीच असमानता (dissimilarity) ( $\sigma_x$ )।
3. शीर्ष दो अनुमानित क्लासेस के बीच का मार्जिन (margin)।
निष्कर्ष: जब मार्जिन छोटा हो या क्लाइंट मॉडल्स अत्यधिक भिन्न हों, तो रोबस्ट एवरेजिंग अपर्याप्त है, भले ही एग्रीगेशन सांख्यिकीय अर्थ में रोबस्ट हो।

2. एडवरसेरियल ML समस्या के रूप में रोबस्ट इन्फरेंस

नॉन-लीनियर एग्रीगेटर्स के लिए, लेखक इस समस्या को प्रोबिट वेक्टर्स के स्पेस पर एक एडवरसेरियल लर्निंग समस्या के रूप में प्रस्तुत करते हैं।

चुनौती: मानक एडवरसेरियल ट्रेनिंग गणनात्मक रूप से अव्यवहार्य (intractable) है क्योंकि संभावित एडवरसेरियल सबसेट्स का सेट (चुने गए $f$ दुर्भावनापूर्ण क्लाइंट्स $n$ में से) उच्च कार्डिनैलिटी ( $\binom{n}{f} \times f!$ ) रखता है।
समाधान (DeepSet): लेखक एक DeepSet आर्किटेक्चर (Zaheer et al., 2017) का उपयोग करने का प्रस्ताव करते हैं, जो परम्यूटेशन-इनवेरिएंट (permutation-invariant) है। यह गुण अनुमति देता है कि सर्च स्पेस को परम्यूटेशन से बदलकर कॉम्बिनेशन ( $\binom{n}{f}$ ) में कम किया जा सके, जिससे समस्या अधिक सुलभ हो जाती है।
अनुमान (Approximation): सभी एडवरसेरियल सबसेट्स की गणना करने के बजाय, वे प्रशिक्षण के दौरान यादृच्छिक एडवरसेरियल कॉन्फ़िगरेशन के एक छोटे से सेट $N$ को सैंपल करते हैं ( $N \ll \binom{n}{f}$ ) और चयनित एडवर्सरीज के प्रोबिट्स को विचलित करने के लिए मल्टी-स्टेप फास्ट ग्रेडिएंट साइन मेथड (FGSM) लागू करते हैं।

3. DeepSet-TM कंपोजिशन

मजबूती को और बढ़ाने के लिए, लेखक एडवरसेरियल ट्रेनिंग और इन्फरेंस के समय रोबस्ट एवरेजिंग के एक नवीन संयोजन को पेश करते हैं:

आर्किटेक्चर: एक DeepSet मॉडल जहाँ क्लाइंट प्रोबिट्स को DeepSet इन्फरेंस में फीड करने से पहले एक रोबस्ट एवरेजिंग ऑपरेटर (CWTM) द्वारा प्रोसेस किया जाता है।
ट्रेनिंग रणनीति: मॉडल को रोबस्ट फीचर्स सीखने के लिए कच्चे (raw) प्रोबिट्स (बिना CWTM के) पर एडवरसेरियल रूप से प्रशिक्षित किया जाता है।
इन्फरेंस रणनीति: टेस्ट टाइम पर, DeepSet इन्फरेंस से पहले क्लाइंट इनपुट्स पर रोबस्ट एवरेजिंग (CWTM) लागू की जाती है। यह प्रशिक्षण लागत को इन्फरेंस-टाइम रोबस्टनेस मैकेनिज्म से अलग करता है, जिससे प्रशिक्षण प्रक्रिया अत्यधिक महंगी होने से बच जाती है।

मुख्य योगदान

औपचारिकीकरण (Formalization): बायज़ेंटाइन भ्रष्टाचार के तहत फेडरेटेड इन्फरेंस समस्या का पहला औपचारिक परिभाषा और मजबूती विश्लेषण।
सैद्धांतिक सीमाएँ (Theoretical Bounds): लीनियर (एवरेजिंग) और नॉन-लीनियर (DeepSet) एग्रीगेटर्स के लिए औपचारिक रोबस्टनेस सर्टिफिकेट का व्युत्पत्ति, जो त्रुटि दरों को भ्रष्टाचार के अंश, मॉडल असमानता और प्रेडिक्शन मार्जिन से जोड़ता है।
एल्गोरिदम नवाचार: DeepSet-TM का प्रस्ताव, जो परम्यूटेशन-इनवेरिएंट न्यूरल नेटवर्क को एडवरसेरियल ट्रेनिंग और टेस्ट-टाइम रोबस्ट एवरेजिंग के साथ जोड़ता है। यह दृष्टिकोण मनमाने ढंग से एडवर्सरीज के सबसेट्स के विरुद्ध प्रशिक्षण की गणनात्मक जटिलता को संबोधित करता है।
नया हमला (New Attack): स्ट्रोंगेस्ट इनवर्टेड अटैक (SIA) का परिचय, जो एक नया व्हाइट-बॉक्स और ब्लैक-बॉक्स हमला है जो एग्रीगेशन निर्णयों को पलटने के लिए दूसरे सबसे संभावित क्लास का लाभ उठाता है, जिसका उपयोग रक्षा प्रणालियों का कठोर मूल्यांकन करने के लिए किया जाता है।

प्रयोगात्मक परिणाम

लेखक विविध मॉडल परिवारों (ResNet-8, ViT-B/32, DistilBERT) और विभिन्न स्तरों की डेटा विषमता ( $\alpha \in \{0.3, 0.5, 0.8\}$ ) का उपयोग करके CIFAR-10, CIFAR-100, और AG-News पर अपने दृष्टिकोण का मूल्यांकन करते हैं।

प्रदर्शन: DeepSet-TM लगातार मौजूदा रोबस्ट एग्रीगेशन बेसलाइन्स (CWTM, CWMed, Geometric Median) और स्टेट-ऑफ-द-आर्ट डिफेंस (COPUR, Manifold Projection) से बेहतर प्रदर्शन करता है।
सुधार: यह विधि विविध बेंचमार्क और हमले के प्रकारों में 4.7% से 22.2% तक का सुधार (worst-case accuracy points में) हासिल करती है।
मजबूत हमलों के प्रति रोबस्टनेस: प्रस्तावित SIA और PGD-cw हमलों के तहत, बेसलाइन विधियाँ अक्सर 35-40 पॉइंट्स की सटीकता गिरावट का सामना करती हैं, जबकि DeepSet-TM गिरावट को 20-30 पॉइंट्स तक सीमित करता है। AG-News पर, DeepSet-TM PGD-cw के तहत 83.2% सटीकता बनाए रखता है, जबकि बेसलाइन्स के लिए यह ~53% है।
स्केलेबिलिटी: दृष्टिकोण क्लाइंट्स ( $n=10, 17, 25$ ) और एडवर्सरीज ( $f=3, 4, 5$ ) की संख्या के साथ प्रभावी ढंग से स्केल करता है, और जैसे-जैसे सिस्टम बढ़ता है, बेहतर प्रदर्शन बनाए रखता है।
दक्षता: हालांकि एडवरसेरियल ट्रेनिंग में एक बार की लागत (लगभग 1.5 घंटे) आती है, इन्फरेंस लेटेंसी कम रहती है (लगभग 0.3ms प्रति बैच), जो इसे क्रॉस-साइलो सेटिंग्स के लिए उपयुक्त बनाती है।

महत्व और दावे

यह शोध पत्र दावा करता है कि रोबस्ट फेडरेटेड इन्फरेंस एक विशिष्ट और महत्वपूर्ण समस्या है जिसे केवल मौजूदा बायज़ेंटाइन-रोबस्ट ट्रेनिंग तकनीकों या शुद्धिकरण विधियों (जैसे COPUR) को लागू करके हल नहीं किया जा सकता है, जो अक्सर प्रोबिट स्पेस या मजबूत हमलों के तहत विफल हो जाते हैं।

इस कार्य का महत्व निम्नलिखित में निहित है:

अंतराल को भरना: यह मालिकाना मॉडल्स (LLMs सहित) का उपयोग करने के लिए एक बढ़ते प्रतिमान (फेडरेटेड इन्फरेंस) को सुरक्षित करने के लिए पहला व्यापक ढांचा प्रदान करता है।
नवीन संयोजन: एडवरसेरियल ट्रेनिंग (एडवरसेरियल ML साहित्य से) को रोबस्ट एवरेजिंग (रोबस्ट सांख्यिकी/बायज़ेंटाइन ML साहित्य से) के साथ जोड़कर, लेखक प्रदर्शित करते हैं कि अत्याधुनिक मजबूती प्राप्त करने के लिए इन दोनों क्षेत्रों को सहक्रियात्मक रूप से जोड़ा जा सकता है।
व्यावहारिकता: प्रस्तावित DeepSet-TM एक व्यावहारिक समाधान प्रदान करता है जो परिष्कृत हमलों के विरुद्ध उच्च मजबूती और स्वीकार्य कम्प्यूटेशनल ओवरहेड के बीच संतुलन बनाता है, जो विशेष रूप से उन क्रॉस-साइलो परिदृश्यों के लिए तैयार किया गया है जहाँ क्लाइंट स्थिर हैं लेकिन इन्फरेंस अनुरोध गतिशील हैं।

लेखक निष्कर्ष निकालते हैं कि उनकी विधि फेडरेटेड इन्फरेंस के लिए एक नया स्टेट-ऑफ-द-आर्ट सेट करती है, जो दुर्भावनापूर्ण अभिनेताओं की उपस्थिति में तकनीकी लाभ को महत्वपूर्ण कमजोरियों में बदलने से प्रभावी रूप से रोकती है।