💻 computer science

FedOPAL: One-Shot Federated Learning via Analytic Visual Prompt Tuning

FedOPAL एक वन-शॉट फेडरेटेड लर्निंग फ्रेमवर्क है जो विषम वितरणों को संरेखित करने के लिए विज़ुअल प्रॉम्प्ट्स को फीचर रेक्टिफायर के रूप में उपयोग करके विश्लेषणात्मक विधियों में नॉन-IID डेटा की सीमाओं को दूर करता है, जिससे शून्य सर्वर-साइड प्रशिक्षण लागत के साथ उच्च सटीकता प्राप्त होती है।

मूल लेखक: Lingyu Qiu, Daniela Annunziata, Stefano Izzo, Fabio Giampaolo, Francesco Piccialli

प्रकाशित 2026-07-10

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Lingyu Qiu, Daniela Annunziata, Stefano Izzo, Fabio Giampaolo, Francesco Piccialli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान रोबोट को (जिसे "द ब्रेन" कहा जाता है) बिल्लियों, कुत्तों और कारों को पहचानना सिखाने की कोशिश कर रहे हैं। समस्या यह है कि "द ब्रेन" एक केंद्रीय सर्वर पर रहता है, और उसे दस अलग-अलग दोस्तों (क्लाइंट्स) से सीखना है जो अलग-अलग जगहों पर हैं। लेकिन पेच यह है कि दोस्तों का इंटरनेट कनेक्शन बहुत खराब है, और वे रोबोट को अपने पूरे फोटो एल्बम वापस नहीं भेज सकते। वे केवल एक छोटा सा संदेश भेज सकते हैं।

यह वन-शॉट फेडरेटेड लर्निंग (One-Shot Federated Learning) की दुनिया है। लक्ष्य केवल संचार के एक दौर (one round) में रोबोट को प्रशिक्षित करना है।

पुराना तरीका: "कॉपी-पेस्ट" का संघर्ष

पहले, वैज्ञानिकों ने इस समस्या को हल करने के लिए दोस्तों को अपने फोटो सर्वर पर भेजने के लिए कहा, जहाँ सर्वर ज्ञान को "डिस्टिल" (distill) करने या रोबोट को प्रशिक्षित करने के लिए नकली फोटो बनाने की कोशिश करता था। लेकिन यह ऐसा था जैसे सर्वर से सारा भारी काम करने को कहना। यह धीमा था, महंगा था, और अक्सर विफल हो जाता था जब दोस्तों के फोटो एक-दूसरे से बहुत अलग होते थे (जैसे एक दोस्त के पास केवल बर्फीली बिल्लियों की तस्वीरें हैं और दूसरे के पास रेगिस्तानी कुत्तों की तस्वीरें)।

एक अन्य समूह ने एनालिटिक फेडरेटेड लर्निंग (AFL) नामक एक गणितीय ट्रिक का प्रयास किया। उन्होंने कहा, "चलो प्रशिक्षण को पूरी तरह से छोड़ देते हैं! आइए बस एक जादुई गणितीय सूत्र का उपयोग करके पहेली को तुरंत हल करें।" यह बहुत तेज़ और सर्वर के लिए मुफ्त था। लेकिन इसमें एक घातक दोष था: इसने माना कि सभी दोस्तों के फोटो पहले से ही पूरी तरह से व्यवस्थित और आसानी से छाँटने योग्य थे। वास्तविक दुनिया में, जहाँ डेटा अव्यवस्थित और अस्त-व्यस्त होता है (जिसे वैज्ञानिक Non-IID कहते हैं), वह गणितीय सूत्र भ्रमित हो जाता, रोबोट विफल हो जाता, और पूरी चीज़ क्रैश हो जाती।

नया नायक: FedOPAL

यहाँ FedOPAL आता है। लेखकों, लिंग्यू क्यू (Lingyu Qiu) और नेपल्स विश्वविद्यालय की उनकी टीम ने महसूस किया कि गणितीय सूत्र समस्या नहीं थी; बल्कि इनपुट समस्या थी। रोबोट का मस्तिष्क जम गया था (वह नई चीजें नहीं सीख सकता था), इसलिए वह बिखरे हुए फोटो को हमेशा एक ही तरह से देखता रहता था, चाहे दोस्त उन्हें समझाने की कितनी भी कोशिश क्यों न करें।

FedOPAL एक चतुर समाधान पेश करता है: विजुअल प्रॉम्प्ट ट्यूनिंग (Visual Prompt Tuning)।

सोचिए कि रोबोट का मस्तिष्क एक कठोर, जमी हुई मूर्ति है। आप इसे नया आकार देने के लिए पिघला नहीं सकते। लेकिन, आप उस पर विशेष, जादुई चश्मे लगा सकते हैं। ये चश्मे ही विजुअल प्रॉम्प्ट्स (Visual Prompts) हैं।

यहाँ FedOPAL की कहानी में यह कैसे काम करता है:

लोकल चश्मा (The Local Glasses): प्रत्येक मित्र इन जादुई चश्मों की अपनी जोड़ी पहनता है। ये चश्मे छोटे, समायोज्य टोकन (केवल 10!) हैं जो सीधे रोबोट की आँखों के सामने बैठते हैं।
समायोजन (The Adjustment): दोस्त अपने चश्मे को इतना ट्यून करते हैं कि उनके विशिष्ट बिखरे हुए फोटो उस जमी हुई मूर्ति के लिए व्यवस्थित और सुव्यवस्थित दिखें। वे मूर्ति को नहीं बदल रहे हैं; वे बस यह बदल रहे हैं कि मूर्ति दुनिया को कैसे देखती है।
वन-शॉट भेजना (The One-Shot Send): एक बार जब चश्मे को समायोजित कर लिया जाता है, तो दोस्त सर्वर को दो चीजें भेजता है: उनके लोकल चश्मे की सेटिंग्स और कुछ सरल संख्याएँ (जिन्हें सफिशिएंट स्टैटिस्टिक्स/sufficient statistics कहा जाता है) जो यह बताती हैं कि उन चश्मों के माध्यम से फोटो कैसे दिखते हैं।
सर्वर का जादू (The Server's Magic): सर्वर हर दोस्त से प्राप्त सभी लोकल चश्मे की सेटिंग्स को लेता है, उन्हें एक साथ औसत (average) निकालता है ताकि एक एकल "ग्लोबल जोड़ी चश्मा" बनाया जा सके। फिर, दोस्तों द्वारा भेजी गई सरल संख्याओं का उपयोग करके, यह अपने जादुई गणितीय सूत्र (लीस्ट-स्क्वेयर्स सॉल्यूशन) का उपयोग करके तुरंत यह पता लगा लेता है कि बिल्लियों, कुत्तों और कारों को वर्गीकृत करने का सही तरीका क्या है।

यह एक बड़ी बात क्यों है

पेपर दिखाता है कि यह तरीका गेम-चेंजर है।

यह तेज़ है: सर्वर कोई प्रशिक्षण नहीं करता है। यह केवल एक त्वरित गणितीय गणना करता है।
यह मजबूत है: भले ही दोस्तों का डेटा बहुत बिखरा हुआ हो (एक "डिरिचलेट डिस्ट्रीब्यूशन" पैरामीटर के साथ जो 0.1 है, जिसका अर्थ है बहुत अलग डेटा), FedOPAL अभी भी काम करता है।
परिणाम: CIFAR-10 नामक एक टेस्ट पर, FedOPAL ने बिखरी हुई स्थितियों में 93.72% सटीकता हासिल की, जिसने पिछले सर्वश्रेष्ठ तरीके (FedCGS) को हरा दिया जो केवल 86.11% प्राप्त कर सका था। CIFAR-100 पर, इसने 75.51% स्कोर किया, जो प्रतिद्वंद्वी के 64.58% को पछाड़ देता है।

यह क्या नहीं है

पेपर स्पष्ट रूप से बताता है कि FedOPAL क्या नहीं है।

यह ऐसा तरीका नहीं है जिसमें सर्वर को मॉडल को फिर से प्रशिक्षित करने की आवश्यकता हो। वह पुराना, धीमा तरीका है।
यह कोई जादुई छड़ी नहीं है जो हर समस्या को ठीक कर दे। लेखक स्वीकार करते हैं कि घर के नंबरों (SVHN) के एक विशिष्ट डेटासेट पर, FedOPAL ने 47.05% स्कोर किया, जो FedCGS के 57.45% से थोड़ा कम था। क्यों? क्योंकि रोबोट का मस्तिष्क मूल रूप से प्राकृतिक फोटो (जैसे बिल्लियाँ और कुत्ते) पर प्रशिक्षित किया गया था, और घर के नंबर एक बिल्कुल अलग "ब्रह्मांड" हैं। जादुई चश्मों ने बहुत मदद की, लेकिन वे एक शॉट में उस विशाल अंतर को पूरी तरह से पाट नहीं सके।
यह ऐसा तरीका नहीं है जो रोबोट के मस्तिष्क की संरचना को बदलता है। "बैकबोन" (रोबोट का मुख्य हिस्सा) जड़ा हुआ (frozen) रहता है। केवल छोटे "चश्मे" (प्रॉम्प्ट्स) ही चलते हैं।

निचोड़ (The Bottom Line)

FedOPAL सुझाव देता है कि यदि आपके पास एक शक्तिशाली, प्री-ट्रेंड रोबोट है, तो आपको इसे शुरू से फिर से प्रशिक्षित करने की आवश्यकता नहीं है। आपको बस इसे दुनिया को स्पष्ट रूप से देखने के लिए सही चश्मा देने की आवश्यकता है, चाहे डेटा कितना भी बिखरा हुआ क्यों न हो। इन "चश्मों" को एक तेज़ गणितीय सूत्र के साथ जोड़कर, लेखक दिखाते हैं कि हम कुशल, निजी और आश्चर्यजनक रूप से सटीक AI सिस्टम बना सकते हैं, भले ही सभी का डेटा पूरी तरह से अलग हो।

यह पेपर CIFAR-10, CIFAR-100, SVHN, और DTD जैसे डेटासेट्स पर व्यापक सिमुलेशन के माध्यम से सिद्ध करता है कि यह "चश्मे" वाला दृष्टिकोण वास्तविक दुनिया के डेटा की अराजकता को बिना भारी खर्च के संभालने का एक ठोस, नया तरीका है।

तकनीकी सारांश: FedOPAL

समस्या विवरण (Problem Statement)

एज इंटेलिजेंस (edge intelligence) में फाउंडेशन मॉडल्स (जैसे, ViT, CLIP) के व्यापक परिनियोजन ने एक महत्वपूर्ण बाधा को उजागर किया है: पारंपरिक फेडरेटेड लर्निंग (FL) एल्गोरिदम जैसे FedAvg के लिए आवश्यक संचार बैंडविड्थ (communication bandwidth) अत्यधिक गणनात्मक रूप से निषेधात्मक है, विशेष रूप से सीमित कनेक्टिविटी वाले परिदृश्यों (जैसे, स्वायत्त वाहन, उपग्रह) में। जबकि वन-शॉट फेडरेटेड लर्निंग (OFL) एकल संचार दौर (single communication round) तक एग्रीगेशन को सीमित करके इसे हल करने का लक्ष्य रखता है, मौजूदा दृष्टिकोण महत्वपूर्ण ट्रेड-ऑफ का सामना करते हैं:

नॉलेज डिस्टिलेशन और डेटा सिंथेसिस: ये विधियाँ आमतौर पर सार्वजनिक या सिंथेटिक डेटा का उपयोग करके सर्वर-साइड रिट्रेनिंग की मांग करती हैं, जिससे कुल सिस्टम लोड को कम करने के बजाय गणना का बोझ एज से सर्वर पर स्थानांतरित हो जाता है।
एनालिटिक फेडरेटेड लर्निंग (AFL): यह दृष्टिकोण क्लासिफायर एग्रीगेशन के लिए लीस्ट-स्क्वायर्स (least-squares) विधियों का उपयोग करके एक ग्रेडिएंट-मुक्त, क्लोज्ड-फॉर्म समाधान प्रदान करता है। हालाँकि, यह एक मजबूत सैद्धांतिक धारणा पर निर्भर करता है: कि विषम क्लाइंट वितरणों (heterogeneous client distributions) में फ्रोजन बैकबोन द्वारा निकाले गए फीचर्स उच्च गुणवत्ता वाले और रैखिक रूप से विभाज्य (linearly separable) होते हैं। वास्तविक दुनिया के नॉन-आईआईडी (Non-IID) परिदृश्यों में, डेटा वितरण काफी भिन्न होता है, जिससे फीचर मैनिफोल्ड मिसअलाइनमेंट (feature manifold misalignment) होता है। फलस्वरूप, स्टैटिक एनालिटिकल सॉल्वर फीचर एक्सट्रैक्शन प्रक्रिया को समायोजित करने में विफल रहते हैं, जिससे मॉडल का प्रदर्शन गिर जाता है।

कार्यप्रणाली: FedOPAL फ्रेमवर्क (Methodology: The FedOPAL Framework)

विषम डेटा की वास्तविकता और एनालिटिकल विधियों की दक्षता के बीच विरोधाभास को संबोधित करने के लिए, लेखक FedOPAL (एनालिटिक विजुअल प्रॉम्प्ट ट्यूनिंग के माध्यम से वन-शॉट फेडरेटेड लर्निंग) का प्रस्ताव करते हैं। यह फ्रेमवर्क एनालिटिकल एग्रीगेशन लागू करने से पहले "फीचर रेक्टिफायर" (feature rectifiers) के रूप में कार्य करने के लिए विजुअल प्रॉम्प्ट ट्यूनिंग (VPT) का उपयोग करते हुए, फीचर अलाइनमेंट को क्लासिफायर लर्निंग से अलग करता है।

मुख्य वर्कफ़्लो (Core Workflow)

प्रक्रिया दो मुख्य चरणों में विभाजित है:

स्थानीय चरण: VPT के माध्यम से फीचर रेक्टिफिकेशन (Local Stage: Feature Rectification via VPT)
- क्लाइंट फाउंडेशन मॉडल बैकबोन (जैसे, CLIP ViT-B/16) को फ्रीज कर देते हैं।
- पूरे मॉडल को फाइन-ट्यून करने के बजाय, क्लाइंट क्लास टोकन और पैच एम्बेडिंग्स के बीच एम्बेडिंग सीक्वेंस में डाले गए निरंतर विजुअल प्रॉम्प्ट टोकन्स ( $P_k$ ) के एक छोटे सेट को ऑप्टिमाइज़ करते हैं।
- इन प्रॉम्प्ट्स को लोकल एडैप्टेशन और ग्लोबल स्टेबिलिटी के बीच संतुलन बनाने के लिए एक प्रॉक्सिमल कंस्ट्रेंट ( $\mu$ ) के अधीन क्रॉस-एन्ट्रॉपी लॉस को मिनिमाइज़ करने हेतु ग्रेडिएंट डिसेंट के माध्यम से ऑप्टिमाइज़ किया जाता है।
- एक बार जब प्रॉम्प्ट्स कन्वर्ज हो जाते हैं, तो उन्हें फ्रीज कर दिया जाता है। क्लाइंट फिर "रेक्टिफाइड" फीचर्स निकालने के लिए फॉरवर्ड पास करता है और अपने स्थानीय पर्याप्त सांख्यिकी (sufficient statistics) कंप्यूट करता है: ऑटोकोरिलेशन मैट्रिक्स ( $R_k$ ) और क्रॉस-कोरिलेशन मैट्रिक्स ( $C_k$ )।
सर्वर चरण: द्वैत एग्रीगेशन (Server Stage: Dual Aggregation)
- क्लाइंट ऑप्टिमाइज़्ड प्रॉम्प्ट टोकन्स ( $P_k$ ) और पर्याप्त सांख्यिकी ( $R_k, C_k$ ) को सर्वर पर अपलोड करते हैं।
- प्रॉम्प्ट एग्रीगेशन: सर्वर प्री-ट्रेन्ड मॉडल के साझा सिमेंटिक एम्बेडिंग स्पेस का लाभ उठाते हुए, एक ग्लोबल प्रॉम्प्ट ( $P_{global}$ ) बनाने के लिए स्थानीय प्रॉम्प्ट टोकन्स को एलिमेंट-वाइज औसत करता है।
- एनालिटिक क्लासिफायर रेजोल्यूशन: एकत्रित सांख्यिकी का उपयोग करके, सर्वर क्लोज्ड-फॉर्म लीस्ट-स्क्वायर्स समाधान के माध्यम से इष्टतम ग्लोबल लीनियर क्लासिफायर ( $W^*_{global}$ ) की गणना करता है:
  $W^*_{global} = \left( \sum R_k + \lambda I \right)^{-1} \left( \sum C_k \right)$
- इस चरण के लिए शून्य सर्वर-साइड ट्रेनिंग की आवश्यकता होती है और कोई इटरेटिव ऑप्टिमाइज़ेशन नहीं होता है।

इन्फरेंस (Inference)

इन्फरेंस के दौरान, क्लाइंट डाउनलोड किए गए ग्लोबल प्रॉम्प्ट ( $P_{global}$ ) और क्लासिफायर ( $W^*_{global}$ ) का उपयोग करते हैं। टेस्ट इमेजेस को प्रॉम्प्ट-ऑगमेंटेड सीक्वेंस के माध्यम से प्रोसेस किया जाता है ताकि यह सुनिश्चित किया जा सके कि ट्रेनिंग के दौरान सीखी गई समान फीचर रेक्टिफिकेशन लॉजिक को लागू किया जाए।

प्रमुख योगदान (Key Contributions)

FedOPAL फ्रेमवर्क: लेखक एक नया फ्रेमवर्क प्रस्तावित करते हैं जो विजुअल प्रॉम्प्ट टोकन्स को डिस्ट्रीब्यूशन मोड्युलेटर्स के रूप में पुनर्रिभाषित करता है। ये टोकन्स सक्रिय रूप से फ्रोजन बैकबोन को विषम डेटा को लीनियरली सेपरेबल मैनिफोल्ड्स पर मैप करने के लिए निर्देशित करते हैं, जिससे जटिल, नॉन-आईआईडी वितरणों में एनालिटिक फेडरेटेड लर्निंग की सैद्धांतिक धारणाओं को संतुष्ट किया जा सके।
कुशल बीजगणितीय संचालन (Efficient Algebraic Operations): क्लोज्ड-फॉर्म सॉल्यूशन प्रॉपर्टी का लाभ उठाकर, यह विधि विजन-लैंग्वेज मॉडल्स के पारंपरिक इटरेटिव फाइन-ट्यूनिंग को कुशल बीजगणितीय ऑपरेशन्स से बदल देती है। क्लाइंट फीचर एडैप्टेशन के लिए प्रॉम्प्ट ट्यूनिंग को संभालते हैं, जबकि सर्वर केवल सांख्यिकीय संश्लेषण (statistical synthesis) करता है, जिससे सिस्टम ओवरहेड काफी कम हो जाता है।
प्रदर्शन सत्यापन (Performance Validation): व्यापक प्रयोगों से पता चलता है कि FedOPAL विषम वातावरणों में मौजूदा एनालिटिकल बेसलाइन्स से काफी बेहतर प्रदर्शन करता है और स्टेट-ऑफ-द-आर्ट (SOTA) इटरेटिव मेथड्स के समान सटीकता प्राप्त करता है, जबकि शून्य सर्वर-साइड ट्रेनिंग लागत बनाए रखता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने विभिन्न स्तरों के नॉन-आईआईडी डेटा वितरण (डायरिचलेट पैरामीटर $\alpha$ द्वारा नियंत्रित) के तहत CIFAR-10, CIFAR-100, SVHN, और DTD डेटासेट्स पर FedOPAL का मूल्यांकन किया।

KD/जेनरेटर मेथड्स के साथ तुलना: अत्यधिक विषम सेटिंग्स ( $\alpha=0.1$ ) में, जेनरेटर-आधारित विधियाँ (जैसे, Co-Boosting, DENSE) कन्वर्ज होने में विफल रहीं या महत्वपूर्ण भंगुरता (fragility) दिखाई। FedOPAL ने CIFAR-10 पर 93.72% सटीकता प्राप्त की, जो DENSE से 50% से अधिक अधिक है।
एनालिटिकल बेसलाइन्स के साथ तुलना: FedOPAL ने सभी डेटासेट्स पर मौजूदा एनालिटिकल मेथड्स (AFL, FedPFT, FedCGS) को पछाड़ दिया। विशेष रूप से, अत्यधिक विषमता ( $\alpha=0.01$ ) के साथ CIFAR-100 पर, FedOPAL ने सबसे मजबूत प्रतियोगी (FedCGS) से 10.17% बेहतर प्रदर्शन किया।
टेक्सचर डेटा पर मजबूती: DTD (डिस्क्राइबेबल टेक्सचर डेटासेट) पर, FedCGS की सटीकता गिरकर 2.13% हो गई, जबकि FedOPAL ने उच्च सटीकता (~64%) बनाए रखी, जो नॉन-ऑब्जेक्ट फीचर्स के प्रति बेहतर सामान्यीकरण (generalization) प्रदर्शित करता है।
स्थिरता: विधि ने विभिन्न विषमता स्तरों के बीच नगण्य प्रदर्शन उतार-चढ़ाव दिखाया (उदाहरण के लिए, CIFAR-10 पर केवल 0.32% वेरिएंस), जो प्रभावी रूप से मॉडल प्रदर्शन को क्लाइंट डेटा वितरण से अलग करता है।
सीमाएँ: लेखक SVHN डेटासेट पर FedCGS की तुलना में प्रदर्शन में मामूली अंतर नोट करते हैं, जिसका कारण CLIP के नेचुरल-इमेज प्री-ट्रेनिंग और विशिष्ट डिजिट रिकग्निशन टास्क के बीच डोमेन गैप है।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि FedOPAL एज पर बड़े मॉडल्स के कुशल सहयोग के लिए एक नया इंजीनियरिंग प्रतिमान (paradiment) प्रदान करता है। सांख्यिकीय OFL में निहित फीचर मैनिफोल्ड मिसअलाइनमेंट को हल करके, यह सिद्ध करता है कि एनालिटिक्स-आधारित दृष्टिकोण व्यावहारिक तैनाती आवश्यकताओं के लिए पर्याप्त हैं। फ्रेमवर्क SOTA क्लासिफिकेशन परफॉरमेंस प्राप्त करता है जबकि कड़ाई से सिंगल-पास कम्युनिकेशन का पालन करता है और सर्वर-साइड ट्रेनिंग लागत को समाप्त करता है, जो बैंडविड्थ-बाधित वातावरणों में गोपनीयता-संरक्षित वितरित शिक्षण के लिए एक स्केलेबल समाधान पेश करता है।