🤖 machine learning

Personalized Collaborative Learning with Affinity-Based Variance Reduction

यह शोध पत्र AffPCL प्रस्तुत करता है, जो एक व्यक्तिगत सहयोगात्मक शिक्षण ढांचा (पर्सनलाइज्ड कोलैबोरेटिव लर्निंग फ्रेमवर्क) है जो अज्ञात एजेंट विषमता के अनुकूल होने के लिए एफिनिटी-आधारित वेरिएंस रिडक्शन का उपयोग करता है, जिससे सिस्टम समानता के पूर्व ज्ञान की आवश्यकता के बिना, इंडिपेंडेंट लर्निंग और लीनियर स्पीडअप के बीच निर्बाध रूप से इंटरपोलेट करते हुए सैंपल कॉम्प्लेक्सिटी में सुधार प्राप्त होता है।

मूल लेखक: Chenyu Zhang, Navid Azizan

प्रकाशित 2026-03-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Chenyu Zhang, Navid Azizan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि 20 शेफ का एक समूह एक विशाल, साझा रसोई में काम कर रहा है। प्रत्येक शेफ का एक अनूठा लक्ष्य है:

शेफ A एक स्थानीय भोजनालय के लिए बेहतरीन स्पाइसी करी बनाना चाहता है।
शेफ B एक हाई-एंड कैफे के लिए एक नाजुक फ्रेंच पेस्ट्री बनाना चाहता है।
शेफ C एक हेल्थ फूड स्टोर के लिए एक वीगन बर्गर बनाने की कोशिश कर रहा है।

उन सभी के पास समान बुनियादी सामग्री (विशेषताएं/features) तक पहुंच है, लेकिन उनकी रेसिपी (उद्देश्य/objectives) और उनके विशिष्ट ग्राहकों की पसंद (वातावरण/environments) पूरी तरह से अलग हैं।

समस्या: "एक ही आकार सबके लिए" (One-Size-Fits-All) का जाल

अतीत में, यदि ये शेफ तेजी से सीखना चाहते, तो वे फेडरेटेड लर्निंग (Federated Learning) नामक एक विधि का उपयोग करते। यह एक मुख्य शेफ की तरह है जो सभी से थोड़ा सा फीडबैक एकत्र करता है और उसे औसत निकालकर एक एकल "मास्टर रेसिपी" बनाने के लिए उपयोग करता है।

दोष: यदि सभी शेफ समान व्यंजन बना रहे हैं (जैसे, सभी करी बना रहे हैं), तो यह बहुत अच्छा काम करता है। वे अकेले काम करने की तुलना में 20 गुना तेजी से सीखते हैं।
तबाही: यदि वे बिल्कुल अलग चीजें बना रहे हैं (करी, पेस्ट्री, बर्गर), तो वह "मास्टर रेसिपी" एक बेकार मिश्रण बन जाती है। यह एक ऐसा सूप बन जाता है जिसका स्वाद जले हुए टोस्ट जैसा होता है। शेफ कुछ भी उपयोगी नहीं सीख पाते हैं, और वे वास्तव में अकेले काम करने की तुलना में धीमे भी सीख सकते हैं।

समाधान: AffPCL (एक "स्मार्ट सू-शेफ" प्रणाली)

इस शोध पत्र के लेखक AffPCL (Affinity-Based Variance Reduction के साथ Personalized Collaborative Learning) नामक एक नई प्रणाली प्रस्तावित करते हैं।

AffPCL को एक ऐसे मुख्य शेफ के रूप में न देखें जो एक ही रेसिपी थोपने के लिए मजबूर करता है, बल्कि इसे एक सुपर-स्मार्ट सू-शेफ (Sous-Chef) के रूप में देखें जो प्रत्येक शेफ को अपना अनूठा व्यंजन बनाने में मदद करता है, लेकिन समूह की ऊर्जा का उपयोग काम को तेज करने के लिए करता है।

यह तीन सरल ट्रिक्स का उपयोग करके काम करता है:

1. "बायस करेक्शन" (स्वाद को ठीक करना)

जब समूह जानकारी साझा करता है, तो औसत फीडबैक एक "औसत" व्यंजन की ओर झुका हुआ (biased) होता है।

ट्रिक: सिस्टम समूह की औसत सलाह लेता है और उस हिस्से को घटा (subtract) देता है जो व्यक्तिगत शेफ के अनुकूल नहीं है।
उपमा: कल्पना कीजिए कि समूह कहता है, "अधिक नमक डालें!" (क्योंकि करी बनाने वाले शेफ को इसकी आवश्यकता है)। पेस्ट्री शेफ यह सुनता है, लेकिन सिस्टम तुरंत फुसफुसाता है, "रुको, तुम केक बना रहे हो। नमक की सलाह को हटा दो और इसके बजाय चीनी डालो।" यह सुनिश्चित करता है कि शेफ को उनके विशिष्ट लक्ष्य के लिए सही दिशा मिले, न कि समूह के औसत लक्ष्य की दिशा।

2. "इम्पॉर्टेंस करेक्शन" (शोर को फ़िल्टर करना)

कभी-कभी, शेफ अलग-अलग रसोईघरों में काम कर रहे होते हैं जहाँ हवा की गुणवत्ता, नमी या शोर का स्तर अलग-अलग होता है (अलग-अलग "वातावरण")। यदि शेफ A एक नम रसोई में है और शेफ B एक सूखी रसोई में है, तो वे एक-दूसरे की हर बात को आँख मूंदकर कॉपी नहीं कर सकते।

ट्रिक: सिस्टम सलाह को इस आधार पर तौलता है कि वातावरण कितने समान हैं। यह एक "डेंसिटी रेश्यो" (Density Ratio - एक फैंसी गणितीय शब्द जिसका अर्थ है "शेफ A की रसोई शेफ B की रसोई से कितनी मिलती-जुलती है?") का उपयोग करता है।
उपमा: यदि शेफ A एक नम कमरे में केक बनाने की कोशिश कर रहा है, और शेफ B एक सूखे कमरे में है, तो सिस्टम कहता है, "शेफ A, शेफ B की तकनीक को सुनो, लेकिन आटे की मात्रा को एडजस्ट करो क्योंकि तुम्हारी हवा अधिक नम है।" यह शोर को फ़िल्टर करता है ताकि सलाह वास्तव में उपयोगी हो।

3. "एफिनिटी का जादू" (स्पीड बूस्ट)

यह इस शोध पत्र की सबसे बड़ी सफलता है।

पुराना तरीका: या तो आप तेजी से सीखते हैं (यदि सभी समान हैं) या आप धीरे सीखते हैं (यदि सभी अलग हैं)।
AffPCL का तरीका: सिस्टम स्वचालित रूप से यह पता लगा लेता है कि शेफ आपस में कितने समान हैं।
- यदि वे बहुत समान हैं: यह एक सुपर-फास्ट टीम की तरह काम करता है, जो अकेले काम करने की तुलना में 20 गुना तेजी से सीखता है।
- यदि वे बहुत अलग हैं: यह अकेले काम करने की गति तक सहजता से धीमा हो जाता है, लेकिन कभी भी इससे खराब नहीं होता। यह आप पर कोई गलत रेसिपी नहीं थोपता है।
- आश्चर्य: भले ही एक शेफ पूरी तरह से अनूठा हो (ऐसा व्यंजन बना रहा हो जो कोई और नहीं बना रहा), फिर भी उसे स्पीड बूस्ट मिल सकता है यदि वह वर्चुअल सेंटर (सभी संभावित व्यंजनों का एक सैद्धांतिक औसत) के "करीब" है। यह एक सोलो आर्टिस्ट के लिए एक बड़े ऑर्केस्ट्रा का हिस्सा बनकर स्पीड बूस्ट पाने जैसा है, भले ही वह एक अलग वाद्य यंत्र बजा रहा हो।

यह वास्तविक दुनिया में क्यों मायने रखता है

यह केवल शेफ के बारे में नहीं है। यह तकनीक यहाँ भी लागू होती है:

सेल्फ-ड्राइविंग कारें: बोस्टन की बर्फबारी वाली सड़कों के लिए कार को मियामी की धूप वाली सड़कों की तुलना में अलग नियमों की आवश्यकता होती है। वे एक-दूसरे से सीख सकते हैं बिना दुर्घटना के, क्योंकि सिस्टम जानता है कि सलाह को कैसे समायोजित करना है।
चिकित्सा उपचार: एक 20 वर्षीय व्यक्ति के लिए काम करने वाली दवा 80 वर्षीय व्यक्ति के लिए काम नहीं कर सकती। डॉक्टर डेटा साझा कर सकते हैं ताकि प्रत्येक विशिष्ट रोगी के लिए सर्वोत्तम उपचार पाया जा सके, बिना डेटा के उलझने के।
पर्सनलाइज्ड AI: आपका फोन कीबोर्ड आपकी विशिष्ट शब्दावली और टाइपिंग शैली को सीख सकता है, जबकि वह लाखों अन्य लोगों के लाभ का भी उपयोग कर सकता है, बिना आपकी अनूठी पहचान खोए।

निष्कर्ष

यह शोध पत्र एक मौलिक तनाव को हल करता है: हम अपनी विशिष्टता खोए बिना एक साथ कैसे काम कर सकते हैं?

पिछले तरीकों ने सबको तेज होने के लिए एक जैसा होने के लिए मजबूर किया। यह नया तरीका, AffPCL, कहता है: "आइए सहयोग करें, लेकिन इसे स्मार्ट तरीके से करें। हम समूह की बात सुनेंगे, लेकिन हम शोर को फ़िल्टर करेंगे और बायस को ठीक करेंगे ताकि आप तेजी से सीख सकें, चाहे आप टीम के बाकी लोगों से कितने भी अलग क्यों न हों।"

यह एक ऐसे गायक समूह (choir) और एक जैज़ एन्सेम्बल (jazz ensemble) के बीच का अंतर है जहाँ सभी एक ही नोट गाते हैं (बोरिंग और सीमित) बनाम एक जैज़ बैंड जहाँ हर कोई अपना सोलो बजाता है, लेकिन वे ताल के साथ तालमेल बिठाने और तेजी से खेलने के लिए रिदम सेक्शन को सुनते हैं।

यहाँ शोध पत्र "Personalized Collaborative Learning with Affinity-Based Variance Reduction" (AffPCL), जो ICLR 2026 के लिए एक कॉन्फ़्रेंस पेपर है, का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या का निरूपण (Problem Formulation)

यह शोध पत्र मल्टी-एजेंट सिस्टम (MAS) में सहयोग (गति के लिए वितरित डेटा का लाभ उठाना) और वैयक्तिकरण (अद्वितीय एजेंट वातावरण के अनुकूल होना) के बीच के मौलिक तनाव को संबोधित करता है।

सेटिंग: $n$ विषम (heterogeneous) एजेंटों की एक प्रणाली, जिनमें से प्रत्येक का लक्ष्य एक व्यक्तिगत फिक्स्ड पॉइंट $x_i^*$ खोजना है जो $\bar{A}_i x_i^* = \bar{b}_i$ को संतुष्ट करता हो।
विषमता (Heterogeneity): एजेंट दो प्रकार से भिन्न होते हैं:
1. उद्देश्य विषमता (Objective Heterogeneity): विभिन्न उद्देश्य वेक्टर ( $\bar{b}_i \neq \bar{b}_j$ )।
2. वातावरण विषमता (Environment Heterogeneity): विभिन्न डेटा वितरण ( $\mu_i \neq \mu_j$ )।
बाधाएं (Constraints): एजेंटों को सिस्टम के मापदंडों या विषमता के स्तरों का कोई पूर्व ज्ञान नहीं है। वे केवल अपने स्थानीय वातावरण से स्टोकेस्टिक सैंपल (stochastic samples) देखते हैं।
लक्ष्य: एक ऐसा एल्गोरिदम डिज़ाइन करना जो:
1. सभी एजेंटों के लिए पूर्णतः वैयक्तिकृत समाधान (fully personalized solutions) खोज सके।
2. जब एजेंट समान हों, तो लीनियर स्पीडअप (सहयोगात्मक लाभ) प्राप्त कर सके।
3. जब एजेंट अत्यधिक भिन्न हों, तो स्वतः ही स्वतंत्र शिक्षण (independent learning) बेसलाइन पर आ जाए (बिना किसी प्रदर्शन हानि के)।
4. विषमता के स्तरों या हाइपरपैरामीटर ट्यूनिंग के लिए किसी पूर्व ज्ञान की आवश्यकता न हो।

2. कार्यप्रणाली: AffPCL

लेखक AffPCL (Affinity-based Personalized Collaborative Learning) प्रस्तावित करते हैं, जो विषमता को संभालने और वेरिएंस रिडक्शन (variance reduction) प्राप्त करने के लिए तीन मुख्य तंत्रों को एकीकृत करता है।

A. वैयक्तिकृत बायस करेक्शन (Personalized Bias Correction)

एक एकीकृत वैश्विक समाधान (जो विषम एजेंटों के लिए उप-इष्टतम है) से हटकर एक वैयक्तिकृत समाधान की ओर बढ़ने के लिए, एल्गोरिदम एकत्रित अपडेट दिशा के बायस (bias) को ठीक करता है।

तंत्र: केवल स्थानीय अपडेट को औसत करने के बजाय, एजेंट $i$ के लिए अपडेट दिशा में एक पद $g^{0 \to i}_t$ शामिल होता है जो स्थानीय सैंपल से "केंद्रीय" योगदान को घटा देता है, जिससे प्रभावी रूप से स्थानीय अवशेष (local residual) को अलग किया जाता है।
अंतर्दृष्टि: यह एक कंट्रोल वेरिएट (control variate) के रूप में कार्य करता है। जब एजेंट समान होते हैं, तो पद $g^{0 \to i}_t$ , स्थानीय अपडेट $g^i_t$ के साथ अत्यधिक सह-संबंधित (correlated) होता है, जो एजेंटों के समान होने की आवश्यकता के बिना समग्र अपडेट के वेरिएंस को कम करता है।

B. सेंट्रल ऑब्जेक्टिव एस्टीमेशन (Central Objective Estimation - COE)

व्यावहारिक रूप से, एजेंटों को "सेंट्रल ऑब्जेक्टिव" (सभी एजेंटों के उद्देश्यों का औसत) का ज्ञान नहीं होता है।

तंत्र: सिस्टम केंद्रीय उद्देश्य मापदंडों $\theta^c$ का अनुमान लगाने के लिए एक समानांतर फेडरेटेड लर्निंग (FL) प्रक्रिया चलाता है।
अनुकूलनशीलता (Adaptivity): इस अनुमानित केंद्रीय उद्देश्य का उपयोग बायस करेक्शन पद में किया जाता है, जिससे एल्गोरिदम अन्य एजेंटों के लक्ष्यों के पूर्व ज्ञान के बिना कार्य कर पाता है।

C. इम्पोर्टेंस करेक्शन (पर्यावरण विषमता के लिए)

जब एजेंटों के वातावरण वितरण अलग होते हैं ( $\mu_i \neq \mu_j$ ), तो साधारण औसत बायस उत्पन्न करता है क्योंकि विभिन्न वितरणों से प्राप्त सैंपल विनिमेय (exchangeable) नहीं होते हैं।

तंत्र: सर्वर एक इम्पोर्टेंस-करेक्टेड अपडेट दिशा $g^{c \Rightarrow i}_t$ की गणना करता है। इसमें अन्य एजेंटों $j$ के अपडेट को डेंसिटी रेशियो $\rho_i(s) = \mu_i(s) / \mu_0(s)$ द्वारा भारित (weighting) करना शामिल है, जहाँ $\mu_0$ मिश्रण वितरण (mixture distribution) है।
कार्यान्वयन: डेंसिटी रेशियो का अनुमान एसिंक्रोनसली (DRE) लिया जाता है या सैद्धांतिक सीमाओं में ज्ञात माना जाता है। यह सुधार सुनिश्चित करता है कि एकत्रित अपडेट एजेंट के विशिष्ट वातावरण के प्रति निष्पक्ष (unbiased) बना रहे।

अपडेट नियम (The Update Rule):
समय $t$ पर एजेंट $i$ के लिए अपडेट है:
$x_i^{t+1} = x_i^t - \alpha_t \tilde{g}_i^t$
जहाँ अपडेट दिशा $\tilde{g}_i^t$ निम्नलिखित को जोड़ती है:

स्थानीय स्टोकेस्टिक अवशेष: $g_i^t(x_i^t)$ ।
इम्पोर्टेंस-करेक्टेड सेंट्रल दिशा: $g^{c \Rightarrow i}_t(x_c^t)$ ।
बायस करेक्शन पद: $-g^{c \to i}_t(x_c^t)$ ।

3. मुख्य योगदान

नया ढांचा (PML): एक पर्सनलाइज्ड कोलैबोरेटिव लर्निंग प्रतिमान का निरूपण जो सुपरवाइज्ड लर्निंग, रीइन्फोर्समेंट लर्निंग और सांख्यिकीय निर्णय लेने को एक एकल लीनियर सिस्टम फ्रेमवर्क के तहत एकीकृत करता है।
एफिनिटी-आधारित वेरिएंस रिडक्शन: सैद्धांतिक प्रमाण कि सैंपल कॉम्प्लेक्सिटी (sample complexity) $\max\{n^{-1}, \delta\}$ $max {n^{- 1}, δ}$ के कारक द्वारा कम हो जाती है, जहाँ $\delta$ $δ$ विषमता का स्तर है।
- होमोजेनियस रिजीम ( $\delta \approx 0$ ): लीनियर स्पीडअप $O(1/n)$ प्राप्त करता है, जो मानक FL के समान है।
- हेटरोजीनियस रिजीम ( $\delta \approx 1$ ): स्वतः ही इंडिपेंडेंट लर्निंग दर $O(1)$ पर गिर जाता है, जिससे कोई प्रदर्शन हानि नहीं होती।
- इंटरमीडिएट रिजीम: वास्तविक एफिनिटी (affinity) के आधार पर दोनों के बीच सुचारू रूप से इंटरपोलेट करता है।
एजेंट-विशिष्ट स्पीडअप: एक विरोधाभासी निष्कर्ष कि एक एजेंट लीनियर स्पीडअप प्राप्त कर सकता है भले ही वह अन्य सभी व्यक्तिगत एजेंटों से भिन्न हो, बशर्ते वह "वर्चुअल सेंट्रल एजेंट" (औसत सिस्टम) के करीब हो। यह क्लस्टरिंग-आधारित विधियों की सीमा को तोड़ता है।
अज्ञात विषमता के प्रति मजबूती: विधि को $\delta$ या हाइपरपैरामीटर ट्यूनिंग के किसी पूर्व ज्ञान की आवश्यकता नहीं है; वेरिएंस रिडक्शन एल्गोरिदम की संरचना के माध्यम से स्वतः ही होता है।

4. सैद्धांतिक परिणाम

मुख्य अभिसरण गारंटी (Convergence Guarantee - Theorem 1) बताती है कि एक कांस्टेंट स्टेप साइज के लिए, एजेंट $i$ के लिए मीन स्क्वेर्ड एरर (MSE) संतुष्ट करता है:
$\mathbb{E}[\|x_i^t - x_i^*\|^2] = \tilde{O}\left( \frac{\kappa^2}{t} \cdot \max\{n^{-1}, \tilde{\delta}_{env}, \tilde{\delta}_{obj}\} \right)$
जहाँ:

$t$ नमूनों (samples) की संख्या है।
$\kappa$ कंडीशन नंबर है।
$\tilde{\delta}$ प्रभावी विषमता (उद्देश्य और वातावरण) को दर्शाता है, जो 1 तक सीमित है।
$\max\{n^{-1}, \tilde{\delta}\}$ वाला पद अनुकूलन योग्य ट्रेड-ऑफ को कैप्चर करता है: यदि एजेंट समान हैं ( $\tilde{\delta} < n^{-1}$ ), तो $n^{-1}$ पद प्रभावी होता है (स्पीडअप); यदि भिन्न हैं, तो $\tilde{\delta}$ प्रभावी होता है (इंडिपेंडेंट रेट)।

लोअर बाउंड (Lower Bound): शोध पत्र एक लोअर बाउंड (Theorem 2) भी स्थापित करता है जो दिखाता है कि डेंसिटी रेशियो (पर्यावरण विषमता के लिए) को जाने बिना, विषमता के स्तर के रैखिक (linear) में वेरिएंस रिडक्शन प्राप्त नहीं किया जा सकता है, जो इम्पोर्टेंस करेक्शन तंत्र की आवश्यकता को न्यायसंगत बनाता है।

5. प्रयोगात्मक परिणाम

लेखकों ने विभिन्न स्तरों की उद्देश्य और वातावरण विषमता ( $\delta \in \{0, 0.05, 0.3, 0.8\}$ ) के तहत सिंथेटिक लीनियर सिस्टम पर AffPCL का सत्यापन किया:

परिणाम: AffPCL ने लगातार इंडिपेंडेंट लर्निंग, FedAvg, फाइन-ट्यूनिंग और क्लस्टर्ड FL को पछाड़ दिया। इसने होमोजेनियस सेटिंग्स में FedAvg से बराबरी की और अत्यधिक हेटरोजीनियस सेटिंग्स में इंडिपेंडेंट लर्निंग के बराबर प्रदर्शन किया, जबकि इंटरमीडिएट रिजीम में दोनों से बेहतर रहा।

रियल-वर्ल्ड डेटा (FEMNIST): विविध उपयोगकर्ता प्राथमिकताओं के साथ एक वैयक्तिकृत वर्गीकरण कार्य।

परिणाम: AffPCL ने सभी विषमता स्तरों में सबसे कम टेस्ट MSE प्राप्त किया।

रीइन्फोर्समेंट लर्निंग (SARSA): विषम रिवॉर्ड्स और ट्रांजिशन कर्नेल के साथ नॉन-लीनियर पॉलिसी ऑप्टिमाइज़ेशन तक विस्तार।

परिणाम: एसिंक्रोनस डेंसिटी रेशियो एस्टीमेशन के साथ बेहतर प्रदर्शन बनाए रखते हुए गैर-रेखीय प्रणालियों से परे इसकी बहुमुखी प्रतिभा की पुष्टि की।

6. महत्व और प्रभाव

अंतर को पाटना: AffPCL फेडरेटेड लर्निंग में लंबे समय से चल रहे ट्रेड-ऑफ को हल करता है जहाँ वैयक्तिकरण अक्सर सहयोग की गति की कीमत पर आता है। यह सिद्ध करता है कि उच्च-विषमता वाले रिजीम में भी सहयोग फायदेमंद है यदि "एफिनिटी" (affinity) का लाभ उठाया जाए।
सैद्धांतिक कठोरता: यह मनमाने ढंग से विषम एजेंटों के बीच पूर्णतः वैयक्तिकृत समाधानों के लिए पहले परिमित-नमूना अभिसरण गारंटी (finite-sample convergence guarantees) प्रदान करता है जो FL और इंडिपेंडेंट लर्निंग के बीच अनुकूल रूप से इंटरपोलेट करते हैं।
व्यावहारिक अनुप्रयोग: विधि अज्ञात सिस्टम मापदंडों के प्रति मजबूत है और इसके लिए जटिल क्लस्टरिंग या एजेंट समानता के पूर्व ज्ञान की आवश्यकता नहीं है, जो इसे व्यक्तिगत चिकित्सा उपचार, विविध यातायात स्थितियों में स्वायत्त ड्राइविंग और व्यक्तिगत LLM जैसे वास्तविक दुनिया के अनुप्रयोगों के लिए उपयुक्त बनाती है।
नई अंतर्दृष्टि: यह खोज कि एक एजेंट सहयोग से लाभान्वित हो सकता है भले ही वह अपने सभी साथियों से भिन्न हो (लेकिन "केंद्र" के करीब हो), मौजूदा अंतर्ज्ञान को चुनौती देती है और मल्टी-एजेंट सिस्टम में एल्गोरिदम डिजाइन के लिए नए रास्ते खोलती है।