F2STNet: Fair and Federated Spectral-Temporal Modeling for Graph Forecasting

कल्पना कीजिए कि आप भविष्य बताने की कोशिश कर रहे हैं, लेकिन सुराग एक विशाल, अदृश्य जाल में बिखरे हुए हैं। कुछ सुराग इस बारे में हैं कि चीजें कहाँ जुड़ी हुई हैं (जैसे कौन से मेट्रो स्टेशन आपस में जुड़े हैं), और अन्य इस बारे में हैं कि चीजें कब होती हैं (जैसे रश ऑवर का ट्रैफिक)। यह "स्पैटियोटेम्पोरल फोरकास्टिंग" (spatiotemporal forecasting) की दुनिया है, जो एक फैंसी शब्द है जिसका अर्थ है यह अनुमान लगाना कि चीजें स्थान और समय के माध्यम से कैसे चलती और बदलती हैं। यह ट्रैफिक जाम, वायु गुणवत्ता, या भीड़ के प्रवाह की भविष्यवाणी करने के पीछे का जादू है। आमतौर पर, कंप्यूटर इसे सारा डेटा एक विशाल मस्तिष्क में इकट्ठा करके करते हैं। लेकिन क्या होगा अगर वह डेटा इतना निजी हो कि उसे साझा न किया जा सके, या कंप्यूटर जो उस विशाल मस्तिष्क को संभालने के लिए बहुत कमजोर हों? वहीं "फेडरेटेड लर्निंग" (Federated Learning) काम आती है। इसे एक ग्रुप प्रोजेक्ट की तरह समझें जहाँ छात्र एक साथ मिलकर किसी समस्या को हल करते हैं बिना एक-दूसरे को अपना होमवर्क दिखाए; वे बस अपने अंतिम उत्तर साझा करते हैं ताकि एक बेहतर सामूहिक समाधान बनाया जा सके।

हालाँकि, इसमें एक पेंच है। एक ग्रुप प्रोजेक्ट में, यदि एक छात्र संघर्ष कर रहा है जबकि दूसरा जीनियस है, तो उनके उत्तरों को औसत निकालने का मानक तरीका अक्सर संघर्ष कर रहे छात्र को पीछे छोड़ देता है। "जीनियस" वाले उत्तर हावी हो जाते हैं, और समूह का समग्र समाधान स्मार्ट बच्चों के लिए तो बहुत अच्छा हो सकता है लेकिन दूसरों के लिए बहुत खराब। यह शोध पत्र ठीक इसी समस्या को हल करता है: यह कैसे बनाया जाए कि एक सुपर-स्मार्ट, साझा भविष्यवाणी मॉडल जो गोपनीयता का सम्मान करे, कमजोर कंप्यूटरों पर चल सके, और यह सुनिश्चित करे कि समूह में हर किसी को एक अच्छे परिणाम का निष्पक्ष अवसर मिले।

यहाँ F2STNet आता है, जो ग्राफ-आधारित भविष्यवाणियों के लिए एक परम टीम प्लेयर बनने के लिए डिज़ाइन किया गया एक नया फ्रेमवर्क है। शोधकर्ताओं ने इस प्रणाली को तीन कठिन चुनौतियों को एक साथ संभालने के लिए बनाया है: डेटा के आकार (ग्राफ) को समझना, दीर्घकालिक पैटर्न (समय) को याद रखना, और प्रत्येक प्रतिभागी के साथ निष्पक्ष व्यवहार करना।

सबसे पहले, देखते हैं कि F2STNet डेटा को कैसे "देखता" है। ग्राफ (जैसे सेंसर का मानचित्र) की कल्पना एक संगीत के कॉर्ड (chord) के रूप में करें। पारंपरिक तरीके हर एक स्वर को व्यक्तिगत रूप से सुनने की कोशिश करते हैं, जो धीमा और अव्यवस्थित है। हालाँकि, F2STNet एक "स्पेक्ट्रल" (spectral) दृष्टिकोण का उपयोग करता है। यह एक विशेष चश्मे की तरह है जो तुरंत उस कॉर्ड को उसकी शुद्ध आवृत्तियों (frequencies) में तोड़ देता है। यह मॉडल को विवरणों में उलझे बिना कनेक्शन के बड़े चित्र को समझने की अनुमति देता है। यह कुशल है, जैसे गाने की हर बीट को गिनने के बजाय उसकी 'की' (key) को जानना।

इसके बाद, मॉडल को भविष्य का अनुमान लगाने के लिए यह याद रखने की आवश्यकता है कि अतीत में क्या हुआ था। पुराने तरीकों ने समय को ट्रैक करने के लिए भारी, जटिल मेमोरी सिस्टम (जैसे विशाल, धीमी गति वाले रोबोट) का उपयोग किया। F2STNet इसे एक "लाइटवेट स्टेट-स्पेस" (lightweight state-space) लेयर से बदल देता है। इसे एक अत्यंत कुशल, विकर्ण शॉर्टकट (diagonal shortcut) के रूप में सोचें। एक लंबे रास्ते के हर कदम पर चलने के बजाय, यह एक सीधा, रैखिक स्लाइड लेता है। यह मॉडल को तेज़ और हल्का रखता है, जो उन उपकरणों के लिए एकदम सही है जिनके अंदर सुपरकंप्यूटर नहीं होते।

लेकिन असली सितारा "फेयरनेस-अवेयर फेडरेटेड एग्रीगेशन" (Fairness-aware Federated Aggregation - FFA) है। एक मानक टीम प्रयास में, हर किसी के योगदान को उनके पास मौजूद डेटा की मात्रा के आधार पर वजन दिया जाता है। यदि एक शहर में 1,000 सेंसर हैं और दूसरे में 10, तो बड़े शहर की आवाज़ छोटे वाले को दबा देती है। F2STNet नियमों को बदल देता है। यह एक बुद्धिमान कोच की तरह कार्य करता है जो ध्यान देता है कि टीम का सदस्य संघर्ष कर रहा है। यदि कोई क्लाइंट (एक शहर या सेंसर नेटवर्क) औसत से अधिक गलतियाँ कर रहा है, तो सिस्टम उनके अपडेट को अधिक महत्व देता है, कम नहीं। यह एक चतुर "रिवर्स-एनीलिंग" (reverse-annealing) शेड्यूल का उपयोग करता है: प्रशिक्षण की शुरुआत में, यह बुनियादी बातों को सही करने पर ध्यान केंद्रित करता है, लेकिन जैसे-जैसे मॉडल स्मार्ट होता जाता है, यह धीरे-धीरे संघर्ष कर रहे सदस्यों की मदद करने के लिए अपना ध्यान स्थानांतरित करता है। यह सुनिश्चित करता है कि अंतिम मॉडल सभी के लिए अच्छा काम करे, न कि केवल डेटा-समृद्ध दिग्गजों के लिए।

शोधकर्ताओं ने तीन वास्तविक दुनिया के डेटासेट्स पर F2STNet का परीक्षण किया: कैलिफोर्निया में ट्रैफिक फ्लो (PeMS04), हांग्जो में सबवे फ्लो (HZMetro), और 184 चीनी शहरों में वायु गुणवत्ता (KnowAir)। परिणाम उत्साहजनक थे। ट्रैफिक और वायु गुणवत्ता डेटासेट्स पर, F2STNet ने सटीकता में वर्तमान शीर्ष मॉडलों (बेसलाइन्स) को लगातार मात दी, जिससे उनकी भविष्यवाणियों में त्रुटियां कम हुईं। सबवे डेटासेट पर, इसने औसत गलती (MAE) के लिए सबसे कम त्रुटि दर हासिल की।

महत्वपूर्ण रूप से, जब उन्होंने इसे एक "फेडरेटेड" सेटिंग (जहाँ डेटा स्थानीय रहता है) में चलाया, तो F2STNet ने न केवल अच्छी भविष्यवाणी की, बल्कि यह निष्पक्ष भी था। कैलिफोर्निया के ट्रैफिक डेटा पर, इसने "वर्स्ट-केस" क्लाइंट्स के प्रदर्शन में काफी सुधार किया—वे क्लाइंट जिन्हें अन्य प्रणालियों में अक्सर पीछे छोड़ दिया जाता है। इसने सर्वश्रेष्ठ और सबसे खराब प्रदर्शन करने वालों के बीच के अंतर को भी कम किया, जिससे यह साबित हुआ कि आप एक उच्च-प्रदर्शन वाला मॉडल बना सकते हैं जो किसी को पीछे नहीं छोड़ता है।

यह शोध पत्र सुझाव देता है कि इन तीन सामग्रियों को जोड़कर—आवृत्ति-आधारित ग्राफ समझ, एक लाइटवेट टाइम-ट्रैवल मेमोरी, और एक निष्पक्षता-प्रथम वोटिंग सिस्टम—आप एक सटीक, कुशल और न्यायसंगत पूर्वानुमान उपकरण बना सकते हैं। हालांकि लेखक नोट करते हैं कि उनका वर्तमान निष्पक्षता तरीका स्थिरता के लिए एक रैखिक दृष्टिकोण का उपयोग करता है और चरम स्थितियों के लिए अधिक जटिल बदलावों की आवश्यकता हो सकती है, परिणाम दिखाते हैं कि यह संतुलित दृष्टिकोण विकेंद्रीकृत, गोपनीयता-सुरक्षित भविष्यवाणी के लिए एक मजबूत कदम है।